AUTOMATIZOVANA DISKRIMINACIJA

Princip jednakosti predstavlja stalnu liniju razvoja moderne državne zajednice, ali i izazov za odgovarajuću reakciju pravnog poretka. Suočavanje sa dostignućima novih generacija veštačke inteligencije podrazumeva obavezu pažljivo i blagovremeno formulisanih pravnih rešenja o zaštiti ljudskih prava. Opasnosti koje sa sobom nosi neadekvatna primena alata veštačke inteligencije zapažaju se u pravnoj književnosti, posebnim ukazivanjem na potencijale veštačke inteligencije da izazove diskriminaciju. Automatizacija obrade velikog broja različitih podataka stvara rezultat sa rizikom diskriminacije, koja nije lako dokaziva. Netransparentnost tehnološke osnove modela ugrađenih u sisteme čini veštačku inteligenciju nedovoljno pouzdanim sredstvom koje preti da ograniči i ugrozi ostvarivanje ljudskih prava. Slučajevi iz pravne prakse otkrivaju opasnosti sa kojima se suočava pojedinac u savremenom društvu i upozoravaju na nedostatke važećih pravnih rešenja i njihove primene u napetim odnosima zabrane diskriminacije i poslovnih interesa subjekata na tržištu veštačke inteligencije. Gotovo da nema pojedinačnog ljudskog prava kojem ne preti ugroženost, ali je primetna i sve izraženija ranjivost principa jednakosti u eri veštačke inteligencije. U radu se razmatraju opšta pitanja veštačke inteligencije kao potencijalnog izvora diskriminacije, uz insistiranje na sinhronizovanoj aktivnosti više nauka, među kojima posebno mesto pripada pravnoj nauci. Njena odgovornost prema pojedincu i društvu postaje sve izraženija, s obzirom na očekivanja od pravnog poretka i pravnog pozicioniranja veštačke inteligencije u sistemu ljudskih prava.

KEYWORDS / KLJUČNE REČI: 

zabrana diskriminacije, automatizacija, veštačka inteligencija, pravo, podaci

ACKNOWLEDGEMENT / PROJEKAT:

Rad je rezultat naučnoistraživačkog rada autora u okviru Programa istraživanja Pravnog fakulteta Univerziteta u Kragujevcu za 2026. godinu, koji se finansira iz sredstava Ministarstva nauke, tehnološkog razvoja i inovacija Republike Srbije.

REFERENCES / LITERATURA:

• Aletras, N., Tsarapatsanis, D., Preoµiuc-Pietro, D., Lampos, V., Predicting Judicial Decisions of the European Court of Human Rights: a Natural Language Processing Perspective, PeerJ Comput. Sci. 2 (2016).
• Andrews, L., H. Bucher, H., Automating Discrimination: AI Hiring Practices and Gender Inequality, 44, Cardozo Law Revew, no. 145/2022.
• Đorđević, S., Matić, D., Pravo u mreži veštačke inteligencije, Kragujevac, 2025.
• Zou, M., Lefley, E., Generative Artificial Intelligence and Article 6 of the European Convention on Human Rights: The Right to a Human Judge? (November 30, 2024). UNSW Law Research Paper No. 25-8.
• Cataleta, M. S., The Fragility of Human Rights Facing AI, East-West Center. The present paper is an extract of the article “AI and Human Rights, an Unequal Struggle”, Authors Cataleta Maria Stefania & Cataleta Anna, published on Cifile Journal of International Law in 2020.
• Pollicino, O., Getting the Future Right – Artificial Intelligence and Fundamental Rights. A view from the European Union Agency for Fundamental Rights, BioLaw Journal – Rivista di BioDiritto, no. 1/2021
• Prlja, D., Gasmi, G., Korać, V., Algoritamska diskriminacija, Zbornik radova: Uporednopravni izazovi u savremenom pravu – in memoriam dr Stefan Andonović, Beograd, 2023.
• Rajić Ćalić, J., Tošić, I., Profilisanje i automatizovano donošenje odluka od osiguravajućeg društva u svetlu zaštite podataka o ličnosti, Zbornik radova: Uporednopravni izazovi u savremenom pravu – in memoriam dr Stefan Andonović. Beograd, 2023.
• Raso, F. A., Hilligoss, H., Krishnamurthy et. all, Artificial Intelligence & Human Rights: Opportunities & Risks, Berkman Klein Center for Internet & Society, 2018.
• Rachovitsa, A. M., Johann, N., The Human Rights Implications of the Use of AI in the Digital Welfare State: Lessons Learned from the Dutch SyRI Case, Oxford University Press, Human Rights Law Review, 2022.
• Reiling, A. D., Courts and Artificial Intelligence, International Journal for Court Administration, (2020) 11(2)
• Sartor, G., Artificial intelligence and human rights: Between law and ethics, Maastricht Journal of European and Comparative Law, 27 (2020), issue 6.
• Szappanyos, M., Artificial Intelligence: Is the European Court of Human Rights Prepared, Acta Humana, 1 (2023).
• Surden, H., Artificial Intelligence and Law: An Overview, 35 GA. ST. U. L. REV. 1305 (2019) Shaelou, S. L., Razmetaeva, Y., Challenges to Fundamental Human Rights in the age of Artificial Intelligence Systems: shaping the digital legal order while upholding Rule of Law principles and European values, ERA Forum 24, 2023.