A
Merak Sözlüğü
Algoritmik Önyargı (Algorithmic Bias)
Algoritmik önyargı, yapay zekâ ve algoritmaların eğitildikleri verideki adaletsizlikleri fark etmeden öğrenip kararlarına yansıtmasıdır.
Bir iş başvurusunu değerlendiren yazılım düşün: Geçmişte hep erkekleri işe almış bir şirketin verileriyle eğitilirse, kadın adayları haksız yere eleyebilir. İşte bu, algoritmik önyargı. Algoritmalar tarafsız gibi görünse de aslında beslendikleri veriyle düşünür; veri toplumdaki eşitsizlikleri, kalıp yargıları taşıyorsa, algoritma da bunları öğrenir ve tekrar tekrar üretir. Kredi başvurularından yüz tanıma sistemlerine, arama motoru sonuçlarından sağlık teşhis araçlarına kadar birçok yerde karşımıza çıkabilir. Sorun genelde kötü niyetten değil, dikkatsizlikten, eksik veya çarpık veriden kaynaklanır. Bu yüzden "makine karar verdi, demek ki doğru" düşüncesi bazen tam bir yanılgı olabilir.