O
Merak Sözlüğü
Otomasyon Yanlılığı (Automation Bias)
Otomasyon yanlılığı, bir makine veya sistem bize bir sonuç söylediğinde kendi mantığımızı ya da gözlemimizi sorgusuzca bir kenara bırakma eğilimimizdir.
Navigasyon "sağa dön" dediğinde, önünüzde çıkmaz sokak olduğunu görseniz bile bir an tereddüt ettiğiniz oldu mu? İşte bu, otomasyon yanlılığı. İnsanlar, bilgisayarların ve algoritmaların bizden daha "objektif" ve hatasız olduğuna dair içgüdüsel bir güven duyar. Bu yüzden sistem bir hata yaptığında bile onu fark etmekte gecikiriz, hatta kendi doğru gözlemimizi görmezden geliriz. Pilotlar otomatik pilotun uyarısını sorgulamadan kabul edebilir, doktorlar yapay zekânın önerdiği teşhise kendi klinik sezgisinden daha çok güvenebilir. Sorun, teknolojinin kötü olması değil; bizim ona duyduğumuz güvenin eleştirel düşünmemizin önüne geçmesi. Otomasyon yanlılığı, "makine söylediyse doğrudur" diyen o sessiz sesin adı.