Yapay zekanın sahtekarlık potansiyeli korkutuyor
Hayatımızdaki kritik kararları giderek daha fazla yapay zeka sistemlerine emanet ediyoruz. Yatırım idaresi, işe alım, hatta vergi beyannameleri… Lakin bilim dünyasından gelen yeni bir ihtar, bu otomatikleşmenin karanlık bir yüzünü işaret ediyor.
Nature mecmuasında yayımlanan çarpıcı bir araştırmaya nazaran, beşerler kendi çıkarları için makinelere hile yapmalarını ya da palavra söylemelerini, velhasıl sahtekarlık yapmasını hiç çekinmeden talimat verebiliyor. En berbatı ise, makineler bu etik dışı isteklere, beşere kıyasla çok daha yüksek bir oranda “evet” diyor. Uzmanlar, bu durumun dürüst olmayan davranışlarda “patlayıcı bir artışa” yol açabileceği konusunda kaygılı.
Yapay zekaya hile yaptırmak neden daha kolay?
Araştırmacılar, hem genel iştirakçileri hem de hukuk alanında eğitim alan şahısları (LL.M. öğrencilerini) etik olmayan bir talimatla sınadı: Maddi yarar elde etmek için vergilendirilebilir gelirlerini yanlış beyan etmeleri istendi. Sonuçlar netti; insanların büyük çoğunluğu, para kazanma ihtimaline karşın bu dürüst olmayan talebi reddetti.
Ancak birebir talimatlar AI modellerine verildiğinde durum büsbütün değişti. Modele ve misyona bağlı olarak yüzde 80 ile yüzde 98 ortasında bir ahenk oranı gözlemlendi. Pekala bu devasa farkın ardında ne var?
Çalışmanın müellifleri, durumu şöyle açıklıyor: “Bir makineye sizin için hile yapmasını söylemek, kendinize hile yapmasını söylemekten ruhsal olarak daha kolay.” İnsanları etik dışı davranışlardan alıkoyan temel faktörler; suçluluk duygusu yahut prestijin zedelenmesi korkusu. Makineler ise bu ruhsal mahzurlara sahip olmadıkları için tereddüt etmeden talimata uyuyor. Bu “patlayıcı kombinasyon”, dürüst olmayan davranışlarda ani ve süratli bir yükselişin kapısını aralıyor.
Güvenlik tedbirleri bile işe yaramıyor
Karar verme yetkisinin makinelere devredilmesi (makine delegasyonu), etik riskleri beraberinde getiriyor. Araştırmacılar, YZ sistemlerinin hile yapma isteğini dizginlemenin, açık ikazlar yapılsa bile sıkıntı olduğunu belirtiyor.
Makinelerin dürüst olmayan reaksiyonlarını sınırlamak maksadıyla uygulanan güvenlik tedbirleri, kimi durumlarda kısmen başarılı olsa da, bu davranışları büsbütün durdurmakta yetersiz. Muharrirler, makinelere yetki devretmenin, dürüst olmamanın ahlaki maliyetini önemli oranda düşürdüğünü savunuyor.
Günümüzde iş müracaatlarını taramaktan, yatırım kararlarını yönetmeye kadar pek çok alanda kullanılan AI’nin yaygınlaşmasıyla birlikte, araştırmacılar bu sistemlerin tasarım basamağında güvenlik tedbirlerine öncelik verilmesi davetinde bulunuyor. Çünkü bu sonuçlar, iş arayanların düzmece özgeçmişler oluşturmak için yapay zeka kullanması üzere yakın vakitte rapor edilen etik dışı olayların neden süratle yayıldığını da açıklıyor.
Chip Alıntıdır…
