Yok artık dedirten tez: Polisin hata raporunu ChatGPT mi yazdı?
Geçen hafta ABD’de bir yargıç, Chicago’da evraksız göçmenleri gaye alan baskınların uygulanma hali nedeniyle İç Güvenlik Bakanlığı’nı (DHS) sertçe eleştiren 223 sayfalık bir görüş bildirdi. Ve bu görüşün bir dipnotunda yer alan iki cümle, bir kolluk kuvveti üyesinin bir şahsa karşı güç kullanımını belgelemek üzere hazırlanan raporu yazmak için ChatGPT kullandığını ortaya çıkardı.
ABD Bölge Yargıcı Sara Ellis tarafından yazılan kararda, Göçmenlik ve Gümrük Koruma (ICE) yetkililerinin ve öteki kurumların “Operation Midway Blitz” ismi verilen operasyon sırasındaki davranışları eleştirildi. Bu operasyonda, protestocular ve vatandaşlarla yaşanan tekrarlanan şiddet olayları da dahil olmak üzere 3.300’den fazla kişi tutuklanmış ve 600’den fazlası ICE tarafından gözaltına alınmıştı. Bu cins olayların, kurumlar tarafından güç kullanımı raporlarında belgelenmesi gerekiyordu. Fakat Yargıç Ellis, memurların beden kameralarından gelen imajlar ile yazılı kayıtlarda yer alan bilgiler ortasında sık sık tutarsızlıklar olduğunu fark etti ve raporların güvenilmez olduğunu ilan etti.
Dahası, Yargıç Ellis en az bir raporun bir memur tarafından bile yazılmadığını söyledi. Dipnotunda belirttiğine nazaran, beden kamerası manzaraları, bir vazifelinin “bir müsabakaya dair kısa bir cümle ve birkaç imgeye dayanarak bir rapor için anlatım oluşturmasını ChatGPT’den istediğini” gösterdi. Memur, yapay zekaya son derece sonlu bilgi vermesine karşın, ChatGPT’den çıkan çıktıyı rapor olarak sundu; bu da yapay zekanın geri kalan boşlukları varsayımlarla doldurmuş olma ihtimalini yükseltti.
Yargıç Ellis’in dipnotta yazdığına nazaran, “Ajanların güç kullanımı raporlarını oluşturmak için ChatGPT’yi kullanmaları, raporların güvenilirliğini daha da zedeliyor ve beden kamerası manzaraları ışığında bu raporlardaki yanlışlıkları açıklayabilir.”
Yapay Zeka kullanımının en berbat senaryosu
Associated Press’in bildirdiğine nazaran, İç Güvenlik Bakanlığı’nın (DHS) rapor oluşturmak için üretken yapay zeka araçlarının kullanımına ait net bir siyasetinin olup olmadığı bilinmiyor. Üretken yapay zekanın, eğitim datalarında bilgi bulamadığında boşlukları büsbütün uydurma bilgilerle dolduracağı göz önüne alındığında, bu uygulamanın en âlâ uygulama olmadığı kesin.
DHS’nin kurum içinde yapay zeka kullanımıyla ilgili özel bir sayfası var ve hatta ChatGPT de dahil olmak üzere ticari olarak mevcut sohbet robotlarıyla test çalışmalarından sonra, memurların “günlük aktivitelerini” tamamlamalarına yardımcı olmak için kendi sohbet robotunu da konuşlandırmış durumda. Fakat dipnot, memurun kurumun dahili aracını kullandığını göstermiyor. Aksine, raporu dolduran kişinin direkt ChatGPT’ye giderek bilgileri yüklediği anlaşılıyor.
Bir uzmanın Associated Press’e bu durumu, kolluk kuvvetleri tarafından yapay zeka kullanımının “en makus senaryosu” olarak nitelendirmesi şaşırtan olmasa gerek…
Chip Alıntıdır…
