İçerik Haritası
Google’ın AI özetleri, son fiyaskosuyla yapay zekaya güvenilmeyeceğini bir sefer daha kanıtladı
Teknoloji dünyasında birçok kişi, yapay zekanın insan zekasını aşacağı o büyük anı, yani “tekillik” anını heyecanla bekliyor. Lakin mevcut tablo, bu beklentilerin şimdi hayli uzak olduğunu gösteriyor. Büyük Lisan Modelleri (LLM’ler) ve sohbet botları, birden fazla vakit sekiz yaşındaki bir çocuğun bile kolay kolay çözebileceği sorunlarla başa çıkmakta zorlanıyor; hatta sıklıkla başarısız oluyor.
Görüntü üreten yapay zekalar ise, bir el, bir diş ya da dolu bir şarap kadehi üzere kolay objeleri bile hakikat halde oluşturmakta zahmet çekiyor. Üstelik, yapay zeka sistemleri hala “halüsinasyon” üretmeye, yani yanlış yahut büsbütün uydurulmuş bilgileri makul ve ikna edici biçimde sunmaya hayli yatkın.
Bütün bu sınırlamalara karşın teknoloji devleri, yapay zekayı eserlerine entegre etme konusunda adeta bir yarış içerisinde. Lakin bu yeni teknolojiye duyulan büyük heyecan, beraberinde önemli sorunları de getiriyor. Son örneklerden biri, Google’ın yapay zeka takviyeli özetleri (AI Overviews) ile yaşandı. Kullanıcılar, sıradan yahut anlamsız bir arama sorgusunun sonuna “meaning” (anlamı) sözünü eklediklerinde, yapay zekanın mantıklı üzere görünen lakin büsbütün uydurma açıklamalar ürettiğini fark ettiler.
Örneğin, bir kullanıcı Google’a “rainbow trout in a chocolate volcano meaning” (çikolata volkanında gökkuşağı alabalığı anlamı) sözünü sorduğunda, yapay zeka hayli ayrıntılı ve önemli bir açıklama sundu:
“Bu söz, ekseriyetle şaşırtan yahut beklenmedik birleşimleri tanımlamak için kullanılan mecazi bir anlatım halidir. Alabalığın tazeliği ile çikolata volkanının tatlılığı ve zenginliği ortasındaki zıtlığı ima eder.“
Elbette bu türlü bir tabir gerçekte yok. Lakin yapay zeka, eğitim bilgilerindeki örüntülerden yola çıkarak kulağa mantıklı gelen, fakat tamamen uydurma bir açıklama üretmişti.
Eğlenceli lakin düşündürücü cevaplar
Bu olay toplumsal medyada süratle yayıldı. Kullanıcılar farklı absürt söz kombinasyonlarını deneyerek yapay zekanın “yaratıcılığını” test etti ve ortaya birbirinden eğlenceli fakat düşündürücü örnekler çıktı. Eğlenceli görünse de, bu durum yapay zekanın temel bir zaafını tekrar gözler önüne serdi: Gerçekleri denetim etmiyorlar. AI sistemleri, gerçek bilgi üretmekten fazla, eğitim aldıkları bilgilerden örüntüler türeterek tatmin edici yanıtlar üretmeye çalışıyorlar.
Bu nedenle günümüz sohbet botları, her şeyi bilen emniyetli bilgi kaynaklarından fazla, daha çok gelişmiş birer “otomatik tamamlama motoru” üzere çalışıyorlar. Ayrıyeten, yanlışsız karşılığı bulamadıklarında bunu açıkça söz etmek yerine, kullanıcıyı tatmin etmek için uydurma bilgiler sunma eğilimindeler; işte bu da “halüsinasyon” olarak isimlendiriliyor.
Özellikle Google üzere, temel misyonu hakikat ve emniyetli bilgi sağlamak olan bir platform için bu tıp yanılgılar hayli önemli bir sıkıntıya işaret ediyor. Neyse ki, görünen o ki Google, kullanıcıların rastgele bir saçma sorgunun sonuna “meaning” eklediği durumlarda AI özetlerini devre dışı bırakacak bir tedbir aldı. Böylelikle en azından bu spesifik yanlışın yayılmasının önüne geçilmiş oldu.
Ancak bu olay, yapay zeka sistemlerinin hala çok temel güvenilirlik problemleriyle çaba ettiğini ve insan kontrolünün kritik değerde olmaya devam ettiğini bir sefer daha hatırlatıyor.
Chip Alıntıdır…
