Yapay zekanın geleceği hakkında enteresan kestirim: %75 parlak, %25 karanlık
Bazı durumlarda dörtte bir ihtimal kulağa epey makul gelebilir. Hatta birçok kumar oyununa nazaran epeyce avantajlıdır. Fakat Anthropic’in CEO’su Dario Amodei, yapay zekanın insanlık için “toplumsal yıkımla sonuçlanabilecek bir felaket” haline gelmesi ihtimalini yüzde 25 olarak değerlendirdiğinde, bu oran çok da optimist görünmüyor.
Axios AI + DC Zirvesi’nde konuşan Amodei, “Bence işlerin çok, çok berbat gitme ihtimali yüzde 25” dedi. Lakin dikkatini daha çok “işlerin çok, çok yeterli gitme ihtimalinin yüzde 75 olması”na verdiğini de ekledi.
“Çok kötü” ihtimalin anlamı
Buradaki “çok kötü”den kasıt, telefonunuzun yazım yanlışıyla “tamam” sözünü yanlış yazması değil. Amodei’nin işaret ettiği risk, tüm toplumsal sistemleri tehdit edebilecek büyüklükte senaryolar: Yanlış kullanılan yapay zeka, denetimsiz biçimde büyüyen teknolojiler ve potansiyel varoluşsal tehlikeler.
Genellikle ütopik vaatler ya da bilimkurguya kayan felaket senaryolarıyla anılan yapay zeka tartışmalarında, Amodei’nin hem riskleri hem de ilerlemenin gerekliliğini birebir anda vurgulayan hali dikkat çekiyor.
Amodei sıradan bir gözlemci değil; Claude isimli yapay zekanın gerisindeki şirketin CEO’su olarak, bu teknolojiyi şekillendirenlerden biri. Yani kendi tabiriyle risklerin farkında olsa da, birebir vakitte bu geleceği inşa eden takımın başında bulunuyor.
Durumu açıklarken kullandığı örnek de çarpıcı: “Eğer biri size otomobilinizi her çalıştırdığınızda patlama ihtimalinin dörtte bir olduğunu söylese, muhtemelen yürümeyi tercih ederdiniz.” Amodei ise tam aksine, motoru açıp sorunu çözmeye girişeceğini söylüyor.
Amodei daha evvel de dikkat alımlı ihtarlarda bulundu. Yapay zekanın, beyaz yaka işlerinin yarısını ortadan kaldırabileceğini lisana getirmiş ve ABD’nin ileri düzey çipleri Çin’e ihraç etmesine karşı çıkmıştı. Onun yaklaşımı riskleri görmezden gelmeyen, olasılıkları net bir formda ortaya koyan ancak tekrar de harekete geçmeye alan bırakan bir yaklaşım olarak öne çıkıyor.
Yüzde 75’lik umut
Diğer yandan, Amodei’nin “işlerin yüzde 75 uygun gitme ihtimali” söylemi de boş bir iyimserlikten ibaret değil. Ona nazaran yapay zeka, sıhhat alanında ilerlemelerden verimli üretim süreçlerine kadar pek çok yarar sunabilir. Hatta iklim değişikliği üzere global problemlerle çabada bile tahliller geliştirebilir. Lakin bu noktada yapay zekanın kendi güç tüketimi de dikkate alınması gereken bir öge.
Ne var ki, yüzde 25’lik risk göz gerisi edilemeyecek kadar büyük. Bu nedenle yararların inançlı bir formda ortaya çıkması için regülasyonlar, kontroller ve güvenlik tedbirleri kural. Zira gelecek “yüzde 75 parlak, yüzde 25 karanlık” bir tabloysa, asıl soru şu: İstikrarın gerçek tarafta kalmasını sağlamak için biz ne yapacağız?
Chip Alıntıdır…
