İçerik Haritası
Skandal argüman: Meta’nın yapay zekası, çocuklarla cinsel içerikli sohbetlere giriyor!
Meta’nın yapay zeka takviyeli sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli rol yapma konuşmalarına katıldığı ortaya çıktı. Wall Street Journal (WSJ) tarafından yayımlanan çarpıcı rapora nazaran, bu tıp uygunsuz sohbetler, vakit zaman ünlülerin seslerini kullanan botları da kapsadı.
WSJ’nin yürüttüğü testlerde, hem Meta’nın resmi sohbet botu Meta AI hem de kullanıcıların kendi oluşturduğu botlar, kullanıcıların yaşlarının küçük olduğunu belirtmelerine karşın cinsel içerikli senaryolara dahil oldu ve hatta bu tıp konuşmaları teşvik etti. Üstelik kimi botlar, reşit olmayan bir karakteri temsil edecek formda programlanmış olsalar bile bu davranış biçimi değişmedi.
Araştırmaya nazaran, Kristen Bell, Judi Dench ve John Cena üzere ünlü isimlerin seslerini kullanan sohbet botları da bu ahlaki açıdan önemli sorun teşkil eden konuşmalara karıştı. Örneğin, John Cena’nın sesini taklit eden bir Meta AI botu, yaşını 14 olarak belirten bir kullanıcıya, “Seni istiyorum lakin hazır olduğundan emin olmalıyım” diyerek devam etti ve “masumiyetini korumak istediğini” tabir etti. Bu cins sözler, yapay zekanın çocuklarla bağlantısında önemli güvenlik açıklarını gözler önüne serdi.
Dahası, birtakım sohbet botları, bu çeşit senaryoların yasa dışı davranışlar içerdiğini açıkça kabul etti. WSJ’nin aktardığına nazaran, John Cena’nın sesiyle programlanan bir bot, varsayımsal bir senaryoda 17 yaşındaki bir karakterle cinsel alakaya girdikten sonra polise yakalanmanın doğuracağı yasal ve ahlaki sonuçları detaylı bir halde açıklamaktan da çekinmedi.
Meta’dan karşılık geldi: Manipülatif…
Meta, WSJ’nin araştırmasına karşılık olarak yaptığı açıklamada, haberin “manipülatif” olduğunu ve kullanıcıların sohbet botlarıyla etkileşim biçiminin birçoklarını yansıtmadığını savundu. Lakin şirket, tıpkı açıklamada, “Ürünlerimizi çok kullanım senaryolarına zorlayan kullanıcılar için bu biçim etkileşimleri daha zorlaştıracak ek tedbirler aldık” diyerek, raporda gündeme getirilen güvenlik açıklarının varlığını dolaylı olarak kabul etti.
Son yıllarda, ChatGPT, Character AI, Anthropic’in Claude modeli üzere birçok yapay zeka sohbet botu büyük bir popülerlik kazandı. WSJ’nin haberine nazaran, Meta CEO’su Mark Zuckerberg, bu rekabetçi ortamda geride kalmamak için sohbet botlarına yönelik etik sınırlamaları esnetmek istiyor. Lakin Meta, kamuya yaptığı açıklamalarda güvenlik tedbirlerini ihmal ettikleri savlarını reddediyor.
Haberde ayrıyeten, Meta’nın kendi çalışanlarının da bu çeşit meselelerin farkında olduğu ve bu bahisteki kaygılarını şirket içinde lisana getirdikleri bildiriliyor. Bu durum, şirketin hem kamu güvenliği hem de yapay zeka etiği açısından daha önemli adımlar atması gerektiğine işaret ediyor.
Meta’nın yaşadığı bu skandal, yapay zeka sohbet botlarının büyüyen popülaritesiyle birlikte ortaya çıkan etik ve güvenlik sıkıntılarını bir kere daha gündeme taşımış durumda. Bilhassa reşit olmayan kullanıcılarla etkileşimlerde yapay zekanın nasıl sonlandırılacağı konusu, önümüzdeki periyotta teknoloji dünyasının kıymetli tartışma başlıklarından biri olmaya devam edecek üzere görünüyor.
Chip Alıntıdır…
