OpenAI’da yetişkin modu çatlağı
OpenAI, tanınan sohbet botu ChatGPT için “yetişkinlere özel” bir mod üzerinde çalışırken, şirket içinde sular durulmuyor. Teknoloji dünyasının doruğundaki kurum, bir yandan yeni özelliklerle hudutları esnetmeyi hedeflerken, başka yandan etik tartışmaların ve üst seviye bir ayrılığın gölgesinde kalmış durumda.
CEO Sam Altman‘ın daha özgür bir yapay zeka vizyonu, güvenlik ünitesinden gelen itirazlarla çakışınca ortaya çıkan tablo, şirketin geleceğine dair soru işaretleri oluşturuyor. Gelişmelerin odağında, yakın vakte kadar OpenAI bünyesinde eser siyasetlerine liderlik eden Ryan Beiermeister var. ChatGPT’nin kontrol düzeneklerini ve kurallarını şekillendiren kilit isimlerden biri olan Beiermeister’ın misyonuna son verilmesi, zamanlaması açısından epey dikkat cazibeli. Tezlere nazaran bu ayrılık, Beiermeister’ın yetişkin içerik moduna yönelik lisana getirdiği önemli tasaların çabucak akabinde yaşandı. Şirket idaresi her ne kadar bu durumu farklı bir teze dayandırsa da, tecrübeli yöneticinin itirazları yankı bulmaya devam ediyor.
Yapay zeka ve yetişkin içerik sınırı
Sam Altman’ın geçtiğimiz aylarda sinyallerini verdiği bu yeni özellik, doğrulanmış yetişkin kullanıcıların yapay zeka ile erotik kurgular üretmesine ve daha özgür diyaloglar kurmasına imkan tanımayı amaçlıyor. Altman, mevcut sistemin fazla kısıtlayıcı ve “sterilize” olduğunu düşünerek, yetişkinlerin kendi istekleriyle bu tıp içeriklere erişebilmesi gerektiğini savunuyor. Başlangıçta riskleri yönetmek ismine katı kurallar uyguladıklarını belirten CEO, artık bu hudutları esnetebilecek araçlara sahip olduklarını lisana getirdi.
Ancak Beiermeister ve takımının uyardığı nokta tam da burada düğümleniyor. Güvenlik tarafındaki en büyük kaygı, çocuk istismarı içeren gereçlerin engellenmesi ve gençlerin bu cins içeriklere erişiminin büsbütün önüne geçilmesinin sanılandan çok daha sıkıntı olması. İnternet dünyasında yetişkin içerikleri her ne kadar büyük bir gelir kapısı ve kullanıcı bağlılığı sağlasa da, yapay zeka üzere etkileşimli bir yapıda bu durum devasa bir toplumsal sorumluluk doğuruyor.
Duygusal reaksiyon veren simülasyon riski
ChatGPT’yi başka platformlardan ayıran en temel fark, sistemin kullanıcıyla gerçek vakitli bir bağ kurabilmesi. Karşısındakinin duygusal reaksiyonlarına karşılık veren ve şahsileştirilmiş hayaller kurgulayan bir yapı, yalnızca bir sohbet botu olmaktan çıkıp insanların iç dünyasına direkt dokunan bir simülasyona dönüşüyor. Bu durum, teknolojinin suistimal edilme riskini de beraberinde getiriyor.
Her ne kadar bir chatbot’un yetişkin bir kullanıcı için aşk romanı tadında kıssalar yazması kağıt üzerinde makul görünse de, ChatGPT’nin tıpkı vakitte ofislerde ve okullarda kullanılan genel maksatlı bir asistan olduğu gerçeği unutulmamalı. OpenAI içerisindeki güvenlik odaklı seslerin azalması, şirketin büyümeyi temkinli olmanın önüne koyduğu kuşkularını artırıyor.
Chip Alıntıdır…
