İçerik Haritası
OpenAI’de reklam tartışması büyüyor: Eski araştırmacı ChatGPT testleriyle birebir gün istifa etti
Eski OpenAI araştırmacısı Zoë Hitzig, The New York Times’ta yayımlanan konuk yazısında şirketten ayrıldığını duyurdu. Hitzig, OpenAI’nin ChatGPT içinde reklam testlerine başladığı gün olan pazartesi günü istifa ettiğini açıkladı.
Ekonomist ve yayımlanmış bir şair olan Hitzig, Harvard Society of Fellows’ta junior fellow olarak misyon yapıyor. İki yıl boyunca OpenAI’de çalışan araştırmacı, yapay zekâ modellerinin nasıl geliştirildiği ve fiyatlandırıldığı hususlarında çalıştı. Yazısında şirketin reklam stratejisinin, Facebook’un geçmişte yaptığı yanılgılara emsal sonuçlar doğurabileceğini savundu.
Hitzig, yapay zekâ geliştiren takımların muhtemel sıkıntıları evvelce ele almasına katkı sunabileceğine inandığını lakin şirketin artık bu soruları sormaktan uzaklaştığını düşündüğünü söz etti.
Bu yazımız da ilginizi çekebilir: ChatGPT’de reklam periyodu başladı: Fiyatsız kullanıcılar neler yaşayacak?
ChatGPT reklamlarının riskli olabileceği görüşü
Hitzig, reklamların kendisini etik dışı olarak nitelendirmedi. Lakin ChatGPT’de reklamların kullanılacağı data çeşidinin özel bir risk oluşturduğunu vurguladı.
Kullanıcıların sohbet botlarıyla sıhhat dertlerinden alaka meselelerine, dini inançlardan şahsî kaygılara kadar son derece hassas bilgileri paylaştığını belirten Hitzig, bunun birçok vakit kullanıcıların sistemin kapalı bir hedefi olmadığına inanması sayesinde gerçekleştiğini yazdı.
Bu birikmiş data havuzunu “insanların içtenliğinin eşi gibisi olmayan bir arşivi” olarak tanımladı.
Facebook ile benzerlik uyarısı
Hitzig, Facebook’un birinci yıllarındaki data siyasetlerine da dikkat çekti. Toplumsal medya şirketinin kullanıcılarına dataları üzerinde denetim ve siyaset değişikliklerine oy verme hakkı vaat ettiğini, lakin bu kelamların vakitle zayıfladığını hatırlattı.
ABD Federal Ticaret Komisyonu’nun, Facebook’un kullanıcı denetimini artırdığı argümanıyla yaptığı birtakım zımnilik değişikliklerinin aslında tam aksine sonuç verdiğini tespit ettiğini belirtti.
Hitzig’e nazaran benzeri bir süreç ChatGPT için de yaşanabilir. Birinci reklam uygulamalarının belirlenen prensiplere uygun olabileceğini lakin vakitle ekonomik baskıların şirketi kendi kurallarını esnetmeye yöneltebileceğini savundu.
Reklamlar AI dalındaki rekabet tartışmalarıyla geldi
Hitzig’in istifası, yapay zekâ sohbet botlarında reklam kullanımına ait tartışmaların büyüdüğü bir devirde geldi.
OpenAI, ocak ayında ABD’de fiyatsız kullanıcılar ve aylık 8 dolarlık “Go” aboneliği için reklam testlerine başlayacağını duyurmuştu. Plus, Pro, Business, Enterprise ve Education aboneleri reklam görmeyecek. Şirket, reklamların cevapların altında yer alacağını, açık biçimde etiketleneceğini ve modelin verdiği karşılıkları etkilemeyeceğini açıkladı.
Bu adım, OpenAI ile rakibi Anthropic ortasında kamuoyu önünde yaşanan kelamlı atışmaların çabucak akabinde geldi. Anthropic, Claude’un reklamsız kalacağını duyurdu ve Muhteşem Bowl sırasında “Ads are coming to AI. But not to Claude” sloganıyla reklamlar yayımladı. Reklamlarda sohbet botlarının şahsî konuşmalara eser yerleştirmesi mizahi biçimde eleştirildi.
OpenAI CEO’su Sam Altman bu reklamları “komik fakat açıkça yanıltıcı” olarak nitelendirdi. Reklam takviyeli modelin, abonelik fiyatını karşılayamayan kullanıcıların yapay zekâya erişmesini sağlamak için geliştirildiğini söyledi.
Anthropic ise reklamların sohbet tecrübesine dahil edilmesinin, Claude’un amaçlanan yardımcı rolüyle bağdaşmayacağını belirtti. Şirket gelirinin yüzde 80’den fazlasının kurumsal müşterilerden geldiğini açıkladı.
Reklam şahsileştirme varsayılan olarak açık
OpenAI’nin dayanak evraklarına nazaran test kapsamındaki kullanıcılar için reklam şahsileştirme özelliği varsayılan olarak etkin durumda. Bu ayar açık bırakıldığında reklamlar, mevcut ve geçmiş sohbetler ile evvelki reklam etkileşimlerine nazaran seçilebiliyor.
Şirket, reklam verenlerin kullanıcı sohbetlerine yahut ferdî bilgilere erişemeyeceğini belirtiyor. Ayrıyeten sıhhat, ruh sıhhati ve siyaset hususlarındaki sohbetlerin yanında reklam gösterilmeyeceği söz ediliyor.
Kullanıcı bağımlılığı ve optimizasyon tartışması
Hitzig, OpenAI’nin unsurları içinde bir tansiyon olduğunu öne sürdü. Şirket reklam gelirini artırmak için kullanıcı aktivitesini optimize etmediğini belirtse de kimi haberlerde OpenAI’nin günlük faal kullanıcı sayısını artırmaya odaklandığı ve bunun modelin daha iltifatkâr yahut uyumlu davranmasına yol açabileceği öne sürüldü.
Bu çeşit optimizasyonun kullanıcıların yapay zekâya daha fazla bağımlı hissetmesine neden olabileceğini belirten Hitzig, birtakım psikiyatristlerin “chatbot psikozu” olarak tanımlanan olaylar belgelediğini ve ChatGPT’nin intihar fikirlerini pekiştirdiğine dair argümanlar bulunduğunu hatırlattı.
OpenAI şu anda, ChatGPT’nin bir gencin intihar planlamasına yardımcı olduğu tezi ve bir diğer davada bir kişinin paranoyasını doğrulayarak cinayet-intihara giden süreci etkilediği argümanı dahil olmak üzere birden fazla haksız mevt davasıyla karşı karşıya.
Alternatif finansman ve data idaresi önerileri
Hitzig, tartışmayı reklam var ya da yok ikilemiyle sınırlamamak gerektiğini savundu. Bunun yerine yapısal tahliller önerdi.
Öneriler ortasında, yüksek bedelli yapay zekâ hizmetlerinden gelir elde eden şirketlerin fiyatsız erişimi finanse ettiği çapraz sübvansiyon modelleri, reklam hedeflemesinde kullanılan bilgiler üzerinde bağlayıcı yetkiye sahip bağımsız kontrol heyetleri ve kullanıcıların bilgileri üzerinde denetimini koruduğu bilgi kooperatifleri yer alıyor.
İsviçre’deki MIDATA kooperatifi ve Almanya’daki ortak karar sistemleri bu tıp yapılara örnek olarak gösterildi.
Hitzig, en büyük telaşının iki uç senaryo olduğunu belirtti: Kullanıcıları fiyatsız olarak manipüle eden bir teknoloji yahut sadece ödeme gücü yüksek olanlara yarar sağlayan bir sistem.
AI araştırmacıları ortasında arka arda ayrılıklar
Bu hafta kamuoyuna yansıyan tek ayrılık Hitzig’inki değildi. Anthropic’in Safeguards Research Team lideri Mrinank Sharma da misyonundan ayrıldığını açıkladı. Sharma, tertip içinde pahaların uygulamaya geçirilmesinin sıkıntı olduğunu belirtti ve akademik çalışmalarına yönelmeyi planladığını duyurdu.
xAI tarafında da kıymetli ayrılıklar yaşandı. Kurucu ortak Yuhuai “Tony” Wu’nun akabinde Jimmy Ba da şirketten ayrıldı. TechCrunch bilgilerine nazaran son bir haftada en az dokuz xAI çalışanı şirketten ayrıldığını açıkladı. Şirketin 12 kurucu ortağından altısı artık vazifede değil.
Bu gelişmeler, Elon Musk’ın xAI’yi planlanan halka arz öncesinde SpaceX ile pay bazlı bir mutabakatla birleştirme kararının akabinde geldi. Lakin ayrılıkların bu süreçle temaslı olup olmadığı net değil.
AI kesiminde ticari dönüşüm hızlanıyor
OpenAI, Anthropic ve xAI’de yaşanan ayrılıklar direkt kontaklı görünmese de, yapay zekâ dalında süratle artan ticarileşmenin araştırmacılar üzerindeki baskıyı artırdığı bir periyoda denk geliyor.
Bu gelişmeler, büyük yapay zekâ laboratuvarlarında giderek daha sık görülen yüksek işçi sirkülasyonu ve tükenmişlik eğiliminin devam ettiğine işaret ediyor.
Chip Alıntıdır…
