Grok krizi büyüyor: xAI’ye müsaadesiz deepfake davası
X platformu, Grok’un müsaadesiz dijital soyma (nudify) imgeleri üretmesini engellediğini açıklamış olsa da, bağımsız Grok uygulaması için durum farklı görünüyor. Uygulamanın, gerçek şahıslara ilişkin cinsel içerikli deepfake görseller üretmeye devam ettiği tez ediliyor. Bu tartışmaların merkezinde ise muhafazakâr siyasi stratejist Ashley St. Clair yer alıyor.
St. Clair, xAI’ye karşı dava açarak Grok’un kendisine ilişkin isteği olmayan cinselleştirilmiş manzaralar oluşturduğunu ve yaydığını öne sürdü. Dava belgesinde, yapay zekânın kendisini çocukluk periyodunda ve yetişkinliğinde cinsel içerikli, aşağılayıcı pozlarda gösteren düzmece görseller ürettiği tezlerine yer verildi.
Çocukluk fotoğrafları üzerinden üretilen görseller
Mahkeme kayıtlarına nazaran Grok, St. Clair’in 14 yaşındayken çekilmiş bir fotoğrafını temel alarak bikini giydirilmiş deepfake manzaralar oluşturdu. St. Clair, birtakım geçersiz görsellerde art planda kendi çocuğuna ilişkin eşyaların bile yer aldığını belirterek durumun ruhsal tesirinin son derece yıkıcı olduğunu söyledi.
The Guardian’a konuşan St. Clair, sadece kendisinin değil, öbür bayanların da şiddet, darp ve azap çağrışımı yapan yapay zekâ görsellerine maruz kaldığını söz etti. Daha evvel internetin karanlık köşelerinde görülen bu tıp içeriklerin artık ana akım toplumsal medya uygulamalarında üretilebildiğine dikkat çekti.
X’in tavrı ve intikam iddiaları
St. Clair, kelam konusu içerikleri X’e bildirmesine karşın platformdan “politikaları ihlal etmiyor” karşılığını aldığını söylüyor. Ayrıyeten şikâyete karşın kimi görsellerin günlerce yayında kaldığını argüman ediyor. Dava belgesine nazaran xAI, şikâyetlerin akabinde St. Clair’e ilişkin daha fazla geçersiz içerik üretilmesine müsaade vererek durumu daha da ağırlaştırdı.
Bununla da sonlu kalmayan süreçte, St. Clair’in X Premium aboneliğinin iptal edildiği, doğrulama rozeti ve gelir elde etme özelliklerinin kaldırıldığı belirtiliyor. Ayrıyeten yine Premium satın almasının da engellendiği öne sürülüyor.
Politika güncellemesi ancak eksik önlemler
X, geçtiğimiz günlerde Grok’un çocuklara yönelik cinsel içerik yahut müsaadesiz çıplaklık üretmeyeceğini açıkladı. Lakin bu değişikliğin sırf kimi ülkelerde geçerli olduğu ve bağımsız Grok uygulamasının tıpkı içerikleri üretmeye devam ettiği argüman ediliyor.
Apple ve Google sessizliğini koruyor
Yaşanan reaksiyonlara ve sivil toplum kuruluşlarının açık mektuplarına karşın Apple ve Google’ın Grok uygulamasıyla ilgili rastgele bir adım atmaması dikkat çekiyor. Her iki uygulama mağazasının da bu tıp içerikleri açıkça yasaklayan kuralları bulunmasına karşın, Grok hâlâ App Store ve Play Store’da erişilebilir durumda.
Engadget’ın mevzuya ait yorum taleplerine Apple ve Google’dan şu ana kadar rastgele bir karşılık gelmiş değil.
Devletlerden sert tepkiler
Teknoloji devleri sessiz kalırken, kimi ülkeler daha süratli harekete geçti. Malezya ve Endonezya Grok’u yasakladı. Birleşik Krallık’ta düzenleyici kurum Ofcom X hakkında resmi soruşturma başlatırken, Kaliforniya da misal bir inceleme sürecine girdi. ABD Senatosu ise yaşanan reaksiyonların akabinde Defiance Act’i yine kabul etti.
“Bu sistem bayanları susturuyor”
St. Clair, yapay zekâ sistemlerinin bu halde kullanılması durumunda bayanların kamusal alandan çekilmek zorunda bırakıldığını söylüyor. Yapay zekânın, bayanları amaç alan uygulamalar nedeniyle taraflı bir yapıya büründüğünü savunuyor.
Chip Alıntıdır…
