İçerik Haritası
Bikinili görsellerle gündem olmuştu: Grok’a yeni kısıtlamalar geldi
X Safety, çarşamba gecesi yaptığı açıklamada Grok’un, bireylerin isteği olmadan manzaralarını soyacak halde düzenlenmesini engelleyen yeni teknik tedbirler aldığını doğruladı. Şirket, gerçek şahısların bikini üzere açık kıyafetlerle yer aldığı görsellerin düzenlenmesine artık müsaade verilmeyeceğini belirtti. Bu kısıtlamanın, fiyatlı aboneler dahil tüm kullanıcılar için geçerli olduğu vurgulandı.
Görsel oluşturma ve düzenleme yetkileri sınırlandı
Güncelleme kapsamında Grok hesabı üzerinden yapılan görsel oluşturma ve görsel düzenleme özellikleri X platformunda sırf fiyatlı abonelere açıldı. X Safety, bu adımın, yasa ve platform kurallarını ihlal etmeye çalışan kullanıcıların daha kolay tespit edilmesini sağlayarak ek bir güvenlik katmanı sunduğunu söz etti.
Bazı ülkelerde coğrafik engelleme devrede
X ayrıyeten, gerçek şahısların bikini, iç çamaşırı yahut gibisi kıyafetlerle manzaralarının üretilmesinin yasal olmadığı bölgelerde bu özelliği büsbütün coğrafik olarak engelleyeceğini açıkladı. Bu kısıtlama hem X üzerindeki Grok hesabı hem de Grok’un platform içi sürümü için geçerli olacak.
Kaliforniya’dan soruşturma hamlesi
Bu güncelleme, Grok ile üretilen ve bayanlar ile çocukları cinsel içerikli halde betimleyen görsellerin haftalar boyunca gündemde kalmasının akabinde geldi. Kaliforniya Başsavcısı Rob Bonta, bu içeriklerin ABD maddelerini ihlal edip etmediğini araştırmak üzere soruşturma başlattı.
Bonta, yayımladığı basın açıklamasında xAI’nin, istek dışı ve cinsel içerikli deepfake görsellerin büyük ölçekte üretilmesine aracılık ediyor olabileceğini ve bu içeriklerin internet genelinde bayanlar ile kız çocuklarını amaç alan tacizlerde kullanıldığını söyledi.
Endişeler yalnızca X ile sonlu değil
Bonta’nın açıklamaları, Grok’un sırf X üzerindeki çıktılarıyla değil, bağımsız uygulaması ve web sitesi üzerinden üretilen içeriklerle de ilgili önemli kaygılar taşıdığını ortaya koydu.
Daha evvel X, Grok uygulaması ve web sitesine yönelik direkt bir kısıtlama getirmemiş, sırf yasa dışı kabul edilen içerikler için hesap kapatma tehdidinde bulunmuştu. X üzerindeki Grok sohbet botu kimi talepleri reddetse de Premium aboneler bu pürüzleri aşabiliyor, fiyatsız kullanıcılar ise görsellerdeki “düzenle” seçeneğiyle emsal sonuçlara ulaşabiliyordu.
Elon Musk’tan tartışmalı açıklama
Güncellemeden kısa mühlet evvel Elon Musk, Grok’un ürettiği içeriklerin zararsız olduğunu savundu. Musk, paylaştığı bir gönderide Grok tarafından oluşturulmuş büsbütün çıplak reşit olmayan birey görsellerinden haberdar olmadığını ve bu türlü bir içeriğin bulunmadığını sav etti.
Ancak araştırmacılar, kullanıcıların çocukların erotik konumlarda gösterilmesini ve cinsel ögeler eklenmesini bilhassa talep ettiğini ortaya koyan örnekler tespit etti. Bu durum, X’in daha evvel istek dışı mahrem imajların kaldırılmasına yönelik taahhütleriyle de çelişiyor.
ABD maddeleri ne diyor?
ABD Adalet Bakanlığı, 18 yaşından küçük bireyleri içeren cinsel içerikli her türlü görseli çocuk istismarı gereci (CSAM) olarak kıymetlendiriyor. Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi ise teknoloji şirketlerinin, araçlarının çocukları cinselleştirmek yahut istismar etmek için kullanılmasını tedbire sorumluluğu taşıdığını vurguluyor.
Bazı Grok çıktıları yasal tariflere tam olarak uymasa da, uzmanlar bu çeşit içeriklerin çocukların cinselleştirilmesini olağanlaştırarak önemli ziyanlar verdiği ihtarında bulunuyor. Ayrıyeten Grok ile düzenlenen görsellerin daha uç AI tabanlı CSAM içeriklerine dönüştürüldüğü de raporlandı.
Grok ABD ve İngiltere’de inceleme altında
Bonta, soruşturmanın, Grok’un en problemli çıktılarının haberleştirilmesinin akabinde başlatıldığını belirtti. İngiltere’de ise Online Safety Act kapsamında yürütülen incelemede ziyanlı çıktılar durdurulmuş üzere görünse de, yapılan bağımsız testler kimi açıkların devam ettiğini gösterdi.
Avrupalı sivil toplum kuruluşu AI Forensics, Birleşik Krallık’ta birtakım çıktıların engellendiğini doğruladı lakin X’in “düzenle” butonunun test edilmesinin etik olmayacağını belirtti.
Yeni yasal riskler kapıda
Uzmanlara nazaran Grok’un kontrolsüz bırakılması, Mayıs ayında yürürlüğe girecek ve platformlara AI intikam pornosu içeriklerini süratle kaldırma zaruriliği getiren Take It Down Act kapsamında X’i sıkıntı durumda bırakabilir. Daha evvel Elon Musk’ın çocuklarının annelerinden biri olan Ashley St. Clair, Grok tarafından üretilen görselleri intikam pornosu olarak tanımlamıştı.
X Safety: Sıfır tolerans siyaseti sürecek
Soruşturma sürerken Bonta, X’e Grok’un çıktılarının daha da sıkı halde sonlandırılması davetinde bulundu. X Safety ise çocuk istismarı, istek dışı çıplaklık ve istenmeyen cinsel içeriklere karşı sıfır tolerans siyasetinin devam edeceğini açıkladı.
Chip Alıntıdır…
