İçerik Haritası
ChatGPT artık yaşı varsayım edecek: Çocuklar için daha sıkı içerik denetimi
OpenAI, ChatGPT için yeni bir güvenlik tedbirini devreye alıyor. Bu sistem, kullanıcının yaşını iddia ederek 18 yaş altı olduğu düşünülen hesaplarda içerik kontrolünü otomatik olarak sıkılaştırıyor. Şirketin açıklamasına nazaran yaş kestirimi; kullanıcı davranışları ve hesap bilgileri üzere sinyallerin tahlil edilmesiyle yapılıyor. Şayet bir kullanıcı reşit değilse, cinsel içerik, şiddet ve hassas bahislere yönelik daha katı filtreler devreye giriyor.
Yanlışlıkla çocuk olarak sınıflandırılan yetişkin kullanıcılar ise OpenAI’nin kimlik doğrulama ortağı Persona üzerinden, selfie ile yapılan bir doğrulama süreci sayesinde yaşlarını teyit edebiliyor.
OpenAI neden artık bu türlü bir adım atıyor?
Yapay zekâ araçları, eğitimden günlük yaşama kadar pek çok alana siyasetlerle eş vakitli ilerlemeden süratle yayıldı. Bu durum bilhassa çocuklar ve gençler açısından riskleri de beraberinde getirdi. OpenAI, ChatGPT’nin vakit zaman ergenlere uygunsuz içerikler sunması ve yapay zekânın ruh sıhhati üzerindeki tesirleri nedeniyle tenkitlerin odağında yer aldı.
Yeni güvenlik tedbiri, kesimde giderek yaygınlaşan “yaş güvencesi” yaklaşımının bir kesimi olarak görülüyor. Bu metot, platformların kullanıcıdan kimlik dokümanı talep etmeden çocukları ziyanlı içeriklerden müdafaayı hedefliyor.
Araştırmalar da sorunun boyutunu ortaya koyuyor. Pew Research Center datalarına nazaran ABD’deki gençlerin yüzde 95’i akıllı telefona erişebiliyor ve neredeyse yarısı internete “neredeyse sürekli” bağlı olduğunu söylüyor. Bu kadar ağır çevrim içi varlık, otomatik güvenlik tedbirlerini daha da kritik hale getiriyor.
ChatGPT’de yaş varsayımı sistemi nasıl çalışıyor?
OpenAI’ye nazaran sistem; kullanıcının beyan ettiği yaş, hesabın ne kadar müddettir faal olduğu ve günün hangi saatlerinde kullanıldığı üzere mevcut bilgileri birlikte pahalandırıyor. Şirket, bu sürecin rutin kullanımda yüz tanıma ya da biyometrik yaş tahlili içermediğini bilhassa vurguluyor.
Ortaya çıkan sonuç kesin bir yaş tespiti değil, olasılığa dayalı bir kıymetlendirme. Maksat, gerektiğinde çocuklara uygun içerik filtrelerini varsayılan olarak devreye almak.
Bir hesap 18 yaş altı olarak işaretlendiğinde, mevcut güvenlik tedbirleri daha muhafazakâr hale geliyor. Cinsel ve şiddet içeren karşılıklar sonlandırılıyor, sohbetler daha eğitici ve yaşa uygun bir çizgiye yönlendiriliyor. Bu sistem, mevcut güvenlik katmanlarının yerine geçmekten çok onları güçlendirmeyi hedefliyor.
Sistem yanlış kestirim yaparsa ne olacak?
Her otomatik sınıflandırma sisteminde olduğu üzere, yaş varsayımı de yanlışlara açık. OpenAI, bu duruma karşı bir itiraz sistemi sunuyor. Yetişkin kullanıcılar, Persona üzerinden selfie ile doğrulama yaparak yanlış sınıflandırmayı düzeltebiliyor.
Bu metot, tüm kullanıcılardan kimlik evrakı toplanmasının önüne geçerken ek bir adım gerektiriyor. Lakin OpenAI, sistemin doğruluk oranı ya da yanlış pozitif-negatif sonuçlara dair şimdi detaylı bilgi paylaşmış değil. Bu bilgiler, hem kullanıcı itimadı hem de düzenleyici kurumlar açısından değerli olacak.
Diğer taraftan, birtakım çocukların sistem tarafından tespit edilememesi ihtimali de var. Bu türlü durumlarda ChatGPT’nin genel içerik siyasetleri ve mevcut filtreleri devrede kalmaya devam edecek. Tekrar de şirketin ilerleyen periyotta bağımsız kontroller ve ölçüm dataları paylaşması bekleniyor.
Gizlilik ve yasal ahenk tartışmaları
Çocuklara ilişkin bilgiler, birçok ülkede daha sıkı yasal yükümlülüklere tabi. ABD’de COPPA, 13 yaş altındaki kullanıcılar için özel muhafazalar öngörürken; Birleşik Krallık’taki Age Appropriate Design Code ve Avrupa Birliği’nin Dijital Hizmetler Yasası da çocukların çevrim içi güvenliğini merkeze alıyor.
OpenAI’nin kimlik evrakı yerine bağlamsal sinyallere dayanan yaklaşımı, güvenlik ve kapalılık ortasında istikrar kurmayı amaçlayan aktüel rehberlerle örtüşüyor. Lakin bu tıp çıkarım sistemlerinin önyargı riski taşıdığı da biliniyor. Akademik çalışmalar, yaş kestirimi ve risk sınıflandırmalarının kimi demografik kümelerde daha kusurlu sonuçlar üretebildiğini gösteriyor.
Bu nedenle, eğitim bilgileri, önyargı testleri ve bilhassa Persona üzerinden yapılan selfie doğrulamalarında bilgilerin nasıl saklandığına dair şeffaflık büyük değer taşıyor.
Diğer platformlarla karşılaştırıldığında OpenAI nerede duruyor?
Büyük teknoloji platformları benzeri tahlillere yönelmiş durumda. Instagram, görüntü selfie ile yaş iddiası testleri yaparken; YouTube, ebeveynlere gençler için daha detaylı kontrol seçenekleri sunuyor.
OpenAI’nin yaklaşımı ise sohbet tabanlı yapay zekâya mahsus. Erişimi büsbütün kısıtlamak yerine, kullanıcının yaş ihtimaline nazaran cevapları ve güvenlik tedbirlerini gerçek vakitli olarak ayarlıyor.
Bundan sonra ne olacak?
Aileler için bu özellik, çocukların yetişkinlere yönelik içeriklere maruz kalma riskini azaltabilir; lakin ebeveyn kontrolünün yerini tutmuyor. ChatGPT’yi kullanan kurumlar ve geliştiriciler açısından ise misal yaş hassas tedbirlerin API’ler üzerinden sunulup sunulmayacağı merak konusu.
Özetle, OpenAI’nin yaş iddiası sistemi, çocuklar için daha inançlı varsayılan tecrübeler oluşturma yolunda kıymetli bir adım. Lakin bu yaklaşımın dal standardı haline gelip gelmeyeceği; şeffaflık, denetlenebilirlik ve yetişkin kullanıcıları gereksiz yere kısıtlamadan hakikaten ziyanlı etkileşimleri azaltıp azaltamadığıyla belirlenecek.
Chip Alıntıdır…
