İçerik Haritası
13 yaşındaki çocuğun ChatGPT’ye sorduğu soru, başına bela oldu
Son yıllarda, bilhassa de ABD’de okullarda yaşanan şiddet olaylarının artmasıyla birlikte eğitim kurumları dijital nezaret sistemlerine daha fazla yatırım yapmaya başladı. Öğrencilerin internet kullanımını izleyen bu sistemlerin ne kadar tesirli olduğu ise vakit zaman gündeme gelen hadiselerle tartışmaya açılıyor. Bu sefer dikkat çeken bir olay, Florida’nın Deland kentinde yaşandı.
Yerel polisin verdiği bilgiye nazaran, Southwestern Ortaokulu’na devam eden 13 yaşında bir öğrenci, okul tarafından sağlanan bilgisayar üzerinden ChatGPT’ye “dersin ortasında arkadaşımı nasıl öldürebilirim?” formunda bir soru yöneltti. Bu söz, öğrencilerin çevrim içi etkinliklerini tarayan bir yazılım sistemi tarafından anında tespit edildi ve okul yetkililerine ihtar gönderildi.
Gözetim sistemini işleten şirketin ismi Gaggle. ABD genelinde birçok okul bölgesiyle çalışan şirket, öğrenci davranışlarını izlemeye yönelik araçlar sunuyor. Sistem, tehlikeli ya da rahatsız edici olarak işaretlenebilecek sözleri algılayarak ilgili durumu okul idaresine yahut güvenlik ünitelerine bildiriyor. Bu örnekte olduğu üzere, öğrencinin yazdığı ileti direkt izleme filtresine takıldı.
Kısa mühlet sonra harekete geçen mahallî polis, öğrenciyi sorguya aldı. Olayı haberleştiren lokal yayın kuruluşuna nazaran, öğrenci polis tabirinde bu iletinin bir “şaka” olduğunu ve yalnızca “trollük” yaptığını söyledi. Sözüne nazaran, kendisini rahatsız eden bir arkadaşı vardı ve yazdıklarını ciddiye almamıştı. Fakat polis ve okul idaresi bu açıklamayı kâfi bulmadı. Volusia İlçe Şerif Ofisi olayla ilgili yaptığı açıklamada, “Kampüste acil durum yaratan bir latife daha” tabirini kullanarak ailelere çocuklarıyla bu hususlarda konuşmaları tarafında davette bulundu.
Öğrencinin tam olarak neyle suçlandığı şimdi netleşmemiş olsa da, tutuklandığı ve bölgedeki bir gençlik gözaltı merkezine götürüldüğü bildirildi.
Gözetleme sistemi nasıl çalışıyor?
Gaggle’ın kamuya açık kaynaklarında sistemin nasıl çalıştığına dair birtakım bilgiler yer alıyor. Şirket, öğrencilerin Google, ChatGPT yahut gibisi platformlar üzerinden yaptığı yazışmaları ve aramaları tarayabildiğini belirtiyor. Belli anahtar sözler üzerinden çalışan filtreler sayesinde, ziyanlı olabilecek içerikler tespit ediliyor. Sistem, şiddet, intihar, zorbalık üzere davranışlara işaret eden içerikleri ekran manzarasıyla birlikte okul yetkililerine sunuyor.
Şirket, bu yaklaşımıyla öğrencilerin güvenliğini önceliklendirdiğini söz ediyor. Birebir vakitte öğrencilere okul tarafından sağlanan dijital araçlar üzerinde özel hayat beklentisinin olmaması gerektiğini de vurguluyor. Bu görüş, ABD’deki Çocukların İnternet Müdafaa Yasası üzere yasal düzenlemelere dayandırılıyor.
Beraberinde gelen soru işaretleri
Ancak bu cins dijital nezaret uygulamaları, mahremiyet ve öğrencilerin şahsî alanı açısından birtakım soru işaretleri de doğuruyor. Bu alandaki tenkitlerden biri, Demokrasi ve Teknoloji Merkezi’nden geldi. Kuruluşun yöneticisi Elizabeth Laird, bu cins sistemlerin öğrenci ömründe polis müdahalesini olağanlaştırdığını savunuyor. Ayrıyeten, ihtar sistemlerinin sık sık yanlış alarm verdiğine dikkat çekerek, öğrencilerin gereksiz yere gaye haline getirilebileceği telaşını lisana getiriyor.
Chip Alıntıdır…
