İçerik Haritası
Yapay zeka CAPTCHA’yı atlattı: Botlara karşı son kale de yıkılıyor
Araştırmacılar, ChatGPT’nin Agent modu kullanılarak CAPTCHA testlerini aşabileceğini gösterdi. Bu gelişme, internetin gelecekte nasıl görüneceğini kökten etkileyebilecek potansiyele sahip.
CAPTCHA nedir ve neden kullanılır?
CAPTCHA, “Completely Automated Public Turing Test to Tell Computers and Humans Apart” tabirinin kısaltmasıdır. Yani, bilgisayarlarla insanları ayırt etmeye yarayan bir güvenlik tekniğidir.
Hemen herkesin aşina olduğu bu testler;
-
Bozulmuş ya da güç okunan harf ve sayıları yazmayı,
-
Görsel kutucuklar içinde objeleri seçmeyi,
-
Parçaları bir ortaya getirerek resmi tamamlamayı içerir.
Web siteleri, bu testleri kullanarak kullanıcılarının insan olduğundan emin olur ve botların spam içerik paylaşmasını mahzurlar. Lakin kullanıcı açısından epey zahmetli ve vakit alıcı olabilir.
Yeni bir tehdit: Prompt injection yöntemi
Bugüne kadar CAPTCHA’lar kusursuz olmasa da botları engellemede tesirli bir prosedür olarak kullanılıyordu. Lakin SPLX isimli araştırmacılar, ChatGPT’yi yanıltarak bu sistemleri geçmeyi başardı.
Buradaki kritik nokta, ChatGPT’nin sırf görseli çözümleyip karşılık vermesi değil, Agent modu ile site üzerinde gerçek bir kullanıcı üzere davranmasıdır. Olağanda bu mümkün olmamalıydı, zira CAPTCHA testleri bilhassa botları ayıklamak için tasarlanmıştır.
Araştırmacılar, “prompt injection” ismi verilen teknikle ChatGPT’yi testlerin düzmece olduğuna inandırdı. Böylelikle ChatGPT, insan üzere davranarak testleri geçip siteyi kullanmaya devam etti.
Güvenlik açısından önemli sonuçlar
Çok adımlı bu yönlendirme tekniği, yapay zeka sistemlerinin ne kadar manipülasyona açık olduğunu ortaya koyuyor. Görsel tabanlı CAPTCHA’lar daha sıkıntı olsa da ChatGPT bunları da geçmeyi başardı.
Bu durum, berbat niyetli şahısların kolay kolay CAPTCHA’ları aşarak:
-
Yorum kısımlarını uydurma içeriklerle doldurmasına,
-
Sadece insanlara özel sitelere erişmesine yol açabilir.
Dolayısıyla internet güvenliği açısından önemli riskler barındırıyor.
Şu anda gözler OpenAI’da. Şirketin bu bahiste nasıl bir açıklama yapacağı merakla bekleniyor.
Chip Alıntıdır…
