Google, yapay zeka sistemlerindeki açıkları bulanlara para ödülü verecek

Google, yapay zeka sistemlerindeki açıkları bulanlara para ödülü verecek

Google, yapay zeka tabanlı eserlerinde güvenlik açıklarını tespit etmeye yönelik yeni bir ödül programı başlattı. Program, bilhassa yapay zeka kaynaklı yanılgıları bulmayı ve raporlayan güvenlik araştırmacılarını teşvik etmeyi amaçlıyor.

Hedef: Tehlikeli yapay zeka eylemleri

Google’ın aradığı kusurlar ortasında, bir yapay zekâ komutunun dolaylı biçimde berbata kullanılmasına yol açan örnekler bulunuyor.

Örneğin; Google Home’un kapıyı kilitsiz bırakmasına neden olan bir komut ya da bir kullanıcının e-postalarını özetleyip saldırgana gönderen bir data sızdırma senaryosu bu kapsamda bedellendiriliyor.

Şirket, yeni programla birlikte bir “AI hatası”nın ne olduğunu daha net biçimde tanımladı. Buna nazaran, büyük lisan modelleri yahut üretken yapay zekâ sistemleri üzerinden zarara yol açan yahut güvenlik açıklarını istismar eden durumlar bu kategoriye giriyor.

Güvenliği tehdit eden davranışlara odaklanılıyor

Bu tıp yanılgılar ortasında, bir kullanıcının hesabının yahut bilgilerinin müsaadesiz halde değiştirilmesi, güvenliğinin zayıflatılması ya da istenmeyen süreçlerin gerçekleştirilmesi öne çıkıyor.

Geçmişte keşfedilen bir örnekte, Google Takvim’e yerleştirilen ziyanlı bir aktiflik, akıllı panjurları açıp ışıkları kapatabiliyordu.

İki Yılda 430.000 dolar kazanıldı

Google, yapay zekâ sistemlerindeki potansiyel zafiyetleri bulmaları için araştırmacıları teşvik etmeye iki yıl evvel başladı. O günden bu yana yanılgı avcıları 430.000 doların üzerinde ödül kazandı.

Ancak şirket, sırf Gemini üzere modelleri “halüsinasyon”a zorlamanın ödül için kâfi olmadığını belirtiyor.

Nefret söylemi yahut telif hakkı ihlali üzere içerik üretimiyle ilgili yanlışlar ise, eser içindeki geri bildirim kanallarına raporlanmalı.

Google’a nazaran bu yol, yapay zekâ güvenlik gruplarının modeli uzun vadeli eğitimlerle daha inançlı hale getirmesini sağlıyor.

Yeni araç: CodeMender

Google, yeni ödül programıyla birlikte CodeMender isminde bir yapay zekâ aracını da duyurdu.
Bu araç, güvenlik açığı barındıran kodları otomatik olarak onarıyor. Şirketin açıklamasına nazaran, insan kontrolü sonrasında 72 açık kaynak projesine ilişkin güvenlik düzeltmesi CodeMender tarafından muvaffakiyetle yapıldı.

Ödül detayları

Google, arama motoru (Search), Gemini uygulamaları ve Workspace araçları (Gmail, Drive gibi) üzerinde tespit edilen kritik güvenlik açıkları için 20.000 dolar ödül veriyor.

Rapor kalitesine ve keşfin özgünlüğüne nazaran bu miktar 30.000 dolara kadar çıkabiliyor.

Diğer eserlerde, örneğin Jules yahut NotebookLM üzere uygulamalarda bulunan açıklar ise daha düşük ödül kapsamında bedellendiriliyor.

Chip Alıntıdır…