Yapay zeka ile büsbütün yeni virüsler üretildi: Bir sonraki salgın AI elinden mi olacak?

Yapay zeka ile büsbütün yeni virüsler üretildi: Bir sonraki salgın AI elinden mi olacak?

Yapay zeka teknolojisi, yazılımdan sanata kadar her alanı dönüştürmeye devam ederken, artık de bilim insanlarının elinde büsbütün yeni hayat biçimleri tasarlamanın kapısını araladı. Son devirde yayımlanan iki farklı çalışma, AI’nin biyoloji alanındaki muazzam potansiyelini gözler önüne sererken, birebir vakitte bu gücün denetimine dair önemli kaygıları de beraberinde getiriyor.

Stanford Üniversitesi’nden Sam King ve danışmanı Brian Hie tarafından yürütülen ve şimdi hakemli kıymetlendirme sürecinde olan bir çalışma, AI kullanarak bakterileri öldürebilen, büsbütün yeni bakteriyofajlar (bakteri yiyen virüsler) üretmeyi başardı. Bu virüsler, mevcut tiplerden o kadar farklılar ki, potansiyel olarak yeni bir çeşit olarak sınıflandırılmaları bile mümkün.

Araştırmacıların asıl maksadı, antibiyotik direncinin yarattığı krize tahlil bulmak için bakteriyofajları kullanmaktı. King ve grubu, bu çalışmada güvenlik tedbirlerine büyük değer verdiler; AI modellerini sırf insanları, hayvanları yahut bitkileri enfekte etmeyen virüslerle eğittiler ve tasarlanan virüslerin tehlikeli bir patojeni taklit edip edemeyeceğini test ettiler. Grup, bu yolla tehlikeli bir virüs üretmenin, mevcut klasik laboratuvar formüllerine nazaran “çok daha zor” olduğunu vurguluyor.

Microsoft uyardı: Güvenlik tedbirleri kâfi değil

Ancak birebir periyotta yayımlanan çarpıcı bir öbür araştırma, bu optimist tabloya gölge düşürdü. Microsoft araştırmacıları, AI’nin mevcut biyogüvenlik tedbirlerini ne kadar kolay aşabildiğini gösteren bir çalışma yayımladı.

Science mecmuasında yer alan bu araştırmada, AI’nin berbat niyetli bir kişi tarafından, toksik ve ziyanlı molekülleri sipariş etmeyi engelleyen ticari biyogüvenlik tarama sistemlerini nasıl kandırabileceği ortaya kondu. Microsoft grubu, bu güvenlik açıklarını süratle kapatmak için yazılım yamaları geliştirse de, bu müdafaa sistemlerinin şu an için sırf makul uzmanlığa sahip laboratuvarlarda kullanılabildiğini belirtmek gerekiyor.

Bu iki çalışmanın yan yana gelmesi, AI’nin gelecekte beşerler için tehlike yaratabilecek yeni ömür formları yahut biyolojik silahlar tasarlama kapasitesine ulaşma kaygısını artırıyor. Uzmanlar, bu tehlikenin şu an için teorik olsa da, “çok uzak bir mümkünlük olmadığını” vurguluyorlar.

Bu durum, AI dayanaklı biyoteknoloji çalışmalarının merkezinde yer alan “çift kullanımlı teknoloji sorunu”nu gündeme getiriyor. Yani bir buluşun hem insanlığa yarar sağlayabilecek (yeni ilaçlar gibi) hem de makus maksatlarla kullanılabilecek özellikler taşıması… Örneğin bir araştırmacı, bir patojenin yayılma formunu anlamak için genetik bir değişiklik yaparken, tıpkı bilgi, ölümcül bir biyolojik silah geliştirmek isteyen birinin eline geçebilir.

“Hükümetler ve kurumlar harekete geçmeli”

Şimdilik AI’nin tam manasıyla canlı ve insanlara ziyanlı olabilecek bir tipi laboratuvar ortamında tek başına tasarlayıp hayata geçirmesi mümkün değil. Fakat bu mümkünlük giderek yaklaşıyor. Bu nedenle bilim insanları, çok katmanlı güvenlik sistemleri, gelişmiş tarama yazılımları ve AI ile biyolojik sentez süreçlerini düzenleyen yeni kanunların süratle oluşturulması gerektiğini belirtiyor.

ABD’de 2023 tarihli bir başkanlık kararnamesi, AI sistemlerinin “güvenli, tekrarlanabilir ve denetlenebilir” olması gerektiğini vurgularken, İngiltere’de de AI kaynaklı riskleri azaltmak için siyasetler geliştiren devlet dayanaklı kurumlar kuruluyor.

Chip Alıntıdır…