Yapay zeka devlerinden endişelendiren biyolojik silah uyarısı

Mektupta yapay zeka teknolojilerindeki hızlı ilerlemenin biyolojik silahların geliştirilmesini geçmişe kıyasla daha erişilebilir hale getirebileceği belirtiliyor. Ayrıca genetik materyal siparişlerinin ve müşterilerin zorunlu taramadan geçirilmesini öngören yeni yasal düzenlemeler talep edildi.

Google DeepMind CEO’su Demis Hassabis, OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Microsoft AI CEO’su Mustafa Suleyman mektubun imzacıları arasında yer aldı.

Mektupta, yapay zeka sistemlerinin gelişim hızı göz önüne alındığında geçmişte kötü niyetli kişilerin biyolojik silahlara erişimini zorlaştıran bilgi engellerinin ortadan kalkabileceği ifade edildi.

BM: 2030'da yapay zeka 1.3 milyar insan kadar su tüketecek 21 sa. önce eklendi

Birçok sağlayıcı yalnızca doğrulanmış araştırmacılara, biyoteknoloji şirketlerine ve eğitim kurumlarına hizmet verse de tüm firmaların müşteri doğrulaması veya sipariş edilen genetik dizilerin risk analizini gerçekleştirmediği belirtiliyor.

Bu durumun yaratabileceği tehlikeye ilişkin dikkat çekici örneklerden biri 2017 yılında yaşandı. Kanadalı araştırmacılar, posta yoluyla sipariş edilen yaklaşık 100 bin dolar değerindeki DNA parçalarını kullanarak nesli tükenmiş at çiçeği (horsepox) virüsünü yeniden oluşturmayı başardı.

Üstelik gen sentezleme maliyetleri o tarihten bu yana önemli ölçüde düştü.

Uzmanlara göre büyük dil modelleri ve biyoloji odaklı yapay zeka sistemleri, tehlikeli toksinlerin veya yeni patojenlerin tasarlanmasını teorik olarak mümkün hale getiriyor. Tam işlevsel bir virüs oluşturmak için halen ileri düzeyde biyoloji bilgisi ve laboratuvar uzmanlığı gerekse de yapay zekanın bu süreçteki engelleri azaltabileceği değerlendiriliyor.

Biyoterör saldırıları tarihte nadir görülse de, böyle bir olayın kitlesel can kayıplarına, toplumda paniğe ve ciddi ekonomik zararlara yol açabileceği belirtiliyor. Uzmanların en büyük endişelerinden biri ise yapay zeka yardımıyla geliştirilen bir patojenin kasıtlı ya da istemeden küresel ölçekte bir salgını tetikleyebilmesi.

Mektubu imzalayanlar arasında bilim insanları, güvenlik uzmanları ve gen sentezi şirketlerinin yöneticileri de yer alıyor. Halihazırda birçok şirket, tehlikeli olabilecek genetik dizileri tespit etmek için tarama yazılımları kullansa da bu uygulamalar sektör genelinde zorunlu değil. Bu nedenle ABD Senatosu’nda tüm gen sentezi sağlayıcılarının müşteri ve sipariş kontrolleri yapmasını zorunlu kılacak bir yasa tasarısı gündemde bulunuyor.

Avrupa'da ise Avrupa Komisyonu'nun 2025 yılında yayımladığı AB Biyotek Yasası (EU Biotech Act) teklifi, sentetik D