Üst Düzey Yapay Zeka Araştırmacıları: 'Çernobil Anı'ndan Korkuyorlar – Kitlesel Kayıp veya Daha Kötüsü Dünyayı Yapay Zekaya Karşı Çevirebilir
ABD ve Çin'deki önde gelen yapay zeka (AI) araştırmacıları, teknolojinin kontrolsüz gelişiminin hayal edilemez bir felakete yol açabileceğinden endişe duyarak küresel işbirliği çağrısında bulundu. MIT'den bilgisayar bilimcisi Stephen Casper, 'Yapay zeka küresel faydalar, küresel zararlar ve yeni yeteneklerin nihayetinde yayılma eğilimi gösteren küresel bir teknolojidir' dedi. Casper, 'Yapay zekanın bir Çernobil anına ihtiyacı olmadığı konusunda neredeyse herkes hemfikir' ifadesini kullandı.
Araştırmacılar, yapay zekanın siber güvenlik alanındaki potansiyelini kötüye kullanarak yıkıcı siber saldırılar düzenlenebileceği uyarısında bulunuyor. Anthropic'in 'Claude Mythos' modeli gibi güçlü yapay zeka modellerinin, büyük işletim sistemlerini ve web tarayıcılarını kolayca kırabileceği belirtiliyor. Açık kaynaklı modellerin denetimsizliği de riski artırıyor.
Çinli bir yapay zeka şirketinden bir kaynak, gelişmiş modellerin artık açık kaynak olarak yayınlanmamasının nedenlerinden birinin güvenlik endişeleri olduğunu söyledi. Shanghai Jiao Tong Üniversitesi'nden Profesör Lin Yun, kısa vadede hackerların yapay zekayı kullanarak avantaj elde edeceğini, ancak uzun vadede yapay zekanın siber güvenliği güçlendirmek için de kullanılabileceğini belirtti ve küresel işbirliğinin önemini vurguladı.
Bu endişeler, yapay zekanın sorumlu bir şekilde geliştirilmesi ve potansiyel risklere karşı küresel önlemler alınması gerektiğini ortaya koyuyor.
Yapay zeka (AI) teknolojilerinin hızla gelişimi, beraberinde hem büyük fırsatları hem de ciddi riskleri getirmektedir. Üst düzey AI araştırmacılarının, teknolojinin kontrolsüz gelişiminin 'Çernobil anı' gibi bir felakete yol açabileceği yönündeki endişeleri, bu teknolojinin etik ve güvenlik boyutlarının ne kadar önemli olduğunu vurgulamaktadır. Özellikle siber güvenlik alanındaki potansiyel kötüye kullanım ve açık kaynaklı modellerin denetimsizliği gibi konular, küresel düzeyde işbirliği ve standartların belirlenmesi gerekliliğini ortaya koymaktadır. Yapay zekanın insanlığın faydasına olacak şekilde yönlendirilmesi, teknolojik ilerlemenin yanı sıra, risk yönetimi ve uluslararası işbirliği stratejilerinin de eş zamanlı olarak geliştirilmesini zorunlu kılmaktadır.
📌 Kaynak
Bu haber XML kaynağından derlenmiştir. Tamamı için orijinal habere gidin.
Orijinal haberi oku →