BM Raporu: Yapay Zeka Büyük Potansiyel Faydalar ve Riskler Sunuyor

Birleşmiş Milletler'in bağımsız bilimsel panelinin ilk raporuna göre, yapay zekanın (YZ) hızlı gelişimi, dünya genelindeki ülkelere ve insanlara büyük potansiyel faydalar sunarken, aynı zamanda ciddi riskler de barındırıyor. Raporda, YZ'nin yönetişimi konusunda hükümetlere sunulacak olan ilk küresel, bağımsız bilimsel değerlendirme yer alıyor. Panel üyeleri, dünyanın her bölgesinden seçildi ve üç yıllık bir dönem için görev yapıyorlar. Rapora göre, politika yapıcıların YZ'yi yönetmek için bilimsel kanıtlara ihtiyacı var, ancak YZ'nin yetenekleri bilimsel anlayışın ve hükümetlerin uyum sağlama kabiliyetinin ilerisinde seyrediyor. Kontrol edilmesi zor olan otonom YZ sistemleri için çok az yöntem mevcut. Panel eş başkanı Yoshua Bengio, aldatıcı YZ davranışlarına dair artan kanıtlara dikkat çekti ve bilimin, YZ'nin 'kendi başına veya kötü niyetli kullanıcılar nedeniyle' felaket zararlara yol açmayacağını garanti edemeyeceğini söyledi. Raporda, 'YZ'nin potansiyel faydaları muazzamdır' denildi. 'Teknolojinin hızlı, kontrolsüz bir şekilde ölçekte konuşlandırılması, kullanıcılara ruh sağlığı zararları, yıkıcı bir araç olarak potansiyel kullanım, sosyal, ekonomik ve çevresel sistemler üzerindeki etkiler ve teknolojiyi kontrol etmeyle ilgili zorluklar dahil olmak üzere önemli riskler de sunuyor.' YZ'nin benimsenmesi ülkeler ve sektörler arasında hızla, ancak dengesiz bir şekilde arttı. Küresel olarak milyardan fazla insan haftalık olarak konuşkan YZ kullanıyor, ancak gelişmekte olan ülkelerdeki benimseme geride kalıyor. YZ geliştirmenin daha da yoğunlaştığı, ABD'nin dünyanın en iyi 500 YZ süper bilgisayarının %75'ini, Çin'in ise %15'ini oluşturduğu belirtildi. Dünya çapında 7.000'den fazla dil konuşulmasına rağmen, mevcut YZ modelleri yalnızca küçük bir kesim için eğitiliyor ve bazı dillerin makine çevirisi, sağlık teşhislerini ve tedavi kararlarını etkileyebilecek hatalarla dolu. Riskler arasında insan hakları, sosyal sistemler ve çevre üzerindeki potansiyel olumsuz etkiler yer alıyor; YZ tarafından üretilen çocuk cinsel istismarı materyalleri ve deepfake destekli cinsel şiddet daha sık dolaşıyor. YZ, ikna edici içeriği ölçekte üretmeyi ve hedeflemeyi de kolaylaştırıyor, bu da 'kamu güvenini, sosyal uyumu ve demokratik müzakereyi zayıflatabilecek bilgi bütünlüğünün kademeli olarak aşınmasına' katkıda bulunuyor. Gelişmiş ekonomiler dahil çoğu ülke, teknik uzmanlığa sahip değil.