Anthropic uyardı: Yapay zeka kendi kendini geliştirebilir

Şirket, kurucu ortak Jack Clark ile Anthropic Enstitüsü Başkanı Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı blog yazısını yayımladı.

Bu eğilimin devam etmesi halinde yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği ifade edilen yazıda, bu durumun "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlandığı aktarıldı.

Yazıda, "Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir" ifadelerine yer verildi.

Teknolojik eğilimlerin yapay zeka sistemlerinin önümüzdeki yıllarda çok daha gelişmiş yeteneklere sahip olacağına işaret ettiği belirtilen yazıda, kendi kendini geliştirebilen yapay zekanın bilim, sağlık ve birçok alanda önemli faydalar sağlayabileceği kaydedildi.

Bununla birlikte, "özyinelemeli kendini geliştirmenin" insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğine dikkat çekildi.

Yazıda, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir" değerlendirmesinde bulunuldu.

Toplumsal kurumların teknolojik ilerlemelere uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme çalışmalarının yavaşlatılması veya geçici olarak durdurulmasının değerlendirilmesinin faydalı olabileceği belirtilen yazıda, bunun birden fazla güçlü laboratuvar tarafından ve farklı ülkelerde eş zamanlı olarak uygulanmasının anlamlı olacağı ifade edildi.