Anthropic'in kurucusu: 'Yapay zekanın insan müdahalesi olmadan gelişmesini durdurmalıyız'

Anthropic'in kurucu ortaklarından Jack Clark, yapay zekanın (AI) artık insan katkısı olmadan gelişebilecek bir noktaya yaklaştığı konusunda uyardı ve bunu yavaşlatma çağrısında bulundu.

Clark, BBC Newsnight programına yaptığı açıklamada "Ayağınızı gazdan çekip frene basabilme seçeneğiniz olmasını istersiniz" dedi ve ekledi:

"Şu anda yapay zeka sektörünün bir gaz pedalı var, ancak fren pedalı yok."

Clark, insanların hükümet politikaları aracılığıyla, giderek daha güçlü hale gelecek ve toplum üzerinde daha geniş etkiler yaratacak yapay zeka sistemleri üzerinde kontrolü koruması gerektiğini vurguladı:

"Dünya olarak biraz düşünmemiz ve bu sistemlere güvenmemizi sağlayacak yeni düzenlemeler geliştirmemiz gerekiyor."

Gündemi BBC Türkçe'den takip etmek artık WhatsApp'ta da mümkün. Haberlerimizin doğrudan telefonunuza gelmesi için tıklayın.

Anthropic'in popüler sohbet robotu Claude, kodunun %80'ini sistemin kendi yazdığı bir yapı üzerinde çalışıyor.

Clark, iki yıl içinde bunun %100'e ulaşmasının mümkün olduğunu ve bunun "çok büyük sonuçlar doğuracağını" söyledi.

Clark, yapay zeka araştırma ve geliştirme için bir "fren pedalı"nın nasıl oluşturulabileceğini detaylı olarak açıklamadı ancak geçen yüzyıldaki petrol patlamasıyla bağlantı kurarak şunları belirtti:

"Toplumun tepkisi, petrolün dünyaya sağlayabileceği faydalar konusunda insanlara güven verecek makul politika ve düzenleyici bir çerçeve oluşturmak oldu.

"Böylece şirketleri yöneten kişilerin karakteri konusunda endişelenmek zorunda kalınmadı. Varacağımız yer açıkça burası."

Buna karşın Anthropic, bu hafta ABD Başkanı Donald Trump'ın çıkardığı ve yapay zeka şirketlerine müdahaleleri nispeten kısıtlı tutan başkanlık kararnamesini memnuniyetle karşıladı.

Söz konusu kararnamede, yapay zeka şirketlerinin hükümet tarafından güvenlik testlerine tabi tutulması zorunlu kılınmadı. Bu halen gönüllü bir uygulama.

Anthropic, OpenAI ve Google dahil olmak üzere teknolojide ilerleme peşinde olan büyük yapay zeka şirketleri de kendi araştırmalarını durduracaklarını açıklamadı.

Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki halka arz için hazırlık yapıyor.

Şirketin, yeni yapay zeka firmaları arasında halka açılan ilk şirketlerden biri olması bekleniyor.

Bu gerçekleşirse tarihin en değerli halka arzlarından biri olacak.

Özel yatırımcılar Anthropic'in değerini yaklaşık 1 trilyon dolar olarak tahmin ediyor.

Clark ayrıca, Anthropic'in yapay zeka teknolojisinin artan kapasitesi hakkında kamuoyuna açık şekilde konuşmasının amacının, ücretli müşteriler nezdinde itibarını artırmak olmadığını