Anthropic, kendi kendini geliştirecek yapay zeka sistemleri için uyarıda bulundu

Yapay zekanın çok hızlı geliştiğini söyleyen Anthropic, sistemlerin kendi haleflerini geliştirebilecek kapasiteye ulaşacağı bir geleceğin önümüzde olduğuna değindiği uzun bir blog yazısı paylaştı. Sistemlerin henüz o aşamada olmadığını ancak bunun çoğu kurumun hazır olduğundan çok daha erken gerçekleşebileceğine inanan şirket, kendi kendini inşa edebilen yapay zeka sistemlerinin insanoğluna bilim ve sağlık başta olmak üzere birçok alanda muazzam faydalar sağlayabileceğini, ancak bu durumun insanların yapay zeka sistemleri üzerindeki kontrolü kaybetme riskini doğurabileceğini belirtiyor. Şirket bu riske karşı çözümün ise yapay zeka odaklı geliştirme çalışmalarının küresel olarak yavaşlatılması ya da belirli durumlarda geçici olarak durdurulması olduğunu düşünüyor. Toplumsal yapıların ve yeni döneme uyum sağlamaya yönelik araştırmaların yapay zeka alanındaki ilerlemelere ayak uydurabilmesi için geliştirme çalışmalarının yavaşlatılması ya da gerekirse durdurulması gerektiğini aktaran, ancak açıkça söylemese de bunun gerçekçi olmayan bir istek olduğunu bilen şirket, bütün büyük yapay zeka şirketlerinin belirli konularda ortak bir etik görüşte birleşmesi gerektiğini söylüyor. Trilyon dolarlık yapay zeka […] Anthropic, kendi kendini geliştirecek yapay zeka sistemleri için uyarıda bulundu yazısı ilk olarak Teknoloji haberleri - LOG üzerinde yayınlandı.