بنیانگذار آنتروپیک: توسعه هوش مصنوعی بدون نظارت انسان را باید متوقف کنیم
جک کلارک، از بنیانگذاران شرکت «آنتروپیک»، که در حوزه هوش مصنوعی (ای آی) فعالیت میکند، هشدار داده است که هوش مصنوعی به نقطهای نزدیک میشود که ممکن است بتواند بدون دخالت مستقیم انسان به توسعه خود ادامه دهد. او خواستار آن شده که امکان کند کردن روند پیشرفت هوش مصنوعی وجود داشته باشد.
جک کلارک، از بنیانگذاران شرکت «آنتروپیک»، که در حوزه هوش مصنوعی (ایآی) فعالیت میکند، هشدار داده است که هوش مصنوعی به نقطهای نزدیک میشود که ممکن است بتواند بدون دخالت مستقیم انسان به توسعه خود ادامه دهد. او خواستار آن شده که امکان کند کردن روند پیشرفت هوش مصنوعی وجود داشته باشد.
آقای کلارک در گفتوگو با برنامه «نیوزنایت» بیبیسی گفت: «شما باید این امکان را داشته باشید که پا را از روی پدال گاز بردارید و روی ترمز بگذارید. در حال حاضر صنعت هوش مصنوعی مثل ماشینی است که فقط پدال گاز دارد، اما ترمز ندارد.»
او تأکید کرد که مردم باید از طریق سیاستهای دولتی، کنترل سیستمهای هوش مصنوعی را در دست داشته باشند، زیرا این فناوری روزبهروز قدرتمندتر میشود و تأثیرات گستردهتری بر جامعه خواهد گذاشت.
«جهان باید درباره این موضوع، جدی فکر کند و در نهایت باید مقررات جدیدی تدوین شود که به ما اطمینان بدهد این سیستمها قابل اعتماد و ایمن هستند.»
به گفته او در حال حاضر چتبات معروف آنتروپیک به نام 'کلود' طوری کار میکند که حدود ۸۰ درصد از کدی که اجرا میکند را خود سیستم هوش مصنوعی نوشته است نه انسان و رسیدن این عدد به ۱۰۰ درصد در دو سال آینده امکانپذیر است و این موضوع «پیامدهای بسیار بزرگی خواهد داشت.»
آقای کلارک نگفت که دقیقاً چگونه میتوان برای پژوهش و توسعه هوش مصنوعی «ترمز» ایجاد کرد، اما هوش مصنوعی را با دوران رونق نفت و سرمایهداران بزرگ اوایل قرن گذشته مقایسه کرد.
او گفت: «واکنش جامعه در آن زمان (دوران رونق نفت) این بود که یک چارچوب منطقی از قوانین و مقررات ایجاد کند؛ چارچوبی که باعث شد مردم به نفت و مزایای آن اعتماد کنند و در عین حال لازم نباشد نگران شخصیت یا رفتار مدیران شرکتهای نفتی باشند.»
با این حال، شرکت آنتروپیک این هفته از یک فرمان اجرایی درباره هوش مصنوعی که از سوی دونالد ترامپ، رئیسجمهور آمریکا صادر شد، استقبال کرد؛ فرمانی که در آن دولت نقش نسبتاً محدودی در تعیین دستورالعملها برای شرکتها دارد.
گزیدهای از مهمترین خبرها، گزارشهای میدانی و گفتوگوهای اختصاصی را هر هفته در ایمیل خود دریافت کنید.
این فرمان شرکتهای هوش مصنوعی را مجبور به انجام آزمایش ایمنی توسط دولت نمیکند و چنین کاری همچنان اختیاری است.
شرکتهای بزرگ فعال در حوزه هوش مصنوعی از جمله آنتروپیک، اوپنایآی و گوگل تاکنون اعلام نکردهاند که قصد توقف تحقیقات خود را دارند.
آنتروپیک که طی پنج سال گذشته رشد بسیار سریعی داشته، در حال آماده شدن برای ورود به بازار بورس است.
سرمایهگذاران خصوصی ارزش آن را حدود یک تریلیون دلار برآورد کردهاند.
آقای کلارک گفت که هدف آنتروپیک از مطرح کردن علنی تواناییهای روبهافزایش هوش مصنوعی این نیست که بخواهد خودش را بهتر نشان بدهد یا مشتری جذب کند.
او فقط میخواهد «به دنیا بگوید در داخل این شرکتها با این فناوری غیرعادی چه چیزهایی میبینیم.»
از زمان تأسیس شرکت آنتروپیک توسط داریو آمودی، جک کلارک و تعدادی انگشت شمار از مدیران، این شرکت را بهعنوان
📌 Kaynak
Bu özet BBC Persian kaynağından otomatik derlenmiştir. Tamamı için orijinal habere gidin.
Orijinal haberi oku →