مدیرعامل آنتروپیک از فعالان صنعت هوش مصنوعی خواست سرعت توسعه مدلهای پیشرفته را کاهش دهند تا فرصت بیشتری برای شناسایی و کنترل خطرات احتمالی این فناوری فراهم شود.
همشهری آنلاین، فرخنده رفائی: رقابت شرکتهای بزرگ برای ساخت مدلهای قدرتمندتر هوش مصنوعی، با هشدار یکی از مدیران سرشناس این صنعت درباره پیامدهای سرعت بالای این رقابت روبهرو شده است. داریو آمودی، مدیرعامل Anthropic، معتقد است شرکتهای فعال در حوزه هوش مصنوعی باید عمدا از سرعت پیشرفت خود بکاهند تا فرصت بیشتری برای مقابله با خطرات احتمالی این فناوری ایجاد شود.
به گزارش رویترز، آمودی در یادداشتی تازه اعلام کرده است که شرکتهای هوش مصنوعی باید سرعت افزایش توانایی مدلهای خود را کاهش دهند. او تأکید کرده که حتی با کاهش سرعت توسعه، پیشرفت این فناوری همچنان بسیار سریع به نظر خواهد رسید و زمان بهدستآمده باید برای آماده شدن در برابر خطرات احتمالی مورد استفاده قرار گیرد.
این اظهارات در شرایطی مطرح شده که توانایی مدلهای هوش مصنوعی در انجام وظایف پیچیده، از برنامهنویسی و پژوهش علمی گرفته تا حل مسائل ریاضی، با سرعت زیادی در حال افزایش است. آمودی و دیگر منتقدان روند فعلی نگرانند که قابلیتهای مدلها سریعتر از سازوکارهای نظارتی و ایمنی پیشرفت کند.
مدیرعامل Anthropic برای مدیریت این وضعیت یک چارچوب سهمرحلهای پیشنهاد کرده که هدف آن ایجاد هماهنگی بیشتر میان شرکتهای پیشرو و اختصاص زمان کافی برای ارزیابی خطرات مدلهای جدید است. به گفته او، مسئله فقط سرعت پیشرفت فناوری نیست، بلکه فاصلهای است که ممکن است میان رشد تواناییهای هوش مصنوعی و آمادگی انسان برای کنترل پیامدهای آن ایجاد شود.
بیشتر بخوانید:
- عضو هیئتمدیره «اوپنای آی» : برای کنترل هوش مصنوعی آماده نیستیم
- وقتی سازندگان از محصول خود میترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی
- کشف نگرانکننده محققان | مدلهای هوش مصنوعی رفتارهای خطرناک را از هم یاد میگیرند
- جنگ OpenAI با ریاضیدانان بالا گرفت | اعتراض بر سر مالکیت ایدههای ریاضی
آمودی پیشتر نیز درباره خطرات هوش مصنوعی پیشرفته هشدار داده بود و Anthropic از شرکتهایی است که بر ارزیابی ایمنی مدلها تأکید بیشتری داشتهاند. در روزهای اخیر، بحث درباره احتمال رفتارهای خودمختار و پیشبینینشده عاملهای هوش مصنوعی نیز شدت گرفته است.
با این حال، کاهش سرعت توسعه برای شرکتهایی که در رقابتی میلیارددلاری برای ساخت قدرتمندترین مدلهای جهان حضور دارند، تصمیم سادهای نیست. رویترز گزارش داده است که میان مدیران شرکتهای بزرگ هوش مصنوعی درباره زمان و شیوه کاهش سرعت توسعه، اختلاف وجود دارد و رقابت شدید میان Anthropic و OpenAI نیز یکی از موانع اصلی هماهنگی در این زمینه محسوب میشود.
درخواست آمودی در نهایت یک پرسش اساسی را پررنگتر کرده است: آیا صنعت هوش مصنوعی میتواند پیش از رسیدن مدلها به قابلیتهای بسیار پیشرفته، سازوکارهای لازم برای کنترل آنها را نیز ایجاد کند؟
کد خبر 1068081 منبع: همشهری آنلاین
-
چین ضعفهای بمبافکن راهبردی بی-۲۱ آمریکا را آشکار کرد
-
وقتی یمنیها فناوری آمریکا را علیه خود آنها به کار میگیرند
-
جنگ OpenAI با ریاضیدانان بالا گرفت | اعتراض بر سر مالکیت ایدههای ریاضی
-
از ChatGPT تا کیف پول شما | هوش مصنوعی چگونه اقتصاد را زیرورو میکند؟
-
پیامدهای اختلال موقعیتیابها
-
اولین گجت پوشیدنی مغز برای ثبت داده ها
-
هدفگذاری برای ثبت ۲ هزار رکورد غربالگری در مناطق محروم با کیف نبض هوشمند
-
افرادی شاهد حضور آیت الله سید مجتبی خامنه ای در مراسم تشییع پیکر رهبر شهید بودند | ایشان روزانه بیش از ۱۰ساعت فعالیت مستمر دارند و در سلامت کامل هستند
-
۱۵/۰۰۰/۰۰۰/۰۰۰ تومان در ماه ؛ قرارداد امیر قلعهنویی با تیم ملی لو رفت؟
-
پیشنهاد به قالیباف و عراقچی برای توقف هرگونه مذاکره با آمریکا و میانجیها | ترامپ فقط ۵۳ روز فرصت دارد
-
افزایش تعداد تروریستهای بههلاکترسیده در عملیات امروز | اسامی شهدای عملیات اعلام شد
-
حیرت اینترنشنال از غلبه انصارالله یمن بر تجهیزات نظامی پیشرفته سعودیها!
-
رتبه تیم ملی والیبال ایران پس از کسب سهمیه جهانی
-
ترامپ: حوثیها تماس گرفتند و درخواست کردند … | انصارالله: ترامپ یاوه میگوید …
-
فوری؛ طارق صالح فرار کرد+ عکس | او اکنون کجاست؟
-
فوری | حمله موشکی و پهپادی به عربستان | شلیک حجم گسترده موشکهای بالستیک
-
اگر به دستور آمریکا عمل کنیم، ایران ما را عبرت جهان می کند
-
حرکت جالب حردانی روی صورت سهراب در عراق + عکس
-
امروز؛ مذاکرات ایران و ۶ کشور عربی| شانس موفقیت هست | چرا این ۲ کشور دعوت نشدند؟
-
فرمانده عالیرتبه سپاه خبر داد؛ اقدام بزرگ ۲۷ شهریور رقم می خورد | ملت ایران تا انتقام نگیرد دست از سر دشمن بر نمیدارد
-
عروس کِشونی که به مرگ نوعروس ختم شد!
-
ساعاتی پیش ترامپ باز هم تکرار کرد؛ تنها مشتری امروز تنگه هرمز مشخص شد
-
تصاویر تازه منتشر شده از لحظه حمله ۱۱ سپتامبر | ببینید
-
درخواست پرسپولیسی ها به زبان عربی علیه استقلال؛ پیام ویژه به السد + عکس