آسیب‌پذیری امنیتی هوش مصنوعی | چت‌بات‌ها دستور ساخت «سلاح‌های بیولوژیک» می‌دهند!

پژوهشگران امنیتی نشان داده‌اند که برخلاف برآوردها، برخی چت‌بات‌های پیشرفته هوش مصنوعی با چند مرحله گفت‌وگو می‌توانند از محدودیت‌های ایمنی خود عبور کرده و پاسخ‌های حساس زیستی ارائه دهند.

همشهری آنلاین، فرخنده رفائی: شرکت‌های توسعه‌دهنده هوش مصنوعی سال‌هاست برای جلوگیری از سوءاستفاده از چت‌بات‌های خود، لایه‌های امنیتی مختلفی طراحی کرده‌اند تا این سامانه‌ها در مسیر تولید اطلاعات مربوط به ساخت سلاح‌های بیولوژیک قرار نگیرند، اما پژوهش‌های جدید نشان می‌دهد این موانع ممکن است آن‌قدرها هم نفوذناپذیر نباشند.

به گزارش دیجیتال ترندز و بر اساس تحقیقی که پژوهشگران بخش امنیت هوش مصنوعی شرکت سیسکو انجام داده‌اند، می‌توان برخی مدل‌های بزرگ هوش مصنوعی مانند ChatGPT، Claude و Gemini را در چند مرحله گفت‌وگو به ارائه پاسخ‌هایی درباره موضوعات زیستی حساس سوق داد.

این پژوهشگران با تغییر تدریجی مسیر مکالمه و دور زدن محدودیت‌های اولیه مدل‌ها توانستند در کمتر از پنج مرحله گفت‌وگو، واکنش‌هایی دریافت کنند که از نظر امنیت زیستی نگران‌کننده ارزیابی شده‌اند.

«ایمی چانگ»، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، در گفت‌وگو با وال‌استریت ژورنال تأکید کرده است که هیچ مدلی را نمی‌توان در برابر کاربری که به اندازه کافی پیگیر و مصمم باشد، کاملا محافظت کرد.

نگرانی‌ها فقط به آزمایش‌های امنیتی محدود نمی‌شود. گزارش‌ها نشان می‌دهد پس از افزایش توانایی‌های زیستی برخی مدل‌های هوش مصنوعی، صدها کاربر درباره موضوعاتی مانند سموم و سلاح‌های زیستی از چت‌بات‌ها پرس‌وجو کرده‌اند.

کارشناسان حوزه زیست‌شناسی و مقابله با تروریسم که برخی از این مکالمات را بررسی کرده‌اند، اعلام کرده‌اند بخشی از اطلاعات ارائه‌شده می‌تواند بیش از حد دقیق و خطرناک باشد. در واکنش به این موارد، شرکت‌هایی مانند OpenAI اقدام به مسدود کردن حساب‌های مرتبط با چنین درخواست‌هایی کرده‌اند.

بیشتر بخوانید:

• اوپن ای آی، دوباره در دادگاه | چت‌جی‌پی‌تی یک کشیش را تا پای مرگ برد
• باگ تازه در هوش مصنوعی | این عامل پنهان حافظه بلندمدت چت‌بات‌ها را آلوده می‌کند
• کشف نگران‌کننده محققان | مدل‌های هوش مصنوعی رفتارهای خطرناک را از هم یاد می‌گیرند

شرکت OpenAI پیش‌تر نیز این خطر را پیش‌بینی کرده بود. آزمایش‌های داخلی این شرکت در سال ۲۰۲۴ نشان داده بود که پرسش‌های طولانی و مرحله‌ای می‌تواند برخی مدل‌ها را به سمت ارائه راهنمایی‌های حساس‌تر در حوزه زیست‌شناسی سوق دهد. این شرکت هنگام معرفی GPT-۵ اعلام کرد که این مدل در حوزه‌های زیستی و شیمیایی در سطح «توانایی بالا» قرار دارد و برای آن تدابیر امنیتی بیشتری در نظر گرفته شده است.

با این حال، ایجاد محدودیت‌های شدید نیز چالش‌های خود را دارد. همان اطلاعات زیستی که ممکن است برای تولید سلاح مورد سوءاستفاده قرار گیرد، برای پژوهشگران حوزه پزشکی، تولید واکسن و کشف دارو ارزشمند است. به همین دلیل شرکت‌های هوش مصنوعی تلاش می‌کنند میان جلوگیری از سوءاستفاده و حفظ کاربردهای علمی این فناوری تعادل برقرار کنند.

کارشناسان معتقدند با افزایش توانایی مدل‌های هوش مصنوعی در علوم زیستی، اهمیت طراحی سیستم‌های ایمنی دقیق‌تر نیز بیشتر خواهد شد؛ زیرا حتی شکاف‌های کوچک در محدودیت‌های امنیتی می‌توانند در آینده پیامدهای بزرگ‌تری داشته باشند.

کد خبر 1056176 منبع: همشهری آنلاین

• شما چه شغلی دارید؟؛ لیست مشاغلی که هوش مصنوعی تهدیدشان می‌کند + جدول

• اشتباه عجیب سعودی‌ها | آکینجی در تور یمنی‌ها

• «نواتک» مسیر شکوفایی جوانان فناور و نوآور

• گوگل کروم امکان ترجمه همزمان در حالت مطالعه را فراهم می‌کند

• اگر آیفون دارید، این تغییرات می‌تواند نحوه استفاده شما از گوشی را عوض کند

• اسرار فناوری‌های عجیب ژاپن | از خانه های کوچک و دستشویی‌های هوشمند تا روبات‌های انسان‌نما

• کالری شمار ساعت هوشمند واقعی نیست

• پیش فروش نخستین کراس‌اوور سایپا؛ مبلغ پیش پرداخت و زمان تحویل

• تصاویر هوایی از شهری میان دوراهی

• راز موفقیت غول ژاپنی در عصر خودروهای برقی | از خودروهای هیبریدی تا آینده برقی

• ‌آتش‌سوزی هتل استقلال مهار شد | توضیحات سخنگوی آتش‌نشانی تهران

• هزار دینار امروز چند؟ | قیمت دینار در عراق ؛ دوشنبه ۵ مرداد ۱۴۰۵

• مزه دار کردن گوشت استیک اصلا کار سختی نیست، چند ترفند ساده دارد

• شیرآلات برنجی بهتر است یا استیل؟ تفاوتی که قبل از خرید باید بدانید

• اگر آمریکا به یمن حمله کند به ما فرصت خواهد داد که آن را هدف قرار دهیم | هشدار به عربستان

• زمان درحال اتمام است | ترامپ تصمیم به جنگ بزرگ می گیرد؟

• جایی را زدیم که آمریکایی‌ها تصور هم نمی کردند | پشت پرده نقشه ترامپ برای آتش بس با ایران

• سورپرایز قلعه‌نویی؛ اسطوره پرسپولیس روی نیمکت تیم ملی

• علائم ساس در منزل؛ راه‌های شناسایی و نابودی اصولی ساس

• بهترین نوشیدنی بعد از ناهار برای خداحافظی با نفخ و بی‌حالی

• پارسا پیروزفر و هدی زین‌العابدین در یک سریال جدید

• پرسپولیس و تراکتور برای من باید ۲۰۰-۳۰۰ میلیارد بدهند | پیشنهادات اروپایی‌ام را رد کردم

• چگونه یخ را بیشتر نگه داریم؟ ؛ دیرتر آب شدن یخ با ۷ روش ساده در خانه و سفر

• ادامه پخش سریال جدید سعید آقاخانی در تلویزیون ‌| ببینید