کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
وال استریت ژورنال: آمریکا از ترس ایران سوخت رسان هایش را از انگلیس خارج کرد نحوه دریافت نوبت اینترنتی سازمان وظیفه عمومی؛ از کجا و چگونه؟ شرط داشتن موبایل در مدارس چیست؟ دارو گران، بیماران در بن‌بست «صرفه‌جویی دارویی» / موج بستری بیماران روانپزشکی در راه است پزشکیان: تحریم، تهدید و ترور دانشمندان از جلوه‌های آپارتاید علمی است سخنگوی دولت درباره گواهینامه موتور برای زنان : موانع قانونی برطرف شده ؛ دولت امیدوار به رفع مشکل همکاری «دستگاه‌های مربوطه» است نامه حقوقدان ایرانی به استیضاح کنندگان وزیر جنگ آمریکا جریمه پرمصرف‌ها با تعرفه پلکانی/ قبض آب چه کسانی گران‌تر می‌شود؟ مازاد تجاری چین از یک تریلیون دلار گذشت/ اروپا نگران شد رشد ۲۰۸ هزار واحدی شاخص کل بورس امروز ۱۹ آبان ۱۴۰۵ / شاخص به سطح ۸.۳ میلیون واحد بازگشت علت دود غلیظ در آسمان اصفهان نرخ تورم در مهرماه ۷۱.۴ درصد اعلام شد/ ۴.۶ درصد افزایش ماهانه قیمت نفت برنت ۹۲ دلار شد آغاز فرایند استیضاح هگست با محوریت جنگ علیه ایران چرا برادرم را ربودند؟ روایت خانواده‌ای در سرگردانی