فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
captcha
بیشترین درآمد خالص کارکنان در میان کشورهای سازمان همکاری و توسعه اقتصادی چطور برای رقابت ۲ میلیاردی FC26 آماده شویم؟ منظره دیده نشده از داخل «سفارت آلمان» در قلهک تهران و در عصر قاجار آمریکا؛ بنزین 4.5 و گازوئیل 6.5 دلار شد از استیو جابز تا ساتیا نادلا؛ مدیران چگونه به سرمایه شرکت‌ها تبدیل می‌شوند؟ موارد ممنوعه داخل کابین هواپیما را بشناسید! آلو خشک را صبح بخوریم یا شب؟؛ بهترین زمان برای رفع یبوست و بهبود گوارش آخرین وضعیت بازار رمزارزها در جهان/سرمایه به صندوق‌های بیت‌کوین بازگشت چگونه مدیران ایرانی بدون گرفتاری در حاشیه، اعتبار حرفه‌ای بسازند؟ حکم قصاص نامادری حلما ۱۱ ساله تأیید شد؛ شمارش معکوس برای اجرای حکم در رویداد «متا کانکت ۲۰۲۶» منتظر چه فناوری‌هایی باشیم؟ وقتی قالیباف به زبان آمریکایی‌ها توییت می‌زند استقرار ۲۰۰ برج در پهنه گسل‌های فعال تهران هاکوپیان، سفیر عراق در آمریکا شد ریزش ۱۵۰ هزار واحدی بورس امروز ۲۹ شهریور / شاخص هم‌وزن سقوط کرد