کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
هشدار قوه قضاییه درباره صفحات جعلی با نام «عدل ایران» عادل بزدوده نویسنده و کارگردان نمایش عروسکی: ما فقط جشنواره راه‌اندازی می‌کنیم فروشگاه‌های طرف قرارداد کالابرگ چه زمانی مطالبات خود را دریافت می‌کنند؟ علی عالی‌پور در مسابقات جهانی وزنه‌برداری ۲۰۲۶ برنز گرفت کشف ۵۰ دستگاه استارلینک در لواسانات و رودبارقصران بقائی خطاب به آمریکا: حمله به ایران پیروزی به ارمغان نمی‌آورد شکست متحد ترامپ در تگزاس؛ نخستین زن لاتین‌تبار فرماندار شد مجید مجیدی رئیس هیات داوران جشنواره فیلم بوسفور استانبول شد هرتزوگ نتایج انتخابات را رسماً دریافت کرد حزب‌الله اتهام حضور نظامی در یمن و آموزش نیروهای انصارالله را رد کرد زن روسی در حال اجرای نمایش عروسکی زنان قاجاری؛ 140 سال قبل (عکس) ژیان با رنگ خاص؛ خودروی خاطره‌انگیز فرانسوی در خیابان‌ها (+عکس) واکنش نخست‌وزیر اسپانیا به پیروزی دموکرات‌ها در انتخابات آمریکا فیات بارکتا 1998؛ رودستر 4 سیلندر کوچولو! (+عکس) حسین وفایی با شکست برابر حریف چینی از اسنوکر بین‌المللی حذف شد