فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
captcha
ثبت‌نام سفر عتبات عراق آغاز شد حمله خرس به یک چوپان در کهگیلویه و بویراحمد کمند امیر سلیمانی: کودک کار بودم  وزیر خارجه ترکیه: شرایط جدیدی برای مصالحه بین ایران و آمریکا پیشنهاد شده نقض پرواز ممنوع در محل اسکان ترامپ و اعزام اف-۱۶ به منطقه انصارالله: در کنار ایران ایستاده‌ایم/ جلوی پایگاه‌سازی امارات و صهیونیست‌ها را گرفتیم محسن رضایی: ۷ شرط ایران برای آغاز هر مذاکره‌ای به دولت آمریکا اعلام شده/ آمریکا راهی جز پذیرش شروط ایران ندارد چالش بینایی: اگر خوک پنهان شده در تصویر را ببینید، هوش تصویری فوق العاده ای دارید! کشتی نوح و 3 کشته؛ فاجعه ای در هالیوود که قوانین سینما را تغییر داد سخنگوی سازمان غذا و دارو: واکسن اروپایی آنفلوآنزا امسال به ایران نمی‌رسد کشف تازه در مقبره فرعون ترامپ از تشکیل نیروی هوش مصنوعی خبر داد ادعای رئیس مجلس نمایندگان آمریکا: جنگ با ایران در مرحله پایانی قرار دارد استانداری سمنان: تعطیلی پنجشنبه‌ها در استان تا پایان سال جاری تمدید شد پیروزی الوصل برابر العین در لیگ کاپ امارات با گل طارمی