فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
کشف هزاران عدد بوتاکس تقلبی در کارگاه غیرمجاز زعفرانیه تهران پزشکیان: مشروطه نماد بیداری، قانون‌گرایی و مردم‌سالاری ملت ایران است آواز عاشقانه قو؛ عباس مهرپویا (+صدا) ۱۰ اثر زیبا و ماندگار از «مهرپویا» (همین الان بشنوید) ابهام در آینده مهدی طارمی و خط خوردن ستاره ایرانی از لیست اروپایی المپیاکوس نگاهی به نقش‌های فرعی سریال «بدنام»/ حاشیه‌نشینانی که متن را روایت می‌کنند رویترز: یک توییت ترامپ می‌تواند همه‌چیز را به هم بزند پنتاگون گزارش‌های آزمایش تسلیحات آمریکا در ۲۵ سال گذشته را از دسترس خارج کرد ادعای رویترز : وزارت خزانه‌داری آمریکا برخی تحریم‌های مرتبط با ایران را لغو کرد جان باختن کارگر فضای سبز تبریز در سانحه رانندگی حین انجام وظیفه مجید واشقانی و بودجه 150 میلیاردی برای ساخت فیلم! خدا بده برکت ولی چرا؟ تعیین نرخ جدید هر لیتر بنزین سوپر وارداتی در بورس انرژی جعفر جکسون در دنیای سینما ماند؛ نقش‌آفرینی در کنار ویل اسمیت میراث زرین قرن نوزدهم؛ سفر به دنیای اشیای کلاسیک در سه گام کاهش دمای هوا و ورود سامانه رگباری به ارتفاعات مازندران از فردا