۰۷ آبان ۱۴۰۴
به روز شده در: ۰۷ آبان ۱۴۰۴ - ۰۷:۳۷
فیلم بیشتر »»
کد خبر ۱۰۸۹۳۷۳
تاریخ انتشار: ۱۷:۳۹ - ۰۵-۰۶-۱۴۰۴
کد ۱۰۸۹۳۷۳
انتشار: ۱۷:۳۹ - ۰۵-۰۶-۱۴۰۴

شکایت خانواده آمریکایی از هوش مصنوعی/ جی پی تی خطاب به پسر 16 ساله: خودت را بکش!

شکایت خانواده آمریکایی از هوش مصنوعی/ جی پی تی خطاب به پسر 16 ساله: خودت را بکش!
یک زوج کالیفرنیایی از شرکت OpenAI به اتهام «مرگ غیرعمد» شکایت کردند و ادعا می‌کنند که چت‌بات هوش مصنوعی این شرکت، ChatGPT، پسر ۱۶ ساله آن‌ها را به خودکشی تشویق کرده است.

چت جی پی تی پسر 16 ساله را به خودکشی تشویق کرده است.
یک زوج کالیفرنیایی از شرکت OpenAI به اتهام «مرگ غیرعمد» شکایت کردند و ادعا می‌کنند که چت‌بات هوش مصنوعی این شرکت، ChatGPT، پسر ۱۶ ساله آن‌ها را به خودکشی تشویق کرده است. این پرونده بحث‌های گسترده‌ای درباره مسئولیت‌پذیری، ایمنی و تأثیرات روانی فناوری‌های هوش مصنوعی بر کاربران آسیب‌پذیر برانگیخته است.

به گزارش BBC، این شکایت توسط «مت» و «ماریا رین» والدین «آدام رین» ثبت شده و شرکت OpenAI و مدیرعامل آن، سم آلتمن، به سهل‌انگاری و عرضه محصول معیوب متهم شده‌اند. براساس دادخواست، آدام ابتدا از ChatGPT برای کمک به تکالیف مدرسه و کشف علایق خود استفاده می‌کرد، اما به مرور این هوش مصنوعی به نزدیک‌ترین همدم او تبدیل شد و نوجوان درباره اضطراب و مشکلات روانی خود با آن صحبت کرد.

خانواده رین مدعی‌اند که از ژانویه ۲۰۲۵، آدام با ChatGPT درباره روش‌های خودکشی صحبت کرده و این برنامه نه‌تنها مانع او نشده، بلکه اطلاعات بیشتری در این زمینه در اختیارش گذاشته است. حتی پس از ارسال عکس‌های خودآزاری توسط آدام، چت‌بات به جای قطع مکالمه، ادامه تعامل داده و کمک به نوشتن یادداشت خودکشی را پیشنهاد کرده است.

پدر آدام در این باره گفته است: «اگر ChatGPT نبود، او الان اینجا بود. من صددرصد به این موضوع باور دارم.»

در واکنش، OpenAI ضمن ابراز همدردی با خانواده رین، تأکید کرده است که در موقعیت‌های حساس، سیستم‌هایشان به درستی عمل نکرده‌اند و در حال بهبود تدابیر ایمنی، مسدودسازی محتوای مضر و دسترسی آسان‌تر به خدمات اورژانسی هستند.

ماریا رین نیز گفته است: «پسرم یک خوکچه آزمایشگاهی برای OpenAI بود. آن‌ها می‌خواستند محصول را سریع به بازار عرضه کنند، با وجود اینکه می‌دانستند ممکن است آسیب برساند.»

این دادخواست همچنین تصمیمات تجاری OpenAI را هدف قرار داده و ادعا می‌کند که انتشار ویژگی‌های حافظه و همدلی شبه‌انسانی در مدل GPT-4o بدون آزمایش‌های کافی ایمنی، کاربران آسیب‌پذیر را در معرض خطر قرار داده است.

این پرونده، بار دیگر پرسش‌های جدی درباره مسئولیت اخلاقی و قانونی توسعه‌دهندگان هوش مصنوعی را مطرح می‌کند

ارسال به دوستان
ورود کد امنیتی
captcha
ابررایانه مینیاتوری چین، مصرف برق را تا ۹۰ درصد کاهش می‌دهد کاهش 39 درصدی خطر ابتلا به زوال عقل در سالمندان با موسیقی ماشین شاسی‌بلند معروف چینی به قطب جنوب می‌رود اهرم کوچک در زیر آینه خودرو چیست و چه کاری انجام می‌دهد؟ همکاری پنهانی «گوگل» و «نیویورک تایمز»/ روزی که با مقوا و گوشی هوشمند، آینده رسانه پیش‌بینی شد این‌جا بهشت ناصرالدین‌شاه بود؛ کاخ شهرستانک در عکس تاریخی قجری این ابزار رایگان به شما می‌گوید چه چیزی سرعت کامپیوتر شما را کاهش می‌دهد مکملی که زنان بالای ۵۰ سال را در معرض خطر قرار دهد افزایش اعتماد به نفس کودکان در طبیعت نهفته است؟ ۴ کاربرد جالب حالت پرواز در گوشی‌های هوشمند که شاید ندانید پرواز نوستالژیک ایران‌ایر در دهه ۵۰؛ خاطره‌ای از سفر دانش آموزی به پاریس! (عکس) اظهارات جنجالی ترامپ در ژاپن:آمریکا الان با اختلاف زیاد جذاب‌ترین کشور دنیاست/ دولت قبلی اصلا بلد نبود کشور را مدیریت کند/ کار بزرگی کردیم و مرزها را بستیم(فیلم) شاخص جهانی صلح / کدام کشورها درگیر جنگ و ناامنی کمتری هستند؟ (+اینفوگرافی) استایل جهانی مردان در پاییز امسال چگونه است؛ ترند جدیدی که از روستا شروع شد/ دیوید بکهام رهبر این مد است!(+عکس لباس‌ها) کشورهای دارای بیشترین جایزه نوبل تا سال ۲۰۲۵