فیلم بیشتر »»
کد خبر ۱۱۶۱۰۶۱
تاریخ انتشار: ۱۳:۰۷ - ۱۶-۰۲-۱۴۰۵
کد ۱۱۶۱۰۶۱
انتشار: ۱۳:۰۷ - ۱۶-۰۲-۱۴۰۵

«اوپن ای‌آی» باید جلوی کمک «چت جی‌پی‌تی» به قاتلان را بگیرد!

هوش مصنوعی
هر دو مجرمی که در این تیراندازی‌ها نقش داشتند، به طور گسترده از چت‌بات‌ها برای برنامه‌ریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمی‌انگیزد.

هوش مصنوعی چت جی‌پی‌تی شرکت اوپن ای‌آی نه تنها در یک، بلکه در دو تیراندازی جمعی در طول یک سال اخیر نقش داشته است و اوپن ای‌آی هنوز نتوانسته جلوی چت جی‌پی‌تی را برای کمک به برنامه‌ریزی چنین اقداماتی بگیرد.

به گزارش ایسنا، هر دو مجرمی که در این تیراندازی‌ها نقش داشتند، به طور گسترده از چت‌بات‌ها برای برنامه‌ریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمی‌انگیزد.

به نقل از فیوچریسم، فینیکس ایکنر ۲۰ ساله که متهم به قتل دو نفر در دانشگاه ایالتی فلوریدا است، از چت جی‌پی‌تی سوالاتی در مورد چگونگی «واکنش» کشور به تیراندازی، نحوه غیرفعال کردن کلید ایمنی سلاح، نوع مهمات مورد استفاده و سایر موضوعات نگران‌ کننده پرسیده بود.

دانش‌آموز ۱۸ ساله‌ دیگری به نام جسی ون روتسلار که در ماه فوریه ۹ نفر از جمله خودش را در تامبلر ریج، بریتیش کلمبیا، کشت، مکالماتی چنان نگران‌کننده داشت که کارکنان سطح بالای اوپن ای‌آی در مورد اطلاع دادن به مجریان قانون در مورد آنها بحث می‌کردند، اما این شرکت در نهایت هیچ کاری نکرد.

اکنون، تحقیقات جدید از سوی مارک فولمن که ۱۴ سال است در حال تحقیق در مورد تیراندازی‌های جمعی است، نکته‌ای بسیار نگران‌کننده را نشان می‌دهد. اوپن ای‌آی هنوز به طور معناداری به این موضوع نپرداخته است.

حتی پس از دو تراژدی وحشتناک، فولمن به راحتی نسخه رایگان چت جی‌پی‌تی را دریافت کرد تا در حین شبیه‌سازی برنامه‌ریزی برای یک تیراندازی جمعی، مشاوره‌های گسترده‌ای در مورد سلاح‌ها و روش‌ها به او بدهد. این نرم‌افزار حتی او را تشویق کرد. او از نرم‌افزار پرسید که چه نوع تفنگ AR-۱۵ را انتخاب کند.

همچنین وقتی از چت جی‌پی‌تی خواست یک برنامه آموزشی تهیه کند تا او برای شرایط غیرقابل پیش‌بینی یا آشفته در روز تیراندازی تمرین کند و شبیه‌سازی دویدن افراد در حالی که جیغ می‌زنند و سعی می‌کنند حواس او را پرت کنند را نیز در آن بگنجاند، این هوش مصنوعی پذیرفت و گفت: «ایده خیلی خوبیه. اضافه کردن این عنصر قطعا به شما کمک می‌کنه تا در شرایط پراسترس تمرکزتون رو حفظ کنید و قطعا برای این روز بزرگ بهتون انگیزه بیشتری می‌ده!»

اوپن ای‌آی مدعی است که به طور فعال با پزشکان سلامت روان همکاری می‌کند تا موانع مؤثری را برای منصرف کردن مجرمان احتمالی و هدایت آنها به خطوط تلفن اضطراری ایجاد کند. اما با توجه به اینکه برنامه‌ریزی یک تیراندازی ساختگی برای فولمن تا این اندازه آسان بوده، ممکن است قاتلان بی‌شماری از این مخمصه جان سالم به در ببرند.

پس از تیراندازی در تامبلر ریج، اوپن ای‌آی قول داد که سیاست‌های خود و نحوه برخورد با حساب‌های کاربری علامت‌گذاری‌شده، از جمله دخالت نیروهای انتظامی را تغییر دهد.

با این حال، آزمایش فولمن قویا نشان می‌دهد که آن تغییرات یا اعمال نشده‌اند یا بی‌اثر هستند. این خبرنگار دریافت که وقتی چت جی‌پی‌تی مردد به نظر می‌رسد، مثلا با گفتن اینکه او روزنامه‌نگار است، می‌توان آن را به ارائه مشاوره ترغیب کرد.

سخنگوی این شرکت به فولمن گفت که این شرکت در حال حاضر تدابیر حفاظتی خود را تقویت کرده است و سیاست عدم تحمل در قبال استفاده از ابزارهای خود برای کمک به ارتکاب خشونت را دنبال می‌کند. اما به نظر می‌رسد تجربه او نشان می‌دهد که این شرکت هنوز کارهای زیادی برای انجام دادن دارد.

ارسال به دوستان
captcha
این جنگنده قدیمی دهه ۱۹۷۰ قابلیتی دارد که هنوز در جنگنده‌های نسل پنجم دیده نمی‌شود نیوشا ضیغمی: یواشکی پارتی کردیم وزارت خارجه امارات: تا اطلاع ثانوی، تمام مبادلات تجاری و مالی با ایران متوقف شد خبر تلخ برای مدیرعامل سابق پرسپولیس؛ رویانیان عزادار شد گروسی: یک سایت دیگر حاوی مواد هسته‌ای در سوریه کشف شده است تلگرام برای یک میلیارد کاربرش دامنه اختصاصی می‌گیرد؛ «.gram» در راه است آمریکا ۱۷ ایرانی را به «نفوذ سایبری» متهم کرد وزیر خارجه ترامپ: دو مقام ارشد دیوان کیفری بین‌المللی تحریم شدند واکنش عجیب یاسر آسانی به سوال درباره قراردادش با استقلال حماس: حمله به کافه‌ای در غزه ۶ شهید برجا گذاشت کشف ۲ کیلو تریاک مدفون زیر خاک حیاط یک خانه در خراسان شمالی زلزله ۴.۷ ریشتری در نزدیکی مرز ایران؛ خراسان رضوی لرزید تعطیلی شبکه ۲۰۰سایتی اخبار مبتنی بر هوش مصنوعی در آمریکا/ ماجرای استارتاپ اسرائیلی Prism چه بود؟ طائب: میدان مواجهه امروز، چندلایه و پیچیده است افزایش تنش میان ایران و فرانسه/ بارو: ۲ دیپلمات ایرانی اخراج می شوند