فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
دانشمندان بقایای ابرقاره باستانی زمین را زیر یخ‌های جنوبگان پیدا کردند کمبود این ویتامین شانس موفقیت IVF را کم می‌کند؟ شوک جدید هوش مصنوعی: آینده در دستان لوله کش هاست آکسیوس: نا امیدی دو طرف از مذاکرات/ تلاش های قطر ادامه دارد حقوق بازنشستگان در این کشور همه دغدغه بزرگی شده! دختر ایرانی با لباس‌های خانگی در آتلیه عکاس روس؛ دوران قاجار خورشید و ماه می‌توانند باعث وقوع زلزله شوند ترمزهای سرامیکی چه معایبی دارند و چرا برای همه خودروها مناسب نیستند؟ بزرگ‌ترین سرمایه‌گذاران خارجی جهان در سال ۲۰۲۵ کدامند؟ (+اینفوگرافیک) سرعت شارژ گوشی پس از ۸۰ درصد کند می‌شود؛ چرا؟ معاون نخست‌وزیر جمهوری آذربایجان استفاده از خاک کشورش علیه ایران را تکذیب کرد جلوگیری از ۱۱۹۰ مورد سقط جنین در کرمان پلیس تهران بزرگ: دستگیری یک نفر به اتهام بازنشر محتوای یک کانال معاند رئیس دفتر رئیس‌جمهور: آمریکا نمی‌خواست پزشکیان در سازمان ملل حاضر شود نماینده مجلس: ملت کوبا باید از ملت ایران الگو بگیرد