فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
حمله پهپادی به کشتی ترکیه‌ای در دریای سیاه خمسه: همه بازیگرها شیطنت هایی داشتند ولی اکبر عبدی، مرد خانواده بود قدردانی از خبرنگاران و عکاسان خبری/ پیام معاون وزیر فرهنگ به مناسبت روز خبرنگار منتشر شد تحلیلگر ژئوپلیتیک: ذخایر موشکی آمریکا کاهش یافت؛ تهران در جنگ اهرم فشار را در دست گرفت توقف پروژه ترامپ برای ساخت سالن رقص در کاخ سفید ابطحی: حرف های باقرخرازی، افتتاح شعبه رسمی حکومت اسلامی داعش است اردوغان: توافقنامه دفاعی مشترک امضا شده با عربستان و پاکستان علیه هیچ کشوری نیست ادعای وزیر خزانه‌داری آمریکا: به زودی شاهد توافق با ایران خواهیم بود بیفوما در پرسپولیس ماندنی شد صنعاء: نبرد ما علیه طرح سلطه‌جویی عربستان است، نه مردم جنوب یمن ادعای رئیس شاباک درباره هدف موافقت حماس با خلع سلاح دستگیری ۱۰۴ مظنون طی عملیات‌هایی علیه داعش در ترکیه رسانه اماراتی: دور هفتم مذاکرات لبنان و اسرائیل؛ بدون توافق، بدون عقب‌نشینی نوزادانی که از شیر مادر تغذیه می‌کنند، کمتر دچار این بیماری ها می‌شوند امام جمعه اردبیل: دروغ بستن به رهبری قطعاً جرم بسیار بزرگی است