۲۸ آذر ۱۴۰۴
به روز شده در: ۲۸ آذر ۱۴۰۴ - ۱۱:۳۴
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
لغو نامحدود قرعه‌کشی گرین کارت آمریکا به دستور ترامپ بازگشت آلودگی به تهران، از تردد غیرضرور خودداری کنید ارزیابی جدید آمریکا درباره حمله به ایران : احتمالا بخشی از اورانیوم غنی‌شده در نطنز است حضور «آرزو احمدوند» همسر عراقچی در آیین پایانی جایزه جهانی امام خمینی (عکس) حراج جواهر کمیاب تاریخ خودرو؛ تنها «سیسیتالیا ۸۰۸XF» (+عکس) تیونینگ آیفون ایر (فیلم) از مهار تورم ۲۵۰ درصدی آرژانتین تا تورم مهارنشدنی ایران!/ خطر اَبَرتورم بیخ گوش ما مسکو: هرگز بشار اسد را تحویل نخواهیم داد زلزله ۵.۷ ریشتری «کابل» را لرزاند قائم‌پناه: کاری به سبک زندگی مردم نداریم/ حامی اصلی دولت مقام معظم رهبری است شکاف عمیمق بین آموزش و پرورش و دانش آموزان/ بچه‌ها از مدرسه بریده‌اند؛ میانگین معدل در کل کشور زیر ۹ است​! میراث فراموش‌شده مدرنیسم در بالکان؛ نگاهی به ویرانه‌های متل «میلیه‌وینا» در بوسنی (+عکس) وقتی طراحی قطعات خودروهای ارزان‌قیمت در دل لوکس‌ترین‌ها می‌تپد / چراغ‌ عقب تراکتور برای پاگانی! (+تصاویر) افشاگری جدید اپستین؛ موج جدید اتهامات علیه چامسکی و بیل گیتس تورم آمریکا : 2.7 درصد