فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
باقر خرازی؛ چندان درشت گفت که تندروها را جا گذاشت! ادعای آمریکا: پوتین قصد دارد ناتو را با حمله به یک کشور عضو محک بزند آمریکا و اسرائیل سامانه «پیکان» را آزمایش کردند حداقل ۷ کشته و ۳۰ زخمی در تیراندازی مدرسه تایلندی بازی مرگبار مهاجرانِ مراکشی برای رسیدن به اروپا احتمال وجود حیات در اقیانوس مدفون «اروپا» معرفی شورولت بلو ایر با موتور قدرتمند LS3 (+عکس) ب ام و و مدلی که احتمالا ندیده اید؛ با رنگ خاص لاگونا گرین (+عکس) معماری بی‌نظیر مقر جدید کمیته بین‌المللی المپیک در لوزان (+عکس) حمله پهپادی گسترده صنعا به مواضع عربستان در حضرموت مرسدس بنز جی-کلاس نسخه سفارشی سامیت (+عکس) اگر به دنیای ماکت های خودرویی علاقه داری؛ مقیاس ۱:۸ مرسدس بنز ۳۰۰ اس‌ال‌آر شماره ۷۲۲ (+عکس) شاهکار معماری بنیاد ایبر کامارگو اثر آلوارو سیزا با طراحی نوآورانه (+عکس) برکناری ۲ مقام‌ ارشد موساد در پی شکست توطئه علیه ایران دیابلو SE30 ؛ لامبورگینی ببینیم و لذت ببریم