۲۵ بهمن ۱۴۰۴
به روز شده در: ۲۵ بهمن ۱۴۰۴ - ۲۳:۴۷
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
 جمعیت و غذا؛ نظریۀ توماس مالتوس هنوز به کار می‌آید یا نه؟   رفع محدودیت ترافیکی در آزادراه تهران–شمال و محور چالوس افزایش ۳ میلیون تومانی حقوق معلمان تکذیب شد ۱۳ معدن ناایمن در مازندران تعطیل شد اولتیماتوم هیئت‌مدیره پرسپولیس: هدف فقط قهرمانی است درخشش فرزانه فصیحی در آلمان؛ ثبت بهترین رکورد سال آسیا در ماده ۶۰ متر ژن یا محیط، کدام یک مهم تر است؟/ آیا هوش انسان اکتسابی است؟ بقائی: اعمال فشار اقتصادی و تحمیل درد و رنج بر مردم ایران، جنایت علیه بشریت است رکورد جدید رونالدو در لیگ عربستان؛ ۳۸ گام تا ۱۰۰۰ گل وزیر خارجه نروژ: اگر نتانیاهو به کشور ما سفر کند، بازداشت می‌شود هم‌افزایی ارکان اقتصادی دولت و استانداری زنجان به منظور حمایت از تولید و تسهیل‌گری اقتصادی در بازدید از شعب و نشست با مدیران ارشد استان زنجان بیان شد: تاکید مدیرعامل بر لزوم مشتری مداری، انضباط مالی و تامین مالی تولید حضور مدیرعامل بانک ملی ایران در جلسه کارگروه اقتصادی، اشتغال و سرمایه‌گذاری استان زنجان/ شکل گیری سطح جدیدی از خدمات اعتباری و تفویض اختیار به استان ها تحلیل فنی حضور سروش رفیعی در ترکیب پرسپولیس شگفتی در هفته هفدهم لیگ برتر والیبال؛ شکست دسته‌جمعی مدعیان در تهران
نظرسنجی
پیش بینی شما از نتیجه مذاکرات ایران و آمریکا طی یک ماه آتی؟