فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
آخرین خانه فرانک لوید رایت؛ شاهکاری دایره ای در دل صحرا / یکی از مشهورترین خانه های جهان از بزرگ ترین معمار تاریخ آمریکا (+عکس) وزیر اقتصاد: رقم نهایی افزایش اعتبار کالابرگ به زودی مشخص می‌شود فرمول اقتصادی قالیباف برای وزیر خزانه داری آمریکا ۱۰ اثر زیبا و ماندگار از «بابک جهانبخش» (همین الان بشنوید) به یاد تو زیر بارون؛ بابک جهانبخش(+صدا) طالبان تحریم هوایی ایران را نپذیرفت پرونده فینال جنجالی جام ملت‌های آفریقا روی میز CAS؛ قهرمانی به سنگال برمی‌گردد؟ ادعای نخست‌وزیر انگلیس: «نشانه‌های قوی» از نقش ایران در حادثه پایگاه RAF فیرفورد وجود دارد دستورالعمل جدید برای حمایت از بخش صنایع کشور ابلاغ شد دستور پزشکیان: رفع فوری موانع گمرکی برای واردات کالاهای اساسی تحولات اخیر به کتاب‌های درسی نهم و یازدهم رسید آیا حاضرید در این کلبه چوبی زندگی کنید؟! / بازسازی شده و آماده (+عکس) قیمت دلار کارت ملی امروز (چهارشنبه) چند بود؟ میرزازاده، اولین فرنگی‌کار تاریخ ایران با دو طلای بازی‌های آسیایی مهار آتش‌سوزی در گمرک اسلام قلعه افغانستان