فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
علت صدای کلاچ هنگام گرفتن پدال چیست؟ عکس یادگاری «مستوفی‌الممالک» در کنار هواپیما کدام برند برای کدام شرکت است؟ / نقشه کامل مالکیت غول‌های خودروسازی جهان معرفی ۶ ماده غذایی مفید برای پروستات، استخوان و عضلات راز خستگی بعد از خواب‌دیدن؛ چرا رؤیاهای واضح، باعث کمبود انرژی مغز می‌شوند؟ این وسایل نقلیه نظامی را افراد عادی هم می‌توانند خریداری کنند(+عکس) شبکه سی‌بی‌اس: ترامپ با بن سلمان درباره ایران گفت‌وگو می‌کند شرط جدید برای بازنشستگی اعلام شد اذعان قانونگذار دموکرات به «عدم توازن» موشکی آمریکا در برابر ایران اردوغان فردا به عربستان سفر می‌کند کانادا دو مظنون تیراندازی در نزدیکی کنسولگری آمریکا را بازداشت کرد انفجار اتوبوس در حومه دمشق/ ۲ کشته و ۱۳ زخمی جادوی مدل های واقعی در سینما؛ وقتی ماکت ها به فیلم های بزرگ جهان روح دادند (تصویری) غرق شدن ۲ نفر در رودخانه گاماسیاب معاون امنیتی استانداری هرمزگان: هیچ‌گونه اصابتی در قشم و بندرعباس گزارش نشده