۲۷ آذر ۱۴۰۴
به روز شده در: ۲۷ آذر ۱۴۰۴ - ۱۷:۰۴
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
سپاهان در هوای برفی صعود را تمرین کرد (عکس) دو دقیقه جلوه‌های ویژه که زبان بصری سینمای اکشن و گیم‌ها را برای همیشه تغییر داد (تماشا کنید) نجارزاده در نشست با نمایندگان استان مرکزی در مجلس مطرح کرد: بانک ملی آماده کمک به توسعه صنعت کشور با بومی سازی محصولات است/ مصمم به حمایت از فعالان اقتصادی هستیم هوش مصنوعی اطلاعات نادرستی درباره حمله تروریستی سیدنی ارائه می دهد پیشنهاد رئال را به‌خاطر الاهلی رد کردم! نجارزاده در استان مرکزی: انضباط مالی و تحول ساختاری، اولویت بانک ملی است / شایسته‌سالاری و انسجام مدیریتی مبنای راهبردهای جدید نمایش فیلم «برسرخاک» محسن خان جهانی در شب محیط زیستی مجله بخارا گام تازه بانک ملی در خروج از بنگاه‌داری /واگذاری ۹۰ درصد سهام «شفا دارو» به ارزش ۱۶ همت عنوان دختر شایسته فنلاند به خاطر نژادپرستی گرفته شد آذر منصوری: استرداد لایحه ‎تأمین امنیت زنان آبرومندانه‌تر از تصویب قانونی نمایشی و بی‌اثر است حسن یزدانی 47 کیلو در این سال‌ها افزایش وزن داشته است(+عکس) انسداد ۴۳ راه روستایی مازندران به دلیل بارش برف رهاسازی ۵۹۱ خودروی گرفتار در برف و سیلاب/ اسکان اضطراری بیش از ۱۰۰۰ نفر بازگشت استقلال به استادیوم فولاد آرنا آغاز ثبت‌نام آزمون استخدامی شرکت‌های آب و فاضلاب سال ۱۴۰۴