فیلم بیشتر »»
کد خبر ۱۱۶۲۷۲۰
تاریخ انتشار: ۱۰:۴۶ - ۲۳-۰۲-۱۴۰۵
کد ۱۱۶۲۷۲۰
انتشار: ۱۰:۴۶ - ۲۳-۰۲-۱۴۰۵

محققان دانشگاه تهران «توهم» در هوش مصنوعی را مهار کردند

توهم
این گزارش تحلیلی که بر پایه بررسی بیش از ۳۰۰ مرجع علمی تدوین شده، نشان می‌دهد که چگونه پیوند میان بازیابی اطلاعات و تولید متن، هوش مصنوعی را از یک سیستم احتمالی به یک ابزار مستند و قابل اعتماد تبدیل می‌کند.

محققان دانشگاه تهران، پیچیده‌ترین معماری‌های هوش مصنوعی را رمزگشایی و کارایی آن‌ها را در محیط‌های عملیاتی ارتقا دادند.

به گزارش ایسنا به نقل از روابط‌عمومی دانشگاه تهران، در حالی که پدیده «توهم» (Hallucination) به عنوان جدی‌ترین نقطه ضعف مدل‌های زبانی بزرگ (LLM) اعتبار این فناوری را در حوزه‌های حساس با چالش روبه‌رو کرده است، محققان دانشگاه تهران با بررسی دقیق معماری‌های RAG، راهکار عبور از این بحران را ارائه داده‌اند.

این گزارش تحلیلی که بر پایه بررسی بیش از ۳۰۰ مرجع علمی تدوین شده، نشان می‌دهد که چگونه پیوند میان بازیابی اطلاعات و تولید متن، هوش مصنوعی را از یک سیستم احتمالی به یک ابزار مستند و قابل اعتماد تبدیل می‌کند.

دکتر شاهرخ اسدی، عضو هیأت علمی دانشکدگان فارابی دانشگاه تهران و سرپرست گروه تحقیقاتی در این تحلیل، یک ساختار طبقه‌بندی شده چهار مرحله‌ای شامل «نمایه‌سازی»، «بازیابی»، «تلفیق» و «تولید» را معرفی می‌کند. این چارچوب به متخصصان اجازه می‌دهد تا پیچیده‌ترین معماری‌های هوش مصنوعی را رمزگشایی کرده و کارایی آن‌ها را در محیط‌های عملیاتی ارتقا دهند.

دکتر اسدی با اشاره به اینکه یکی از برجسته‌ترین بخش‌های تحلیل این تحقیق، بررسی سیر تکامل از Vector RAG به سوی Graph RAG است، گفت: «برخلاف مدل‌های قدیمی که تنها به شباهت‌های سطحی کلمات بسنده می‌کردند، معماری‌های گرافی توانایی استدلال چندمرحله‌ای را فراهم می‌آورند که برای پاسخگویی به پرسش‌های پیچیده و تحلیلی حیاتی است».

بنا به گفته دکتر اسدی، این تحقیق همچنین به بررسی الگوهای نوظهوری می‌پردازد که مرزهای هوش مصنوعی را جابه‌جا کرده‌اند. وی در تحلیل خود به تبیین نقش Agentic RAG در سیستم‌های چندوجهی مدل‌های ترکیبی می‌پردازد؛ رویکردهایی که هوش مصنوعی را قادر می‌سازد به طور همزمان از متن، تصویر و پایگاه‌های داده پیچیده برای استخراج حقیقت استفاده کند.

علاوه بر مباحث تئوریک، در این تحقیق، مقایسه‌ای کاربردی میان پایگاه‌های داده‌برداری و گرافی برای استقرار در پروژه‌های بزرگ ارائه شده است.

عضو هیأت علمی دانشکده مهندسی دانشکدگان فارابی با یکپارچه‌سازی معیارها و مجموعه داده‌های ارزیابی، ابزاری دقیق در اختیار پژوهشگران و مهندسان قرار می‌دهد تا بتوانند دقت و اعتبار سیستم‌های خود را به طور استاندارد بسنجند.

دکتر اسدی در پایان تأکید می‌کند که RAG اکنون به یک الگوی طراحی بالغ برای ساخت سیستم‌های هوش مصنوعی «حسابرسی‌پذیر» تبدیل شده است. این نقشه راه، مسیر حرکت از خط‌لوله‌های ساده اطلاعاتی به سوی سیستم‌های استدلال‌گر مبتنی بر شواهد را ترسیم کرده و بستری امن برای استفاده از هوش مصنوعی در تصمیم‌گیری‌های کلان فراهم می‌سازد.

این پژوهش که با همکاری دانشجو امیرعباس کمالی‌پور انجام شده است، اینجا قابل دسترسی است.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
تصادف و واژگونی ۲ خودرو مرگبار شد/ ۲ کشته و ۵ مصدوم رئیس دانشگاه تهران: چیزی به اسم گشت حجاب برای سال تحصیلی جدید در دانشگاه نداریم/ دانشگاهی بدون چارچوب برای ورود و خروج هم نداریم اظهارات عراقچی در باره شروع مجدد مذاکره با آمریکا محمدعلی ابطحی: در ایران برای تندروها ترمزی به نام ولایت فقیه وجود دارد معتادانی که پشت در درمان می‌مانند اولین پرواز بزرگترین هواپیمای تمام برقی جهان باشگاه استقلال نام آمریکا را حذف کرد اپل به کاربران ۱۱۰ کشور پیام هشدار حمله جاسوسی ارسال کرد افسردگی زنان؛ وقتی خستگی، فراتر از یک نیاز به استراحت است فرسودگی ناوهای آمریکا در جنگ با ایران؛ از بحران تدارکات تا نگرانی درباره سلامت ملوان ها جواهر الماس‌نشانی که مادر ناصرالدین شاه بعد از قتل امیرکبیر هدیه داد(عکس) عادت‌هایی که فشارخون و خطر سکته را افزایش می‌دهند + چند راهکار ساده وال استریت ژورنال: جنگ ترامپ علیه ایران به مسابقه تاب آوری اقتصادی رسیده از هلیا و ۵ توله‌اش چه خبر؟ نقشه انتقام‌جویانه برای سرقت مسلحانه از دو خواهر