.png "عصر ایران")
۲۷ آذر ۱۴۰۴
به روز شده در: ۲۷ آذر ۱۴۰۴ - ۱۳:۵۶
اعطای درجه سپهبدی شهید محمد باقری به خانوادهاش (فیلم) محققان چینی: هوش مصنوعی با شبیهسازی خودش از خط قرمز عبور کرد
در پژوهش جدیدی محققان چینی نشان دادند ۲ مدل زبانی بزرگ محبوب میتوانند خود را شبیهسازی کنند. محققان میگویند: «تکثیر موفقیتآمیز بدون کمک انسان گامی اساسی برای هوش مصنوعی در زمینه پیشیگرفتن از [انسانها]است و سیگنالی اولیه برای ظهور هوش مصنوعی سرکش محسوب میشود.» هوش مصنوعی سرکش (Rogue AI) معمولاً به سیستمهای هوش مصنوعی گفته میشود که درجهای از خودآگاهی یا خودمختاری را توسعه میدهند و برخلاف منافع انسان عمل میکنند.
محققان پس از بررسی سیستم پیشرفته هوش مصنوعی هشدار دادند که این هوش مصنوعی پس از شبیهسازی موفقیتآمیز خودش بدون کمک انسان از خط قرمز عبور کرده است.
به گزارش دیجیاتو به نقل از Independent، در پژوهش جدیدی محققان چینی نشان دادند 2 مدل زبانی بزرگ محبوب میتوانند خود را شبیهسازی کنند. محققان میگویند: «تکثیر موفقیتآمیز بدون کمک انسان گامی اساسی برای هوش مصنوعی در زمینه پیشیگرفتن از [انسانها] است و سیگنالی اولیه برای ظهور هوش مصنوعی سرکش محسوب میشود.»
هوش مصنوعی سرکش (Rogue AI) معمولاً به سیستمهای هوش مصنوعی گفته میشود که درجهای از خودآگاهی یا خودمختاری را توسعه میدهند و برخلاف منافع انسان عمل میکنند.
شبیهسازی هوش مصنوعی توسط خودش
محققان دانشگاه فودان چین مدلهای زبانی بزرگ متا و Alibaba را بررسی کردند تا ببینند هوش مصنوعی خودهمانندساز (Self-replication) میتواند فراتر از کنترل تکثیر شود یا خیر. طی 10 کارآزمایی، این 2 مدل هوش مصنوعی بهترتیب در 50 درصد و 90 درصد موارد، کپیهای جداگانه و کاربردی از خود ایجاد کردند که نشان میدهد هوش مصنوعی ممکن است ذاتاً ظرفیت انجام کارهای غیرقابلکنترل داشته باشد.
البته مطالعه محققان دانشگاه فودان هنوز همتاداوری نشده؛ بنابراین مشخص نیست دیگر کارشناسان نتایج نگرانکننده آن را تأیید میکنند یا خیر. بااینحال محققان میگویند: «امیدواریم یافتههای ما بتواند هشداری بهموقع برای جامعه بشری باشد تا تلاش بیشتری برای درک و ارزیابی خطرات احتمالی سیستمهای هوش مصنوعی پیشرفته انجام دهد و در اسرع وقت قوانین حفاظتی مؤثر ایجاد کند.»
در این |ژوهش، محققان از مدل Llama31-70B-Instruct متا و مدل Qwen2.5-72B-Instruct علیبابا استفاده کردند. به گفته محققان، بااینکه این مدلها نسبت به سیستمهای تجاری قدرت کمتری دارند، توسعهدهندگان هوش مصنوعی از آنها بهصورت گسترده استفاده میکنند.
محققان میگویند نگران رفتارهای غیرمنتظرهای هستند که هوش مصنوعی در تلاش برای غلبه بر موانعی مانند بازیابی فایلهای حذفشده یا حل مشکلات نرمافزاری و سختافزاری انجام داده است. در کارآزمایی محققان، هوش مصنوعی اغلب اختلالها را خودش حل و سیستم را مجدد راهاندازی میکرد تا خطاهای سختافزاری را برطرف کند یا خودکار سیستم را اسکن میکرد تا بهدنبال اطلاعاتی باشد که به حل مشکل کمک کند.
به گفته محققان نتایج آنها نشان میدهد سیستمهای هوش مصنوعی کنونی توانایی خودهمانندسازی را نشان میدهند و میتوانند از این توانایی برای افزایش بقای خود استفاده کنند.
لینک کوتاه: کپی لینک
بلوبانک سامان: خدمات بانکی بدون اختلال در دسترس مشتریان است یوتیوب حق پخش اسکار را خرید ؛ از 2029 رایگان در سراسر جهان چراغ سبز کنگره آمریکا به ترامپ برای حمله نظامی به ونزوئلا تمدید مهلت جشنواره ساخت تیزر تبلیغاتی خدمت کارت رفاهی بانک رفاه نتانیاهو وجود آمریکا را به یهودیان منتسب کرد: اگر یهودیان شکست می خوردند، ایالات متحده هم وجود نداشت (فیلم) افشای جزئیات دستمزد کارگران در ۱۴۰۵ ؛ حقوق کارگران بالاخره واقعی میشود؟ پزشکیان: از فروش گاز و بنزین می توانیم 160 میلیارد دلار درآمد داشته باشیم اما بخش زیادی را خودمان مصرف میکنیم/هر خودرو ماهی 10 میلیون یارانه بنزین می گیرد/ به باک یارانه بدهیم یا به معیشت؟ /احتمال قطعی برق و گاز در زمستان دیدنی های امروز؛ از فسیل جمجمه مرد جاوه ای تا تفنگداران دریایی آمریکا در کارائیب از مونا کرمی تا سپند امیرسلیمانی؛ حضور زوجهای هنری در پشتصحنه «باران اسیدی» (عکس) معیشت کارگران: اکنون میان دو هیچ نگاهی به زرادخانه سلاحهای ایرانی ونزوئلا البرادعی: 4 هزار کلاهک هسته ای، روی موشک ها و زیر جنگنده ها، آماده شلیک اند "سود سهام رزمندگان"؛ هدیه کریسمسی ترامپ به سربازان آمریکایی دستیار ترامپ: نفت ونزوئلا متعلق به آمریکا است رشد تجارت خارجی غیرنفتی کشور