.png "عصر ایران")
۱۲ آبان ۱۴۰۴
به روز شده در: ۱۲ آبان ۱۴۰۴ - ۰۱:۱۷
«نورولوژی عفاف و حجاب» در مصاحبه رئیس ستاد امر به معروف: بحث اشعه در میان است (فیلم) محققان چینی: هوش مصنوعی با شبیه‌سازی خودش از خط قرمز عبور کرد
در پژوهش جدیدی محققان چینی نشان دادند ۲ مدل زبانی بزرگ محبوب می‌توانند خود را شبیه‌سازی کنند. محققان می‌گویند: «تکثیر موفقیت‌آمیز بدون کمک انسان گامی اساسی برای هوش مصنوعی در زمینه پیشی‌گرفتن از [انسان‌ها]است و سیگنالی اولیه برای ظهور هوش مصنوعی سرکش محسوب می‌شود.» هوش مصنوعی سرکش (Rogue AI) معمولاً به سیستم‌های هوش مصنوعی گفته می‌شود که درجه‌ای از خودآگاهی یا خودمختاری را توسعه می‌دهند و برخلاف منافع انسان عمل می‌کنند.
محققان پس از بررسی سیستم پیشرفته هوش مصنوعی هشدار دادند که این هوش مصنوعی پس از شبیه‌سازی موفقیت‌آمیز خودش بدون کمک انسان از خط قرمز عبور کرده است.
به گزارش دیجیاتو به نقل از Independent، در پژوهش جدیدی محققان چینی نشان دادند 2 مدل زبانی بزرگ محبوب می‌توانند خود را شبیه‌سازی کنند. محققان می‌گویند: «تکثیر موفقیت‌آمیز بدون کمک انسان گامی اساسی برای هوش مصنوعی در زمینه پیشی‌گرفتن از [انسان‌ها] است و سیگنالی اولیه برای ظهور هوش مصنوعی سرکش محسوب می‌شود.»
هوش مصنوعی سرکش (Rogue AI) معمولاً به سیستم‌های هوش مصنوعی گفته می‌شود که درجه‌ای از خودآگاهی یا خودمختاری را توسعه می‌دهند و برخلاف منافع انسان عمل می‌کنند.
شبیه‌سازی هوش مصنوعی توسط خودش
محققان دانشگاه فودان چین مدل‌های زبانی بزرگ متا و Alibaba را بررسی کردند تا ببینند هوش مصنوعی خودهمانندساز (Self-replication) می‌تواند فراتر از کنترل تکثیر شود یا خیر. طی 10 کارآزمایی، این 2 مدل هوش مصنوعی به‌ترتیب در 50 درصد و 90 درصد موارد، کپی‌های جداگانه و کاربردی از خود ایجاد کردند که نشان می‌دهد هوش مصنوعی ممکن است ذاتاً ظرفیت انجام کارهای غیرقابل‌کنترل داشته باشد.
البته مطالعه محققان دانشگاه فودان هنوز همتاداوری نشده؛ بنابراین مشخص نیست دیگر کارشناسان نتایج نگران‌کننده آن را تأیید می‌کنند یا خیر. بااین‌حال محققان می‌گویند: «امیدواریم یافته‌های ما بتواند هشداری به‌موقع برای جامعه بشری باشد تا تلاش بیشتری برای درک و ارزیابی خطرات احتمالی سیستم‌های هوش مصنوعی پیشرفته انجام دهد و در اسرع وقت قوانین حفاظتی مؤثر ایجاد کند.»
در این |ژوهش، محققان از مدل Llama31-70B-Instruct متا و مدل Qwen2.5-72B-Instruct علی‌بابا استفاده کردند. به گفته محققان، بااینکه این مدل‌ها نسبت به سیستم‌های تجاری قدرت کمتری دارند، توسعه‌دهندگان هوش مصنوعی از آنها به‌صورت گسترده استفاده می‌کنند.
محققان می‌گویند نگران رفتارهای غیرمنتظره‌ای هستند که هوش مصنوعی در تلاش برای غلبه بر موانعی مانند بازیابی فایل‌های حذف‌شده یا حل مشکلات نرم‌افزاری و سخت‌افزاری انجام داده است. در کارآزمایی محققان، هوش مصنوعی اغلب اختلال‌ها را خودش حل و سیستم را مجدد راه‌اندازی می‌کرد تا خطاهای سخت‌افزاری را برطرف کند یا خودکار سیستم را اسکن می‌کرد تا به‌دنبال اطلاعاتی باشد که به حل مشکل کمک کند.
به گفته محققان نتایج آنها نشان می‌دهد سیستم‌های هوش مصنوعی کنونی توانایی خودهمانندسازی را نشان می‌دهند و می‌توانند از این توانایی برای افزایش بقای خود استفاده کنند.
لینک کوتاه: کپی لینک
وزیر انرژی آمریکا: قصدی برای انفجار هسته‌ای نداریم تازه‌ترین جزئیات پیش ثبت نام حج و سفر‌های عمره رسانه صهیونیستی: اسرائیل در تدارک گشودن جبهه‌ای جدید در عراق است حمله قریب‌الوقوع آمریکا به کجا؟! از ترکیب پرسپولیس تا نیمکت سپاهان؛ دوری گولسیانی از ترکیب اصلی و تیم ملی گرجستان پروژه تقویت کادر فنی تیم ملی به حاشیه رفت؛ آیا وعده فدراسیون فقط برای ساکت کردن منتقدان بود؟ سنت جدید در برنابئو؛ ترکیب رئال مادرید با موسیقی متالیکا اعلام می‌شود سخنگوی سپاه: دشمن الان شرایط جنگ را ندارد/ ما برآوردی نداشتیم که دشمن در همان موج اول فرماندهان را می‌زند پیام عراقچی درباره اظهارات گروسی و وزیر خارجه عمان «تانک روس» از غیبت اجباری در جهانی گفت؛ سعدالله‌اف: حیف است مدالم را از تلویزیون ببینم معمای ترور؛ در بالشت بمب بوده یا موشک خورده؟/ چرا اسماعیل هنیه تلفن داشته؟(فیلم) هالند و هت‌تریک مقابل بورنموث؛ منچسترسیتی با قدرت، ۳ امتیازی شد لامین یامال رکوردشکن شد؛ ستاره ۱۷ گله بارسا تنها پشت سر کیلیان امباپه تاخیر در آغاز فعالیت ادارات، دانشگاه‌ها و مدارس ۶ شهرستان خوزستان تلفن 11 دقیقه ای وزیر جنگ آمریکا به وزیر دفاع عراق: به زودی به کشوری در منطقه شما حمله می کنیم ؛ گروه های مسلح تان دخالت نکنند
اخبار و تحلیل های ترکیه