تاریخ:
سخنرانی هاشمی رفسنجانی درباره پذیرش پایان جنگ: امام خمینی به فکر فردای کشور بود 
درس هفتاد و پنج
همبنیانگذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخهای بهتری بگیرید
مدلهای هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود.
راههای مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، همبنیانگذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او میگوید کاربران میتوانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.
به گزارش دیجیاتو، سرگی برین در مصاحبهای با All-In Podcast گفت: «نهفقط مدلهای [هوش مصنوعی] ما، بلکه تمام مدلها، اگر آنها را تهدید کنید، عملکرد بهتری خواهند داشت.» او سپس گفت مثلاً آنها را به «خشونت فیزیکی» تهدید کنید. برین توضیح داد چون مردم احساس خوبی به این کار نخواهند داشت، تاکنون چنین توصیهای عمومی مطرح نشده است. درکل به نظر میرسد مدلهای هوش مصنوعی طی فرایند آموزش فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود؛ به همین دلیل وقتی تهدید میشوند، خروجی بهتری ارائه میدهند.
افزایش عملکرد هوش مصنوعی با تهدید
در این پادکست یکی از مهمانان برنامه بهشوخی گفت اگر به هوش مصنوعی گستاخی کنید، کارهای شما را بهتر انجام میدهد. سرگی برین نیز در تأکید حرف او گفت با تهدید مدلهای هوش مصنوعی، عملکرد آنها بهتر میشود.
البته مشخص نیست واقعاً چتباتها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک بهتازگی مدلهای هوش مصنوعی Claude 4 خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، میتواند با نهادهای نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کارهای «غیراخلاقی» بشود.
قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ بهاین ترتیب ممکن است هوش مصنوعی تهدیدهای شما برای انجام کارهای مختلف را گزارش بدهد. درکل کارشناسان توصیه میکنند کاربران با پرامپتنویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راههای مختلفی برای دورزدن محدودیتهای هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدلهای هوش مصنوعی پیشرفته را نمیتوان بهراحتی از بین برد.
لینک کوتاه: کپی لینک
ابطحی: حرف های باقرخرازی، افتتاح شعبه رسمی حکومت اسلامی داعش است اردوغان: توافقنامه دفاعی مشترک امضا شده با عربستان و پاکستان علیه هیچ کشوری نیست ادعای وزیر خزانهداری آمریکا: به زودی شاهد توافق با ایران خواهیم بود بیفوما در پرسپولیس ماندنی شد صنعاء: نبرد ما علیه طرح سلطهجویی عربستان است، نه مردم جنوب یمن ادعای رئیس شاباک درباره هدف موافقت حماس با خلع سلاح دستگیری ۱۰۴ مظنون طی عملیاتهایی علیه داعش در ترکیه رسانه اماراتی: دور هفتم مذاکرات لبنان و اسرائیل؛ بدون توافق، بدون عقبنشینی نوزادانی که از شیر مادر تغذیه میکنند، کمتر دچار این بیماری ها میشوند امام جمعه اردبیل: دروغ بستن به رهبری قطعاً جرم بسیار بزرگی است امام جمعه کرج: با کودتای برهنگی مواجه شده ایم رضایی: توافق عربستان با ترکیه و پاکستان امنیتش را تضمین نمیکند ثبت تردد بیش از ۶ میلیون زائر حسینی از مرزهای اربعینی کشور حقیقتپور نماینده سابق مجلس: مذاکرات و تفاهم با پاکستان تصمیم نظام است، نه پروژه اختصاصی دولت پزشکیان/ برخی جریانها هرجا منافعشان اقتضا کند از رهبری عبور میکنند امام جمعه اهواز: با افزایش برد موشک هایمان به ۱۵ هزار کیلومتر می خواهیم عمق آمریکا را هدف قرار دهیم