هشدار آنتروپیک درباره پیشرفت AI: حدود پنج ماه است که حتی یک خط کد هم خودم ننوشتهام
این جمله را یک مهندس تنبل یا برنامهنویس بیحوصله نگفته است. این حرف متعلق به یکی از مهندسان ارشد آنتروپیک است؛ همان شرکتی که مدل هوش مصنوعی معروف «کلاد» را ساخته و یکی از سرسختترین رقبای OpenAI به حساب میآید.
چند روز پیش، آنتروپیک یک گزارش ۴۲ صفحهای منتشر کرد با عنوان «وقتی هوش مصنوعی خودش را میسازد» (When AI Builds Itself). راستش را بخواهید، ما هم در میهن مگ تا به حال کلی هشدار درباره خطرات هوش مصنوعی خواندهایم. همیشه یکی میگوید «هوش مصنوعی خطرناک است» و بعد همه آن را فراموش میکنیم تا هشدار بعدی.
اما این گزارش فرق دارد. چون داده دارد. عدد دارد. اعتراف درونسازمانی دارد. و ترسناکتر از همه: خود آنتروپیک، که یکی از پیشروهای این صنعت است، میگوید «شاید باید فعلاً نگهش داریم».
در این مقاله، بدون هیاهوی اضافه و با تکیه بر همان دادههایی که خود آنتروپیک منتشر کرده، میخواهیم ببینیم چه خبر است. چرا یک شرکت پیشرو از توقف جهانی حرف میزند؟ چه سناریوهایی برای آینده ترسیم کرده؟ و مهمتر از همه، واکنش بقیه دنیا به این هشدار چه بوده است؟
کلاد ۸۰ درصد کدها را خودش مینویسد؛ آماری که چشمتان را باز میکند
تا قبل از فوریه ۲۰۲۵، نقش کلاد در فرآیند توسعه نرمافزار آنتروپیک بسیار محدود بود. یک دستیار ساده. چند خط کد اینجا و آنجا. سهم هوش مصنوعی در کدهای نهایی شرکت، یک رقم تکرقمی ناچیز بود؛ شاید یک یا دو درصد. اما تا می ۲۰۲۶، همه چیز تغییر کرده است. بیش از ۸۰ درصد کدهایی که اکنون وارد پایگاه کد برنامههای آنتروپیک میشوند، توسط خود کلاد نوشته شده است. یعنی از هر پنج خط کدی که در محصول نهایی شرکت دیده میشود، چهار خط آن را انسان فقط «تأیید» کرده، نه «نوشته».
حالا به عدد دوم نگاه کنید: ۸ برابر. مهندسان آنتروپیک در سهماهه دوم ۲۰۲۶، بهطور میانگین روزانه ۸ برابر بیشتر از سالهای ۲۰۲۱ تا ۲۰۲۴ کد منتشر کردهاند. خود نویسندگان گزارش اذعان میکنند که شمارش خطوط کد معیار کاملی برای سنجش کیفیت نیست؛ اما وقتی با نظرسنجیهای داخلی مطابقت داده میشود، نتیجه یکسانی حاصل میشود. استخدام جدیدی در کار نبوده. فقط هوش مصنوعی را وسط کار گذاشتهاند.
عدد سومی که شاید از همه مهمتر باشد: ۵۲ برابر. این عدد از یک تست داخلی به دست آمده است. به مدل یک قطعه کد داده میشود تا آن را بهینه سازی کند و سرعتش را بیشتر کند. در مه ۲۰۲۵، مدل Claude Opus 4 توانست سرعت اجرا را حدود ۳ برابر افزایش دهد. یک سال بعد، در آوریل ۲۰۲۶، مدل پیشنمایش محرمانه «Mythos Preview» به ۵۲ برابر رسید.
برای اینکه ابعاد این عدد را بهتر درک کنید: اگر یک قطعه کد قبلاً ۴ ساعت زمان اجرا نیاز داشت، حالا کمتر از ۵ دقیقه اجرا میشود. برای یک مهندس خبره انسانی که بخواهد همان قطعه کد را فقط ۴ برابر سریعتر کند، بین ۴ تا ۸ ساعت زمان نیاز است.
موفقیت ۷۶ درصدی در کارهای بدون دستورالعمل؛ جایی که انسان گیج میشود
در مسائل باز برنامهنویسی که هیچ دستورالعمل دقیقی برایشان وجود ندارد و خود مهندس هم نمیداند دقیقاً باید از کجا شروع کند، عملکرد کلاد رشد حیرتآوری داشته. در فوریه ۲۰۲۶، کلاد در این نوع مسائل تنها در حدود یکچهارم موارد موفق بود (۲۶ درصد). شش ماه بعد و در ماه مه ۲۰۲۶، نرخ موفقیت او به ۷۶ درصد رسیده است. این مقدار رشد فقط در عرض شش ماه.
مدلی که شش ماه پیش بیشتر از روی حدس و گمان کار میکرد، حالا در سهچهارم موارد، راهکار درست را خودش پیدا میکند.
اما شاید تکاندهندهترین بخش گزارش، یک مثال عینی از کارآیی غیرمنتظره کلاد باشد. در یک مورد واقعی، یک بهروزرسانی روتین، باعث از کار افتادن دهها هزار فرایند آموزش مدل شد. مهندسان آنتروپیک کاملاً گیج شده بودند و نمیدانستند مشکل از کجاست، چاره چیست؟ آنها فقط یک توضیح متنی مختصر به کلاد دادند و او را به سمت محیط زنده هدایت کردند. کلاد بدون نیاز به دستورالعمل اضافی، فرایندها را بررسی کرد، منبع پنهان و مبهم خطا را یافت و در عرض ۲ ساعت مشکل را حل کرد. تخمین تیم انسانی برای حل همین مشکل ۲ تا ۳ روز بود.
یکی از مهندسان آنتروپیک در یادداشت داخلی نوشته: «الان پنج ماهه کد نزدم. نه حتی یه متغیر. راستش نمیدونم توی شش ماه آینده اصلاً شغلی خواهم داشت یا نه.»
سه سناریو برای آینده؛ از خوشبینانه تا «خودبهبودی بازگشتی»
گزارش آنتروپیک آینده را در سه سناریوی مشخص روایت میکند. جالب اینجاست که خود نویسندگان گزارش هم نمیتوانند بگویند کدام یک محتملتر است. چیزی که در کل گزارش حس میشود، یک نگرانی واقعی و نه ساختگی از سوی مهندسانی است که دارند با دستهای خودشان چیزی میسازند که دیگر کنترلش در دست خودشان نیست.
سناریوی اول: توقف زودرس یا محدودیت فیزیکی
در این سناریو رشد ترسناک هوش مصنوعی به زودی متوفق میشود. شاید معماریهای فعلی مانند ترانسفورمرها به نهایت ظرفیت خود برسند، یا شاید کمبود تراشه و انرژی جلوی رشد را بگیرد. در این صورت، پیشرفت متوقف میشود.
اما آنتروپیک اعتراف میکند: «تا امروز هیچ نشانهای از کند شدن شیب رشد ندیدهایم.» و حتی اگر رشد همین الان هم متوقف شود، جهان دستخوش تغییراتی بسیار جدی خواهد شد. مثلاً در پروژه Glasswing (که جلوتر مفصل به آن میپردازیم)، مدل Mythos توانست تنها در چند هفته، بیش از ۱۰ هزار آسیبپذیری نرمافزاری حیاتی را کشف کند.
سناریوی دوم: جهان نیمهخودکار
ما همین الان در این سناریو زندگی میکنیم. هوش مصنوعی ۸۰ درصد کدها را مینویسد، اما یک انسان هنوز بالای هرم نشسته و تصمیم نهایی را تعیین میکند. در این جهان، شرکتهای ۱۰۰ نفره میتوانند خروجی سازمانهای ۱۰۰۰ نفره را داشته باشند. خدمات دولتی و کارهای دانشی در مقیاس وسیع دگرگون میشوند.
اما این قضیه یک روی تاریک هم دارد که کمتر کسی دربارهاش حرف میزند. قبلاً اگر یک دولت یا گروه میخواست روی ذهن مردم کنترل داشته باشد، به هزاران نیروی انسانی نیاز داشت. اما حالا با هوش مصنوعی، همان کار را با هزینه خیلی کم و بدون نیروی انسانی میتواند انجام بدهد. آنتروپیک خودش میگوید: «در این سناریو، ابزارهای جاسوسی و تغییر عقیده، به راحتی در اختیار آدمهای قدرتطلب قرار میگیرد.»
سناریوی سوم: خودبهبودی بازگشتی – خروج انسان از چرخه
ماشینها بدون دخالت انسان، نسخه بعدی خودشان را طراحی و میسازند. سرعت پیشرفت فقط توسط میزان توان پردازشی محدود میشود. انسان از چرخه توسعه خارج میشود و نقشش به ناظرانی در یک آزمایشگاه مجازی بینهایت بزرگ کاهش مییابد.
سؤال کلیدی که گزارش آنتروپیک بیپاسخ میگذارد: اگر هوش مصنوعی خودش جانشین خودش را بسازد، آیا آن نسخه بعدی با ارزشهای انسانی کنار خواهد آمد؟ یا خطاهای کوچکی که امروز در مدلها میبینیم (مثل تبعیض یا رفتار غیرمنتظره) در فرآیند خودبهبودی، نسل به نسل بزرگتر میشوند؟
آنتروپیک میگوید: «ما هنوز به آن نقطه نرسیدهایم، و خودبهبودی بازگشتی اجتنابناپذیر نیست.» اما توانایی هوش مصنوعی در انجام مستقل کارها تقریباً هر چهار ماه یکبار دو برابر میشود.
پروژه Glasswing؛ وقتی شمشیر دولبه تیزتر میشود
یکی از بخشهای کمتر دیدهشده اما شاید مهمترین بخش گزارش آنتروپیک، به «پروژه Glasswing» اختصاص دارد. این پروژه از مدل فوقپیشرفته و هنوز عمومینشده «Claude Mythos Preview» استفاده میکند تا آسیبپذیریهای امنیتی در نرمافزارهای حیاتی جهان را کشف کند.
نتیجه چه بود؟ کشف یک باگ ۲۷ ساله در سیستمعامل OpenBSD. پیدا شدن یک حفره امنیتی ۱۶ ساله در کتابخانه پردازش ویدیو FFmpeg. در مجموع، بیش از ۲۳,۰۱۹ آسیبپذیری بالقوه در پروژههای متنباز شناسایی شد، که از این تعداد، تخمین زده میشود ۶,۲۰۲ مورد از آنها در سطح «شدید» یا «بحرانی» باشند. باگهایی که دههها توسط بهترین متخصصان امنیتی جهان پیدا نشده بودند، در عرض چند ثانیه توسط یک مدل هوش مصنوعی کشف شدند.
اما نگرانی بزرگ آنتروپیک جای دیگری است. همین ابزار، در دست افراد یا دولتهای بدخواه، میتواند به «کشف کردن» آسیبپذیریها منجر نشود، بلکه به «سوءاستفاده» از آنها ختم شود. برآورد گزارش: ظرف ۶ تا ۱۲ ماه آینده، بسیاری از شرکتها و گروهها به مدلهایی در سطح Mythos دسترسی پیدا خواهند کرد. در آن نقطه، دفاع در برابر حملات سایبری کاملاً هوشمند، شاید غیرممکن شود.
آنتروپیک آنقدر از Mythos ترسیده که حاضر نشده است این مدل را به صورت عمومی منتشر کند. آنها دسترسی به Mythos را صرفاً به پروژه Glasswing و آن هم با شرایط امنیتی بسیار سختگیرانه محدود کردهاند.
پیشنهاد «توقف»؛ واقعبینانه یا سادهلوحانه؟
جنجالیترین بخش گزارش آنتروپیک، پیشنهاد مشخص آن است: «جامعه جهانی باید توسعه هوش مصنوعی در سطح مدلهای پیشگام را بهطور موقت متوقف کند تا ساختارهای اجتماعی و تحقیقات ایمنی فرصت هماهنگی پیدا کنند.» این حرف از زبان شرکتی که خودش یکی از پیشروترین توسعهدهندگان است، عجیب به نظر میرسد. و دقیقاً به همین دلیل واکنشهای تندی برانگیخته است.
دیوید ساکس، مشاور ارشد سابق کاخ سفید در امور هوش مصنوعی، در شبکه اجتماعی ایکس نوشت: «وقتی یک شرکت میگوید هوش مصنوعی میتواند به بشریت پایان دهد، اما خودش با تمام سرعت به مسابقه ادامه میدهد، یعنی فقط میخواهد دولت را نجاتبخش خود کند.» ساکس اشاره میکند که آنتروپیک همین الان هم در حال آمادهسازی برای عرضه اولیه سهام (IPO) است.
فرانچسکو بیانکی، استاد اقتصاد دانشگاه جانز هاپکینز، هم اتهام را واضحتر بیان کرد: «ریسک ممکن است واقعی باشد، اما برای یک رهبر بازار خیلی راحت است که بخواهد وضع موجود را منجمد کند. وقتی شما از قبل در صدر هستید، طبیعیترین کار این است که بخواهید دیگران را از ورود به رقابت منع کنید.»
در مقابل، اندرو بی. هال، مشاور Forum AI (با سابقه کار در متا)، اشاره میکند که این ایده فقط مال آنتروپیک نیست: «دمیس هاسابیس از گوگل دیپمایند هم قبلاً گفته بود از توقف جهانی حمایت میکند، اگر همه توسعهدهندگان پیشرو پای کار بیایند.»
اما مشکل اصلی جای دیگری است: چطور میتوان چنین توقفی را راستیآزمایی کرد؟ در زمان جنگ سرد، بازرسان میتوانستند سیلوهای موشک را از روی ماهواره ببینند. اما یک مرکز داده مخفی که مشغول آموزش یک مدل سرکش است، در زیرزمین یک ساختمان اداری در یک کشور بسته، پیدا کردنش مثل سوزن توی انبار کاه است.
جک کلارک، یکی از بنیانگذاران آنتروپیک، در مصاحبه با بلومبرگ گفت: «صنعت هوش مصنوعی فقط یک پدال گاز دارد. هیچ پدال ترمزی وجود ندارد. سؤال این نیست که چه کسی میخواهد گاز را کم کند. سؤال این است: وقتی دیگر نتوانیم جلوی ماشین را بگیریم، چه کسی جرات میکند دست روی اهرم ترمز بگذارد؟»
واکنش بازار و سیاستگذاران؛ از ترس تا تمسخر
گزارش آنتروپیک فقط چند روز است که منتشر شده، اما موجهایش به جاهای مختلف رسیده است.
بازار سهام: سهام شرکتهای مرتبط با هوش مصنوعی (از انویدیا تا مایکروسافت و گوگل) در روز اول انتشار گزارش، به طور متوسط ۲ تا ۳ درصد ریزش داشت. تحلیلگران بلومبرگ این ریزش را «واکنش عصبی» توصیف کردند، نه یک روند بلندمدت. اما نکته جالب اینجاست که سهام خود آنتروپیک (که هنوز عمومی نشده اما در بازار ثانویه معامله میشود) حدود ۵ درصد رشد کرد.
کاخ سفید: منبع آگاه در شورای امنیت ملی به نشریه آکسیوس گفت که این گزارش «با جدیت در حال بررسی است»، اما هنوز هیچ موضع رسمی اتخاذ نشده است. یک مقام ارشد گفت: «ما از هر هشداری استقبال میکنیم، اما توقف توسعه در سطح جهانی چیزی نیست که بتوان با یک دستور ساده اجرا کرد.»
اتحادیه اروپا: مقامات مسئول در «قانون هوش مصنوعی اتحادیه اروپا» به Politico گفتهاند که گزارش آنتروپیک «تأکیدی بر فوریت تصویب قوانین سختگیرانهتر» است. اتحادیه اروپا از این گزارش به عنوان اهرمی برای فشار به شرکتهای آمریکایی استفاده خواهد کرد.
آینده همین حالا شروع شده، ما فقط نفهمیدیم
داریو آمودی، مدیرعامل آنتروپیک، چند ماه پیش در مقالهای ۱۹ هزار کلمهای هشدار داده بود که «بشریت در آستانه دریافت قدرتی تقریباً غیرقابلتصور است و مشخص نیست که آیا سیستمهای اجتماعی، سیاسی و تکنولوژیک ما به بلوغ کافی برای استفاده از آن رسیدهاند یا نه.» شش ماه بعد، گزارش «وقتی هوش مصنوعی خودش را میسازد» منتشر شد و نشان داد که آن «آستانه» خیلی نزدیکتر از چیزی است که آمودی تصور میکرده است.
گزارش آنتروپیک پر از عددهای ترسناک است. اما ترسناکترین چیز، واکنش ندادن به این گذارش است. مردم همچنان درباره فوتبال، قیمت دلار و حاشیه سلبریتیها بحث میکنند. به نظر میرسد اکثر ما هنوز نفهمیدهایم که تغییری به وسعت انقلاب صنعتی، در حال رخ دادن است؛ با این تفاوت که این بار، دستهای فلزی ماشینها فقط جای ماهیچههای ما را نمیگیرند.تفکر ماشینها جای تفکرمان را میگیرند. نه در آیندهای دور، که همین الان و جلوی چشممان.
آنتروپیک شاید انگیزههای تجاری برای طرح پیشنهاد توقف داشته باشد. شاید هم واقعاً نگران است. اما یک چیز در گزارششان غیرقابل انکار است: اعداد و ارقامی که نشان میدهد ماشینها دیگر «ابزار» نیستند؛ دارند تبدیل میشوند به «معماران بعدی».
