ثبت لوکیشن
طراحی لوگو حرفه ایآنتروپیک, خبر, هوش مصنوعی
همکاری Anthropic و پنتاگون؛ آیا هوش مصنوعی کلود به سلاح خودمختار تبدیل می شود؟
تیم تحریریه استاد آی تی گزارش می دهد: جهان فناوری در آستانه یک تحول بزرگ و شاید ترسناک قرار گرفته است. شرکت Anthropic که به عنوان یکی از پیشگامان حوزه هوش مصنوعی مولد (Generative AI) و رقیب اصلی OpenAI شناخته می شود، در بیانیه ای تکان دهنده اعلام کرد که در برابر فشارهای وزارت دفاع آمریکا (Department of War) ایستادگی خواهد کرد.
این خبر که به سرعت در صدر اخبار تکنولوژی جهان قرار گرفت، نشان دهنده شکافی عمیق میان اخلاق گرایی در سیلیکون ولی و نیازهای استراتژیک نظامی در واشنگتن است. داریو آمودی، مدیرعامل این شرکت، با لحنی حماسی و در عین حال نگران کننده، از آینده ای سخن می گوید که در آن هوش مصنوعی می تواند به جای محافظت از دموکراسی، پایه های آن را ویران کند.
ایستادگی Anthropic در برابر اولتیماتوم پنتاگون
در قلب این درگیری، دو خط قرمز بزرگ وجود دارد که Anthropic حاضر به عبور از آن ها نیست: نظارت داخلی گسترده بر شهروندان و تولید سلاح های کاملا خودمختار (Fully Autonomous Weapons). وزارت دفاع آمریکا از این شرکت خواسته است تا تمامی حفاظ های ایمنی (Safeguards) را از مدل های هوش مصنوعی کلود (Claude AI) حذف کند تا ارتش بتواند از این ابزار در هر سناریوی قانونی استفاده کند
اما پاسخ Anthropic قاطعانه بود: «ما نمی توانیم با وجدان آسوده به این درخواست تن دهیم.» این شرکت معتقد است که هوش مصنوعی فعلی، علی رغم قدرت بالا در پردازش داده ها و تحلیل های اطلاعاتی، هنوز به سطحی از قابلیت اطمینان (Reliability) نرسیده است که بتواند بدون نظارت انسانی، ماشه را بکشد یا زندگی خصوصی میلیون ها انسان را زیر ذره بین ببرد.
تهدید به اخراج از زنجیره تامین دفاعی
واکنش پنتاگون به این نافرمانی دیجیتال، بی سابقه و بسیار تند بوده است. مقامات دفاعی آمریکا تهدید کرده اند که Anthropic را به عنوان یک «خطر در زنجیره تامین» (Supply Chain Risk) معرفی خواهند کرد؛ برچسبی که معمولا برای شرکت های متخاصم خارجی مانند هواوی یا تیک تاک رزرو شده است.
علاوه بر این، بحث استفاده از قانون تولید دفاعی (Defense Production Act) برای اجبار این شرکت به همکاری مطرح شده است. این تضاد درونی در دولت آمریکا بسیار جالب توجه است: از یک سو کلود را برای امنیت ملی حیاتی می دانند و از سوی دیگر، سازنده آن را یک ریسک امنیتی معرفی می کنند. Anthropic پیش از این با مسدود کردن دسترسی شرکت های وابسته به حزب کمونیست چین و جلوگیری از حملات سایبری تحت حمایت دولت ها، وفاداری خود را به منافع ملی آمریکا ثابت کرده بود، اما اکنون در دوراهی اخلاق و بقا قرار گرفته است.
| مورد اختلاف | موضع Anthropic | موضع وزارت دفاع آمریکا |
|---|---|---|
| سلاح های خودمختار | مخالفت به دلیل عدم قابلیت اطمینان فنی | اصرار بر حذف محدودیت برای تمامی کاربردها |
| نظارت داخلی | مخالفت به دلیل نقض ارزش های دموکراتیک | تاکید بر استفاده در تمامی ماموریت های قانونی |
| مدیریت ریسک | اصرار بر حفظ حفاظ های ایمنی اخلاقی | تهدید به استفاده از قانون تولید دفاعی |
تحلیل تخصصی: مرز باریک میان امنیت و استبداد دیجیتال
کارشناسان استاد آیتی معتقدند که این تقابل، تنها یک اختلاف تجاری ساده نیست، بلکه نبردی بر سر تعریف آینده جنگ افزارها و حریم خصوصی در عصر هوش مصنوعی است. اگر آنتروپیک در برابر این فشارها تسلیم شود، راه برای تولید ربات های قاتل که بدون دخالت انسان تصمیم به شلیک می گیرند، هموار خواهد شد.
غول مرحله آخر ایجنت های هوشمند؛ چرا Anthropic استارتاپ Vercept را خرید؟
از سوی دیگر، اخراج این شرکت از بدنه دفاعی آمریکا می تواند منجر به عقب افتادگی تکنولوژیک ایالات متحده در برابر رقبایی چون چین شود که محدودیت های اخلاقی مشابهی ندارند. این پارادوکس امنیت، بزرگترین چالش پیش روی رگولاتورها و توسعه دهندگان مدل های زبانی بزرگ (LLM) در سال ۲۰۲۶ است.
آینده هوش مصنوعی در میدان نبرد
داریو آمودی در بیانیه خود تاکید کرده است که Anthropic همچنان به حمایت از ماموریت های اطلاعاتی خارجی و ضد جاسوسی متعهد است، اما اجازه نخواهد داد که کلود به ابزاری برای سرکوب داخلی تبدیل شود. او اشاره کرد که قوانین فعلی هنوز نتوانسته اند با سرعت رشد هوش مصنوعی همگام شوند و این وظیفه شرکت های پیشرو است که تا زمان تدوین قوانین درست، از ارزش های انسانی محافظت کنند. این شرکت حتی پیشنهاد همکاری در بخش تحقیق و توسعه (R&D) برای بهبود قابلیت اطمینان سیستم های خودمختار را داده بود که از سوی پنتاگون رد شد.
در نهایت، این بحران نشان می دهد که قدرت هوش مصنوعی به قدری افزایش یافته که اکنون می تواند ساختارهای قدرت سنتی را به چالش بکشد. آیا دولت ها می توانند شرکت های خصوصی را مجبور به تغییر کدهای اخلاقی خود کنند؟ یا اینکه سیلیکون ولی به قطب جدید قدرت در جهان تبدیل شده است که می تواند در برابر بزرگترین ارتش دنیا بایستد؟ پاسخ این سوالات در هفته های آینده و با روشن شدن وضعیت نهایی قراردادهای Anthropic مشخص خواهد شد.
جمع بندی
تقابل Anthropic و وزارت دفاع آمریکا نقطه عطفی در تاریخ فناوری است. این شرکت با اولویت دادن به اخلاق و ایمنی در برابر فشارهای نظامی، استانداردی جدید برای مسئولیت پذیری شرکتی ایجاد کرده است. با این حال، تهدیدهای پنتاگون و نیاز به برتری در برابر رقبای جهانی، آینده این همکاری را در هاله ای از ابهام قرار داده است. آنچه مشخص است، هوش مصنوعی دیگر تنها یک ابزار چت ساده نیست، بلکه قلب تپنده استراتژی های دفاعی و امنیتی قرن بیست و یکم است که مدیریت آن نیازمند تعادلی ظریف میان قدرت و اخلاق است.
منبع: Statement from Dario Amodei on our discussions with the Department of War
