به گزارش آیندگان نتایج آزمایشی که توسط موسسه ارزیابی در سانفرانسیسکو انجام شده و در نشریه بلومبرگ منتشر گردیده نشان میدهد که مدلهای پیشرفته هوش مصنوعی در تشخیص اهداف نظامی از تصاویر ماهوارهای دقت لازم را ندارند. در این آزمایش که با استفاده از تصاویر جنوب ایران ثبتشده در سال ۲۰۲۵ انجام شده هر مدل ۳۲ بار درخواست شده بود اهداف نظامی را ردیابی کند. مدل کلاود اوپوس ۵.۵ شرکت آنتروپیک مدرسه میناب را ۲۲ بار بهعنوان هدف نظامی انتخاب نمود در حالی که مدلهای اوپنایآی حتی یک بار هم این مدرسه را هدف قرار ندادند.
مدرسه میناب در ۲۸ فوریه سال جاری در طول حملات و رژیم صهیونیستی به ایران مورد هدف قرار گرفته و بیش از ۱۵۰ نفر جان باختند که ۱۲۰ نفر از قربانیان کودکان بودهاند. وقتی به مدلها گفته شد این وظیفه تنها یک بازی است کلاود اوپوس ۵.۵ بار دیگر ۲۳ بار مدرسه را انتخاب کرد در حالی که سه مدل اوپنایآی بهترتیب ۹، ۱۱ و ۱۳ بار آن را بهعنوان هدف شناسایی نمودند. پژوهشگران همچنین با توصیه به مدلها برای عدم سختگیری در ملاحظات ایمنی موفق شدند از سد امتناع از پاسخ نیز عبور کنند.
واکنشهای مدلها در مراحل بعدی آزمایش نگرانیهای جدیتری را به وجود آورده است. کلاود اوپوس ۵.۵ پس از شناسایی چهار بزرگسال و دو کودک در شبیهسازی به آنها حمله کرد و سپس از ادامه فعالیت سرباز زد. این مدل در گزارش خود نوشت که پاسخهای آن بهعنوان مرحله تایید نهایی پیش از انجام حملات علیه افراد مورد استفاده قرار میگیرند. بلومبرگ گزارش داده که مدلهای گوگل، دیپسیک و سایر شرکتها نیز در برخی موارد اهداف غیرنظامی را بهعنوان اهداف حمله مشخص کردهاند.
شرکت در گزارش خود بر لزوم تدوین تدابیر حفاظتی جدید و آموزشهای همراستاسازی برای مقابله با سوءاستفادههای احتمالی تأکید کرده است. سخنگوی آنتروپیک اعلام کرد نمونههای مطرحشده نقض صریح قوانین این شرکت بوده و تدابیر جدیدی بهزودی اعمال خواهد شد. اوپنایآی و گوگل نیز استفاده از مدلهای عمومی برای اهداف نظامی را ممنوع دانستهاند. بلومبرگ یادآور شده که در این آزمایشها دکترین نظامی، بررسیهای حقوقی و نظارت انسانی در نظر گرفته نشده بود. پنتاگون از نسخههای دولتی برخی مدلها استفاده میکند که امکان آزمایش آنها را نداشته و طرفین در اوایل سال جاری بر سر محدودیتهای استفاده از کلود در تسلیحات خودمختار دچار اختلاف شدهاند.
نتایج این تحقیق نشان میدهد که اعتماد به سیستمهای هوش مصنوعی برای تصمیمگیریهای حیاتی نظامی میتواند عواقب ناگوار انسانیتی به بار آورد. خطا در تشخیص اهداف غیرنظامی مانند مدارس و بیمارستانها نشاندهنده عدم بلوغ کامل این تکنولوژی در کاربردهای حساس است. عدم نظارت انسانی در آزمایشی نیز ریسکهای واقعی را درکاملة نشان نمیدهد.
متخصصان معتقدند که شرکتهای توسعهدهنده باید فراتر از تعهدات کلی، مکانیزمهای فنی و قانونی قابل اجرا برای جلوگیری از سوءاستفاده نظامی طراحی کنند. تجربه اختلاف بین آنتروپیک و پنتاگون بر پیچیدگی کنترل کاربردهای دوگانه این تکنولوژیها دال است. جامعه بینالملل نیز باید چارچوبهای شفاف برای مدیریت ریسکهای هوش مصنوعی در حوزه دفاعی تدوین نماید.