مایکروسافت، گوگل و ۱۴ شرکت برای نگه داری ایمنی هوش مصنوعی توافق کردند_آیندگان

شرکت‌های بزرگ فناوری ازجمله مایکروسافت، گوگل و OpenAI اظهار کردند که در اجلاس هوش مصنوعی سئول به توافقی بین‌المللی در عرصه ایمنی هوش مصنوعی دست یافته‌اند. این توافق که با همکاری مقامات کشورهای گوناگون حاصل شده است، مطمعن می‌یابد که در گسترش سریع مدل‌های پیشرفته، قدم‌های ملزوم برای نگه داری ایمنی برداشته شود.

در دومین دور اجلاس بین‌المللی هوش مصنوعی که به میزبانی مشترک بریتانیا و کره جنوبی در سئول برگزار شد، ۱۶ شرکت فناوری پذیرفتند که هوش مصنوعی با وجود مزایای بزرگی که دارد، می‌تواند در صورت منفعت گیری نادرست، صدمه‌رسان باشد. آن‌ها برای برداشتن قدم‌های عملی به‌منظور انتشار کردن چهارچوب‌های ایمنی، اجتناب از گسترش مدل‌های مستعد ریسک‌های کنترل‌ناپذیر و همکاری با رگولاتورها در سطح بین‌المللی توافق کردند.

توافق بین‌المللی شرکت‌های فناوری بر سر ایمنی هوش مصنوعی

۱۶ شرکتی که در این توافق وجود دارند شامل آمازون، آنتروپیک، گوگل، مایکروسافت، OpenAI، متا، Cohere ،Inflection AI ،Mistral AI ،xAI ،IBM خواهد شد. در کنار غربی‌ها، شرکت‌هایی از چین و خاورمیانه نظیر تنسنت، سامسونگ و شیائومی هم وجود دارند. محققان و مهندسان قرار است سیستم‌های هوش مصنوعی را برای شناسایی سوگیری‌ها و دیگر مشکلاتی که امکان پذیر به گروه‌های گوناگون جامعه صدمه رساند، بازدید کنند.

چهارچوبی که بر سر مراعات آن توافق شده، شامل «خطوط قرمزی» می‌شود که انواع ریسک‌های مرتبط با سیستم‌های پیشگام هوش مصنوعی را تعریف می‌کند. این ریسک‌ها امکان پذیر «تحمل‌ناپذیر» برداشت شوند و می‌توانند شامل حملات سایبری خودکار و تهدید سلاح‌های بیولوژیک باشند. برای روبه رو با خطرات حاد، شرکت‌ها اظهار کردند که به پیاده‌سازی کیل سوئیچ‌هایی (Kill Switch) خواهند پرداخت که در صورت امکان‌ناپذیربودن جلوگیری از این ریسک‌ها، می‌توانند فرایند گسترش مدل‌های هوش مصنوعی را متوقف کنند.

در همین اجلاس دولت بریتانیا در بیانیه‌ای خبرداد که توافق جدیدی بین ۱۰ سرزمین و اتحادیه اروپا نیز حاصل شده است تا شبکه‌ای بین‌المللی شبیه مؤسسه ایمنی هوش مصنوعی بریتانیا را به‌وجود آورد. این شبکه به ترویج فهمیدن بهتر ایمنی هوش مصنوعی و هماهنگ‌سازی عمل های خود با تحقیقات، استانداردها و آزمایش‌های این حوزه خواهد پرداخت. استرالیا، کانادا، اتحادیه اروپا، فرانسه، آلمان، ایتالیا، ژاپن، سنگاپور، کره جنوبی، بریتانیا و ایالات‌متحده آمریکا این توافق را امضا کرده‌اند.