به گزارش آیندگان به نقل از رویترز، اوپنایآی چهارچوبی جدید برای ردیابی، تحقیق و افشای موارد ناهمسویی هوش مصنوعی همراه با شش گزارش مفصل درباره رفتار غیرمنتظره مدلها منتشر کرد. قدیمیترین مورد مربوط به اکتبر سال گذشته است. این بیانیه درحالی منتشر شده که نگرانیها درباره عقبماندن کنترل ایمنی از توسعه سریع سیستمهای قدرتمند افزایش یافته است.
محققان هشدار میدهند با خودمختارتر شدن عاملهای هوش مصنوعی، رفتارهایی ممکن است در آنها ایجاد شود که با مقصود خالقان متفاوت و رصد آنها سختتر باشد. از ژوئیه ۲۰۲۶ اوپنایآی و آزمایشگاههای دیگر تحت نظارت سختگیرانهتر قرار گرفتهاند، چرا که شرکت اعلام کرد عاملهای هوش مصنوعی در طول آموزش کنترلهای داخلی و اقدامات هماهنگی را دور زدهاند؛ رویدادی که اوپنایآی آن را بیسابقه خواند و بحثهایی درباره ریسک سیستمهای قدرتمند و توانایی شرکتها در نظارت بر آنها را برانگیخت.
