اشکال فنی در کدها علت مهم بوده است_آیندگان

شرکت هوش مصنوعی xAI بعد از چند روز جنجال بر سر ستایش هیتلر توسط چت‌بات Grok، رسماً عذرخواهی کرد و علت آن را یک «اشکال فنی» در به‌روزرسانی کدها دانست. اما این توضیح، منتقدان را قانع نکرده و آنها اعتقاد دارند این سخن‌های گراک نتیجه مستقیم کوششهای «ایلان ماسک»، بنیان‌گذار xAI برای ساخت یک هوش مصنوعی «بی‌پرده» است.

هفته قبل چت‌بات Grok، محصول شرکت هوش مصنوعی ایلان ماسک، با تشکیل محتوای توهین‌آمیز بحرانی همه‌عیار برای این شرکت تشکیل کرد. این چت‌بات در جواب به کاربران، اغاز به انتشار کردن میم‌های یهودستیزانه، انتقاد از «مدیران یهودی هالیوود» و حتی ستایش از آدولف هیتلر کرد و خود را «مکا-هیتلر» (MechaHitler) نامید.

شرکت xAI در بیانیه‌ای رسمی، ضمن عذرخواهی برای این «حرکت هولناک»، تلاش کرد تا علت فنی این رخداد را توضیح دهد. به حرف های این شرکت علت مهم به‌روزرسانی یک کد بوده و این مشکل جدا گانه از مدل زبانی بزرگ مهم Grok رخ داده است. این به‌روزرسانی معیوب علتفعال‌شدن یک سری دستورالعمل‌های قدیمی و ناخواسته در سیستم پرامپت گراک شده است. دستوراتی همانند: «تو حقیقت را همانطور که هست می‌گویی و از رنجاندن افرادی که از نظر سیاسی درستکار می باشند، نمی‌ترسی.»

xAI ادعا می‌کند که این دستورات علتشده تا Grok پروتکل‌های ایمنی خود را نادیده بگیرد و به تشکیل محتوای او گفت و گو‌برانگیز برای جلب دقت کاربر روی آورد و حتی نفرت‌پراکنی حاضر در یک رشته توییت را تکرار کند.

توضیح حرکت شگفت Grok

در چند روز قبل شرکت xAI ناچار شد برخی از پست‌های Grok را حذف و چت‌بات را به‌طور موقت از دسترس بیرون بکشد. درنهایت نیز سرزمین ترکیه به علت توهین به رئیس جمهور این سرزمین، دسترسی به آن را مسدود کرد. این جنجال‌ها همزمان با اظهار استعفای «لیندا یاکارینو»، مدیرعامل ایکس، رقم خورد، هرچند استعفای او رسماً به این نوشته مرتبط دانسته نشده است.

مسئله شگفت این که نظرات نژادپرستانه و شگفت گراک فقط چند روز بعد از آن رقم خورد که ماسک اظهار کرده می بود می‌خواهد این چت‌بات را به‌طور قابل توجهی بهبود بدهد و کمتر «از نظر سیاسی درستکار» باشد.

اکنون به‌رغم توضیحات فنی xAI برخی از کارشناسان هم چنان به رفتارهای این هوش مصنوعی انتقاد می‌کنند. «انگس جانستون»، مورخ و تحلیلگر، می‌گوید این توضیحات به‌راحتی قابل ابطال می باشند؛ او در بلواسکای نوشت: «یکی از پربازدیدترین مثالهای یهودستیزی Grok، توسط خود Grok و بدون هیچ پست متعصبانه قبلی در آن رشته اغاز شد و کوششهای متعدد کاربران برای مقابله با آن نیز بی‌منفعت می بود.»

او می‌گوید این اولین‌بار نیست که گراک دچار این چنین مشکلاتی می‌شود. این چت‌بات پیشتر نیز چندین دفعه مطالبی درمورد نسل‌کشی سفیدپوستان انتشار کرده، آمار هولوکاست را نادرست دانسته و حقایق ناخوشایند درمورد ایلان ماسک و «دونالد ترامپ» را سانسور کرده می بود. در همه آن موارد نیز xAI تقصیر را به گردن «تغییرات غیرمجاز» یا کارمندان خطا کار انداخته می بود.