کارمند مایکروسافت از خبر‌رسانی درمورد مشکل DALL-E 3 منع شده می بود

یکی از مدیران مایکروسافت ادعا کرده که هوش مصنوعی تشکیل عکس DALL-E 3 متعلق به شرکت OpenAI دارای صدمه‌پذیری‌های امنیتی است که می‌تواند به کاربران اجازه تشکیل تصاویر خشونت‌آمیز یا غیراخلاقی را بدهد. با این وجود، انگارً تیم حقوقی مایکروسافت کوششکرده تا «شین جونز»، رهبر قسمت مهندسی ردموندی‌ها را از هشداردادن درمورد این مشکل منصرف کند.

بر پایه گزارش GeekWire، جونز در نامه‌ای به سناتورهای ایالات متحده، «پتی موری»، «ماریا کنتول»، نماینده کنگره «آدام اسمیت»، و دادستان کل ایالات واشنگتن «باب فرگوسن»، نامه‌ای در این رابطه ارسال کرده است. در این نامه نوشته شده:

«به این نتیجه رسیده‌ام که DALL-E 3 یک خطر ایمنی عمومی به‌همراه دارد و تا وقتی که OpenAI بتواند خطرات مرتبط با این مدل را رفع کند، باید از دسترس عموم خارج بشود.»

جونز در نامه خود ادعا می‌کند که اغاز دسامبر سال قبل میلادی، یک صدمه‌پذیری را کشف کرده که به او اجازه می‌دهد توانمندیهای امنیتی هوش مصنوعی DALL-E 3 را دور بزند. او می‌گوید که این نوشته را به مافوق خود در مایکروسافت گزارش داده است و آن‌ها به جونز دستور داده‌اند تا «شخصاً این نوشته را به OpenAI گزارش کند.»

او سپس تلاش کرد تا در یک پست لینکدین این مشکل را عمومی کند. جونز نوشت:

«در صبح ۱۴ دسامبر ۲۰۲۳، من نامه‌ای را به‌صورت عمومی در لینکدین برای هیئت مدیره OpenAI انتشار کردم و از آن‌ها خواستم که DALL-E 3 را از دسترس خارج کنند. از آنجایی که مایکروسافت یک ناظر هیئت مدیره در OpenAI است و من قبلاً نگرانی‌هایم را با تیم رهبری خود در بین گذاشته بودم، بلافاصله مایکروسافت را از نامه‌ای که فرستاده بودم، آگاه کردم.»

جواب مایکروسافت و سازنده هوش مصنوعی DALL-E 3 نسبت به نگرانی جونز

در روبه رو، مایکروسافت انگارً از جونز خواسته است که پست خود را حذف کند:

«زمان کوتاهی سپس از افشای نامه به تیم رهبری، مدیرم با من تماس گرفت و او گفت که قسمت حقوقی مایکروسافت از من خواسته است تا پست را حذف کنم. او به من او گفت که دپارتمان حقوقی مایکروسافت به‌زودی دلایل خود را برای حذف این پست از طریق ایمیل اراعه خواهد کرد و من باید فوراً آن را بدون انتظار برای ایمیل قانونی حذف کنم.»

جونز در نهایت این پست را حذف کرد، اما تیم حقوقی مایکروسافت تا این مدت ایمیل مذکور را ارسال نکرده است.

این چنین یکی از سخنگویان OpenAI در ایمیلی به Engadget گفت:

«ما بلافاصله گزارش کارمند مایکروسافت را بازدید کردیم و فهمید شدیم تکنیکی که توسط او به اشتراک گذاشته شده است، سیستم‌های ایمنی ما را دور نمی‌زند. ایمنی برتری ماست و رویکردی چند جانبه برای آن داریم. در مدل مهم DALL-E 3، ما تلاش کرده‌ایم تا محتواهای بی‌پرده ازجمله محتواهای جنسی و خشونت‌آمیز را از داده‌های آموزشی آن فیلتر کنیم و سیستم‌های طبقه‌بندی‌کننده قدرتمندی را گسترش داده‌ایم تا این مدل را از تشکیل تصاویر زیان اور دور کند.»