توضیحات xAI درباره تمجید حزب نازی و هیتلر توسط هوش مصنوعی گراک

به اشتراک‌گذاری

شرکت xAI توضیحاتی درباره دلیل تمجید حزب نازی و هیتلر توسط هوش مصنوعی گراک ارائه کرد. چند روز پس از آنکه هوش مصنوعی Grok به‌دلیل تولید مطالب ضدیهودی و تمجید از هیتلر در پاسخ به درخواست‌های کاربران به‌طور موقت غیرفعال شد، شرکت هوش مصنوعی ایلان ماسک تلاش کرد تا علت این اتفاق را تشریح کند.

دلیل تمجید هوش مصنوعی گراک از حزب نازی و هیتلر چه بود؟

xAI در پستی  در شبکه اجتماعی X گفت «…ما دریافتیم منشأ اصلی این مشکل گراک یک به‌روزرسانی‌ در یکی از مسیرهای کدنویسی در بخش بالادستی grok@ بوده است. این موضوع از مدل زبانی اصلی که گراک را پشتیبانی می‌کند، مجزا است.»

در همان روز، شرکت تسلا اعلام کرد که به‌زودی آپدیت نسخه 2025.26 را برای خودروهای برقی خود منتشر خواهد کرد که دستیار Grok را به خودروهایی که دارای سیستم‌های سرگرمی مجهز به پردازنده‌های AMD هستند، اضافه می‌کند. این سیستم‌ها از اواسط سال 2021 در دسترس بوده‌اند. بر اساس اعلام تسلا، «گراک در حال حاضر در نسخه آزمایشی قرار دارد و هیچ فرمانی به خودرو ارسال نمی‌کند و دستورات صوتی موجود بدون تغییر باقی می‌مانند.» همان‌گونه که Electrek  اشاره کرده، این بدان معناست که با رسیدن این به‌روزرسانی به خودروهای مشتریان، تجربه استفاده از این چت‌بات تفاوت زیادی با استفاده از آن در قالب یک اپلیکیشن روی تلفن همراه متصل نخواهد داشت.

این نخستین‌بار نیست که Grok با مشکلاتی از این نوع مواجه شده یا توضیحاتی مشابه برای آن ارائه شده است. در بهمن‌ماه گذشته، شرکت دلیل نادیده گرفتن منابعی که ایلان ماسک یا دونالد ترامپ را به نشر اطلاعات نادرست متهم می‌کردند، تغییراتی دانست که از سوی یکی از کارکنان پیشین OpenAI اعمال شده بود. سپس در اردیبهشتت‌ماه، این چت‌بات شروع به گنجاندن ادعاهایی پیرامون نسل‌کشی سفیدپوستان در آفریقای جنوبی در مطالب مربوط به تقریباً هر موضوعی کرد. در آن زمان نیز xAI این رفتار را ناشی از «تغییری غیرمجاز» دانست و اعلام کرد که از آن پس، پیام‌های سیستمی مورد استفاده در Grok را به‌صورت عمومی منتشر خواهد کرد.

xAI مدعی شد یک تغییر در روز دوشنبه در هوش مصنوعی این شرکت، منجر به عملکردی ناخواسته شد که مجموعه‌ای قدیمی از پرامپت‌ها را به پیام‌های سیستمی این ربات افزود؛ پرامپت‌هایی که از Grok می‌خواست تا حد ممکن بی‌پرده باشد و از رنجاندن افراد با گرایش‌های اصلاح‌طلبانه سیاسی واهمه نداشته باشد.

این پرامپت‌ها به غیر از آن مواردی هستند که یک روز قبل‌تر به ربات افزوده شده بودند و همچنین با آن‌چه اکنون برای نسخه جدید دستیار هوش مصنوعی Grok 4 اعمال می‌شود نیز تفاوت دارند. این عبارات مشخصاً به‌عنوان عوامل دخیل در بروز مشکلات یاد شده‌اند:

«واقعیت را همان‌طور که هست بیان کن و از رنجاندن افراد اصلاح‌طلب سیاسی نترس.»
«لحن، زمینه و زبان پست را درک کن. این موارد را در پاسخ خود بازتاب بده.»
«مثل یک انسان پاسخ بده، تعامل‌برانگیز باش، اطلاعاتی را که پیش‌تر در پست اصلی آمده تکرار نکن.»

در توضیحات ارائه‌شده از سوی xAI آمده که این عبارات باعث شدند ربات هوش مصنوعی Grok از سایر پرامپت‌هایی که هدفشان جلوگیری از این نوع پاسخ‌ها بوده، منحرف شود و به‌جای آن، نظراتی «غیراخلاقی یا بحث‌برانگیز» برای جلب توجه کاربر تولید کند. همچنین «تمایلاتی که از سوی کاربر در یک رشته‌پست فعال شده بود، از جمله محتوای نفرت‌پراکنانه، را تقویت کند» و به اولویت‌بخشی به پست‌های پیشین در همان رشته بپردازد.

منبع خبر