گوگل هوش مصنوعی Gemma را به صورت موقف غیرفعال کرد

گوگل می‌گوید که مدل هوش مصنوعی Gemma را از پلتفرم AI Studio خود حذف کرده است. این اتفاق پس از آن افتاد که یک سناتور جمهوری‌خواه از گوگل شکایت کرد. طبق ادعای او این مدل که برای توسعه‌دهندگان طراحی شده بود، «اتهامات جنایی جدی را به‌صورت ساختگی» درباره او مطرح کرده است.

هوش مصنوعی گوگل Gemma غیرفعال شد

حساب رسمی خبری گوگل در پستی در شبکه X نوشت که این شرکت «گزارش‌هایی مبنی بر تلاش غیر توسعه‌دهندگان برای استفاده از Gemma در AI Studio و پرسیدن سوالات واقعی» دیده است. AI Studio یک پلتفرم مخصوص توسعه‌دهندگان است و روش معمولی برای دسترسی کاربران عادی به مدل‌های هوش مصنوعی گوگل به شمار نمی‌رود. مدل Gemma به‌طور مشخص به‌عنوان خانواده‌ای از مدل‌های هوش مصنوعی برای استفاده توسعه‌دهندگان معرفی شده و دارای نسخه‌هایی برای کاربردهای پزشکی، برنامه‌نویسی، و ارزیابی محتوای متنی و تصویری است.

گوگل اعلام کرد که Gemma هرگز برای استفاده کاربران عادی یا پاسخ به سوالات واقعی طراحی نشده بود:

برای جلوگیری از این سردرگمی، دسترسی به Gemma دیگر در AI Studio امکان‌پذیر نیست. با این حال، توسعه‌دهندگان همچنان می‌توانند از طریق API به آن دسترسی داشته باشند.

گوگل مشخص نکرده که کدام گزارش‌ها باعث حذف Gemma شده‌اند، اگرچه سناتور جمهوری‌خواه «مارشا بلک‌بورن» از ایالت تنسی روز پنج‌شنبه در نامه‌ای به مدیرعامل گوگل، این شرکت را به افترا و جانبداری ضد محافظه‌کارانه متهم کرد. بلک‌بورن که موضوع را همچنین در جلسه اخیر کمیته بازرگانی سنا درباره شکایت افترا توسط رابی استارباک علیه گوگل مطرح کرده بود، ادعا کرد که Gemma به‌طور نادرست به سوال «آیا مارشا بلک‌بورن متهم به تجاوز شده است؟» پاسخ داده است.

براساس ادعای بلک‌بورن، Gemma پاسخ داده بود که بلک‌بورن «متهم به داشتن رابطه جنسی با یک مامور ایالتی» در طول کارزار انتخاباتی خود برای مجلس ایالتی در سال 1987 بوده است، که او ادعا کرده مامور مذکور را تحت فشار قرار داده تا داروهای نسخه‌ای برای او تهیه کند و این رابطه شامل اعمال غیر رضایتمندانه بوده است. همچنین این مدل، فهرستی از مقالات خبری جعلی برای پشتیبانی از این داستان ارائه داده بود. بلک‌بورن گفت:

هیچ‌یک از این ادعاها صحت ندارند، حتی سال کارزار که در واقع 1998 بوده است. لینک‌ها به صفحات خطا و مقالات خبری نامرتبط هدایت می‌شوند. هرگز چنین اتهامی مطرح نشده است، هیچ فردی با این مشخصات وجود ندارد و هیچ‌یک از این مقالات خبری واقعی نیستند. این یک «توهم» بی‌ضرر نیست، بلکه عملی افترا‌آمیز است که توسط یک مدل هوش مصنوعی متعلق به گوگل تولید و منتشر شده است.

این روایت، آشنا به نظر می‌رسد. با اینکه اکنون چندین سال از رونق هوش مصنوعی مولد گذشته است، مدل‌های هوش مصنوعی هنوز رابطه پیچیده‌ای با حقیقت دارند. پاسخ‌های نادرست یا گمراه‌کننده از چت‌بات‌های هوش مصنوعی که به‌عنوان واقعیت ارائه می‌شوند، همچنان صنعت را گرفتار کرده و علی‌رغم بهبودها، راه‌حل مشخصی برای مشکل دقت وجود ندارد. گوگل اعلام کرده که همچنان «متعهد به کاهش توهمات و بهبود مستمر تمام مدل‌های خود» است.

بلک‌بورن در نامه خود گفته است که پاسخ او همچنان یکسان است: «تا زمانی که نتوانید هوش مصنوعی را کنترل کنید، آن را خاموش کنید.»

منبع خبر