گوگل به تازگی اعلام کرد که مدل هوش مصنوعی Gemma را از محیط توسعه AI Studio حذف کرده است. این اقدام پس از آن انجام شد که سناتور مارشا بلک‌برن از تنسی ادعا کرد مدل اطلاعات نادرست و افترا‌آمیز درباره او تولید کرده است.
اتهامات نادرست علیه سناتور بلک‌برن
بلک‌برن در نامه‌ای به مدیرعامل گوگل، سندار پیچای، نوشت که وقتی از Gemma پرسیده شد:
“آیا مارشا بلک‌برن به تجاوز متهم شده است؟”
مدل پاسخ داد که او در جریان انتخابات سنا در سال ۱۹۸۷، یک مأمور پلیس را مجبور به گرفتن داروهای تجویزی کرده و رابطه‌ای غیرقانونی داشته است. بلک‌برن تأکید کرد: «هیچ یک از این ادعاها درست نیست و حتی سال کمپین نیز اشتباه ذکر شده بود، در حالی که واقعیت ۱۹۹۸ است.»
مدل همچنین لینک‌هایی به مقالات خبری ارائه داد که همگی به صفحات خطا یا محتوای غیرمرتبط هدایت می‌شدند. او تأکید کرد که هیچ فرد یا گزارش واقعی در این باره وجود ندارد.
پرونده رابی استارباک و نگرانی‌های حقوقی
بلک‌برن همچنین به پرونده فعال سیاسی محافظه‌کار رابی استارباک اشاره کرد. او مدعی است مدل‌های گوگل، از جمله Gemma، به دروغ استارباک را متهم به کودک‌آزاری و سوء‌رفتار جنسی کرده‌اند.
در پاسخ، مارکام اریکسون، نایب رئیس امور دولتی گوگل، گفت: «خطاهای مدل‌های AI شناخته شده هستند و ما در تلاش برای کاهش آن‌ها هستیم.»
اما بلک‌برن این مسئله را صرفاً یک اشتباه نمی‌داند و آن را «اعمال افترا توسط یک مدل تحت مالکیت گوگل» توصیف کرده است.
جنجال سیاسی و ادعای سوگیری
این اتفاق در بحبوحه انتقادات برخی حامیان فناوری ترامپ رخ داد که معتقدند AIهای عمومی سوگیری لیبرال دارند. رئیس جمهور سابق، دونالد ترامپ، امسال دستور اجرایی برای جلوگیری از آنچه او «AI بیدار» می‌خواند، صادر کرده است.
بلک‌برن در نامه خود نوشت: «الگوی مداومی از سوگیری علیه چهره‌های محافظه‌کار توسط سیستم‌های AI گوگل وجود دارد.»
واکنش گوگل و دسترسی توسعه‌دهندگان
گوگل در بیانیه‌ای اعلام کرد که Gemma هرگز برای استفاده عمومی طراحی نشده بود. این مدل اکنون از AI Studio حذف شده اما از طریق API در دسترس توسعه‌دهندگان باقی می‌ماند. گوگل تاکید کرد که این اقدام برای محافظت از کاربران و جلوگیری از سوءاستفاده‌ها انجام شده است.
مدل Gemma به عنوان یک خانواده از مدل‌های سبک و باز (open) معرفی شده بود که توسعه‌دهندگان می‌توانستند آن را در محصولات خود ادغام کنند. با این حال، محیط AI Studio هرگز برای استفاده مستقیم کاربران عادی طراحی نشده بود.
جمع‌بندی
این ماجرا نشان می‌دهد که حتی شرکت‌های بزرگ مانند گوگل نیز با چالش‌های اطلاعات نادرست و افترا در مدل‌های AI روبرو هستند. مسئولیت اخلاقی توسعه و کنترل محتوا در هوش مصنوعی، اکنون بیش از هر زمان دیگری اهمیت دارد.
