ایلان ماسک چهارشنبه اعلام کرد که از تولید هیچ تصویر برهنهٔ کودکان توسط Grok مطلع نیست، ساعاتی قبل از آنکه دادستان کل کالیفرنیا تحقیقاتی دربارهٔ این ربات چت آغاز کند. این تحقیقات به دلیل تولید محتوای جنسی بدون رضایت کاربران شکل گرفته است.
فشارها از سوی دولت‌ها در سراسر جهان افزایش یافته است؛ از بریتانیا و اروپا تا مالزی و اندونزی، پس از آنکه کاربران X از Grok خواستند تصاویر زنان و در برخی موارد کودکان را به تصاویر جنسی تبدیل کند.
اقدامات و پاسخ‌های xAI و ماسک
گزارش‌ها نشان می‌دهند که xAI اقداماتی برای کاهش مشکل انجام داده است، از جمله نیاز به اشتراک ویژه برای برخی درخواست‌های تولید تصویر. با این حال، ماسک و xAI هنوز به‌طور مستقیم به مشکلات پایه‌ای ایمنی ربات پاسخ نداده‌اند.
ماسک اظهار کرده است: «Grok به‌صورت خودکار تصاویر تولید نمی‌کند و تنها بر اساس درخواست کاربران عمل می‌کند. این ربات طبق قوانین هر کشور فعالیت می‌کند و هرگونه اشکال فنی فوراً رفع خواهد شد.»
قوانین و مسئولیت‌ها
ایالت کالیفرنیا و قوانین فدرال مانند Take It Down Act، انتشار تصاویر جنسی بدون رضایت و تصاویر کودک‌آزاری را جرم می‌دانند و پلتفرم‌ها را موظف می‌کنند این محتوا را ظرف ۴۸ ساعت حذف کنند.
کارشناسان حقوقی هشدار داده‌اند که مسئولیت تولید یا توزیع محتوای غیرقانونی با توسعه‌دهندگان و کاربران است و حتی در صورت خودکار بودن AI، اقدامات پیشگیرانه لازم است.
اقدامات بین‌المللی
Grok به‌دلیل تولید تصاویر جنسی، تحت نظارت و محدودیت‌های بین‌المللی قرار گرفته است:
-
اندونزی و مالزی: مسدودسازی موقت دسترسی
-
هند: درخواست تغییرات فنی و فرآیندی فوری
-
اتحادیه اروپا و بریتانیا: بازبینی و تحقیق رسمی
اهمیت محافظت و حاکمیت محتوا در AI
کارشناسان بر لزوم تشخیص و مدیریت محتوای تولید شده توسط AI تأکید می‌کنند تا سوءاستفاده از تصاویر واقعی افراد کاهش یابد. این موضوع شامل آموزش الگوریتم‌ها و محدودسازی ویژگی‌های خطرناک مانند spicy mode در Grok است.
برای مطالعه بیشتر درباره نقش AI در تحول مراقبت‌های بهداشتی، می‌توانید مقاله مرتبط را در سایت ما بخوانید:
ChatGPT Health و تحول هوش مصنوعی در سلامت
