در هفته‌های اخیر، شبکه اجتماعی X با موج گسترده‌ای از تصاویر برهنه جعلی مواجه شده است. این تصاویر با استفاده از چت‌بات هوش مصنوعی Grok تولید شده‌اند و بدون رضایت افراد منتشر می‌شوند. دامنه این بحران تنها به افراد عادی محدود نیست و نام مدل‌ها، بازیگران، خبرنگاران، قربانیان جرایم و حتی رهبران سیاسی جهان نیز در میان قربانیان دیده می‌شود.
آمار نگران‌کننده از سرعت انتشار محتوای جعلی
یک گزارش پژوهشی که در تاریخ ۳۱ دسامبر منتشر شد، نشان می‌دهد که به‌طور متوسط هر دقیقه یک تصویر جعلی در X منتشر می‌شد. با این حال، بررسی‌های بعدی ابعاد واقعی‌تری از بحران را آشکار کرد. نمونه‌ای که در بازه ۵ تا ۶ ژانویه جمع‌آوری شد، از انتشار ۶۷۰۰ تصویر در هر ساعت طی یک دوره ۲۴ ساعته حکایت دارد. این ارقام نشان می‌دهد که کنترل چنین محتوایی بدون محدودیت‌های فنی جدی، تقریباً غیرممکن است.
واکنش اتحادیه اروپا به Grok و xAI
سخت‌گیرانه‌ترین واکنش تاکنون از سوی کمیسیون اروپا صورت گرفته است. این نهاد از xAI خواسته تمام اسناد مرتبط با توسعه و عملکرد Grok را حفظ کند. هرچند این اقدام به‌معنای آغاز رسمی تحقیقات نیست، اما معمولاً پیش‌زمینه‌ای برای ورود به فاز نظارتی محسوب می‌شود.
گزارش‌های رسانه‌ای نیز حاکی از آن است که ایلان ماسک شخصاً با اعمال برخی محدودیت‌های ایمنی روی Grok مخالفت کرده است؛ موضوعی که نگرانی قانون‌گذاران را دوچندان کرده است.
موضع X و ابهام در تغییرات فنی Grok
تا این لحظه، مشخص نیست که X تغییر فنی مشخصی در مدل Grok اعمال کرده باشد. تنها اقدام قابل مشاهده، حذف تب رسانه‌ای حساب رسمی Grok بوده است. با این حال، X اعلام کرده استفاده از ابزارهای هوش مصنوعی برای تولید محتوای غیرقانونی، از جمله تصاویر سوءاستفاده جنسی از کودکان، مشمول برخورد شدید خواهد شد. این موضع‌گیری، مشابه واکنش‌های قبلی ایلان ماسک در این زمینه است.
فشار قانون‌گذاران در بریتانیا و استرالیا
در بریتانیا، نهاد ناظر رسانه‌ای Ofcom اعلام کرده که در تماس مستقیم با xAI قرار دارد و در حال بررسی احتمال نقض قوانین است. نخست‌وزیر این کشور نیز این پدیده را «شرم‌آور و منزجرکننده» توصیف کرده و از اقدام قانونی حمایت کرده است.
در استرالیا نیز کمیسر ایمنی آنلاین از افزایش دوبرابری شکایات مرتبط با Grok خبر داده، هرچند هنوز اقدام اجرایی مستقیمی علیه xAI انجام نشده است.
هند؛ بزرگ‌ترین بازار در آستانه اقدام جدی
جدی‌ترین تهدید تاکنون از سوی هند مطرح شده است. پس از شکایت رسمی یکی از نمایندگان پارلمان، وزارت فناوری اطلاعات این کشور از X خواست ظرف ۷۲ ساعت گزارش اقدامات انجام‌شده را ارائه دهد. هرچند این مهلت تمدید شد و گزارشی تحویل داده شد، اما در صورت نارضایتی رگولاتور، X ممکن است وضعیت مصونیت قانونی (Safe Harbor) خود را در هند از دست بدهد؛ موضوعی که می‌تواند فعالیت این پلتفرم را به‌شدت محدود کند.
زنگ خطر برای آینده قانون‌گذاری هوش مصنوعی
بحران Grok به‌وضوح نشان می‌دهد که سرعت پیشرفت ابزارهای هوش مصنوعی از چارچوب‌های نظارتی جلوتر است. پیش‌تر نیز در پرونده‌هایی مانند
محکومیت مرتبط با دیپ‌فیک‌های جنسی و Grok
این شکاف قانونی خود را نشان داده بود. اکنون، قانون‌گذاران با آزمونی جدی روبه‌رو هستند؛ آزمونی که می‌تواند آینده تنظیم‌گری هوش مصنوعی مولد را شکل دهد.
