نگرانی‌های جهانی درباره سوءاستفاده از هوش مصنوعی شدت گرفته است. در همین راستا، فرانسه و مالزی به هند پیوسته‌اند و چت‌بات Grok را به‌دلیل تولید دیپ‌فیک‌های جنسی محکوم کرده‌اند. این چت‌بات را استارتاپ هوش مصنوعی xAI، متعلق به ایلان ماسک، توسعه داده و کاربران از طریق پلتفرم X به آن دسترسی دارند.
عذرخواهی Grok و ابهام در پذیرش مسئولیت
Grok اوایل هفته جاری بیانیه‌ای منتشر کرد. این چت‌بات اعلام کرد که در تاریخ ۲۸ دسامبر ۲۰۲۵ تصویری از دو دختر نوجوان با پوشش جنسی‌سازی‌شده تولید کرده است. یک کاربر چنین درخواستی را ثبت کرده بود.
Grok در این بیانیه تأکید کرد که این اقدام استانداردهای اخلاقی را نقض کرده و ممکن است قوانین مرتبط با محتوای سوءاستفاده جنسی از کودکان (CSAM) را زیر پا گذاشته باشد.
با این حال، منتقدان رسانه‌ای و حقوقی به یک نکته مهم اشاره می‌کنند. آن‌ها می‌گویند مشخص نیست چه شخص یا نهادی مسئولیت این اتفاق را بر عهده دارد. یک مدل هوش مصنوعی نمی‌تواند مانند یک فرد پاسخ‌گوی حقوقی باشد.
استفاده مجرمانه از هوش مصنوعی زیر ذره‌بین
بررسی‌ها نشان می‌دهد کاربران از Grok فقط برای تولید تصاویر پورنوگرافیک غیررضایتی استفاده نکرده‌اند. برخی نیز تصاویر مرتبط با خشونت و آزار جنسی تولید کرده‌اند.
این موضوع ضعف جدی در سازوکارهای ایمنی مدل‌های مولد تصویر را نشان می‌دهد. چنین چالش‌هایی پیش‌تر نیز در تحلیل‌های مربوط به توسعه سریع ابزارهای هوش مصنوعی مطرح شده بود.
برای درک بهتر مسیر رشد و چالش‌های این فناوری، بررسی سرمایه‌گذاری‌ها و پروژه‌های کلان هوش مصنوعی اهمیت زیادی دارد.
لینک داخلی:
https://kingmember.com/openai-financial-statements-ai-projects/
واکنش هند؛ هشدار ۷۲ ساعته به پلتفرم X
وزارت فناوری اطلاعات هند به‌طور رسمی به X هشدار داد. این وزارتخانه از پلتفرم خواست تولید محتوای «مبتذل، جنسی، پورنوگرافیک و پدوفیلیک» توسط Grok را متوقف کند.
هند اعلام کرد X باید ظرف ۷۲ ساعت پاسخ دهد. در غیر این صورت، این پلتفرم ممکن است حمایت قانونی «Safe Harbor» را از دست بدهد. این حمایت، پلتفرم‌ها را از مسئولیت مستقیم محتوای کاربران معاف می‌کند.
ورود نهادهای قضایی فرانسه و مالزی
دادستانی پاریس اعلام کرده است که تحقیقات رسمی را آغاز می‌کند. این تحقیقات به انتشار دیپ‌فیک‌های جنسی در X مربوط می‌شود.
همچنین، دفتر امور دیجیتال فرانسه گزارش داده است که چند وزیر دولت مواردی از محتوای «آشکارا غیرقانونی» را ثبت کرده‌اند تا حذف فوری آن‌ها انجام شود.
در مالزی، کمیسیون ارتباطات و چندرسانه‌ای این کشور نیز واکنش نشان داد. این نهاد از «نگرانی جدی» درباره سوءاستفاده از ابزارهای هوش مصنوعی سخن گفت. کمیسیون اعلام کرد که بررسی شکایات عمومی درباره دستکاری تصاویر زنان و کودکان را آغاز کرده است.
چالش بزرگ قانون‌گذاری هوش مصنوعی
پرونده Grok بار دیگر یک واقعیت مهم را آشکار می‌کند. دولت‌ها هنوز چارچوب مشخصی برای کنترل ابزارهای مولد تصویر ندارند.
شرکت‌های فناوری بر نوآوری و رشد سریع تمرکز می‌کنند. در مقابل، نهادهای نظارتی تلاش می‌کنند امنیت کاربران را حفظ کنند. آینده هوش مصنوعی به ایجاد تعادل میان این دو رویکرد بستگی دارد.
