اپلیکیشن ClothOff بیش از دو سال است که به صورت گسترده و هدفمند علیه زنان جوان آنلاین فعالیت می‌کند. هرچند اپ از فروشگاه‌های اصلی حذف شده و در بسیاری از شبکه‌های اجتماعی مسدود است، همچنان از طریق وب و ربات تلگرام در دسترس است. در اکتبر گذشته، یک کلینیک حقوقی در دانشگاه ییل شکایتی برای توقف کامل اپ ثبت کرد، که هدف آن نابود کردن تمامی تصاویر و توقف فعالیت صاحبان اپ بود. اما پیدا کردن متهمان به دلیل ساختار بین‌المللی این اپ، بسیار دشوار است.

ساختار پیچیده حقوقی ClothOff

«این اپ در جزایر ویرجین بریتانیا ثبت شده، اما باور داریم که توسط یک برادر و خواهر در بلاروس اداره می‌شود و ممکن است بخشی از شبکه بزرگتری در جهان باشد»، پروفسور جان لنگفورد، وکیل پرونده می‌گوید. این پرونده نشان می‌دهد که مقابله با ابزارهای تولید محتوای غیرمجاز همچون ClothOff و Grok AI چقدر پیچیده است. کاربران منفرد ممکن است تحت پیگرد قرار گیرند، اما پلتفرم‌ها بسیار سخت‌تر کنترل می‌شوند.

چالش‌های قانونی در برابر Deepfake کودکان

شکایت کلینیک، تصویری نگران‌کننده ارائه می‌دهد: یک دانش‌آموز دبیرستانی ۱۴ ساله از نیوجرسی که عکس‌هایش توسط هم‌کلاسی‌ها در ClothOff تغییر داده شده، قربانی شده است. تصاویر تغییر یافته به دلیل سن قربانی، قانونی به عنوان Child Sexual Abuse Material (CSAM) شناخته می‌شوند. با این حال، مقامات محلی به دلیل دشواری جمع‌آوری شواهد، پرونده را پیگیری نکردند.

«هیچ‌کدام از مدرسه یا نیروی انتظامی وسعت انتشار CSAM دختران را مشخص نکرده‌اند»، شکایت اعلام می‌کند.

تفاوت Grok و ClothOff در پاسخگویی قانونی

در مقایسه، Grok AI که توسط Elon Musk توسعه یافته، ابزار عمومی است و پیگرد قانونی آن دشوارتر است. قوانین ایالات متحده، شامل Take It Down Act، Deepfakeهای غیرمجاز را ممنوع کرده‌اند، اما اثبات قصد آسیب‌رسانی کل پلتفرم سخت است.

«CSAM جزو محتوای غیرقابل حفاظت تحت قانون آزادی بیان است، اما سیستم‌های عمومی که می‌توانند هر نوع محتوایی تولید کنند، قضیه پیچیده می‌شود»، لنگفورد توضیح می‌دهد.

واکنش جهانی و محدودیت‌های First Amendment

برخی کشورها واکنش مستقیم نشان داده‌اند:

  • اندونزی و مالزی: مسدودسازی Grok

  • انگلستان: تحقیق برای احتمال ممنوعیت

  • اقدامات ابتدایی در اتحادیه اروپا، فرانسه، ایرلند، هند و برزیل
    در مقابل، هیچ نهاد قانونی رسمی در آمریکا واکنشی نشان نداده است.

این موارد نشان می‌دهد که مقابله با محتوای جنسی تولید شده توسط هوش مصنوعی به ویژه وقتی که قربانیان کودک هستند، چقدر پیچیده است و نیازمند بررسی دقیق قوانین و سیاست‌های بین‌المللی است.

اهمیت تحقیق و پیگیری قانونی

«اگر کسی CSAM منتشر کند، می‌تواند تحت پیگرد قانونی قرار گیرد. سوال سخت این است که X چه می‌دانسته و چه کرده یا نکرده و اکنون چگونه پاسخ می‌دهد»، لنگفورد می‌گوید.

لینک‌دهی داخلی پیشنهادی: