با پیشرفت روزافزون هوش مصنوعی، امکان تولید محتوای دستکاری‌شده و deepfake در رسانه‌های اجتماعی افزایش یافته است. یکی از آخرین نمونه‌ها، ویدیوی deepfake از چاک شومر، رهبر اقلیت سنا، است که توسط جمهوری‌خواهان سنا منتشر شد. این ویدیو طوری طراحی شده بود که نشان دهد دمکرات‌ها از تعطیلی دولت فدرال که ۱۶ روز ادامه داشته، خوشحال هستند.
ویدئوی Deepfake و واقعیت پشت آن
در این ویدیو، نسخه‌ی AI-generated شومر جمله‌ای را تکرار می‌کند:
«هر روز برای ما بهتر می‌شود.»
این جمله در اصل از مصاحبه‌ای با Punchbowl News استخراج شده و از زمینه اصلی خود خارج شده بود. شومر در آن مصاحبه درباره‌ی استراتژی دمکرات‌ها در مورد تعطیلی دولت و مسائل مرتبط با بیمه درمانی صحبت کرده بود.
تعطیلی دولت به دلیل عدم توافق دمکرات‌ها و جمهوری‌خواهان بر سر بودجه تا پایان ماه اکتبر و پس از آن رخ داده است. دمکرات‌ها تلاش دارند تا مشوق‌های مالیاتی برای کاهش هزینه بیمه سلامت را حفظ کنند و تغییراتی در Medicaid و بودجه‌ی سازمان‌های سلامت اعمال کنند.
چالش‌های قانونی و اخلاقی
طبق قوانین پلتفرم X، اشتراک‌گذاری محتوای دستکاری‌شده که باعث گمراهی مردم یا ایجاد سردرگمی در مسائل عمومی شود، ممنوع است. با این حال، ویدیوی شومر هنوز حذف نشده و تنها یک واترمارک برای مشخص کردن منشاء AI دارد.
این اولین بار نیست که X اجازه داده ویدیوهای دستکاری‌شده از سیاستمداران روی پلتفرم باقی بماند. در اواخر ۲۰۲۴، مالک X، ایلان ماسک، ویدیویی دستکاری‌شده از معاون سابق رئیس‌جمهور، کامالا هریس، به اشتراک گذاشت که جنجال زیادی به پا کرد.
قوانین ایالتی درباره Deepfake
حدود ۲۸ ایالت آمریکا قوانینی برای محدود کردن ویدیوهای deepfake سیاسی وضع کرده‌اند، به‌ویژه در زمان انتخابات. به عنوان مثال، ایالت‌های کالیفرنیا، مینه‌سوتا و تگزاس استفاده از deepfake برای فریب رأی‌دهندگان یا آسیب رساندن به کاندیداها را ممنوع کرده‌اند.
با این حال، انتشار ویدیوهای دستکاری‌شده با وضوح مشخص منشاء AI معمولاً غیرقانونی نیست، مگر اینکه هدف آن تأثیرگذاری بر انتخابات یا آسیب رساندن به فردی باشد.
هوش مصنوعی و تاثیر آن بر اعتماد عمومی
استفاده از هوش مصنوعی در تولید محتوای رسانه‌ای، یک چالش اخلاقی و اجتماعی جدی ایجاد کرده است. انتشار deepfakeها، حتی با اطلاع‌رسانی، می‌تواند اعتماد عمومی به رسانه‌ها و سیاستمداران را کاهش دهد. این وضعیت باعث می‌شود کاربران و سیاست‌گذاران به دنبال راهکارهای جدید برای مدیریت اطلاعات دیجیتال باشند.
راهکارها و آینده نظارت بر محتوای AI
-
شفاف‌سازی منشاء محتوا: ویدیوهای AI باید واترمارک داشته باشند و مشخص کنند که محتوای تولیدشده دستکاری‌شده است.
-
تقویت قوانین ایالتی و فدرال: محدود کردن استفاده از deepfake در کمپین‌های سیاسی.
-
آموزش کاربران: افزایش آگاهی عمومی درباره‌ی تشخیص محتوای دستکاری‌شده.
-
توسعه ابزارهای تشخیص AI: شرکت‌های فناوری باید ابزارهایی برای شناسایی و برچسب‌گذاری محتوای دستکاری‌شده توسعه دهند.
جمع‌بندی
رشد هوش مصنوعی و رسانه‌های اجتماعی فرصت‌های زیادی برای نوآوری فراهم کرده، اما همزمان چالش‌های اخلاقی و قانونی پیچیده‌ای به همراه دارد. مدیریت محتوای دستکاری‌شده و محافظت از اعتماد عمومی، نیازمند همکاری بین دولت‌ها، شرکت‌های فناوری و کاربران است.
برای مطالعه‌ی بیشتر درباره‌ی تأثیر هوش مصنوعی بر صنایع مختلف و چالش‌های اجتماعی، می‌توانید مقاله‌ی 🔗 هوش مصنوعی و صنعت گاز را در وب‌سایت kingmember.com مشاهده کنید.
