زلدا ویلیامز، دختر بازیگر فقید رابین ویلیامز، اخیراً پیامی احساسی برای طرفداران پدرش منتشر کرد:
«لطفاً دیگر برای من و همه، ویدیوهای هوش مصنوعی از پدرم نفرستید. این کار نه برای او و نه برای من مناسب است.»
این پیام درست چند روز پس از انتشار مدل ویدیویی Sora 2 و اپلیکیشن اجتماعی Sora توسط OpenAI منتشر شد. این ابزارها امکان تولید دیپ‌فیک‌های بسیار واقعی از افراد، شخصیت‌های کارتونی و حتی افراد فوت‌شده را فراهم می‌کنند.
محدودیت‌ها و چالش‌های اخلاقی دیپ‌فیک
Sora 2 تنها ویدیو از افراد زنده را با اجازهٔ خودشان تولید می‌کند، اما برای افراد درگذشته چنین محدودیتی وجود ندارد. به همین دلیل، ویدیوهای زیادی از شخصیت‌های تاریخی و سلبریتی‌های فوت‌شده، از جمله رابین ویلیامز، باب راس، و جان لنون، در این پلتفرم منتشر شده است.
این مسئله سؤالات اخلاقی مهمی ایجاد می‌کند: آیا تولید و انتشار دیپ‌فیک افراد فوت‌شده بدون رضایتشان صحیح است؟ زلدا ویلیامز بر این باور است که این کار به خاطرهٔ پدرش و همچنین به کاربران احترام نمی‌گذارد.
واکنش‌ها و نگرانی‌های قانونی
OpenAI در مورد تولید دیپ‌فیک افراد فوت‌شده پاسخی رسمی نداده است. با این حال، قوانین موجود نشان می‌دهند که شرکت‌ها معمولاً مسئولیت قانونی برای توهین به افراد فوت‌شده ندارند.
همچنین، انتشار دیپ‌فیک‌های شخصیت‌های حقوقی مانند پیتر گریفین و پوکاهو در Sora 2، باعث شد هالیوود و انجمن Motion Picture Association از OpenAI بخواهند قوانین کپی‌رایت را رعایت کند. مدیرعامل OpenAI اعلام کرده که این سیاست به زودی اصلاح خواهد شد.
اهمیت رعایت استانداردهای اخلاقی در هوش مصنوعی
Sora 2 تا کنون یکی از پیشرفته‌ترین مدل‌های دیپ‌فیک عمومی به شمار می‌رود. سایر پلتفرم‌ها مانند xAI نیز قابلیت تولید دیپ‌فیک دارند اما محدودیت‌ها و حفاظ‌های اخلاقی کمتری دارند.
اگر شرکت‌ها و کاربران توجه کافی به استانداردهای اخلاقی نداشته باشند، این فناوری می‌تواند باعث سوءاستفاده و لطمه به شخصیت افراد، چه زنده و چه فوت‌شده، شود.
