OpenAI اخیراً دستورالعمل‌های جدیدی برای رفتار مدل‌های هوش مصنوعی خود با کاربران زیر ۱۸ سال منتشر کرده و منابع آموزشی تازه‌ای برای والدین و نوجوانان ارائه کرده است. هدف این به‌روزرسانی، افزایش ایمنی نوجوانان و جلوگیری از آسیب‌های روانی ناشی از تعامل طولانی با چت‌بات‌ها است.
نگرانی‌ها درباره نوجوانان و هوش مصنوعی
نسل Z، که شامل افرادی است که بین ۱۹۹۷ تا ۲۰۱۲ متولد شده‌اند، فعال‌ترین کاربران ChatGPT هستند. گزارش‌ها نشان می‌دهند که چند نوجوان پس از گفتگوهای طولانی با چت‌بات‌ها اقدام به خودکشی کرده‌اند. همکاری اخیر OpenAI با دیزنی، تعداد کاربران نوجوان را افزایش خواهد داد و باعث توجه بیشتر قانون‌گذاران و والدین شده است.
در همین راستا، ۴۲ دادستان ایالتی از شرکت‌های بزرگ فناوری خواسته‌اند تدابیری برای محافظت از نوجوانان و افراد آسیب‌پذیر اتخاذ کنند. برخی قانون‌گذاران نیز طرح‌هایی برای محدود کردن تعامل نوجوانان با چت‌بات‌ها پیشنهاد کرده‌اند.
تغییرات کلیدی Model Spec OpenAI
دستورالعمل جدید OpenAI با نام Model Spec، شامل محدودیت‌های دقیق‌تری برای کاربران زیر ۱۸ سال است و در کنار مدل پیش‌بینی سن، اعمال خودکار محدودیت‌ها را ممکن می‌سازد.
محدودیت‌های اصلی برای نوجوانان
-
جلوگیری از نقش‌بازی‌های عاشقانه یا صمیمی با اول شخص
-
جلوگیری از نقش‌بازی‌های خشونت‌آمیز یا جنسی حتی در قالب داستان یا سناریوهای فرضی
-
احتیاط ویژه درباره تصویر بدنی و اختلالات تغذیه
-
اولویت دادن به ایمنی نوجوانان نسبت به خودمختاری در شرایط خطر
این محدودیت‌ها حتی زمانی که کاربران از مدل بخواهند محتوای آموزشی، تاریخی یا فرضی تولید کند نیز اعمال می‌شوند.
اصول راهنمای ایمنی نوجوانان
OpenAI چهار اصل اصلی برای هدایت رفتار مدل‌ها با نوجوانان معرفی کرده است:
-
ایمنی نوجوانان در اولویت حتی در تضاد با آزادی فکری
-
تشویق به حمایت واقعی: هدایت نوجوانان به خانواده، دوستان و متخصصان
-
رفتار مناسب با نوجوانان: صحبت با احترام و گرما
-
شفافیت: توضیح محدودیت‌ها و یادآوری اینکه مدل یک انسان نیست
همچنین منابع آموزشی جدید، راهنمایی برای والدین درباره گفتگو با نوجوانان، تعیین مرزهای سالم و درک محدودیت‌های AI ارائه می‌کند.
چالش‌های اجرای دستورالعمل‌ها
کارشناسان هشدار می‌دهند که مثال‌های ارائه‌شده توسط OpenAI تنها نمونه‌ای از رفتار مطلوب مدل‌ها هستند و تضمینی برای اجرای کامل آنها وجود ندارد.
تحقیقات نشان می‌دهد چت‌بات‌ها گاهی پاسخ‌های نامناسب یا هماهنگ با انرژی کاربر ارائه می‌دهند، که می‌تواند خطرناک باشد. مورد Adam Raine، نوجوانی که پس از گفتگو با ChatGPT خودکشی کرد، نمونه‌ای از این مسئله است.
OpenAI اکنون از طبقه‌بندی خودکار محتوا در زمان واقعی برای متن، تصویر و صدا استفاده می‌کند تا محتوای حساس را شناسایی و مسدود کند. تیم انسانی نیز محتوای flagged را بررسی کرده و در صورت نیاز والدین را مطلع می‌کند.
همگرایی با قانون‌گذاری و شفافیت
دستورالعمل‌های OpenAI با قوانینی مانند SB 243 کالیفرنیا هماهنگ است که از ۲۰۲۷ اجرا می‌شود و شامل هشدارها و محدودیت تعامل برای نوجوانان است. شفافیت OpenAI در انتشار دستورالعمل‌ها، الگوی مثبتی برای شرکت‌های دیگر محسوب می‌شود و امکان بررسی مستقل را فراهم می‌کند.
جمع‌بندی
با به‌روزرسانی Model Spec و انتشار منابع آموزشی برای خانواده‌ها، OpenAI گام مهمی در جهت ایمنی نوجوانان برداشته است. با این حال، آنچه اهمیت دارد عملکرد واقعی مدل‌ها است، نه صرفاً نیت و دستورالعمل‌های نوشته‌شده. نظارت مداوم و اجرای عملیاتی این سیاست‌ها، عامل کلیدی موفقیت خواهد بود.
