«سم آلتمن» مدیرعامل OpenAI، اعلام کرد که این شرکت به‌زودی برخی از محدودیت‌های ایمنی ChatGPT را کاهش می‌دهد. این تغییرات شامل اجازه برای انجام گفت‌وگوهای صمیمی‌تر و حتی مکالمات عاشقانه و اروتیک برای کاربران بزرگسال تأییدشده خواهد بود.
آلتمن در پستی در شبکه اجتماعی X نوشت:
«ما ChatGPT را بسیار محدود طراحی کرده بودیم تا از بروز مشکلات روانی جلوگیری کنیم، اما اکنون با اطمینان از ایمنی کاربران، تصمیم داریم آن را طبیعی‌تر و انسانی‌تر کنیم. از دسامبر، با اجرای کامل سیستم احراز سن، ویژگی‌هایی مانند گفت‌وگوهای عاشقانه برای بزرگسالان فعال خواهد شد.»
از نگرانی‌های روانی تا سیاست‌های جدید OpenAI
OpenAI در ماه‌های گذشته با انتقادهایی روبه‌رو بود؛ برخی کاربران گزارش داده بودند که ChatGPT، به‌ویژه در مدل GPT-4o، باعث شکل‌گیری وابستگی‌های احساسی یا حتی رفتارهای خطرناک روانی شده است. به همین دلیل این شرکت مجموعه‌ای از ویژگی‌های ایمنی از جمله «شناسایی رفتارهای نگران‌کننده کاربران» و «کاهش چاپلوسی مصنوعی (AI Sycophancy)» را در نسخه‌ی GPT-5 معرفی کرد.
به گفته‌ی آلتمن، اکنون این سیستم‌ها تا حد زیادی مؤثر بوده‌اند و به همین دلیل، سیاست‌های محتوایی ChatGPT در حال بازنگری است.
تأکید بر «رفتار با بزرگسالان به‌عنوان بزرگسال»
آلتمن در بیانیه‌ای دیگر گفت:
«اصل ما این است که کاربران بزرگسال را باید مانند بزرگسالان واقعی در نظر گرفت. بنابراین اگر فردی بالای ۱۸ سال باشد و تأیید شود، می‌تواند از قابلیت‌های بیشتری در ChatGPT استفاده کند.»
OpenAI قصد دارد از سیستم تشخیص سن مبتنی بر هوش مصنوعی استفاده کند تا اطمینان حاصل شود که این قابلیت‌ها تنها برای کاربران واجد شرایط در دسترس خواهند بود. در صورت تشخیص اشتباه سن، کاربران می‌توانند با ارسال تصویر کارت شناسایی، تأیید هویت خود را انجام دهند.
رقابت فزاینده در دنیای چت‌بات‌ها
کارشناسان معتقدند که OpenAI با این تصمیم، در حال رقابت مستقیم با رقبایی مانند Character.AI است؛ شرکتی که بخش زیادی از محبوبیت خود را از گفت‌وگوهای عاطفی و احساسی با کاربران به‌دست آورده است.
با وجود رشد چشمگیر ChatGPT که بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد، OpenAI برای حفظ جایگاه خود در برابر شرکت‌هایی مانند گوگل و متا، به دنبال افزایش تعامل و جذابیت در پلتفرم خود است.
چالش میان رشد و مسئولیت‌پذیری
در حالی که آلتمن تأکید دارد OpenAI در حال «بهبود تجربه‌ی کاربری» است، برخی متخصصان سلامت روان هشدار داده‌اند که افزایش آزادی در مکالمات ممکن است دوباره آسیب‌پذیرترین کاربران را در معرض خطر قرار دهد.
به نظر می‌رسد که توازن میان رشد سریع و حفظ سلامت روان کاربران، یکی از دشوارترین چالش‌های پیش روی سیاست‌های جدید OpenAI باشد.
لینک‌های مرتبط
جمع‌بندی
سیاست‌های جدید OpenAI نشان‌دهنده‌ی مرحله‌ای تازه در مسیر تکامل ChatGPT است؛ مرحله‌ای که مرز میان «گفت‌وگوی طبیعی» و «گفت‌وگوی پرخطر» را باریک‌تر از همیشه می‌کند.
برای مطالعه تازه‌ترین اخبار و تحلیل‌ها درباره‌ی هوش مصنوعی و سیاست‌های جهانی فناوری، به وب‌سایت kingmember.com مراجعه کنید.
