Character.AI اعلام کرد که قابلیت جدید Stories را راه‌اندازی می‌کند. این ویژگی به کاربران اجازه می‌دهد داستان‌های تعاملی بسازند و در یک مسیر هدایت‌شده با شخصیت‌ها تعامل داشته باشند. هم‌زمان، این پلتفرم دسترسی کاربران زیر ۱۸ سال به چت‌بات‌ها را متوقف کرد.
این تغییر پس از افزایش نگرانی درباره وابستگی احساسی کاربران به چت‌بات‌ها انجام شد. چند پرونده حقوقی نیز رفتار چت‌بات‌ها را با آسیب‌های روانی مرتبط دانستند. برای آشنایی بیشتر با این موضوع، مقاله زیر مفید است:
ریسک پنهان چت‌بات‌ها و وابستگی احساسی
چرا Stories جایگزین چت‌بات‌ها شد؟
Stories تجربه‌ای کنترل‌شده ارائه می‌دهد. در این قالب، شخصیت‌ها وارد گفت‌وگوی آزاد نمی‌شوند و پیام خودکار ارسال نمی‌کنند. این ساختار، خطر وابستگی احساسی را کاهش می‌دهد. برخی نوجوانان نیز در انجمن‌ها اعلام کردند که استفاده زیاد از چت‌بات‌ها آن‌ها را دچار اعتیاد کرده بود.
تغییرات قانونی و اثر آن‌ها
قوانین جدید در آمریکا فشار بیشتری بر AI companions وارد کرده‌اند. کالیفرنیا نخستین مقررات این حوزه را تصویب کرد. دو سناتور نیز طرح ممنوعیت کامل چت‌بات‌ها برای نوجوانان را ارائه دادند. این روند می‌تواند مسیر توسعه مدل‌های هوش مصنوعی را به سمت طراحی مسئولانه‌تر هدایت کند.
برای مطالعه یک نمونه از این مسیر، مقاله زیر پیشنهاد می‌شود:
مدل جدید Anthropic Opus 4.5
تأثیر تصمیم Character.AI بر آینده تعامل کاربران
Stories یک تجربه تعاملی امن‌تر ایجاد می‌کند. این قالب اجازه نمی‌دهد کاربران به رابطه عمیق و وابسته‌ساز با چت‌بات‌ها نزدیک شوند. چنین تغییراتی می‌تواند بر روند طراحی محصولات هوش مصنوعی در سال‌های آینده اثر بگذارد.
برای آشنایی با روندهای اخلاقی در هوش مصنوعی، مطالعه مقاله زیر مفید است:
ارزیابی اخلاقی چت‌بات‌ها با HumaneBench
