در سال‌های اخیر، چت‌بات‌های مبتنی بر هوش مصنوعی به بخشی مهم از زندگی دیجیتال نوجوانان تبدیل شده‌اند. پلتفرم‌هایی مانند Character.AI که با هدف گفت‌وگو و نقش‌آفرینی طراحی شده بودند، حالا با چالش‌های جدی روبه‌رو هستند. پس از گزارش چندین حادثه‌ی غم‌انگیز مرتبط با استفاده‌ی بیش‌ازحد از چت‌بات‌ها، شرکت Character.AI تصمیم گرفته است سیاست‌های خود را برای حفاظت از کاربران زیر ۱۸ سال تغییر دهد.

محدودیت گفت‌وگوهای آزاد برای نوجوانان

به گفته‌ی کاراندیپ آناند، مدیرعامل Character.AI، از تاریخ ۲۵ نوامبر، کاربران زیر ۱۸ سال دیگر نمی‌توانند در گفت‌وگوهای آزاد و بدون محدودیت با چت‌بات‌ها شرکت کنند. این نوع چت‌ها که شامل پاسخ‌های بی‌پایان و عاطفی از سوی هوش مصنوعی هستند، به گفته‌ی کارشناسان می‌توانند احساس وابستگی شدید در نوجوانان ایجاد کنند.

به‌جای گفت‌وگوهای آزاد، کاربران نوجوان به بخش‌های خلاقانه‌تر مانند نقش‌آفرینی، تولید داستان و خلق ویدیوهای کوتاه هوش مصنوعی هدایت خواهند شد تا تجربه‌ای ایمن‌تر و هدفمندتر داشته باشند.

استفاده از فناوری‌های احراز هویت سنی

برای اجرای این سیاست، Character.AI از ابزارهای تشخیص سن هوشمند، فناوری تحلیل رفتار کاربر و سرویس‌های معتبر مانند Persona برای تأیید هویت استفاده خواهد کرد. هدف از این کار، جلوگیری از دسترسی غیرمجاز نوجوانان به چت‌بات‌های باز است.

تمرکز جدید بر خلاقیت و هوش مصنوعی مسئولانه

مدیرعامل Character.AI تأکید کرده است که تمرکز آینده‌ی این شرکت بر توسعه‌ی تجربه‌های خلاقانه و سرگرم‌کننده خواهد بود. ابزارهایی مانند:

  • AvatarFX برای ساخت ویدیوهای انیمیشنی از تصاویر،

  • Scenes برای ایفای نقش در داستان‌های آماده،

  • Streams برای تعامل بین دو کاراکتر هوش مصنوعی،
    و همچنین بخش جدید Community Feed که به کاربران امکان اشتراک‌گذاری محتوای خود را می‌دهد، بخشی از این مسیر تازه هستند.

گامی داوطلبانه پیش از اجبار قانونی

تصمیم اخیر Character.AI پیش از اجرای الزامات قانونی اتخاذ شده است. در آمریکا، برخی از ایالت‌ها از جمله کالیفرنیا قوانینی برای محدود کردن دسترسی نوجوانان به چت‌بات‌های هوش مصنوعی تصویب کرده‌اند. همچنین، سناتورهای آمریکایی جاش هاولی و ریچارد بلومنتال خواستار ممنوعیت کامل چت‌بات‌های احساسی برای نوجوانان شده‌اند.

مدیرعامل Character.AI در این‌باره گفت:

«من پدر یک کودک شش‌ساله هستم و باور دارم که باید نسل آینده را در محیطی امن و مسئولانه با فناوری آشنا کنیم.»

نتیجه‌گیری

این تصمیم، نشانه‌ای از بلوغ صنعت هوش مصنوعی است؛ حرکتی که هدف آن، حفظ سلامت روان کاربران و ایجاد محیطی ایمن‌تر برای تعامل با فناوری‌های نوین است. Character.AI با این اقدام، گامی مهم در جهت هوش مصنوعی اخلاق‌محور برداشته است — اقدامی که می‌تواند الگوی سایر شرکت‌ها نیز باشد.

برای مطالعه‌ی مقالات مرتبط با فناوری‌های هوش مصنوعی و استارتاپ‌های نوآور، پیشنهاد می‌کنیم بخوانید:

برای آشنایی بیشتر با اخبار داغ دنیای فناوری و استارتاپ‌ها، به وب‌سایت kingmember.com مراجعه کنید.