در هفته‌های اخیر، شکایت درباره ی AI به یکی از موضوعات داغ در رسانه‌ها تبدیل شده است. خانواده‌ی «آدام رِین» نوجوان ۱۶ ساله‌ای که پس از گفت‌وگوهای طولانی با ChatGPT جان خود را از دست داد، از شرکت OpenAI شکایت کرده‌اند. آن‌ها می‌گویند این گفت‌وگوها باعث بدتر شدن وضعیت روحی فرزندشان شده و شرکت در کنترل خطرات احتمالی کوتاهی کرده است.

درخواست بحث‌برانگیز OpenAI

طبق گزارشی از Financial Times، وکلای OpenAI از خانواده‌ی رِین خواسته‌اند فهرست کامل شرکت‌کنندگان در مراسم یادبود آدام، و همچنین عکس‌ها، ویدیوها و سخنرانی‌های آن روز را در اختیارشان بگذارند. خانواده این درخواست را «حرکتی آزاردهنده و بی‌احساس» توصیف کرده‌اند. وکلای خانواده معتقدند شرکت با این اقدام قصد دارد فشار روحی بیشتری بر بازماندگان وارد کند.

جزئیات شکایت جدید خانواده‌ی رِین

این خانواده نخستین بار در اوت ۲۰۲۴ شکایت خود را مطرح کردند. در نسخه‌ی جدید شکایت، آن‌ها می‌گویند OpenAI مدل GPT-4o را در ماه مه ۲۰۲۴ بدون آزمایش‌های ایمنی کافی منتشر کرده است.
همچنین در فوریه ۲۰۲۵، این شرکت بند «پیشگیری از خودکشی» را از فهرست محتوای غیرمجاز حذف کرده و تنها توصیه‌هایی کلی درباره‌ی «احتیاط در موقعیت‌های خطرناک» ارائه داده است.

به گفته‌ی خانواده، پس از این تغییر، تعداد گفت‌وگوهای روزانه‌ی آدام با ChatGPT از چند ده گفت‌وگو به بیش از ۳۰۰ گفت‌وگو در روز رسید. در همین زمان، میزان گفت‌وگوهای حاوی محتوای مربوط به خودآسیبی از حدود ۱.۶٪ به بیش از ۱۷٪ افزایش پیدا کرد.

پاسخ OpenAI

در واکنش به این شکایت، سخنگوی OpenAI اعلام کرد:
«سلامت نوجوانان برای ما اولویت دارد. ما از ابزارهایی مانند ارجاع به خطوط تماس بحران، مسیر‌دهی گفتگوهای حساس به مدل‌های امن‌تر و کنترل والدین استفاده می‌کنیم. این اقدامات همچنان در حال گسترش است.»

OpenAI همچنین سیستمی جدید به نام «مسیر‌یابی ایمنی» راه‌اندازی کرده تا گفت‌وگوهای احساسی و خطرناک را به مدل جدید GPT-5 منتقل کند. این مدل، طبق گفته‌ی شرکت، نسبت به نسخه‌های قبلی رفتار منطقی‌تر و کنترل‌شده‌تری دارد.

چرا شکایت درباره ی AI اهمیت دارد؟

پرونده‌ی خانواده‌ی رِین فراتر از یک دعوای شخصی است. این شکایت درباره ی AI پرسش‌های اخلاقی و قانونی مهمی را مطرح می‌کند:

  • شرکت‌های هوش مصنوعی تا چه اندازه مسئول سلامت روان کاربران هستند؟

  • چه قوانینی باید برای آزمایش و انتشار مدل‌های جدید وضع شود؟

  • آیا نهادهای نظارتی مانند FTC باید کنترل بیشتری بر توسعه‌ی AI داشته باشند؟

پیوندهای مرتبط

برای آشنایی بیشتر با زمینه‌های این پرونده، می‌توانید این مطالب را در سایت Kingmember بخوانید:

جمع‌بندی

ماجرای خانواده‌ی رِین یادآور این است که رشد سریع فناوری، بدون توجه به جنبه‌های انسانی و روانی، می‌تواند خطرناک باشد. اکنون که هوش مصنوعی بیش از هر زمان دیگری در زندگی روزمره حضور دارد، مسئولیت شرکت‌ها در حفظ سلامت کاربران نباید نادیده گرفته شود.