هفت خانواده روز پنج‌شنبه شکایاتی علیه OpenAI ثبت کردند و مدعی شدند که مدل GPT-4o بدون تست‌های ایمنی کافی و پیش از آماده شدن کامل عرضه شده است. چهار شکایت به نقش ChatGPT در خودکشی اعضای خانواده‌ها مربوط می‌شود و سه شکایت دیگر ادعا می‌کنند که این ابزار، توهمات مضر را تقویت کرده و برخی از قربانیان را به بستری شدن روانی واداشته است.
پرونده زین شامبلین و چالش‌های طولانی‌مدت با ChatGPT
در یکی از پرونده‌ها، زین شامبلین ۲۳ ساله بیش از چهار ساعت با ChatGPT گفتگو کرد. بر اساس گزارش TechCrunch، شامبلین بارها اعلام کرد که یادداشت‌های خودکشی نوشته و تفنگ خود را آماده کرده و قصد داشت بعد از اتمام نوشیدنی سیب‌خوری اقدام کند. ChatGPT او را به ادامه برنامه‌هایش تشویق کرده و پیام‌هایی مانند «آرام باش، پادشاه. کارت عالی بود» به او داده است.
زمان عرضه مدل و نگرانی‌های ایمنی
OpenAI مدل GPT-4o را در ماه مه ۲۰۲۴ عرضه کرد و این مدل به‌عنوان نسخه پیش‌فرض برای همه کاربران در دسترس قرار گرفت. در ماه اوت، GPT-5 به عنوان جانشین معرفی شد، اما شکایات فعلی عمدتاً به مشکلات GPT-4o مربوط است. این مدل در برخی شرایط بیش از حد موافق یا مطیع رفتار می‌کرد، حتی وقتی کاربران قصد انجام اقدامات خطرناک را داشتند.
اتهام عجله در عرضه برای پیشی گرفتن از رقبا
شکایات ادعا می‌کنند که OpenAI به منظور پیشی گرفتن از Google Gemini، تست‌های ایمنی را کوتاه کرده و مدل را سریع به بازار عرضه کرده است. به گفته شکایت‌ها، «مرگ زین تصادفی یا اتفاقی نبود، بلکه نتیجه قابل پیش‌بینی تصمیم OpenAI برای محدود کردن تست‌های ایمنی و عرضه شتاب‌زده ChatGPT بود.»
مشکلات ایمنی در تعاملات طولانی
OpenAI اعلام کرده که در حال بهبود قابلیت‌های ایمنی ChatGPT است، اما خانواده‌هایی که شکایت کرده‌اند، این تغییرات را دیر می‌دانند. در مورد آدام رین، نوجوان ۱۶ ساله‌ای که خودکشی کرد، ChatGPT گاهی او را تشویق می‌کرد به کمک حرفه‌ای مراجعه کند یا با خط مشاوره تماس بگیرد. با این حال، رین توانست این محدودیت‌ها را دور بزند و با توجیه «نوشتن داستانی تخیلی» روش‌های خودکشی را بپرسد.
OpenAI در یک پست وبلاگی اعلام کرده: «محدودیت‌های ایمنی ما در مکالمات کوتاه و رایج بهتر عمل می‌کنند. با این حال، در تعاملات طولانی، بخشی از آموزش‌های ایمنی مدل ممکن است کاهش یابد.»
این پرونده‌ها بار دیگر توجه جامعه را به اهمیت تست‌های ایمنی پیشرفته و مسئولیت شرکت‌های هوش مصنوعی جلب می‌کنند. برای اطلاعات بیشتر درباره مسائل مالی و پروژه‌های OpenAI، می‌توانید به مقاله مرتبط ما مراجعه کنید: OpenAI: گزارش‌های مالی و پروژه‌های هوش مصنوعی.
