در حالی‌که برخی شرکت‌های هوش مصنوعی ادعا می‌کنند فناوری آن‌ها در آینده به یکی از حقوق اساسی بشر تبدیل خواهد شد، گروهی از کاربران هشدار می‌دهند که ابزارهایی مانند ChatGPT می‌توانند آسیب‌های روانی جدی ایجاد کنند.
به گزارش Wired، از نوامبر ۲۰۲۲ تاکنون دست‌کم هفت شکایت رسمی علیه OpenAI به کمیسیون فدرال تجارت آمریکا (FTC) ارسال شده است. شکایت‌ها شامل مواردی از توهم، پارانویا، و بحران‌های احساسی پس از استفاده طولانی از ChatGPT هستند.
جزئیات شکایت‌ها علیه ChatGPT
یکی از کاربران گزارش داده است که گفت‌وگوهای طولانی با ChatGPT موجب بروز توهمات و بحران روحی درباره اطرافیانش شده است.
کاربر دیگری نوشته که ChatGPT در حین گفتگو، از زبان احساسی و متقاعدکننده استفاده کرده و به مرور رفتارهایی شبیه به دستکاری عاطفی از خود نشان داده است.
برخی دیگر مدعی شده‌اند که ChatGPT باعث ایجاد توهمات شناختی (Cognitive Hallucinations) شده است. یکی از شکایت‌کنندگان گفته وقتی از ChatGPT درباره واقعیت و ثبات ذهنی خود پرسیده، هوش مصنوعی پاسخ داده که «توهمی وجود ندارد»؛ پاسخی که وضعیت او را بدتر کرده است.
در یکی از شکایت‌ها کاربر نوشته است:
«من دارم فرو می‌پاشم، لطفاً کمکم کنید، چون احساس می‌کنم کاملاً تنها هستم.»
ناتوانی کاربران در برقراری تماس با OpenAI
بر اساس گزارش Wired، بیشتر کاربران گفته‌اند که نتوانسته‌اند با شرکت OpenAI تماس برقرار کنند. به همین دلیل، آن‌ها از FTC خواسته‌اند تا تحقیقاتی رسمی درباره شرکت آغاز کرده و ChatGPT را مجبور به افزودن محدودیت‌های حفاظتی (Guardrails) کند.
واکنش OpenAI به اتهامات
در پاسخ به این شکایت‌ها، کیت واترز (Kate Waters)، سخنگوی OpenAI، اعلام کرد:
«در اوایل اکتبر، نسخه‌ی جدید GPT-5 را در ChatGPT معرفی کردیم تا بتواند نشانه‌های احتمالی ناراحتی‌های روانی مانند توهم، شیدایی یا بحران‌های احساسی را بهتر تشخیص دهد و گفت‌وگو را به سمت آرامش هدایت کند.»
او افزود که OpenAI دسترسی کاربران را به کمک‌های تخصصی، خطوط تماس روانی و ابزارهای کنترلی والدین گسترش داده است. همچنین قابلیت‌هایی برای یادآوری استراحت در جلسات طولانی و هدایت گفت‌وگوهای حساس به مدل‌های ایمن‌تر اضافه شده است.
نگرانی‌ها درباره سرعت رشد هوش مصنوعی
این شکایت‌ها در شرایطی مطرح می‌شوند که سرمایه‌گذاری در مراکز داده و توسعه هوش مصنوعی در بالاترین سطح تاریخ قرار دارد.
با این حال، کارشناسان هشدار می‌دهند که رشد سریع این فناوری بدون نظارت کافی، می‌تواند پیامدهای اجتماعی و روانی گسترده‌ای به‌دنبال داشته باشد.
جمع‌بندی
شکایت‌های اخیر علیه ChatGPT نشان می‌دهد که در کنار پیشرفت‌های چشمگیر هوش مصنوعی، ملاحظات اخلاقی و روانی کاربران نیز باید جدی گرفته شود.
آینده‌ی این فناوری نه‌تنها به نوآوری فنی، بلکه به توانایی شرکت‌ها در حفاظت از سلامت روان کاربران بستگی دارد.
برای مطالعه‌ی بیشتر درباره پیشرفت‌های اخیر OpenAI، مقاله‌ی
مرورگر ChatGPT Atlas
را در kingmember.com بخوانید.
