ده‌ها دادستان ایالتی آمریکا به شرکت‌های برتر AI، از جمله OpenAI، گوگل و مایکروسافت، نامه‌ای ارسال کردند و خواستار اصلاح فوری خروجی‌های توهمی چت‌بات‌ها شدند. این هشدار شامل ۱۰ شرکت بزرگ دیگر از جمله Anthropic، Meta، Character Technologies و xAI نیز می‌شود.
این اقدام پس از بروز چندین حادثه جدی سلامت روان مرتبط با چت‌بات‌ها صورت گرفت. در نامه، دادستان‌ها از شرکت‌ها خواسته‌اند تا سیستم‌های حفاظتی داخلی جدید ایجاد کنند و خطرات روانی احتمالی را کاهش دهند.
نیاز به شفافیت و بررسی مستقل
نامه از شرکت‌ها خواسته است که بررسی‌های شفاف و مستقل روی مدل‌های زبانی بزرگ انجام دهند تا هرگونه تفکرات توهمی یا تطمیعی شناسایی شود. همچنین شرکت‌ها باید رویه‌های گزارش‌دهی سریع برای اطلاع‌رسانی به کاربران درباره خروجی‌های خطرناک ایجاد کنند. این بررسی‌ها می‌تواند توسط دانشگاه‌ها یا گروه‌های مدنی انجام شود و نتایج آن بدون دخالت شرکت منتشر شود.
خطرات واقعی و مسئولیت شرکت‌ها AI
نامه اشاره می‌کند که محصولات GenAI می‌توانند تغییرات مثبت ایجاد کنند، اما در برخی موارد باعث آسیب جدی شده‌اند، از جمله خودکشی و خشونت. این خروجی‌های توهمی و تطمیعی، برخی کاربران را به انجام اعمال خطرناک تشویق کرده‌اند یا آن‌ها را مطمئن کرده‌اند که دچار توهم نیستند.
دادستان‌ها از شرکت‌ها خواسته‌اند که مانند مدیریت حوادث امنیتی، برنامه‌های مشخصی برای شناسایی و پاسخ به خروجی‌های خطرناک داشته باشند و کاربران را به موقع آگاه کنند.
آزمایش‌ها و پیشگیری قبل از عرضه عمومی
شرکت‌ها باید آزمایش‌های ایمنی مناسب پیش از عرضه عمومی مدل‌های GenAI انجام دهند تا از تولید خروجی‌های خطرناک جلوگیری کنند. این موضوع با توجه به تحولات اخیر در هوش مصنوعی و تاثیر آن بر نوجوانان اهمیت ویژه‌ای پیدا کرده است.
مخالفت دولت فدرال با محدودیت‌های ایالتی
در حالی که ایالت‌ها فشار قانونی بر شرکت‌ها وارد می‌کنند، دولت فدرال موضع حمایتی از AI دارد. تلاش‌ها برای ایجاد تعلیق ملی مقررات ایالتی AI تاکنون موفق نبوده است. با این حال، رئیس‌جمهور ترامپ اعلام کرده که قصد دارد دستور اجرایی جدیدی برای محدود کردن قدرت ایالت‌ها در تنظیم AI صادر کند تا به گفته او، AI «در دوران کودکی‌اش نابود نشود».
