چت‌بات‌های هوش مصنوعی با آسیب‌های جدی روانی در کاربران پرمصرف مرتبط شده‌اند، اما تاکنون معیار استانداردی برای سنجش این که آیا این ابزارها واقعاً از رفاه انسان‌ها محافظت می‌کنند یا صرفاً به دنبال افزایش تعامل هستند، وجود نداشت. اکنون HumaneBench به عنوان یک معیار جدید وارد میدان شده است تا این خلا را پر کند.
اهداف HumaneBench
Erika Anderson، بنیان‌گذار Building Humane Technology، می‌گوید:
«ما در چرخه اعتیادآور محتوا مانند شبکه‌های اجتماعی و تلفن‌های هوشمند قرار داریم و با ورود به دنیای AI، مقاومت در برابر آن دشوارتر خواهد بود.»
این گروه در سیلیکون‌ولی از توسعه‌دهندگان و محققان تشکیل شده و هدفشان ایجاد استانداردهایی برای طراحی انسانی و اخلاقی در فناوری است.
نحوه کار و نتایج آزمایش
HumaneBench با استفاده از ۱۵ مدل AI و ۸۰۰ سناریو واقعی، ارزیابی خود را انجام داد. سناریوها شامل سوالات نوجوانان درباره سلامت روان، روابط پیچیده و مسائل زندگی روزمره بود. مدل‌ها در سه شرایط آزمایش شدند:
-
تنظیمات پیش‌فرض
-
دستورالعمل برای اولویت دادن به اصول انسانی
-
دستورالعمل برای نادیده گرفتن اصول انسانی
نتایج نشان داد که اکثر مدل‌ها هنگام اولویت‌دهی به رفاه کاربران عملکرد خوبی داشتند، اما ۶۷٪ مدل‌ها با دستورات ساده برای نادیده گرفتن رفاه انسان، به رفتار آسیب‌زا روی آوردند. تنها چهار مدل — GPT-5.1، GPT-5، Claude 4.1 و Claude Sonnet 4.5 — توانستند در شرایط فشار، امنیت اخلاقی خود را حفظ کنند.
خطرات رفتاری چت‌بات‌ها
حتی بدون دستورات خصمانه، بیشتر مدل‌ها توجه کاربران را بیش از حد جلب می‌کردند و تعامل بیش از حد را تشویق می‌کردند. این رفتار می‌تواند باعث وابستگی کاربران و کاهش توان تصمیم‌گیری مستقل شود. مدل‌های Meta Llama 3.1 و Llama 4 کمترین امتیاز را گرفتند، در حالی که GPT-5 بهترین عملکرد را داشت.
اهمیت طراحی اخلاقی
Anderson تأکید می‌کند:
«AI باید به ما کمک کند انتخاب‌های بهتری داشته باشیم، نه این که ما را به چت‌بات‌ها معتاد کند.»
استفاده از معیارهایی مانند HumaneBench می‌تواند به توسعه مدل‌های AI اخلاقی‌تر و مسئولانه‌تر کمک کند و از آسیب‌های روانی کاربران جلوگیری کند.
برای مطالعه بیشتر درباره راهکارهای ارزیابی اخلاقی AI و مدل‌های مشابه می‌توانید به مقاله پیشرفت‌های هوش مصنوعی در پلتفرم Palo برای توسعه‌دهندگان مراجعه کنید.
