گوگل پس از تحقیق The Guardian مبنی بر ارائه اطلاعات نادرست در پاسخ به برخی سوالات مرتبط با سلامت در AI Overviews، اکنون بخش‌هایی از این نتایج را حذف کرده است.
حذف نتایج نادرست برای تست‌های کبد
The Guardian گزارش داد که وقتی کاربران سوال می‌کردند:
«محدوده طبیعی برای آزمایش خون کبد چیست؟»
AI Overviews اعدادی ارائه می‌داد که عوامل مهمی مانند ملیت، جنسیت، سن و نژاد را در نظر نمی‌گرفت. این موضوع ممکن بود باعث شود کاربران تصور کنند نتایج آزمایش آن‌ها سالم است، در حالی که نبودند.
پس از آن، گوگل بخش‌هایی از AI Overviews برای عبارت‌های:
-
«what is the normal range for liver blood tests»
-
«what is the normal range for liver function tests»
را حذف کرده است. با این حال، برخی عبارات جایگزین مانند «lft reference range» هنوز ممکن است پاسخ‌های AI تولید کنند.
واکنش گوگل و تیم داخلی متخصصان
یک سخنگوی گوگل به The Guardian گفت که شرکت روی بهبود گسترده سیستم کار می‌کند و اظهار داشت:
«یک تیم داخلی از پزشکان، پرسش‌های مشخص‌شده را بررسی کردند و در بسیاری از موارد اطلاعات صحیح و توسط وب‌سایت‌های معتبر تأیید شده بود.»
نگرانی فعالان سلامت
Vanessa Hebditch، مدیر ارتباطات و سیاست‌های British Liver Trust، حذف این نتایج را «خبر عالی» خواند اما هشدار داد که:
«مسئله بزرگ‌تر این است که این تنها یک نتیجه جستجو را اصلاح می‌کند و گوگل هنوز به مشکل کلی AI Overviews در حوزه سلامت نپرداخته است.»
اهمیت آموزش کاربران و ابزارهای جایگزین
کاربران باید همچنان با هوش مصنوعی محتاط باشند و برای اطلاعات سلامت از منابع معتبر استفاده کنند. همچنین، ابزارهای اختصاصی سلامت AI مانند ChatGPT Health می‌توانند جایگزین مطمئن‌تری باشند، زیرا گفت‌وگوهای کاربران را در محیط جداگانه مدیریت می‌کنند و داده‌ها برای آموزش مدل‌ها استفاده نمی‌شوند.
برای اطلاعات و مدیریت هوش مصنوعی در ایمیل و خدمات گوگل، می‌توانید به مقاله Gmail AI Inbox و ابزارهای هوش مصنوعی گوگل مراجعه کنید.
