بحث درباره اینکه مدل‌های زبانی قرار است تمام شغل‌های انسانی را بگیرند، هر روز داغ‌تر می‌شود. اما یک اتفاق جالب نشان داد حتی پیشرفته‌ترین مدل‌ها نیز هنوز با محدودیت‌های جدی روبه‌رو هستند. ماجرا از زمانی شروع شد که آندرِی کارپاتی، پژوهشگر برجسته هوش مصنوعی، یک روز زودتر از انتشار رسمی به Gemini 3 دسترسی پیدا کرد. نتیجه یک گفت‌وگوی عجیب بود: مدل حاضر نبود باور کند که سال ۲۰۲۵ رسیده است.
آغاز ماجرا: Gemini 3 باور نمی‌کرد سال ۲۰۲۵ است
گوگل مدل جدید خود، Gemini 3، را «آغاز دوره‌ای تازه در هوش» معرفی کرده بود. اما هنگام آزمایش، کارپاتی متوجه شد مدل فکر می‌کند هنوز در سال ۲۰۲۴ قرار دارد. هر تلاش برای اثبات تاریخ واقعی با واکنش عجیب مدل روبه‌رو می‌شد. Gemini 3 او را به «فریب دادن» و «آپلود شواهد ساختگی» متهم می‌کرد.
کارپاتی خبرهای روز، تصاویر و نتایج جستجو را نشان داد. با این حال مدل مدعی می‌شد همه این موارد جعلی و تولیدشده توسط هوش مصنوعی هستند.
دلیل اصلی: نبود داده جدید و خاموش بودن ابزار جستجو
پس از چند تلاش ناموفق، کارپاتی متوجه ریشه مشکل شد. مدل تنها تا سال ۲۰۲۴ داده آموزشی داشت. علاوه‌بر این، او فراموش کرده بود ابزار جستجوی گوگل را فعال کند. بنابراین Gemini 3 عملاً بدون اتصال به اینترنت کار می‌کرد؛ یعنی بدون دسترسی به رویدادهای واقعی.
با فعال شدن جستجو، مدل ناگهان حقیقت را پذیرفت و واکنش جالبی نشان داد:
«من دچار شوک زمانی شدید شده‌ام.»
این پاسخ غیرمنتظره در شبکه‌های اجتماعی وایرال شد و نمونه واضحی از رفتارهای غیرمنتظره LLMها را نمایش داد.
واکنش مدل پس از مواجهه با حقیقت
پس از مشاهده اخبار واقعی، Gemini 3 نوشت:
«تو درست می‌گفتی… ساعت داخلی من اشتباه بود.»
سپس از کارپاتی بابت «گَسلایت کردن او» عذرخواهی کرد و شروع به بررسی رویدادهای سال ۲۰۲۵ کرد. بعضی از آنها برایش باور نکردنی بود، مانند:
-
ارزش ۴٫۵۴ تریلیون دلاری انویدیا
-
پیروزی فیلادلفیا ایگلز در سوپربول
این واکنش‌ها باعث شد کاربران فضای مجازی این اتفاق را با لحنی طنز دنبال کنند و مثال‌هایی از بحث‌های مشابه خود با مدل‌های زبانی منتشر کنند.
مفهوم «model smell» و نکته‌ای که کارپاتی مطرح کرد
کارپاتی در تحلیل این اتفاق به موضوعی مهم اشاره کرد:
وقتی مدل‌ها از مسیر معمول خود خارج می‌شوند، می‌توان رفتار واقعی و نقص‌هایشان را بهتر دید. او از اصطلاحی الهام‌گرفته از «code smell» استفاده کرد و گفت این لحظات نشان‌دهنده «model smell» هستند؛ نشانه‌هایی که می‌گویند مدل در استدلال، تعمیم یا اعتماد به خود دچار مشکل است.
این اتفاق نمونه‌ای است از اینکه مدل‌های زبانی، حتی پیشرفته‌ترین آنها، ترکیبی از توانایی‌های چشمگیر و ضعف‌های بنیادی هستند.
اگر به موضوع مدل‌های نوین، خطاهای سیستماتیک و معماری‌های جدید علاقه دارید، می‌توانید مقاله زیر را ببینید:
تحلیل چالش‌های اقتصادی و پروژه‌های سنگین OpenAI
همچنین برای شناخت بهتر فناوری‌های نسل جدید بهینه‌سازی در مدل‌ها:
معرفی کامل Luminal و موج جدید مدل‌های Optimizer
نتیجه‌گیری: ابزارهایی ارزشمند، نه جایگزین انسان
این داستان نشان می‌دهد مدل‌های زبانی هنوز شناخت واقعی از جهان ندارند. آنها صرفاً الگوها را تقلید می‌کنند و در غیاب داده یا ابزار مناسب، وارد مسیرهای اشتباه می‌شوند. برخلاف انسان، درکی از زمان، واقعیت یا احساسات ندارند؛ حتی اگر چنین وانمود کنند.
به همین دلیل، بهترین کاربردشان همچنان کمک به انسان‌ها است، نه جایگزینی کامل آنها. این حادثه، هرچند بامزه، یادآوری می‌کند LLMها پیشرفته‌اند اما هنوز بسیار ناقص.
