در سال‌های اخیر، یکی از چالش‌های اصلی مدل‌های یادگیری عمیق این بوده که مشخص نیست چرا یک مدل تصمیم خاصی می‌گیرد. از مشکلات سیاسی چت‌بات‌ها گرفته تا پدیده توهم (Hallucination) و پاسخ‌های بیش‌ازحد همدلانه، درک رفتار شبکه‌های عصبی با میلیاردها پارامتر ساده نیست.
اکنون استارتاپ Guide Labs مستقر در سان‌فرانسیسکو با معرفی مدل جدید خود، Steerling-8B، رویکردی متفاوت ارائه کرده است. این مدل ۸ میلیارد پارامتری به‌گونه‌ای طراحی شده که هر توکن خروجی آن به داده‌های آموزشی قابل ردیابی باشد.
معماری مفهومی برای ردیابی داده‌ها
تیم Guide Labs در معماری این مدل یک «لایه مفهومی» اضافه کرده است. این لایه داده‌ها را در دسته‌های قابل رهگیری سازمان‌دهی می‌کند. در نتیجه توسعه‌دهندگان می‌توانند تشخیص دهند:
-
یک پاسخ دقیقاً از چه منبعی الهام گرفته است
-
مدل چگونه مفاهیمی مانند جنسیت یا طنز را درک می‌کند
-
چه داده‌هایی روی نتیجه نهایی تأثیر گذاشته‌اند
این رویکرد نسبت به روش‌های رایج تحلیل مدل‌ها، مهندسی‌شده‌تر و قابل‌کنترل‌تر است.
مزایا برای صنایع حساس و قانون‌مند
مدل‌های قابل تفسیر برای حوزه‌هایی مانند مالی، سلامت و تحقیقات علمی اهمیت زیادی دارند. برای مثال:
-
در ارزیابی وام، مدل باید سوابق مالی را لحاظ کند اما نباید به نژاد توجه کند.
-
در تحقیقات علمی مانند تاخوردگی پروتئین، پژوهشگران نیاز دارند بدانند چرا مدل به یک نتیجه خاص رسیده است.
-
شرکت‌ها می‌توانند استفاده از داده‌های دارای حق نشر را بهتر کنترل کنند.
این موضوع در شرایطی اهمیت بیشتری پیدا می‌کند که رقابت بین مدل‌های بزرگ مانند مدل‌های OpenAI و سایر آزمایشگاه‌ها شدت گرفته است. برای بررسی رقابت مدل‌های هوش مصنوعی در حوزه کدنویسی می‌توانید مقاله ما درباره
https://kingmember.com/ai-model-competition-in-coding-performance/ را مطالعه کنید.
عملکرد و آینده Guide Labs
Guide Labs اعلام کرده Steerling-8B حدود ۹۰٪ توان مدل‌های پیشرفته‌تر را ارائه می‌دهد، اما با داده آموزشی کمتر. این شرکت که از برنامه Y Combinator خارج شده، قصد دارد نسخه بزرگ‌تری از مدل را توسعه دهد و دسترسی API و قابلیت‌های عامل‌محور (Agentic) را ارائه کند.
هدف نهایی این است که «تفسیرپذیری» از یک موضوع تحقیقاتی به یک استاندارد مهندسی در ساخت مدل‌های زبانی بزرگ تبدیل شود.
