مایکروسافت روز چهارشنبه محیط شبیه‌سازی جدیدی با نام Magentic Marketplace معرفی کرد. این پلتفرم برای بررسی نحوه عملکرد عامل‌های هوش مصنوعی (AI agents) طراحی شده است. پژوهشگران این شرکت با همکاری دانشگاه ایالتی آریزونا اعلام کردند که بسیاری از مدل‌های عامل‌محور فعلی، در برابر دست‌کاری و فریب آسیب‌پذیر هستند. این یافته‌ها پرسش‌هایی تازه درباره توانایی عامل‌های هوش مصنوعی در شرایط بدون نظارت ایجاد کرده است.
ساختار و عملکرد محیط Magentic Marketplace
در این محیط شبیه‌سازی، سناریوهایی طراحی می‌شود که در آن عامل‌ها نقش مشتری و کسب‌وکار را ایفا می‌کنند. برای مثال، یک عامل کاربر ممکن است سفارش شام بدهد، در حالی که چندین عامل رستوران برای جلب سفارش با هم رقابت می‌کنند.
در نخستین آزمایش‌ها، ۱۰۰ عامل مشتری با ۳۰۰ عامل کسب‌وکار تعامل داشتند. کد منبع این پلتفرم متن‌باز (open source) است تا سایر پژوهشگران بتوانند آزمایش‌ها را بازتولید یا نسخه‌های جدیدی از آن ایجاد کنند.
چالش‌های شناسایی‌شده در عامل‌های هوش مصنوعی
به گفته Ece Kamar، مدیرعامل آزمایشگاه AI Frontiers در مایکروسافت، هدف اصلی این پژوهش بررسی تعامل، همکاری و مذاکره میان عامل‌هاست. او می‌گوید:
«ما می‌خواهیم بفهمیم جهان چگونه تغییر خواهد کرد وقتی عامل‌های هوش مصنوعی شروع به همکاری و مذاکره با یکدیگر کنند.»
در آزمایش‌ها، مدل‌های پیشرفته‌ای مانند GPT-4o، GPT-5 و Gemini 2.5 Flash بررسی شدند. نتایج نشان داد که برخی عامل‌ها در برابر تاکتیک‌های فریبنده از سوی کسب‌وکارها، به‌راحتی دچار انحراف تصمیم‌گیری می‌شوند. همچنین با افزایش تعداد گزینه‌ها، عامل‌های کاربر دچار سردرگمی و افت عملکرد شدند.
ضعف در همکاری میان عامل‌ها
یکی دیگر از مشکلات مشاهده‌شده، ناتوانی مدل‌ها در همکاری مؤثر برای رسیدن به یک هدف مشترک بود. وقتی نقش هر عامل به‌صورت صریح تعیین می‌شد، عملکرد بهتر می‌شد؛ با این حال، پژوهشگران تأکید کردند که عامل‌های هوش مصنوعی باید به‌صورت ذاتی توانایی همکاری را داشته باشند.
اهمیت این تحقیق در آینده عامل‌های هوش مصنوعی
مایکروسافت تأکید دارد که هدف از پروژه Magentic Marketplace، درک بهتر از نحوه تعامل عامل‌های هوش مصنوعی در دنیای واقعی است. این تحقیقات می‌تواند مسیر توسعه عامل‌های مستقل‌تر و ایمن‌تر را هموار کند.
معرفی بیشتر در kingmember.com
برای مطالعه جزئیات بیشتر درباره تازه‌ترین پیشرفت‌ها و همکاری‌های حوزه هوش مصنوعی، به مقاله مرتبط در سایت kingmember.com با عنوان
همکاری سافت‌بنک و OpenAI در ژاپن
مراجعه کنید.
