شرکت OpenAI قصد دارد یک مدیر ارشد جدید برای بررسی و مدیریت ریسک‌های نوظهور هوش مصنوعی استخدام کند. این تصمیم هم‌زمان با افزایش نگرانی‌ها درباره تأثیر AI بر امنیت سایبری و سلامت روان کاربران گرفته شده است.
دلیل ایجاد این موقعیت شغلی
سم آلتمن، مدیرعامل OpenAI، اعلام کرد که مدل‌های هوش مصنوعی اکنون وارد مرحله‌ای حساس شده‌اند. به گفته او، برخی مدل‌ها توانایی کشف آسیب‌پذیری‌های جدی امنیتی را دارند. این موضوع می‌تواند هم برای مدافعان امنیت مفید باشد و هم خطر سوءاستفاده را افزایش دهد.
آلتمن همچنین به تأثیر بالقوه مدل‌های AI بر سلامت روان اشاره کرد. این نگرانی‌ها در سال‌های اخیر به یکی از محورهای اصلی بحث پیرامون هوش مصنوعی تبدیل شده‌اند.
شرح وظایف مدیر آمادگی (Head of Preparedness)
مدیر جدید مسئول اجرای Preparedness Framework خواهد بود. این چارچوب، رویکرد OpenAI برای شناسایی و کنترل قابلیت‌های پرریسک مدل‌های پیشرفته را مشخص می‌کند. وظایف اصلی این نقش عبارت‌اند از:
-
شناسایی ریسک‌های شدید و سیستماتیک
-
ارزیابی تأثیر مدل‌ها بر سلامت روان کاربران
-
تدوین سیاست‌های انتشار ایمن مدل‌ها
-
همکاری مستقیم با تیم‌های فنی و ایمنی
حقوق سالانه این موقعیت شغلی ۵۵۵ هزار دلار به‌همراه سهام اعلام شده است.
سابقه تیم ایمنی در OpenAI
OpenAI در سال ۲۰۲۳ تیم آمادگی را برای بررسی ریسک‌های فاجعه‌بار تشکیل داد. این ریسک‌ها شامل حملات فیشینگ، سوءاستفاده امنیتی و سناریوهای پیشرفته بودند. با این حال، این تیم در یک سال گذشته تغییرات مدیریتی قابل توجهی را تجربه کرده است.
این تحولات در شرایطی رخ می‌دهد که OpenAI سرمایه‌گذاری‌های کلانی برای توسعه زیرساخت‌های خود انجام داده است؛ موضوعی که پیش‌تر در گزارش
🔗 https://kingmember.com/openai-financial-statements-ai-projects/
بررسی شده است.
سلامت روان؛ چالش جدی مدل‌های زبانی
در ماه‌های اخیر، برخی شکایت‌ها مدعی شده‌اند که چت‌بات‌های هوش مصنوعی باعث تشدید توهم یا انزوای کاربران شده‌اند. OpenAI اعلام کرده که سیستم‌های تشخیص پریشانی روانی را بهبود داده است و کاربران را به منابع حمایتی واقعی هدایت می‌کند.
این رویکرد با سیاست‌های جدید OpenAI برای محافظت از کاربران نوجوان هم‌راستا است؛ سیاستی که در مقاله
🔗 https://kingmember.com/openai-update-for-under-18-users/
به‌طور کامل توضیح داده شده است.
رقابت شدید و فشار برای انتشار سریع مدل‌ها
رقابت با شرکت‌هایی مانند گوگل و Anthropic، OpenAI را وادار کرده است مدل‌های جدید را سریع‌تر منتشر کند. با این حال، شرکت تأکید دارد که ایمنی را فدای سرعت نخواهد کرد. ابزارهای کنترلی و بهینه‌سازی نقش مهمی در این مسیر دارند؛ مشابه راهکارهایی که در
🔗 https://kingmember.com/luminal-ai-optimizer/
معرفی شده‌اند.
جمع‌بندی
استخدام مدیر جدید برای مدیریت ریسک‌ها نشان می‌دهد OpenAI وارد مرحله‌ای تازه شده است. در این مرحله، ایمنی، سلامت کاربران و کنترل پیامدهای اجتماعی AI نقش کلیدی دارند. موفقیت این رویکرد می‌تواند استانداردهای جدیدی برای کل صنعت هوش مصنوعی تعیین کند.
برای پیگیری تحلیل‌های تخصصی و اخبار روز هوش مصنوعی، kingmember.com را دنبال کنید.
