اخیراً برخی از رهبران سیلیکون‌ولی، از جمله دیوید ساکس و جیسون کوان، اظهارات جنجالی درباره گروه‌های مدافع امنیت هوش مصنوعی مطرح کردند. آنها مدعی شدند که برخی از این گروه‌ها نه تنها بی‌طرف نیستند، بلکه اهداف خود را دنبال می‌کنند یا به نفع میلیاردرهای پشت‌پرده عمل می‌کنند.
گروه‌های امنیت AI که با TechCrunch مصاحبه کردند، این اتهامات را نوعی تلاش برای ترساندن منتقدان دانستند، هرچند این اولین بار نیست که سیلیکون‌ولی چنین رویکردی دارد.
اقدامات اخیر OpenAI و واکنش‌ها
جیسون کوان توضیح داد که OpenAI به دنبال شفافیت درباره فعالیت‌های برخی سازمان‌های غیرانتفاعی بود که از قوانین امنیت AI حمایت یا انتقاد می‌کردند، مانند Encode. این سازمان‌ها در حمایت یا مخالفت با قوانین مانند SB 53 که گزارش‌دهی امنیتی را برای شرکت‌های بزرگ AI الزامی می‌کند، فعالیت داشتند.
یکی از رهبران امنیت AI به TechCrunch گفت:
«به نظر می‌رسد OpenAI در تلاش است تا منتقدان را خاموش کند و دیگر سازمان‌ها را از فعالیت مشابه بازدارد.»
این تنش‌ها نشان می‌دهد که رشد سریع هوش مصنوعی و علاقه سیلیکون‌ولی به توسعه سریع محصولات مصرفی، گاهی با تلاش برای سرکوب گروه‌های امنیت AI همراه است.
چالش‌های جامعه امنیت AI
-
اختلاف بین واحدهای تحقیقاتی و سیاست‌گذاری: پژوهشگران OpenAI گزارش‌های شفاف درباره ریسک‌ها منتشر می‌کنند، اما واحد سیاست‌گذاری آن به دنبال قوانین یکنواخت فدرال است.
-
فشار بر سازمان‌های غیرانتفاعی: تهدیدها و احضاریه‌های قانونی فعالیت‌های مدافعان امنیت AI را محدود کرده و به نگرانی درباره شفافیت و استقلال گروه‌ها افزوده است.
-
ترس از مقررات بیش از حد: سرمایه‌گذاران و شرکت‌های بزرگ نگران هستند که مقررات سختگیرانه رشد سریع AI را کند کند.
نتیجه‌گیری
امنیت هوش مصنوعی اهمیت حیاتی دارد و تلاش برای محدود کردن گروه‌های امنیت AI می‌تواند نشانه‌ای از تاثیر واقعی این گروه‌ها در شکل‌دهی آینده هوش مصنوعی باشد.
ترکیب هوش مصنوعی با سیاست‌های شفاف و نظارت دقیق، کلید رسیدن به توسعه مسئولانه این فناوری است.
برای مطالعه بیشتر درباره چالش‌ها و فرصت‌های محتوا و سیاست در هوش مصنوعی می‌توانید به مقاله AI-generated content: challenges and opportunities مراجعه کنید.
