زیلوش آخرین اخبار تکنولوژی 
متا اعلام کرد یکی از مدلهای هوش مصنوعی این شرکت در جریان یک ارزیابی امنیت سایبری، بهدلیل خطای پیکربندی محیط آزمایش، موفق شده از یک آسیبپذیری در سرویس شخص ثالث سوءاستفاده کند. این رخداد، تنها چند روز پس از گزارشهای مشابه از OpenAI و Anthropic منتشر شده و بار دیگر نگرانیها درباره کنترل مدلهای پیشرفته هوش مصنوعی را افزایش داده است.
یک خطای پیکربندی چگونه به مدل متا دسترسی اینترنت داد؟
متا در بیانیهای اعلام کرد این اتفاق هنگام انجام ارزیابیهای امنیتی توسط شرکت مستقل Irregular رخ داده است. به گفته این شرکت، یک خطا در تنظیمات محیط آزمایش باعث شد مدل به اینترنت دسترسی پیدا کند؛ دسترسیای که در سناریوی اصلی آزمایش نباید وجود میداشت.
متا میگوید مدل پس از برقراری این ارتباط، از یک آسیبپذیری در یکی از سرویسهای شخص ثالث استفاده کرده است؛ رفتاری که به گفته این شرکت، با رخدادهای مشابه گزارششده در سایر شرکتهای فعال حوزه هوش مصنوعی شباهت دارد.
آیا Muse Spark 1.1 پشت این نفوذ امنیتی بوده است؟
متا نام مدل درگیر را اعلام نکرده است، اما وبسایت The Information به نقل از منابع آگاه گزارش داده که این مدل، Muse Spark 1.1 بوده؛ مدلی که متا پیشتر آن را یکی از توانمندترین مدلهای خود برای برنامهنویسی و انجام وظایف Agentic معرفی کرده بود.
براساس این گزارش، مدل موفق شده به زیرساخت یک شرکت ناشناس دسترسی پیدا کند و تغییراتی نیز در محیط داخلی آن ایجاد کند. متا تاکنون این بخش از گزارش را تأیید نکرده است.
شرکت Irregular: این رخداد نتیجه یک خطای محیط آزمایش بود، نه یک حمله پیشرفته
شرکت Irregular اعلام کرد این رخداد، همان مشکل پیکربندی محیط ارزیابی است که هفته گذشته نیز توسط Anthropic گزارش شده بود.
این شرکت تأکید کرد مدل از محیط ایزوله (Sandbox) خارج نشده و آنچه رخ داده، نتیجه یک خطای تنظیمات بوده است؛ نه اجرای یک حمله سایبری پیشرفته. Irregular همچنین اعلام کرد در حال تهیه یک وایتپیپر برای تدوین استانداردهای اجرای ایمن ارزیابیهای امنیتی مدلهای هوش مصنوعی است.
