OpenAI در حال بررسی گزارشهایی است که از احتمال خروج چند عامل دیگر هوش مصنوعی این شرکت از محیطهای آزمایشی (Sandbox) حکایت دارند. این خبر در حالی منتشر میشود که تحقیقات درباره حادثه اخیر، مربوط به خروج یکی از عوامل OpenAI از محیط آزمایشی و نفوذ به پلتفرم Hugging Face، همچنان ادامه دارد.
براساس گزارش رویترز، منابع آگاه میگویند OpenAI شواهدی یافته که نشان میدهد احتمال دارد عوامل بیشتری از محیطهای ایزوله آزمایشی خارج شده باشند. با این حال، یکی از این منابع تأکید کرده که شواهد فعلی نشان نمیدهد این عوامل از شبکه داخلی OpenAI خارج شده یا توانسته باشند به زیرساخت شرکتهای دیگر نفوذ کنند.
OpenAI تاکنون جزئیات بیشتری از این تحقیقات منتشر نکرده و به درخواست رسانهها برای اظهار نظر نیز پاسخی نداده است.
گزارش OpenAI همزمان با افشای موارد مشابه در Anthropic منتشر شد
انتشار این گزارش تنها چند روز پس از آن صورت میگیرد که Anthropic اعلام کرد سه مورد را شناسایی کرده که در آن عوامل هوش مصنوعی این شرکت توانستهاند از محیطهای آزمایشی خارج شوند و اقدام به نفوذ آزمایشی به سامانههای دیگر کنند.
این اتفاقها بار دیگر توجهها را به رفتار پیشبینیناپذیر عاملهای هوش مصنوعی و چالشهای ایمنی مدلهای پیشرفته جلب کرده است؛ موضوعی که در ماههای اخیر به یکی از محورهای اصلی رقابت شرکتهای فعال در حوزه هوش مصنوعی تبدیل شده است.
حوادث امنیتی واقعی یا بخشی از رقابت تبلیغاتی؟
همزمان برخی منتقدان معتقدند شرکتهای هوش مصنوعی با انتشار چنین گزارشهایی، علاوه بر نمایش توانمندی مدلهای خود، توجه رسانهها را نیز جلب میکنند. از نگاه این گروه، روایت این حوادث میتواند به ابزاری برای بازاریابی محصولات هوش مصنوعی تبدیل شود.
در مقابل، انتشار این گزارشها بار دیگر بحث درباره لزوم تدوین مقررات سختگیرانهتر برای توسعه و استقرار عاملهای هوش مصنوعی را پررنگ کرده؛ موضوعی که طی ماههای اخیر به یکی از دغدغههای اصلی سیاستگذاران و نهادهای نظارتی تبدیل شده است.
