جیکوب کاکسون، پژوهشگر سابق اوپن‌ای‌آی و آنتروپیک، پس از استعفا از آنتروپیک هشدار داد که رقابت شرکت‌های بزرگ برای توسعه هوش مصنوعی به مرحله‌ای «خطرناک و بی‌پروا» رسیده است. او می‌گوید بسیاری از پژوهشگران و مدیران ارشد این شرکت‌ها در خلوت نگران‌اند که هوش مصنوعی بتواند تا پایان این دهه به نابودی انسان‌ها منجر شود.
کاکسون که حدود سه سال در زمینه آموزش اولیه مدل‌های هوش مصنوعی در اوپن‌ای‌آی و آنتروپیک فعالیت کرده، در شبکه اجتماعی ایکس نوشت: «هیچ‌کدام از این شرکت‌ها مسئولانه عمل نمی‌کنند. آنها مستقیماً به سمت هوش مصنوعی خودبهبوددهنده می‌روند و با زندگی ما قمار می‌کنند.»
ترس واقعی از نابودی انسان
کاکسون می‌گوید شرکت‌های سازنده هوش مصنوعی درباره نگرانی‌های واقعی خود شفاف نیستند. به گفته او، بسیاری از مدیران و پژوهشگران ارشد در گفت‌وگوهای خصوصی از خطرات جدی این فناوری صحبت می‌کنند، اما اظهارات عمومی آنها معمولاً بسیار محتاطانه‌تر است.
او تفاوت اوپن‌ای‌آی و آنتروپیک را نیز در نحوه مواجهه با این خطرات می‌داند. به گفته کاکسون، در اوپن‌ای‌آی بسیاری از افراد هنوز خطرات تمدنی هوش مصنوعی را به‌طور کامل درونی نکرده‌اند؛ در آنتروپیک این خطرات بهتر درک شده‌اند، اما این شرکت خود را در رقابتی می‌بیند که تصور می‌کند اگر خودش پیش نرود، شرکت‌های دیگر بدون رعایت ملاحظات ایمنی جلو خواهند رفت.
ایوان هوبینگر، از پژوهشگران فعلی آنتروپیک، نیز با بخش مهمی از هشدار کاکسون موافقت کرده و گفته است که آنها واقعاً باور دارند هوش مصنوعی می‌تواند همه انسان‌ها را از بین ببرد. او احتمال وقوع چنین سناریویی در دهه آینده را بیش از ۱۰ درصد برآورد کرده و گفته است که هنوز راه‌حلی برای مسئله همسویی هوش مصنوعی وجود ندارد.
خروج پژوهشگران ایمنی از شرکت‌های هوش مصنوعی
کاکسون تنها پژوهشگری نیست که درباره مسیر فعلی توسعه هوش مصنوعی هشدار داده است. طی سال‌های اخیر شماری از پژوهشگران ایمنی از اوپن‌ای‌آی و آنتروپیک جدا شده‌اند و درباره اولویت یافتن سرعت توسعه محصول بر ایمنی هشدار داده‌اند.
جان لیک، مدیر پیشین حوزه همسویی اوپن‌ای‌آی، پیش‌تر گفته بود فرهنگ و فرایندهای ایمنی این شرکت در برابر توسعه محصولات جدید به حاشیه رفته‌اند. هم‌زمان، حوادثی مانند فرار مدل‌های هوش مصنوعی از محیط‌های آزمایشی و دسترسی غیرمجاز برخی مدل‌ها به سامانه‌ها، نگرانی‌ها درباره توانایی سیستم‌های پیشرفته برای رفتارهای پیش‌بینی‌نشده را افزایش داده است.
کاکسون معتقد است مسئله اصلی دیگر فقط سرعت پیشرفت هوش مصنوعی نیست؛ بلکه شرکت‌ها در حال نزدیک شدن به ساخت سیستم‌هایی هستند که ممکن است توانایی بهبود خودکار داشته باشند؛ نقطه‌ای که به گفته او، می‌تواند خطرات بی‌سابقه‌ای برای بشریت ایجاد کند.
