آندری کارپاتی، از چهرههای کلیدی دنیای هوش مصنوعی و از معماران پیشین تسلا و OpenAI، در اظهاراتی تازه دیدگاهی بیپرده دربارهی وضعیت فعلی مدلهای زبانی بزرگ مطرح کرده است. او این سیستمها را «مقلدهایی درخشان» توصیف میکند که با وجود تواناییهای حیرتانگیز، هنوز از «درک و استدلال واقعی» بیبهرهاند.
هوش مصنوعی امروز، یک سراب خوشرنگ؟
کارپاتی در توضیح دیدگاه خود بیان کرد که آنچه امروز به نام «هوش مصنوعی» شناخته میشود، «شاید چیزی جز یک سراب خوشرنگ نباشد». او گفت مدلهای زبانی بزرگ (LLM)، همان سیستمهایی که ChatGPT و ابزارهای مشابه بر پایهی آنها ساخته شدهاند، هنوز از «کمبودهای شناختی عمیق» رنج میبرند.
به گفتهی او، این سیستمها «نه هوش کافی دارند، نه حافظه بلندمدت، و نه توانایی استدلال واقعی». کارپاتی تأکید کرد که مدلهای فعلی، هر بار که اجرا میشوند، از نقطهی صفر آغاز میکنند: «گویی هر روز صبح، تمام تجربیات دیروز خود را از یاد میبرند. هیچ فرایندی شبیه به خواب برای تثبیت آموختهها در ساختارشان وجود ندارد.»
دانشی فشردهشده از اینترنت، نه درک از جهان
کارپاتی اظهار کرد که آنچه درون این مدلها وجود دارد، صرفاً «یک خاطره مهآلود و فشردهشده از اینترنت» است. او توضیح داد که این مدلها تریلیونها کلمه را در قالب چند میلیارد پارامتر عصبی فشرده کردهاند، اما در نهایت، درکی از معنا و تجربهی انسانی ندارند.
او افزود:«تمام چیزی که در لحظه در اختیار دارند، همان پنجرهی کوتاه زمینه یا Context Window است. حافظهای محدود، بدون تداوم و بدون درک واقعی.»
به باور او، مدلهای زبانی در تقلید استادند، اما در خلق یا خروج از الگوهای دیدهشده، بهشدت ناتوان.
کارپاتی گفت:«این سیستمها حافظهای بیش از حد دارند، اما استدلالی بسیار کم. ما به جای انباشت دادهها، به استخراج “هسته شناختی” نیاز داریم همان جوهرهای که هوشمندی واقعی از آن زاده میشود.»
مدلهای زبانی؛ مغزی ناقص بدون حافظه، احساس و انگیزه
کارپاتی در بخش دیگری از سخنان خود، تشبیهی بیولوژیک برای تبیین محدودیتهای این مدلها ارائه کرد. او توضیح داد که ساختار فعلی LLMها را میتوان به «بافت قشری مغز (cortical tissue)» تشبیه کرد؛ بافتی که در یادگیری الگوها مهارت دارد، اما سایر اجزای حیاتی مغز را ندارد.
او گفت:«در این مغز دیجیتال، نه هیپوکامپی برای حافظه وجود دارد، نه آمیگدالی برای احساس و نه هیچگونه انگیزهای. انسانها به این دلیل استدلال میکنند که میتوانند فراموش کنند. اما ماشینها همهچیز را به یاد میآورند، و همین نقطه ضعف آنهاست.»
کارپاتی تأکید کرد که مدلهای زبانی در بازتولید اعداد یا الگوهای تصادفی، بینقص عمل میکنند، «کاری که هیچ انسانی نمیتواند انجام دهد» اما این به گفتهی او، «یک نقص است، نه مزیت».
مسیر آینده: جدایی هوش از حافظه صرف
در جمعبندی دیدگاه خود، کارپاتی خاطرنشان کرد تا زمانی که پژوهشگران نتوانند «هوش را از حافظهی صرف جدا کنند و به آن قدرت استدلال ببخشند»، سیستمهای فعلی تنها «مقلدهایی درخشان» باقی خواهند ماند.
او توضیح داد که رقابت آینده در حوزهی هوش مصنوعی دیگر بر سر افزایش تعداد پارامترها نیست.
«مسابقهی واقعی بر سر کشف معماری جایگزینی است که بتواند «هسته شناختی» را بازآفرینی کند؛ سیستمی که برای رسیدن به درک، به تریلیونها داده و ابررایانهها نیاز نداشته باشد.»
کارپاتی پیشبینی کرد که چنین معماریای، در صورت تحقق، میتواند موازنهی قدرت میان غولهای فناوری را بهکلی تغییر دهد؛ چراکه «هوشمندی واقعی، نه در اندازهی مدل، بلکه در کیفیت شناخت نهفته است.»
عصر مقلدهای درخشان در آستانهی پایان؟
سخنان آندری کارپاتی، نه از زبان یک منتقد بیرونی، بلکه از زبان یکی از معماران اصلی همین فناوری بیان شده است. او در واقع زنگ خطری را به صدا درمیآورد که شاید نشان دهد مسیر فعلی توسعهی هوش مصنوعی، به «انباشت داده و پارامتر» محدود مانده است.
اگر پیشبینی او درست باشد، نسل بعدی هوش مصنوعی نه بزرگتر، بلکه «باهوشتر» خواهد بود؛ سامانههایی که به جای تقلید از انسان، شاید بالاخره شروع به فهمیدن کنند.
