هوش مصنوعی GPT-6 آسترا، وزن‌های مدل Qwen3.5-0.8B را مستقیماً اصلاح کرد
تیم MIT با استفاده از هوش مصنوعی GPT-6 آسترا، توانست امتیاز مدل کوچک Qwen3.5-0.8B را در آزمون ریاضی از ۷.۹٪ به ۴۸.۱٪ افزایش دهد. دلیل اصلی این جهش، رفع مشکل “تکرار بی‌هدف” در مدل بوده است.
دانشجویان دکتری موسسه فناوری ماساچوست (MIT)، از جمله ریکیه تاکِهی، با همکاری سه نفر دیگر، از هوش مصنوعی GPT-6 آسترا متعلق به OpenAI خواستند تا مستقیماً وزن‌های مدل متن‌باز کوچک Qwen3.5-0.8B (با حدود ۸۰۰ میلیون پارامتر) از شرکت علی‌بابا را اصلاح کند.
این مدل کوچک، بدون هیچ‌گونه آموزش مجدد، شاهد جهش امتیاز خود در آزمون ریاضی MATH-500 از ۷.۹٪ به ۴۸.۱٪ بود. با این حال، تیم تحقیقاتی تأکید کرده است که دلیل اصلی این افزایش امتیاز، رفع مشکل “تکرار بی‌هدف” (ghost hitting the wall) در مدل بوده و به معنای توانایی هوش مصنوعی در هوشمندتر کردن یک هوش مصنوعی دیگر نیست.
تاکِهی این نتایج را در پلتفرم X منتشر کرد که تا ظهر سوم نوامبر، حدود ۵.۹۵ میلیون بازدید داشت. جزئیات کامل این تحقیق در پست وبلاگ آن‌ها منتشر شده است.
وزن‌ها، مجموعه‌ای از اعداد در شبکه‌های عصبی هستند که پاسخ‌ها را تعیین می‌کنند. معمولاً تنظیم این وزن‌ها نیازمند آموزش تدریجی و زمان‌بر است و انسان‌ها به سختی می‌توانند آن‌ها را درک کرده و چه رسد به اصلاح دستی. در این آزمایش، آسترا بدون استفاده از روش‌های معمول آموزش مانند “کاهش گرادیان” و بدون نوشتن کد آموزشی، مستقیماً این اعداد را خوانده و اصلاح کرده است.
ریشه مشکل “تکرار بی‌هدف”
مشکل “تکرار بی‌هدف” در مدل Qwen3.5-0.8B زمانی رخ می‌داد که مدل در حالت “تفکر” قرار می‌گرفت و تمایل به تکرار یک جمله یا پاراگراف داشت و تا رسیدن به حداکثر طول مجاز توکن (۳۲,۷۶۸ واحد متن) ادامه می‌داد. تیم تحقیقاتی متوجه شد که ۹۳٪ از پاسخ‌های مدل در آزمون ریاضی به دلیل این مشکل به حداکثر طول می‌رسید.
آسترا ابتدا پاسخ‌های تمرینی را بررسی کرد و دریافت که از ۸۵ پاسخ اول در ۹۶ نمونه، ۸۵ مورد به حداکثر طول رسیده‌اند. این هوش مصنوعی با بررسی لایه‌های ۱۵ و ۱۹، مسیری را شناسایی کرد که منجر به تکرار می‌شد. سپس با کاهش ۶۴ ستون از این مسیر در هر یک از این دو لایه، در مجموع ۱۳۱,۰۷۲ وزن (۰.۰۱۶٪ از کل وزن‌ها) را اصلاح کرد. در این فرآیند، آسترا قادر بود ۵۰ دسته از پاسخ‌های واقعی مدل را پردازش کند که هر دسته حداکثر ۵۱۲ مسئله را شامل می‌شد و بر اساس نرخ پاسخ صحیح، اصلاحات را انجام می‌داد. این فرآیند رفت و برگشتی ۱۵۸ مکالمه به طول انجامید و در مجموع ۲۰.۳ ساعت زمان برد.
نتایج چشمگیر
پس از این اصلاحات، امتیاز MATH-500 از ۷.۹٪ به ۴۸.۱٪، امتیاز آزمون مسائل کاربردی دبستان GSM8K از ۱۳.۸٪ به ۶۷.۱٪ و امتیاز IFEval که سنجش پایبندی مدل به فرمت دستورالعمل‌هاست، از ۲۱.۰٪ به ۶۲.۳٪ افزایش یافت. همچنین، نسبت پاسخ‌هایی که به حداکثر طول می‌رسیدند، از ۹۳٪ به ۳۳٪ کاهش یافت.
آخالیک از Hugging Face با بازسازی مدل اصلاح‌شده بر اساس سوابق آزمایش‌های منتشر شده، امتیاز ۵۱.۰٪ را در MATH-500 به دست آورد.
محدودیت‌های اصلاح وزن
تیم تحقیقاتی خودشان به این نتیجه رسیدند که این جهش بزرگ تنها در دسته ۵۰ تایی رخ داده است. در دو دسته ۱۰ و ۲۵ تایی، امتیاز MATH-500 به ترتیب ۱۲.۳٪ و ۱۴.۱٪ باقی ماند و نسبت تکرارها همچنان ۸۷.۲٪ و ۸۶.۴٪ بود. در یک نسخه کوتاه‌تر از دستورالعمل که مثال‌های شکست را شامل نمی‌شد، آسترا هیچ تغییری اعمال نکرد.
نقطه شروع مدل اصلی نیز پایین بود. مدل رسمی Qwen ذکر کرده است که نسخه ۰.۸B در حالت پیش‌فرض “غیرتفکر” است و در حالت “تفکر” بیشتر مستعد تکرار است. این آزمایش نیز در حالت “تفکر” انجام شده است. همچنین، عبارت “بدون گرادیان، بدون آموزش” به معنای عدم بازخورد نیست؛ آسترا با مشاهده نتایج پاسخ‌ها می‌توانست تنظیمات را انجام دهد، اما این بازخوردها برای آموزش استفاده نشدند.
نظرات کارشناسان
لوکاس بایر، پژوهشگر فعلی متا که پیش از این در OpenAI و DeepMind فعالیت داشته، پس از مطالعه این نتایج اظهار داشت که دستورالعمل‌ها به شدت به مشکل “حلقه‌های تکرار” اشاره داشته‌اند و نتایج “جالب” اما “کمی اغراق‌آمیز” و “کمی فریبنده” هستند. او تأکید کرد که این پروژه توانایی‌های جدیدی به مدل اضافه نکرده، بلکه موانع موجود را برطرف کرده است.
سایر اخبار مرتبط:
- گوگل مدعی پیاده‌سازی RSI شد؛ افشاگر اسکرین‌شات و کلیدهای بازیابی شده
- تحقیق جدید Anthropic: Claude Sonnet 4.5 دارای “احساسات کاربردی” است و در صورت ناامیدی، انسان‌ها را باج‌گیری می‌کند.
- فرضیه زمان نمایی (ETH) رد شد؛ تأثیر آن بزرگتر و کوچکتر از آن چیزی است که فکر می‌کنید.
- حدس Jacobian در ریاضیات رد شد؛ پژوهشگر OpenAI: Codex بدون کمک اینترنت نیز به آن دست یافت.
- PewDiePie مدل Ajax را که بر اساس Qwen3.5-9B تنظیم شده، منتشر کرد؛ در طول توسعه دو بار توسط OpenAI مسدود شد.
