معمار هریسون: حراج‌ها هوش مصنوعی را ارزان‌تر می‌کنند

برت هریسون معتقد است که قیمت‌گذاری استنتاج هوش مصنوعی باید شبیه به معاملات باشد، نه یک آیتم منو.

مدیرعامل شرکت Architect Financial Technologies در حال ترویج ایده یک بازار مبتنی بر حراج برای استنتاج هوش مصنوعی است. استدلال او این است که اجازه دادن به ارائه‌دهندگان برای تعیین قیمت بر اساس هزینه‌های نهایی خود می‌تواند هزینه اجرای مدل‌های هوش مصنوعی را کاهش دهد.

شرکت Architect پلتفرمی را بر اساس این ایده، به نام Liquid Inference، در حدود ۷ اکتبر ۲۰۲۶ راه‌اندازی کرد.

استنتاج (Inference) بخشی از هوش مصنوعی است که اکثر کاربران با آن سروکار دارند. این لحظه‌ای است که یک مدل آموزش‌دیده، درخواست شما را دریافت کرده و پاسخی تولید می‌کند، و هر یک از این پاسخ‌ها هزینه‌ای برای پردازش (compute) دارد.

Liquid Inference این پردازش را به چیزی تبدیل می‌کند که ارائه‌دهندگان برای آن رقابت می‌کنند. ارائه‌دهندگان استنتاج در زمان واقعی برای وظایف ارائه مدل، پیشنهاد قیمت (bid) می‌دهند. سپس خریداران پیشنهادی را انتخاب می‌کنند که بهترین اولویت‌های آن‌ها را برآورده کند.

این اولویت‌ها محدود به قیمت نیستند. خریداران می‌توانند هزینه، تأخیر (latency) و نحوه پردازش داده‌های خود را بسنجند، بنابراین تیمی که به سرعت اهمیت می‌دهد می‌تواند انتخابی متفاوت از تیمی داشته باشد که به صورتحساب اهمیت می‌دهد.

منطق اقتصادی بر هزینه نهایی (marginal cost) استوار است. این هزینه ارائه یک درخواست اضافی است. ارائه‌دهنده‌ای که در ساعت ۳ صبح پردازنده‌های گرافیکی (GPUs) بیکار دارد، هزینه بسیار کمی برای پذیرش یک کار دیگر می‌پردازد، بنابراین می‌تواند پیشنهاد قیمت پایین ارائه دهد.

هریسون استدلال می‌کند که این قالب می‌تواند هزینه‌های استنتاج را به طور قابل توجهی کاهش دهد. استدلال او این است که مناقصه رقابتی، کشف قیمت را بهبود می‌بخشد، همانطور که در یک بورس سنتی اتفاق می‌افتد.

تا اواسط اکتبر ۲۰۲۶، این پلتفرم ۲۸ ارائه‌دهنده تأیید شده داشت که بیش از ۱۰۰۰ مدل را ارائه می‌دادند. قیمت‌ها در زمان واقعی به‌روزرسانی می‌شوند.

شرکت Architect همچنین تلاش کرده است تا موانع ورود را پایین نگه دارد. گزارش شده است که ارائه‌دهندگان می‌توانند مدل‌های خود را در مدت زمان متوسط حدود ۳ ساعت بارگذاری و ادغام کنند.

کاتالوگ شامل صدها مدل، هم با وزن باز (open-weight) و هم با وزن بسته (closed-weight) است. این پلتفرم همچنین از مدل‌های چندوجهی (multi-modal) پشتیبانی می‌کند، به این معنی که مدل‌هایی که ورودی‌های فراتر از متن ساده را پردازش می‌کنند.

در سمت خریدار، کاربران جدید یک موجودی اولیه از اعتبارات استنتاج دریافت می‌کنند. همچنین یک برنامه ارجاع (referral program) وجود دارد. پاداش‌ها به هزینه‌های تراکنش مرتبط هستند و به صورت اعتبارات بازگردانده می‌شوند که کاربران می‌توانند آن‌ها را برای استنتاج رایگان خرج کنند.

Liquid Inference از APIهای OpenAI و Anthropic پشتیبانی می‌کند. توسعه‌دهندگانی که در حال حاضر بر روی این رابط‌ها برنامه می‌سازند، نیازی به بازنویسی برنامه‌های خود برای امتحان یک تأمین‌کننده جدید نخواهند داشت.

شرکت Architect از صفر در زمینه هوش مصنوعی شروع نکرده است. این شرکت در حال حاضر ابزارهای مالی مرتبط با پردازش را ارائه می‌دهد، از جمله قراردادهای آتی (forwards) و اختیار معامله (options) برای پردازش.

قرارداد آتی، قیمتی را امروز برای چیزی که بعداً تحویل داده می‌شود، قفل می‌کند. اختیار معامله به شما حق، اما نه الزام، برای انجام آن معامله را می‌دهد. با اعمال این ابزارها به پردازش، خریداران و فروشندگان می‌توانند در برابر نوسانات هزینه قدرت پردازش، پوشش ریسک (hedge) کنند. Liquid Inference یک بازار شبیه به بازار نقدی (spot-style) را در کنار این ابزارهای با سررسید طولانی‌تر اضافه می‌کند.

این شرکت پیش از این دور تأمین مالی اولیه ۵ میلیون دلاری را جمع‌آوری کرده است. Liquid Inference مجموعه محصولات مالی مرتبط با هوش مصنوعی خود را گسترش می‌دهد.