مشاهده توییت های دیگر

خیلی‌ها وقتی میشنون "مدل جدید AI"، فکر میکنن قراره جایگزین GPT یا Claude بشه. Jev از TypeSafe AI اصلا برای این ساخته نشده. این مدل یه Primitive جدیده، یه تابع هوشمند که جواب typed برمی‌گردونه، نه متن. سه نوع سؤال داره: Choice (انتخاب از بین N گزینه تا ۲۵۵ تا)، Score (موقعیت روی یک طیف)، و Noul (احتمال yes/no). سوال مشخصی بهش میدی و اون مستقیما یه مقدار برمی‌گردونه billing، 0.82، 0.91. بدون Parse کردن متن، بدون Structured Output Error.

واقعیت فنی ماجرا چیه؟ قیمت ورودی ۰.۰۴۲$ به ازای هر میلیون Token با Output رایگان. Latency بین ۷۰ تا ۵۰۰ میلی‌ثانیه. ولی چیزی که معماری رو عوض می‌کنه الگوی Cascade هست. Jev درخواست‌های ارزان رو روت‌بندی میکنه و تصمیم میگیره کدوم‌ها اصلا به مدل گرون نیاز دارن. ایده ساده‌ست، صد درخواست میاد، ۶۰ تاش Code-only حل می‌شه (مثل lookup سفارش)، ۳۰ تاش مدل تخصصی کوچک‌تر میگیره و فقط ۱۰ تاش فرستاده میشه به Opus 5 یا GPT-5.6. در میلیون توکن، ۶,۴۸۰$ به جای ۳۰,۴۰۰$. و ۸۰۰,۰۰۰ تاش زیر نیم ثانیه جواب میده، نه ده ثانیه. یکی از شگفت انگیزترین کاربردهاش در ۴۸ ساعت اول ریلیز، یه Browser Agent که بلیط پرواز Zürich به London رو توی Google Flights واقعی، توی ۷.۱ ثانیه رزرو کرد. هزینه‌اش ۰.۰۰۳۹$ بود. مدل بزرگ فقط برای نوشتن متن فراخوانی می‌شد، بقیه کارها Jev انجام می‌داد. ولی حقیقت تلخش رو هم بخونید: Jev محاسبه نمیکنه، تاریخ رو نمیفهمه، و هر چیزی که کد میتونه حساب کنه رو نباید ازش بخواید. State‌ای که بهش میدید دنیاییه که اون فقط ازش می‌فهمه و اگه دیتای بد بفرستید، با اطمینان بالا جواب غلط برمیگردونه. benchmarks هم صرفا توافق با دو مدل frontier هست، نه Accuracy واقعی. Jev جایگزین LLM نیست! یه لایه تصمیم گیری سریع و ارزون جلوی LLM هست. اگه درکش کنی، کل معماری سیستم‌هات عوض میشه. لینک مقاله راهنما: https://dev.to/valyuai/how-to-use-jev-a-practical-guide-to-typesafes-system-one-model-g5e