Cloudflare مدل Clef-omni را معرفی کرد؛ تصمیم‌گیری روی صدا و ویدیو در یک API
کلادفلر فقط یک هفته بعد از معرفی Clef و Clef-flash (مدل‌های «تصمیم‌گیر» اوپن‌ویت خودش)، حالا Clef-omni را منتشر کرده: مدلی که علاوه بر متن و تصویر، صدا (wav/mp3) و ویدیو (mp4/webm) را هم مستقیم می‌گیرد و در یک فراخوانی API تصمیم می‌گیرد. هم‌زمان Clef سریع‌تر شده و قیمت Clef-flash هم حسابی پایین آمده.
مدل تصمیم‌گیر یعنی چه؟
این مدل‌ها LLM نیستند و متن تولید نمی‌کنند. شما یک ورودی و یک اسکیمای مشخص (مثلاً گزینه‌های مجاز یک فیلد) می‌دهید و مدل با یک پاس prefill، به هر گزینه امتیاز و درصد اطمینان می‌دهد. کاربردشان طبقه‌بندی، تشخیص اسپم، مسیریابی تیکت و انتخاب ابزار در ایجنت‌هاست. یعنی جاهایی که لازم نیست یک LLM بزرگ کلی متن بنویسد تا یک «بله/خیر» بدهد.
چه چیزهایی تغییر کرد؟
- Clef-omni: روی پایه یک مدل چندوجهی Qwen3 با معماری MoE ساخته شده، بخش تولید گفتار حذف شده و با LoRA آموزش دیده. طبق گفته کلادفلر، تصمیم روی متن حدود ۱۳۰ میلی‌ثانیه، تصویر حدود ۱۵۰ میلی‌ثانیه و یک ویدیوی ۲۱ ثانیه‌ای با صدا حدود ۱.۵ ثانیه طول می‌کشد. وزن‌ها روی Hugging Face منتشر شده‌اند.
- قیمت‌ها (هر میلیون توکن ورودی): Clef-flash از ۰.۰۹ به ۰.۰۳۸ دلار رسیده (ارزان‌تر از Jev شرکت TypeSafe)، Clef روی ۰.۲۴ دلار مانده و Clef-omni با ۰.۱۵ دلار عرضه شده.
- بده‌بستان: context نسخه میزبانی‌شده Clef-flash از 64k به 24k کم شده. کلادفلر می‌گوید فقط ۰.۲۴٪ درخواست‌ها از 24k بیشتر بوده‌اند. وزن‌های خود مدل همچنان تا 256k را پشتیبانی می‌کنند.
- Clef سریع‌تر: با مهاجرت سرویس‌دهی به SGLang، میانه تأخیر حدود ۱.۷ تا ۲ برابر بهتر شده؛ مثلاً برای ورودی حدود ۸۰۰ توکن از ۲۶۲ به ۱۵۲ میلی‌ثانیه.
چند عدد از بنچمارک‌ها
| بنچمارک | Clef-omni | Clef | Clef-flash | Jev |
|---|---|---|---|---|
| BFCL (case exact) | 98.2 | 98.47 | 98.76 | 95.75 |
| API-Bank (accuracy) | 92.7 | 91.93 | 93.11 | 88.19 |
| BANKING77 (macro-F1) | 94.8 | 94.20 | 90.93 | 79.74 |
| When2Call (accuracy) | 63.3 | 72.37 | 65.58 | 80.97 |
اعداد از پست رسمی کلادفلر. Jev در بعضی تست‌ها مثل When2Call هنوز جلوتر است.
نظر من
«مدل تصمیم‌گیر» دارد به یک دسته جدی تبدیل می‌شود: TypeSafe با Jev شروع کرد، مایکروسافت Decision-1 را آورد و حالا کلادفلر در کمتر از دو هفته سه مدل اوپن‌ویت داده. به نظرم این مسیر درستی است؛ نصف کارهایی که ما با GPT و Claude در ایجنت‌ها انجام می‌دهیم در واقع یک طبقه‌بندی ساده با خروجی ساختاریافته است و پول و زمان زیادی سرش هدر می‌رود. نکته جذاب Clef-omni حذف زنجیره «اول تبدیل گفتار به متن، بعد تصمیم» است. ولی بی‌اغراق: خود کلادفلر می‌گوید مدل را در یک آخر هفته آموزش داده و در چند بنچمارک از نسخه متنی خودش ضعیف‌تر است. قبل از گذاشتن در پروداکشن، حتماً روی داده خودتان تستش کنید. برای هر کسی که روی Cloudflare Workers کار می‌کند، قیمت ۰.۰۳۸ دلاری Clef-flash بهانه خوبی است که فیلتر اسپم و مسیریابی را از LLM اصلی جدا کنیم.
منبع: Cloudflare Blog