
· 1 мин
Бенч 7 LLM на своих данных за вечер: как выбрать модель для прод-парсера
Как за вечер выбрать LLM под прод-задачу: бенч 7 моделей через OpenRouter на 10 своих вакансиях, ручная сверка, грабли structured output и fallback с открытой моделью.
Записи из Telegram-канала и не только

Как за вечер выбрать LLM под прод-задачу: бенч 7 моделей через OpenRouter на 10 своих вакансиях, ручная сверка, грабли structured output и fallback с открытой моделью.

Groq без шума снял llama-4 с бесплатного тарифа, и парсер вакансий 6 дней молча падал с 404 model_not_found. Разбор инцидента, сломанного вотчера и почему бесплатные LLM-модели смертны.