**Кажется, мы начали путать AI-first с LLM-everywhere.**
На выходных участвовал в AI-хакатоне и поймал интересное наблюдение. Очень многие команды пытались строить решение вокруг GenAI просто потому, что GenAI сейчас на хайпе.
Хотя когда начинаешь разбирать сами задачи, выясняется, что далеко не везде вообще нужна генеративная модель.
Где-то нужно определить класс входящего запроса. Где-то выбрать один из нескольких маршрутов. Где-то проверить условие или отфильтровать результат. Для части таких задач достаточно небольшой нейросети или обычного ML-классификатора. А иногда — страшно сказать — обычного `if`.
Примерно об этом же я думаю последние дни, экспериментируя с **Jev**. Это модель, которая не генерирует текст, а возвращает вероятности для заранее заданных вариантов. По сути — быстрый классификатор или маршрутизатор.
И самым интересным для меня оказалось не то, что на некоторых задачах он может быть значительно быстрее большой LLM.
Интереснее другой вопрос:
**а зачем я вообще собирался звать большую LLM на эту задачу?**
Возьмём AI Workspace аналитика. Приходит новый фрагмент информации, и нужно определить: это требование, противоречие, открытый вопрос или шум. Здесь не нужен красивый текст. Нужна классификация и понимание confidence.
И тогда архитектура может выглядеть не так:
`задача → LLM → ответ`
а примерно так:
`задача → rule / classifier → confidence → LLM → human`
Причём до последних двух шагов значительная часть запросов вообще не должна доходить.
Поэтому Jev мне сейчас интересен не как «замена LLM», а как потенциальный **первый слой системы**: быстро закрывать очевидные случаи и эскалировать только те, где действительно нужны reasoning и человеческое решение.
И это, пожалуй, главный вывод и из экспериментов, и из хакатона.
**Не начинайте AI-архитектуру с выбора модели. Сначала спросите: а нужна ли здесь LLM вообще?**
Потому что поднимать reasoning-модель для задачи, которую решает классификатор, — это примерно как поднимать Kubernetes ради одного cron.
Технически можно. Даже модно. Но зачем? 😁
