Её уже сравнивают с Fable 5 и Mythos Preview. Но Fugu не очередная большая LLM.
Это модель-оркестратор. Она получает задачу, решает, какие модели подключить, распределяет между ними роли, проверяет результаты и собирает финальный ответ.
Проще говоря, умный роутер для других моделей.
Идея выглядит логично. Одна модель не обязана быть лучшей во всём, если под каждую задачу можно автоматически собрать команду из нескольких моделей.
Но есть и обратная сторона.
Для пользователя появляется ещё один закрытый слой, который сам решает, куда отправить запрос, какие модели использовать и как объединить их ответы.
Вместо одного чёрного ящика получаем несколько, аккуратно упакованных в один API.
С ценой тоже не дёшево. Fugu Ultra стоит $5 за 1 млн входных токенов и $30 за 1 млн выходных. Но стоимость всех вызванных моделей сверху не складывается. Обычная Fugu тарифицируется по самой дорогой модели, участвующей в обработке запроса, а у Ultra действует фиксированная ставка.
Попробовать можно здесь. API совместим с OpenAI, но в ЕЭЗ сервис пока недоступен.
Твой Crunch
Дискуссия