System One и Jev: модели принятия решений
LLM — не единственный вид AI. Периодически появляются интересные альтернативные или дополняющие подходы.
Один из них — System One-модели. Конкретный пример — Jev от TypeSafe.
Название System One отсылает к классическому разделению на system one (инстинктивное поведение) и system two (размышление).
Вместо авторегрессионной генерации токенов такие модели очень быстро (70–500 мс) и параллельно отвечают на N простых вопросов: классификация, оценка, да/нет. При этом каждый ответ содержит оценку уверенности.
На основе этих ответов ваш код принимает решения — то есть модель дает примитив «fuzzy if».
Таким образом можно, например, играть в Doom. Другой пример — управление умным домом, включая использование LLM при необходимости.
Автор: Григорий Петросян
