HeadlinesBriefing favicon HeadlinesBriefing.com

Type Safe AI запускает Jev: модель решений за $0.042/млн токенов

Hacker News •
×

На прошлой неделе Type Safe AI представила Jev — свой первый пример новой категории моделей, которую они называют «модели System One» — также известных как «модели решений». Jev — это вариант LLM, который принимает текстовые входы, но возвращает числа с плавающей точкой для категорий, вопросов да/нет, рейтингов и оценок уверенности. Type Safe описывает Jev как «функцию передового интеллекта: неструктурированное состояние на входе, типизированные вероятностные решения на выходе». Она быстрая и дешевая, взимая всего $0.042 за миллион входных токенов — дешевле, чем GPT-5 Nano от OpenAI по $0.05/миллион.

Jev позволяет пользователям задавать вопросы о тексте или полуструктурированных данных, составляя объект состояния и отправляя его в их API с несколькими вопросами, оцениваемыми параллельно. Модель поддерживает три типа вопросов: Noul (оценки уверенности да/нет 0-1), вопросы выбора с распределениями вероятностей и вопросы оценки с числовыми диапазонами. Этот подход отлично подходит для задач классификации, таких как обнаружение спама, маркировка и переранжирование поиска. Однако Jev представляет собой регрессию к системам «черного ящика» — она не предоставляет объяснений для решений, что вызывает опасения по поводу скрытых предвзятостей, особенно в чувствительных приложениях, таких как найм. Обширная оценка критически важна, учитывая непрозрачность модели.