HeadlinesBriefing favicon HeadlinesBriefing.com

Jev:新しいフロンティアモデル、40-400倍安く、20-200倍高速

Hacker News •
×

Type Safe AIの創業者Diogo Almeida氏がJevを発表しました。これは新しいSystem One Modelで、構造化タスクにおいて既存のLLMと同等の知能を達成しながら、40-400倍安く20-200倍高速です。2年間のステルス期間を経て、Type Safe AIは新しいアーキテクチャ、並列サンプラー、および較正された意思決定のための強化学習(RLCD)を備えた新しいスタックを構築しました。

Jevは構造化出力に最適化されており、ハルシネーションを起こすことはできません。非構造化状態を受け取り、型付きの確率的決定を返します。文字列を逐次的に生成しパースを必要とするLLMとは異なり、Jevは単一のクエリで較正された確率とともにすべての出力を生成します。

コスト:入力トークンは$0.042/MTok(10億あたり$42)、出力トークンは無料。速度:エンドツーエンドの応答時間は70ms-500msで、フロンティアモデルの3-329秒と比較されます。信頼度は常に伝達されるため、Jevは人間の監視が非現実的な自動化に適しています。

Jevは本日アーリーアクセスで利用可能です。

主要エンティティ:企業:Type Safe AI、OpenAI | 人物:Diogo Almeida

FAQ:Jevが既存のLLMと異なる点は何ですか?

Jevは構造化出力に最適化されており、ハルシネーションを起こすことができず、40-400倍安く、20-200倍高速で動作し、較正された信頼度スコアを提供します。

FAQ Q:Jevが既存のLLMと異なる点は何ですか?

FAQ A:Jevは構造化出力に最適化されており、ハルシネーションを起こすことができず、40-400倍安く、20-200倍高速で動作し、較正された信頼度スコアを提供します。