HeadlinesBriefing HeadlinesBriefing.com

Cloudflare Clef: modelos de decisão e RL

Hacker News •
×

Nas últimas semanas, houve muito burburinho em torno de modelos de decisão como o modelo Jev System One da Typesafe AI. Hoje, estamos lançando dois modelos de decisão treinados pela Cloudflare, Clef e Clef-flash, hospedados no Workers AI. Clef é atualmente o líder quando avaliado contra o Índice de Decisão Jev. Esses modelos são mais inteligentes, mais rápidos e totalmente compatíveis com a API Jev. Estamos abrindo totalmente esses modelos no Hugging Face sob uma licença Apache 2.0. Por fim, estamos animados em estrear nosso novo produto de aprendizado por reforço (RL), que permite que os clientes ajustem o Clef para seus casos de uso.

Um modelo de decisão faz classificações para ajudar agentes a decidir como agir, com base em certas probabilidades. Por exemplo, você pode passar uma mensagem de suporte ao cliente e perguntar se é urgente e qual equipe deve lidar com isso. Um modelo de decisão retornará respostas tipadas com probabilidades, que seu código pode usar para rotear o ticket, acionar uma escalada ou adiar para um humano.

Na Cloudflare, testamos o Clef em nossa equipe de Inteligência de Ameaças para classificar domínios de sites. Essa classificação levou 2,2s para buscar, renderizar e classificar o site. Em contraste, nosso LLM geral mais rápido, gpt-oss-120b, levou 4,7s no mesmo fluxo de trabalho. O Clef tem um codificador de visão, uma janela de contexto de 64k e pontua competitivamente contra outros modelos de decisão.

Fonte: Hacker News · Resumido por HeadlinesBriefing