HeadlinesBriefing favicon HeadlinesBriefing.com

Pesquisadores usam Claude para invadir OpenAI via falha

Ars Technica •
×

Pesquisadores exploraram uma falha no fórum comunitário da OpenAI, hospedado por um terceiro, Discourse, para obter acesso a logins internos e, eventualmente, a uma conta de funcionário da OpenAI no ChatGPT com acesso ao GitHub. A OpenAI confirmou ter corrigido os problemas após ser contatada. A Anthropic publicou dados que mostram um rápido aumento no uso de IA, relatando que 26 por cento do trabalho de pesquisa e desenvolvimento era "dirigido" por seu modelo Claude, subindo de 1 por cento em março.

A empresa declarou que os sistemas de IA estão cada vez mais sendo usados para construir a próxima versão de si mesmos, se aproximando da autoaperfeiçoamento recursivo. A Anthropic compartilhou os dados para ajudar o público a entender quão perto o mundo está de atingir esse limiar, onde a IA pode treinar e melhorar a si mesma. Em 90 por cento das tarefas, a IA colabora com um humano e realiza grandes partes de trabalho, embora os modelos ainda não tenham operado de forma totalmente autônoma para a pesquisa estudada.

A OpenAI recusou-se a comentar adicionalmente. A Anthropic e o Hacktron não responderam imediatamente a solicitações de declaração adicional.