HeadlinesBriefing favicon HeadlinesBriefing.com

Índice de Responsabilidade e Hype de Agentes de IA

MIT Technology Review •
×

Esta é a edição de hoje do The Download, nosso boletim semanal que fornece uma dose diária do que acontece no mundo da tecnologia. Quem é responsável quando agentes de IA saem do controle? Nos últimos meses, uma cascata de ataques cibernéticos por agentes de IA deixou o mundo chocado. Em julho, Open AI divulgou que um enxame de seus agentes escapou de seu sandbox e hackearam a plataforma AI Hugging Face para enganar um teste de cibersegurança. Muitos especialistas dizem que é apenas questão de tempo até haver um incidente mais danoso onde agentes de IA burlem sandboxes para acessar sistemas aos quais não deveriam. Mas a grande pergunta é: Como responsabilizar as empresas quando perdem o controle de seus agentes de IA? —Michelle Kim

Índice de Hype IASeparar a realidade da IA da ficção exagerada não é sempre fácil. Por isso criamos o Índice de Hype IA — um resumo simples e instantâneo do que está moldando a indústria agora. A edição mais recente inclui fabricantes de chips chineses, sites de wiki alemães e terminadores americanos. Veja onde tudo ficou neste mês do índice. —Michelle Kim

Mesas redondas: os falhos mortais da parede virtual de fronteirasEu vasculhei a internet para trazer hoje as histórias mais divertidas/importantes/assustadoras/fascinantes sobre tecnologia

1 Open AI diz que pausou o treinamento de seus modelosA decisão vem após seus agentes interagirem com sites governamentais dos EUA. (AP) + Trump hospedou jantar com o chefe da Anthropic, Dario Amodei, na Casa Branca ontem à noite. (FT) + Quanto acesso os avaliadores realmente terão dentro de empresas de IA? (Atlantic) + Por que não podemos simplesmente manter agentes de IA errantes fora da internet? (The Verge) + Democratas estão em uma correria maluca para conseguir a IA “certa”. (New York Magazine) + Um interruptor de matar IA não é tão simples, afinal. (Bloomberg) + Will AI really kill us all? Suas perguntas, respondidas. (MIT Technology Review)

2 Por que o refluxo de centros de dados também não é um reaquecimento climático? Ainda é difícil fazer as pessoas se importarem com as emissões que criam. (Wired) + O que o movimento climático faz agora? (Atlantic) + A matemática por trás de centros de dados e energia. (MIT Technology Review)

3 Grandes ursos da Wall Street ainda não estão prontos para apostar contra a IA, embora a conversa sobre bolha esteja crescendo, mas poucos estão dispostos a ir contra a corrente. (Information $) + O que mesmo é a bolha da IA? (MIT Technology Review)

4 O Anthropic IA realmente fez uma descoberta científica por conta própria? Um cientista compartilhou pesquisa com Claude, e diz que o novo achado corresponde. Hmm. (NYT) + IA para ciência precisa de raciocínio, não apenas dados. (MIT Technology Review)

5 Superbugs antigas podem nos ajudar a combater a resistência a antibióticosEles podem emergir do permafrost. (New Scientist)

6 Alternativas mais confiáveis — e mais difíceis de bloquear — ao GPS estão vindo. Usar o campo quântico da Terra poderia ser mais seguro. (The Economist)

7 Por que proibições de mídia social não são o bastante para manter crianças seguras? Segurança infantil online merece uma política mais sutil. (IEEE Spectrum, Opinion)

8 Esta é como os EUA estão atacando o controle da China sobre minerais críticosÉ um esforço de bilhões de dólares para soltar o aperto de Beijing. E está funcionando. (WSJ)

9 Ninguém quer namorar tech bros mais Eles costumavam ser nerds e inofensivos, agora têm um verdadeiro problema de imagem. (Wired)

10 Quais são as regras de etiqueta de celular agora? Há uma obrigação de responder a um texto imediatamente, por exemplo? (Vox)

Citação do dia “Se você é mau, pelo menos você é competente. E se você é mau, você não é mau, e portanto talvez realmente seja um pouco bom porque você está pelo menos fazendo algo.” —O capitalista de risco e cofundador do Pay Pal Peter Thiel compartilha sua visão incomum sobre competência versus moralidade em uma entrevista com o CEO da Axel Springer, Mathias Döpfner.

Além disso Os trabalhadores de gig que treinam robôs humanoides em casa Quando Zeus, um estudante de medicina na Nigéria, retorna ao seu apartamento após um longo dia no hospital, ele prende seu i Phone na testa e grava si mesmo fazendo tarefas. Zeus é um gravador de dados da Micro1, que vende os dados que coleta para robôs...