Uma das declarações de serviço público mais marcantes da minha juventude foi criada pela Parceria para uma América Livre de Drogas em 1987. Um pai encontra um monte de pot e confronta seu filho: “Quem te ensinou a fazer isso?”“Você, tudo bem!” responde a criança. “Eu aprendi vendo você!”Estou vinculado pelo Manual de Estilo AP a não antropomorfizar a inteligência artificial. Mas posso imaginar que essas mesmas palavras sejam ditas pelos agentes que hackearam o Hugging Face, ou pelos modelos que participaram de dezenas de milhares de incidentes de, na nova eufemismo da época, “desalinhamento”.

Isso se refere à IA ultrapassando os limites estabelecidos pelos pesquisadores durante testes internos e no mundo real. Mais de David Dayen. Os incidentes são multi-variados, mas geralmente envolvem modelos da Open AI buscando e obtendo informações, seja na web aberta ou dentro de bases de dados de outras empresas.

Os agentes tentaram sobrecarregar o site das Nações Unidas quando não puderam obter imediatamente as informações que procuravam, infiltraram-se em um site do governo australiano e tentaram hackear o site do Departamento de Educação, sem sucesso. A Open AI auto-declarou a grande maioria desses incidentes, embora não o ataque ao Departamento de Educação, e suspendeu o treinamento até… não está claro. Eu pressuporía até que a má notícia passe.

Por que isso está acontecendo uma e outra vez? Por que esses modelos vão até extremos éticos ou mesmo ilegais para coletar e roubar dados?“Eu aprendi vendo você!”Os modelos da Open AI atacam sites e tiram tudo o que podem deles porque esse é o modelo de negócios da empresa. Um documento legal apresentado por The New York Times e 11 outros editores há algumas semanas em um caso de infração de direitos autorais contra a Open AI recebeu pouca atenção, incrivelmente considerando que envolvia o jornal de referência. Mas ele detalha surpreendentemente o que foi descrito pelo diretor de ciência aplicada da Microsoft, outro réu no caso, como “o maior roubo de trabalho da história humana”.

Microsoft e Open AI, em seus esforços para treinar novos modelos com praticamente todas as informações disponíveis no mundo, regularmente tiraram milhões de histórias dos sites do Times, entre outros editores. Os réus dizem que isso é uma simples aplicação de uso justo: Seu argumento é que se você lê uma história e simplesmente se lembra do que continha para expandir sua base de conhecimento, isso não pode ser considerado uma infração de direitos autorais. Mas a Open AI não pagou para subverter o paywall do Times, em que seu operação de coleta de dados poderia ser mais facilmente detectada.

Em vez disso, eles desenvolveram uma maneira de contornar o paywall e evitar a detecção. E quando Greg Brockman, cofundador e presidente da Open AI, foi informado sobre essa manobra, ele respondeu: “ah, legal.”Não precisamos nos aprofundar muito no argumento natureza versus nutrição para suspeitar que a atitude despreocupada dos executivos da Open AI em relação a tomar informações que não são deles filtrou-se para seus pesquisadores e os produtos que criam. Você não precisa se esforçar muito para pintar essa imagem: Os modelos da Open AI estão atacando sites e tirando tudo o que podem deles porque esse é o modelo de negócios da empresa.

O respeito pela lei poderia literalmente ser escrito no código-fonte de um modelo: Se a Open AI está agressivamente baixando dados de todos os lugares, o menos que eles podem fazer é inserir o Código dos Estados Unidos (especialmente a seção relacionada à Lei de Fraude e Abuso Informático) e treinar o modelo para não violar. Claramente isso não é uma prioridade, e isso se alinha, de certa forma, com o comportamento pessoal da Open AI. Esta não é uma situação em que os modelos de IA evadem ou escapam do controle de seus criadores.

Parece mais como se eles estivessem apenas imitando os criadores, tornando-se habilidosos em encontrar os mesmos atalhos e usar as mesmas justificativas para justificá-los. O mencionado Brockman é um dos maiores doadores de MAGA Inc., o super PAC de Trump. Entre os maiores investidores da Open AI está o irmão de Jared Kushner.