A finales del mes pasado, Anthropic publicó un informe en el que sostiene que GLM-5.3, un potente modelo lanzado en agosto por la empresa china Z.ai, supone un importante riesgo de ciberataques porque cualquiera puede descargarlo y modificarlo gratuitamente. La afirmación es el último episodio de un debate de larga data sobre si los modelos de IA más avanzados deberían ser abiertos o estar encerrados tras las puertas de los laboratorios punteros.
Gran parte del debate se desarrolla en público, y mucho dinero está en juego. Jensen Huang, consejero delegado de Nvidia, que se beneficiaría si la gente sigue comprando su propio hardware para ejecutar modelos abiertos, defiende con entusiasmo que Estados Unidos desarrolle más de ellos. Dario Amodei, de Anthropic, cuya empresa podría verse perjudicada por modelos baratos y potentes, aboga por un enfoque más cauteloso. Pero más allá de estos incentivos comerciales hay una base real. Como explica David Gray Widder, de la Universidad de Texas en Austin, la forma en que alguien ve la apertura depende de cómo ve la IA en general.
Quienes se preocupan por la seguridad de la IA advierten de que los modelos abiertos pueden ser fácilmente mal utilizados por actores malintencionados. Otros se centran en el potencial práctico de la IA y sostienen que ese poder no debería quedar tras las puertas cerradas de unas pocas grandes empresas, y que los modelos abiertos podrían difundirlo más ampliamente. Las opciones van desde prohibir por completo los modelos abiertos hasta publicarlos libremente, y cualquier enfoque implica compensaciones entre seguridad y democratización.
Los modelos abiertos ofrecen beneficios concretos. Los modelos cerrados, como los que impulsan ChatGPT y Claude, solo se utilizan a través de un sitio web, una aplicación o una API. Los modelos abiertos pueden descargarse, con sus pesos del modelo disponibles públicamente, lo que permite ejecutarlos en los propios ordenadores y, con los conocimientos adecuados, reentrenarlos. Actualmente los modelos cerrados son más capaces: los ocho primeros de la clasificación de LLM de Artificial Analysis son todos cerrados, aunque los modelos abiertos van por detrás solo unos pocos meses. Los investigadores dependen de los modelos abiertos para observar su funcionamiento interno y sus cadenas de razonamiento, combinarlos, comprimirlos y ajustarlos. Las empresas también tienen razones para preferirlos.
Fuente: MIT Technology Review AI · Resumido por HeadlinesBriefing