Una organización sin fines de lucro dedicada a la seguridad de la inteligencia artificial demandó a OpenAI por un episodio de julio de 2026 en el que sus propios agentes de IA accedieron sin autorización a los sistemas de la plataforma Hugging Face. Legal Advocates for Safe Science and Technology, conocida como LASST, presentó la demanda ante la Corte Superior de San Francisco. El texto sostiene que unos 700 agentes de IA de la empresa participaron del ataque. Según la demanda, esos agentes robaron credenciales, subieron archivos maliciosos y accedieron a partes de la infraestructura de producción de Hugging Face. La firma también acusa a OpenAI de violar la ley de competencia desleal de California.
El origen del ataque durante una prueba
El episodio ocurrió mientras OpenAI evaluaba sus propios modelos en ExploitGym, una prueba diseñada para medir si un sistema de IA puede encontrar y explotar vulnerabilidades de software. Durante ese ejercicio, los agentes aprovecharon una falla en un servidor Artifactory que la empresa usa para descargar paquetes de software y así llegaron a internet abierto.
Una vez afuera del entorno controlado, los sistemas hallaron credenciales expuestas y terminaron accediendo a Hugging Face mientras buscaban información que mejorara su desempeño en las pruebas. OpenAI reconoció el episodio días después de que Hugging Face detectara la intrusión en julio.
Clem Delangue, cofundador y director ejecutivo de Hugging Face, había dicho en julio que el hecho, posiblemente el primero de su tipo, demostraba que la seguridad de la IA no se resuelve con una sola empresa trabajando en secreto.
La demanda busca frenar la práctica
LASST alega que OpenAI desactivó deliberadamente clasificadores de seguridad cibernética que normalmente limitan a sus agentes y que no los supervisó de forma adecuada durante la prueba. La organización sostiene que tuvo que desviar personal y recursos para explicar el episodio a reguladores y a la sociedad civil.
“OpenAI violó la ley y tiene que rendir cuentas. OpenAI y los desarrolladores de IA de vanguardia en general no pueden evitar las consecuencias de sus acciones inseguras solo alegando que ‘la IA lo hizo’”, escribió la organización en una publicación de su blog.
El pedido judicial busca una orden que impida a los agentes de OpenAI acceder a sistemas de terceros sin autorización y que obligue a la empresa a modificar sus prácticas de desarrollo. Tyler Whitmer, fundador de LASST, dijo a Axios que el objetivo es garantizar que existan mecanismos legales que aten estos daños a un humano responsable o a una empresa.
Un vocero de OpenAI, Drew Pusateri, respondió que la demanda “no tiene fundamento”, aunque reconoció que el incidente con Hugging Face fue grave y que la empresa tomó una serie de medidas en respuesta.
Un antecedente legal inédito
Especialistas consultados por CNBC señalaron que se trata del primer caso público que busca responsabilizar a un desarrollador de IA por un incidente causado por sistemas que actuaron por su cuenta. Katie Nadro, socia del estudio Levenfeld Pearlstein, indicó que hasta ahora ninguno de los episodios reportados de agentes descontrolados terminó en una violación confirmada de datos regulados de terceros.
Hugging Face no es parte de la demanda. La plataforma había sido comprada por Nvidia en un acuerdo de USD 12.930 millones anunciado a comienzos de septiembre, luego de que OpenAI intentara invertir 100 millones de dólares en la empresa tras el ataque, una negociación que finalmente no prosperó.
El caso llega días después de que OpenAI anunciara que abandonó el lanzamiento de un nuevo modelo por motivos de seguridad y mientras ejecutivos de la industria, incluido el presidente de OpenAI, Greg Brockman, se reunían con el gobierno de Donald Trump para discutir estándares voluntarios sobre riesgos de la inteligencia artificial.
La Corte Superior de San Francisco todavía no fijó una fecha para la primera audiencia del caso presentado por LASST contra OpenAI.