Representantes de OpenAI y Anthropic le dijeron el martes a un comité del Parlamento británico que los compromisos voluntarios ya no alcanzan para garantizar la seguridad de la inteligencia artificial y pidieron leyes obligatorias. Google DeepMind y Meta, citados en la misma audiencia, se negaron a respaldar esa posiciu00f3n. La sesión se realizó ante el Comité de Negocios, Innovación, Ciencia y Comercio de la Cámara de los Comunes, integrado por legisladores de distintos partidos. Participaron las cuatro firmas, cuatro exempleados convertidos en denunciantes y altos funcionarios públicos británicos. “Las reglas deberían ser obligatorias”, dijo Liam Booth-Smith, jefe de Anthropic para Europa, al ser consultado sobre si la empresa cree que la seguridad de la IA necesita hoy un marco legal. La compañía agregó, “siempre creo que debe haber reglas obligatorias para las empresas y que los compromisos voluntarios no alcanzan”.
La fractura entre los cuatro gigantes
El vicepresidente de OpenAI, Tom Duff Gordon, se mostró cauteloso pero también respaldó un marco legal y una convención internacional. “Debería haber algunos elementos que sean obligatorios”, dijo, empezando por el reporte de incidentes. Sostuvo que basar todo en compromisos voluntarios “no es un buen plan a largo plazo” para los riesgos de los modelos más avanzados.
Sus pares de la competencia no acompañaron esa postura. Consultado directamente sobre si apoyaba un marco legal obligatorio, el responsable de política pública de Google DeepMind, Owen Larter, respondió que la prioridad de la empresa es trabajar “en los estándares”. Rob Sherman, de Meta, saludó que el Reino Unido “no estuvo escribiendo sobre una página en blanco” porque ya cuenta con reguladores sectoriales.
Para Liam Byrne, el legislador laborista que preside el comité, ese contraste era justamente el objetivo de la audiencia. Le dijo a Wired que la sesión buscaba “exponer las amplias diferencias de opinión entre algunas de las empresas más ricas del planeta” y demostrar “que no se podía confiar en la autorregulación voluntaria”.
Advertencias simultáneas en Westminster
Mientras los cuatro ejecutivos declaraban, a pocos metros de distancia el director del servicio de inteligencia MI5, Ken McCallum, presentaba su informe anual de amenazas y alertaba sobre el uso indebido de la IA para el desarrollo de armas biológicas.
“Aún no se ha concretado, pero el caso de mal uso al que le asigno mayor peso es el potencial de la IA para cambiar las reglas del juego en armas biológicas existentes o incluso nuevas”, dijo McCallum.
Byrne vinculó ambos hechos. “Que el jefe del MI5 advierta sobre capacidades peligrosísimas para bioterroristas en una parte del Gobierno, y que en otra parte el funcionario principal de la Oficina del Gabinete admita que nuestro régimen regulatorio para la IA es voluntario, te dice todo lo que necesitas saber”, declaró a Wired.
En el Último tramo de la audiencia, los funcionarios públicos admitieron los límites del sistema actual. El Instituto de Seguridad de la IA del Reino Unido (AISI, por su sigla en inglés), el organismo que evalúa modelos antes de su lanzamiento, depende por completo de que las empresas decidan entregárselos de forma voluntaria.
Su director, Henry de Zoete, reconoció que el instituto no tiene forma de impedir que una compañía publique un modelo aunque lo considere peligroso. “Lo que no estamos haciendo es certificar”, explicó, y agregó que el AISI “no dice sí o no a ningún modelo”.
Cat Little, la funcionaria más alta de la Oficina del Gabinete, de la que depende el AISI, fue consultada sobre si todo el régimen es voluntario. “Por el momento, sí, lo es”, respondió ante los legisladores.
Un reclamo que viene desde septiembre
El comité había enviado cartas formales a las cuatro empresas el 22 de septiembre, con diez preguntas sobre pruebas de seguridad obligatorias, el acceso del AISI a modelos y datos de entrenamiento, y la responsabilidad personal de los directivos que autorizan el lanzamiento de un modelo. Las firmas debían confirmar su asistencia antes del 29 de septiembre.
El comité informó que publicará un informe con sus conclusiones y recomendaciones una vez que termine de analizar los testimonios recogidos en la audiencia, un paso que podría presionar al Gobierno británico a legislar sobre pruebas obligatorias y reporte de incidentes para los sistemas de IA más avanzados.
.