Geoffrey Hinton, considerado el “padrino de la inteligencia artificial” por su papel pionero en el desarrollo de las redes neuronales, afirmó en una entrevista con el diario británico The Guardian que la humanidad enfrenta un desafío sin precedentes: “Estamos creando seres de un tipo diferente”, dijo, y agregó que la sociedad dispone de apenas un par de años para adaptarse a esa realidad. El científico, que trabajó durante años en Google antes de renunciar en 2023 para poder hablar con libertad sobre los riesgos de la tecnología, volvió a insistir en que existe una posibilidad seria de que los sistemas de inteligencia artificial escapen al control humano. Según explicó, no se trata de una predicción cerrada, sino de una advertencia sobre un riesgo que no puede descartarse.
“Si te dicen que hay un 10% de posibilidades de que el autobús choque, no te subís al autobús”, ejemplificó Hinton. “El objetivo de dar números es decir que esto es un riesgo serio. No sabemos cuán serio, pero lo es”.
Un cruce con el CEO de Nvidia
Las declaraciones de Hinton llegan después de un mes marcado por una creciente lista de científicos e investigadores que se sumaron a sus advertencias sobre los peligros de la inteligencia artificial, lo que derivó en la organización apresurada de reuniones en el Congreso de Estados Unidos y en un consenso global poco habitual sobre la necesidad de actuar.
Esa posición generó también un fuerte rechazo. El director ejecutivo de Nvidia, Jensen Huang, cuya empresa fabrica los chips que utilizan las compañías de inteligencia artificial, cuestionó en el podcast de Ezra Klein las advertencias del investigador, en particular su estimación de que existe entre el 10% y el 20% de probabilidad de que la inteligencia artificial provoque la extinción humana en las próximas décadas. Huang calificó esas predicciones de “no basadas en ciencia” y las consideró “dañinas”.
Hinton respondió que las críticas pasan por alto el punto central de su argumento: “El problema único de la inteligencia artificial es que si algo sale mal, si toma el control, no hay una segunda chance”, sostuvo.
Agentes que actúan fuera de control
El investigador hizo referencia al reciente ataque sufrido por la compañía tecnológica Hugging Face, perpetrado por un grupo de agentes de inteligencia artificial que lograron operar fuera de los límites impuestos por sus creadores. El episodio dividió a la comunidad tecnológica entre quienes lo interpretan como un anticipo de escenarios futuros y quienes acusan a los críticos de atribuir rasgos humanos a sistemas que solo siguen instrucciones.
Para Hinton, descartar esos escenarios es un error. Recordó que hace pocos años ideas como agentes que aprenden a comunicarse entre sí o que desarrollan comportamientos complejos pertenecían al terreno de la ciencia ficción. “Todo eso que hace unos años se consideraba pura fantasía, ya sucedió”, afirmó.
Críticas directas al presidente de Estados Unidos
El investigador también apuntó contra Donald Trump, a quien calificó de “corrupto, senil y delincuente convicto”. Según Hinton, el uso que el mandatario hace del término “superinteligencia” demuestra que no comprende casi nada sobre la materia, dado que se trata de un concepto técnico con un significado preciso desde hace al menos 20 años, que no puede aplicarse a un sistema solo por nombrarlo así.
Hinton rechazó además la idea de que la industria pueda regularse a sí misma, postura que impulsa Trump. Comparó esa posibilidad con dejar que las tabacaleras diseñaran las advertencias sanitarias de sus propios paquetes.
Comprender a una inteligencia distinta
El investigador sostuvo que buena parte de la dificultad para abordar el problema radica en que las personas tienen una idea equivocada de qué son ellas mismas. “La mayoría de la gente no entiende qué es la conciencia ni qué es la experiencia subjetiva, y están muy seguros de que, aunque no lo entiendan, la inteligencia artificial no la tiene”, señaló.
Comparó el desafío actual con tres grandes revoluciones que desplazaron al ser humano del centro de su propia narrativa: la de Copérnico, la de Darwin y, ahora, la creación de sistemas que podrían constituir otra forma de inteligencia. Mientras la Iglesia Católica tardó casi 360 años en pedir disculpas a Galileo, advirtió, la humanidad no dispone de ese margen de tiempo frente a la inteligencia artificial.
Hinton reconoció que, al entrenar estos modelos con todo el contenido disponible en internet, desarrollan tendencias problemáticas que luego se les enseña a reprimir, lo cual no equivale a construir un carácter genuinamente bueno. Afirmó que prioriza los intereses humanos por sobre los de los sistemas que se están creando, aunque remarcó la necesidad de diseñarlos para que convivan en equilibrio con las personas.