La IA ya interviene en decisiones que afectan la salud, el empleo, la educación, la privacidad y otros derechos fundamentales. Pero el problema no se reduce a lo que estos sistemas son capaces de hacer: también exige determinar quién está legitimado para autorizar su utilización, bajo qué límites y con qué responsabilidades. Esa distinción constituye el punto de partida de la propuesta de Fishel Szlajen en el marco del G20 Interfaith Forum 2026.
El encuentro se celebra del 15 al 17 de octubre en la Universidad de Utah, en Salt Lake City, Estados Unidos, bajo el lema Resilient Hope, Shared Future. Su programa incluye una plenaria sobre las oportunidades y amenazas de la IA y una sesión específica, AI Innovation and Human Dignity, dedicada a traducir las preocupaciones éticas en medidas concretas.
Entre los ejes de discusión figuran los parámetros verificables de seguridad y equidad, la alfabetización digital, la privacidad, los derechos laborales, la protección de menores y los mecanismos de reparación. El documento de discusión del IF20 también aborda la necesidad de estándares internacionales y supervisión regulatoria. Convocado a integrar el AI Working Group del foro, Szlajen plantea una cuestión decisiva: cómo pasar de principios ampliamente compartidos a obligaciones exigibles entre países con distintas tradiciones éticas, sistemas jurídicos y capacidades de control.
Su planteo se fundamenta en la Ética del Límite, propuesta filosófica de su autoría sobre la legitimidad, la responsabilidad y el ejercicio del poder. Su premisa es que la capacidad de realizar una acción no equivale a estar legitimado para llevarla a cabo. Aplicada a la IA, esta distinción significa, según lo expresado por Szlajen, “que la factibilidad tecnológica no basta para justificar su uso. Los límites, por tanto, no deberían operar únicamente después del daño, mediante sanciones o reparaciones, sino también antes, como condiciones para autorizar, restringir o impedir determinadas aplicaciones”.
Uno de los conceptos centrales de su propuesta es el “consenso de operatividad”. Un acuerdo sobre condiciones comunes de legitimidad sin exigir unanimidad acerca de los fundamentos últimos filosóficos, religiosos o políticos. El objetivo, según Szlajen, es avanzar hacia un estándar compartido para la IA, constituido por límites al ejercicio del poder, obligaciones institucionales indelegables y mecanismos verificables de cumplimiento. Así, las diferencias entre sociedades no tendrían por qué impedir acuerdos sobre aquello que las instituciones deben demostrar y garantizar.
El estándar propuesto no busca reemplazar las normas técnicas existentes, sino complementarlas. Frente a cada aplicación correspondería determinar quién autoriza su utilización, qué riesgos se evalúan previamente, qué garantías deben acreditarse, quién supervisa su cumplimiento y qué consecuencias se derivan de una infracción. “La responsabilidad dejaría de agotarse en la adhesión a principios generales”, Szlajen enfatizó.
Szlajen detalló que en sistemas utilizados por menores de edad, por ejemplo, estas obligaciones podrían traducirse en evaluaciones previas y mecanismos efectivos de prevención y reparación. En herramientas empleadas por hospitales, empresas u organismos públicos, exigirían responsables identificables, controles independientes y vías de revisión de decisiones automatizadas. Se trata de pasar de los valores proclamados a garantías que puedan comprobarse.
Otro componente de la propuesta consiste en distinguir la verificación de garantías operativas de la divulgación indiscriminada de información protegida. Una auditoría de IA debería poder acreditar requisitos de seguridad y responsabilidad sin revelar innecesariamente secretos industriales. Cuando el acceso a información reservada resulte indispensable, podrían establecerse procedimientos confidenciales protegiendo la propiedad intelectual sin impedir la supervisión. “Tal como en cualquier código de normas, políticas, procedimientos y buenas prácticas de una organización, no alcanza con adherir a principios o valores: las instituciones deben poder demostrar cómo los cumplen”, señaló Szlajen.
Rabino, doctor en filosofía y posdoctorado en bioética, Szlajen es miembro titular de la Pontificia Academia para la Vida, en el Vaticano, y de la Comisión Nacional de Bioética, además de integrar el Consejo Académico de Ética en Medicina de la Academia Nacional de Medicina. En 2026 recibió el Premio Konex Diploma al Mérito en Ética y Bioética.
Su contribución al debate internacional sobre IA apunta, así, a desplazar la discusión desde la proclamación de principios hacia la construcción de condiciones institucionales de legitimidad. No presupone un acuerdo universal sobre los fundamentos de la ética, sino la posibilidad de establecer límites compartidos, obligaciones exigibles y procedimientos verificables. “La cuestión no es sólo qué puede hacer la IA, sino qué estamos legitimados a permitirle hacer, bajo qué límites y con qué responsabilidades”, concluyó Szlajen.