La inteligencia artificial ya se está incorporando en organismos públicos argentinos. Una nueva guía promete supervisión humana, trazabilidad y responsabilidad. Sin embargo, deja abiertas dos preguntas decisivas: quién realizará ese control y cómo podrá la sociedad comprobar que realmente existe.

Primero llega la inteligencia artificial. Luego llegan las políticas de uso, las pruebas, los responsables, los registros y la inevitable guía en PDF.

La tecnología entra porque promete velocidad, ahorro y eficiencia. Los controles suelen aparecer después, cuando alguien recuerda que una decisión automática también puede equivocarse, discriminar o dejar a una persona atrapada en un trámite que nadie sabe explicar.

Eso es lo que está ocurriendo en el Estado argentino.

La IA ya está dentro del Estado

No estamos discutiendo una tecnología futura.

Diversos organismos públicos ya están iniciando proyectos de inteligencia artificial o incorporando herramientas generativas a sus tareas. La propia Sindicatura General de la Nación reconoce que los controles relevados aún no se encuentran correctamente instrumentados.

Para ordenar ese escenario, en junio de 2026 la SIGEN aprueba, mediante la Resolución 197/2026, una Guía de Controles de Inteligencia Artificial aplicable a todo el Sector Público Nacional.

El documento intenta responder una pregunta necesaria: ¿cómo debe controlar el Estado los sistemas de IA que utiliza?

Y conviene observar con atención qué responde la guía, qué deja librado a cada organismo y qué información continúa fuera del alcance de la ciudadanía.

No estamos hablando solo de usar ChatGPT

La guía distingue dos escenarios.

El primero es el uso individual de herramientas generativas por parte del personal público: ChatGPT, Copilot, Gemini, DALL·E y otras aplicaciones similares.

Pueden emplearse para resumir documentos, redactar borradores, clasificar información o preparar respuestas.

Ese uso ya plantea problemas importantes. Una persona puede introducir datos confidenciales en una plataforma externa. Puede confiar en una respuesta inventada. Puede reproducir un sesgo o enviar un documento que nadie revisó porque tenía un tono convincentemente burocrático.

El segundo escenario es bastante más delicado.

Incluye sistemas incorporados a procesos, aplicaciones y decisiones institucionales. Sistemas que pueden intervenir en la clasificación de trámites, el análisis de riesgos, la detección de inconsistencias, la selección de casos para inspección o la atención automatizada de la ciudadanía.

Una cosa es pedirle a un chatbot que resuma una normativa. Otra es que un sistema influya en una ayuda pública, una prestación, una inspección, una decisión sanitaria o la situación administrativa de una persona.

En ese punto, la IA deja de ser una herramienta de oficina para convertirse en una infraestructura pública de decisión.

La pregunta ya no es solo si funciona.

También importa quién responde cuando falla, quién puede detenerla y quién tiene derecho a saber que fue utilizada.

El control prometido

La guía incluye medidas necesarias.

Establece que cada organismo debe contar con una política institucional para el uso de IA. El uso formal de las herramientas debe ser aprobado por el área responsable de la gestión informática y revisado por el área jurídica. Los proyectos deben documentar objetivos, alcance, plazos y responsables.

Contempla riesgos de ciberseguridad, dependencia de proveedores, exposición de datos personales, errores en los modelos, sesgos, resultados inventados, modificaciones no autorizadas y ataques mediante datos maliciosos.

También exige pruebas, trazabilidad, registros de operaciones, capacitación y procedimientos para tratar incidentes.

El principio central aparece desde la introducción:

La responsabilidad no puede trasladarse al algoritmo.

La máquina ejecuta. La persona y la institución responden.

Parece obvio. Sin embargo, muchas organizaciones siguen explicando sus decisiones con una frase equivalente a “lo dijo el sistema”. Como si el sistema hubiera aparecido espontáneamente en un servidor, se hubiera entrenado solo y ya ocupara una plaza en la Administración Pública.

La guía también establece que las decisiones críticas asistidas por IA deben ser revisadas por seres humanos. Los resultados deben poder ser comprendidos por quienes operan el sistema y explicados a las personas afectadas.

Hasta aquí, bien.

El problema empieza cuando preguntamos qué condiciones hacen posible esa supervisión.

El control posible

La guía habla de equipos con competencias suficientes, diversidad de perspectivas, responsables formales, participación de las áreas usuarias y capacitación del personal.

Pero no establece:

cuántas personas deben integrar estos equipos;
qué formación mínima necesitan;
cuánto tiempo tendrán para revisar decisiones;
qué grado de independencia deben mantener respecto de quienes desarrollaron o contrataron el sistema;
qué autoridad tendrán para detenerlo;
qué presupuesto se destinará a auditorías, pruebas y formación;
ni qué recursos adicionales recibirán la SIGEN y las Unidades de Auditoría Interna.

La resolución aprueba la guía, establece su aplicación y ordena su publicación. No crea una unidad especializada, no amplía plantillas, no asigna partidas presupuestarias y no fija un calendario detallado de implementación.

La guía sí menciona el presupuesto, pero como un riesgo del proyecto: advierte sobre costes de infraestructura, almacenamiento, mantenimiento y actualización, así como sobre posibles desvíos presupuestarios.

Eso significa “calcule los costes de su sistema”.

No significa “estos son los recursos destinados a controlarlo”.

La diferencia es bastante importante.

La propia guía reconoce que la supervisión y la corrección manual de errores pueden producir sobrecarga operativa.

El documento sabe que controlar la IA consume trabajo humano. Pero no explica cómo se calculará esa carga ni cómo se garantizará que haya personal suficiente para asumirla.

La norma exige supervisión humana, reconoce que puede sobrecargar al personal y deja sin concretar los recursos necesarios.

La inteligencia artificial prometía liberar tiempo. Al parecer, nadie reservó tiempo para controlar a la inteligencia artificial.

¿Crítica para quién?

La guía exige revisión humana para las decisiones “críticas”, pero no define con precisión cuáles son.

¿Es crítica la denegación de una ayuda económica?
¿La detección automatizada de un posible fraude?
¿La priorización de una inspección?
¿La clasificación de una persona como contribuyente de riesgo?
¿El envío de un trámite a revisión reforzada?

Para la Administración puede ser una recomendación dentro de un procedimiento, mientras que para la persona afectada puede significar perder un ingreso, esperar seis meses o quedar atrapada en un circuito burocrático que nadie sabe explicar.

Además, introducir a una persona en el proceso no garantiza una supervisión real.

Puede estudiar la recomendación, revisar los datos y contradecir el resultado.

También puede mirar la pantalla, confiar en la puntuación y pulsar “aceptar”.

Si un algoritmo procesa diez mil casos y una persona dispone de treinta segundos para validar cada uno, no tenemos supervisión humana: tenemos un dedo humano sobre un botón.

El investigador Ben Green analizó 41 políticas que exigían supervisión humana sobre algoritmos gubernamentales. Su conclusión es incómoda: muchas partían de la suposición no demostrada de que las personas podrían detectar y corregir eficazmente los errores del sistema.

Esa promesa puede terminar legitimando algoritmos problemáticos y produciendo una falsa sensación de seguridad.

Por eso Green propone pasar de la simple presencia humana a una supervisión institucional: justificar por qué debe utilizarse el algoritmo, demostrar que el control previsto puede funcionar y someter esa justificación a revisión pública democrática.

Nombrar a una persona responsable es necesario.

Convertirla en una firma decorativa es bastante más barato.

El control verificable

Aquí aparece el segundo gran vacío.

La guía organiza el control hacia dentro.

Se preocupa por la seguridad institucional, la continuidad del servicio, los errores, los contratos, los registros, la responsabilidad de los funcionarios y la posibilidad de realizar auditorías.

Todo eso es necesario, pero no equivale a transparencia pública.

El documento recomienda informar cuando un contenido haya sido generado o asistido por IA… “Recomienda”.

No establece un derecho general de la ciudadanía a saber cuándo un sistema de IA participó en una decisión que la afecta.

Tampoco crea un registro público de sistemas algorítmicos.

No obliga a publicar qué organismos utilizan IA, para qué la utilizan, qué proveedores intervienen, qué datos procesan, qué errores se detectaron o qué nivel de riesgo presenta cada sistema.

No exige que las evaluaciones de impacto sean públicas.

Ni crea un procedimiento específico para impugnar decisiones automatizadas o solicitar una revisión humana significativa.

La guía exige registros y logs para reconstruir operaciones e identificar responsabilidades. Pero guardar un registro no es lo mismo que abrir un registro.

Un log interno puede servir a un auditor. No permite necesariamente que periodistas, universidades, sindicatos, organizaciones sociales o personas afectadas conozcan qué sistema existe y cómo se comporta.

Un algoritmo puede estar perfectamente documentado dentro de un organismo y continuar siendo una caja cerrada para la población.

Eso no es transparencia democrática. Es trazabilidad administrativa.

Auditoría interna y auditoría social

La auditoría social no sustituye al control técnico ni al control de legalidad. Los complementa.

Significa que actores externos al organismo (organizaciones de derechos humanos, sindicatos, universidades, periodistas, especialistas independientes y comunidades afectadas) puedan conocer qué sistemas existen, comparar resultados, detectar daños y exigir correcciones.

Para que eso sea posible, la información debe ser pública, accesible, comprensible y suficientemente detallada.

Hace falta identificar:

qué sistema se utiliza;
con qué finalidad;
qué datos procesa y de dónde proceden;
qué empresa lo desarrolló o presta la infraestructura;
qué margen de error tiene;
qué sesgos fueron evaluados;
qué intervención humana existe;
cuántas decisiones fueron corregidas;
y cómo puede reclamar una persona afectada.

La explicabilidad técnica y la explicabilidad democrática no son lo mismo.

La primera permite que un operador entienda una salida. La segunda permite que la sociedad cuestione el uso del sistema.

La guía argentina promete la primera. Todavía no garantiza la segunda.

La demanda de transparencia ya existía

Un mes antes de su publicación, el Gobierno anunció el programa Gemelo Digital Social, destinado a utilizar inteligencia artificial y datos para diseñar políticas públicas.

El anuncio provocó pedidos de informes en el Congreso.

Los diputados Esteban Paulón y Agustín Rossi reclamaron explicaciones sobre la legalidad del proyecto, la protección de los datos y el posible riesgo de vigilancia. La Fundación Vía Libre pidió saber qué datos se cruzarían, de qué organismos procederían, qué decisiones podrían automatizarse y quién proporcionaría la tecnología.

Estas intervenciones no fueron críticas directas a la Resolución 197/2026. Pero muestran que la demanda política y social ya está planteada. La ciudadanía no solo quiere que el Estado diga que controla sus algoritmos: quiere saber cuáles son, qué hacen y cómo puede cuestionarlos.

Otros Estados ya abrieron parte de la caja

Argentina no está sola. Varios gobiernos han creado mecanismos para controlar el uso público de algoritmos e inteligencia artificial.

La diferencia es que algunos sí incorporan obligaciones de transparencia que permiten una revisión externa.

Canadá aplica una Evaluación de Impacto Algorítmico obligatoria a los sistemas alcanzados por su Directiva sobre Toma de Decisiones Automatizada. El cuestionario analiza los efectos sobre derechos, la calidad de los datos, la equidad procedimental y las opciones para recurrir una decisión.

La evaluación debe realizarse durante el diseño, actualizarse antes de la puesta en producción y publicarse en el portal de Gobierno Abierto.

No garantiza que el algoritmo sea justo, pero permite que alguien ajeno al organismo lea la evaluación, detecte ausencias y discuta sus conclusiones.

El Reino Unido utiliza un estándar de transparencia algorítmica para departamentos gubernamentales y organismos que prestan servicios públicos. La información debe publicarse de forma comprensible, accesible y gratuita, y existe un repositorio de registros.

Países Bajos mantiene un Registro de Algoritmos donde las administraciones publican información sobre sus sistemas.

Australia exige a buena parte de su administración federal responsables identificables, declaraciones de transparencia, registros internos, capacitación y evaluaciones de impacto para los casos de uso de IA.

Nueva Zelanda aporta otro matiz. Su Carta Algorítmica promueve documentación en lenguaje claro, publicación de información sobre datos y procesos, consulta con las comunidades afectadas, puntos de contacto y canales para apelar decisiones. También reconoce que la soberanía de los datos maoríes requiere una consideración específica.

Ninguno de estos mecanismos es perfecto: un registro puede estar incompleto, una evaluación puede convertirse en una colección de casillas marcadas, una declaración de transparencia puede decir mucho sin explicar casi nada.

La burocracia también sabe fabricar escaparates.

Pero estos modelos incorporan algo que la guía argentina todavía no garantiza: la posibilidad de mirar desde fuera.

Cuando el control se convierte en representación

Existen dos vacíos que se refuerzan entre sí.

Primero: no sabemos si existirán personas, tiempo, presupuesto e independencia suficientes para supervisar los sistemas.

Segundo: tampoco contamos con mecanismos públicos para comprobar si esos recursos existen y si la supervisión funciona.

La combinación permite producir afirmaciones institucionales difíciles de verificar:

“El sistema fue revisado”.

“Existe intervención humana”.

“Se evaluaron los riesgos”.

“Los datos están protegidos”.

Todo puede ser formalmente cierto y, al mismo tiempo, insuficiente.

Una persona pudo revisar diez mil resultados.

Una evaluación pudo ocupar dos páginas.

La intervención humana pudo consistir en pulsar “aceptar”.

Y la ciudadanía no tendría información suficiente para distinguir una supervisión real de una ceremonia administrativa.

A esto podemos llamarlo control performativo.

No significa que todos los controles sean falsos.

Significa que una institución demuestra que está actuando mediante guías, protocolos, responsables y formularios, pero no establece indicadores públicos que permitan comprobar si esas medidas cambian realmente los resultados.

La pregunta deja de ser: ¿Existe una guía?

Y pasa a ser: ¿Cuántas decisiones fueron revisadas, por cuántas personas, durante cuánto tiempo, con qué presupuesto y cuántas fueron modificadas después de detectar un error?

El control prometido no es el control posible.

Y el control posible tampoco es necesariamente el control verificable.

Lo que el Estado debería publicar

La guía es un avance, pero debería ser el comienzo y no el cierre de la discusión.

Para que el control sea creíble, el Estado debería publicar:

un inventario de los sistemas de IA utilizados;
su finalidad, organismo responsable y proveedor;
las evaluaciones de impacto y las pruebas realizadas;
los datos utilizados y sus limitaciones;
los recursos humanos y presupuestarios destinados a supervisión;
los errores e incidentes detectados;
la cantidad de decisiones revisadas y corregidas;
los resultados de auditorías independientes;
y los canales para solicitar explicaciones o reclamar.

También debería incorporar la participación de organizaciones sociales, sindicatos, universidades y comunidades potencialmente afectadas antes de desplegar sistemas de alto riesgo.

No cuando el daño ya esté hecho. Antes.

La pregunta que queda para la sociedad

Hay, además, una cuestión política que no conviene ignorar.

Esta guía deberá aplicarse en un Gobierno que reivindica la reducción del Estado como parte central de su proyecto. Javier Milei llegó a definirse como “el topo que destruye el Estado desde adentro”.

Esa orientación no demuestra que los controles sean ficticios ni que la norma haya sido creada únicamente para tranquilizar.

Pero sí obliga a hacerse una pregunta incómoda.

Supervisar sistemas de inteligencia artificial requiere personal formado, equipos multidisciplinares, tiempo, infraestructura, independencia y presupuesto.

Requiere, en definitiva, capacidad estatal.

¿Qué ocurre cuando se promete un control cada vez más complejo mientras se reduce la estructura encargada de ejercerlo?

La sociedad no debería conformarse con saber que existe una guía.

Debería poder conocer cuántas personas supervisan los sistemas, qué recursos tienen, qué errores detectan, qué decisiones corrigen y qué mecanismos existen para reclamar.

Porque un Estado más pequeño no produce automáticamente un Estado más eficiente.

A veces solo produce un Estado con menos capacidad para controlar tecnologías cada vez más poderosas.

Y cuando los controles no tienen recursos ni pueden observarse desde fuera, la tranquilidad institucional se parece demasiado a un acto de fe.

Breve nota sobre la ilustración utilizada

La ilustración, realizada por Andreas Töpfer, apareció originalmente en UP News, la publicación de la Universidad de Potsdam, acompañando una entrevista al jurista Björn Steinrötter sobre el uso de herramientas de inteligencia artificial en procedimientos jurídicos y administrativos públicos. El artículo fue publicado el 13 de enero de 2026.

Ver la publicación original en la Universidad de Potsdam