Asistí a una mesa redonda sobre inteligencia artificial y Administración tributaria. La sala —mixta, con periodistas, técnicos y contribuyentes— quería saber algo elemental: ¿puede la Agencia Tributaria usar algoritmos para mejorar la gestión fiscal sin convertir al ciudadano en sujeto de una decisión opaca? La AEAT, por su parte, ha hecho pública su estrategia: apuesta por la IA para mejorar eficacia y atención, pero afirma que lo hará dentro de un marco de seguridad, trazabilidad y supervisión humana.
En este debate convergen obligaciones legales y democráticas: la normativa de protección de datos (el Reglamento General de Protección de Datos), la regulación europea sobre inteligencia artificial (el llamado AI Act) y las reglas del procedimiento administrativo español (Ley 39/2015 y la Ley General Tributaria). Juntas, esas normas exigen que la tecnología deje rastro, que las decisiones no sean puramente automáticas cuando afectan derechos, y que el administrado pueda acceder al expediente que motiva una actuación. No se trata de tecnicismos: son las garantías que convierten una herramienta en un instrumento legítimo.
La discusión en la sala fue directa. Reproduzco las preguntas más relevantes y lo que respondí, porque esas respuestas moldean lo que debemos exigir como sociedad.
Pregunta: «¿Qué significa supervisión humana? ¿Un funcionario debe revisar todo?»
Respuesta: supervisión humana significa que hay personas responsables que diseñan, validan y pueden detener decisiones automatizadas cuando el impacto es relevante. No implica revisar manualmente cada aviso —eso sería imposible ante volúmenes masivos—, sino situar la intervención humana en los puntos críticos: umbrales que disparan inspecciones, decisiones que afectan patrimonio y la firma de actos con consecuencias jurídicas. Además, la regulación europea obliga a que los sistemas de alto riesgo generen registros y permitan la supervisión humana efectiva.
Pregunta: «¿Debe incluirse en la notificación al ciudadano la versión del algoritmo o la huella técnica de los datos?»
Respuesta: No es necesario que la carta lleve la “caja negra” técnica pegada, pero la ley exige que exista un registro técnico (registro de auditoría) que documente ese dato y que pueda incorporarse al expediente. Si la decisión automatizada tiene efectos jurídicos, el interesado tiene derecho a información sobre la lógica del tratamiento y a solicitar acceso. En suma: la notificación debe ser comprensible y motivada; el expediente debe contener el rastro técnico y ser accesible cuando proceda.
Pregunta: «¿Qué pruebas deben existir para acreditar que un humano validó un requerimiento?»
Respuesta: tres pilares verificables deben estar en el expediente: (1) un registro de auditoría que vincule la alerta con el modelo y su versión, la huella de los datos que la motivaron y la explicación técnica; (2) una constancia documental de la intervención humana —quién revisó, qué decidió y por qué—; y (3) una firma electrónica con sello temporal que vincule la decisión a una persona autorizada en un momento concreto. Estos elementos permiten auditar y demostrar que la supervisión no es sólo un discurso institucional.
Pregunta: «¿La AEAT ya tiene estas cosas implementadas? ¿Podemos fiarnos?»
Respuesta: en términos formales, la AEAT ha incorporado la supervisión humana en su estrategia y dispone de herramientas de firma electrónica y gestión documental propias de la Administración pública. Eso es positivo: la infraestructura técnica y la política existen. Pero la confianza real surge cuando, ante una solicitud razonada, el expediente muestra los registros inmutables, la firma y la justificación. Si esos elementos se facilitan y se auditan por terceros, la declaración institucional se convierte en garantía efectiva; si no, queda en promesa.
Pregunta: «¿Qué puede hacer un contribuyente que sospeche que su requerimiento no fue validado por una persona?»
Respuesta: pedir el registro de auditoría del expediente: identificador del evento, modelo y versión, huella de los datos, puntuación del sistema y variables clave, constancia de revisor humano y su justificación escrita, y la prueba de la firma electrónica con sello temporal. Invocar el derecho de acceso y las garantías del RGPD y de la Ley 39/2015 es el mecanismo para obtener esa trazabilidad. Si la administración no puede aportar esos elementos, existe base para impugnar la actuación.
Uno de los asistentes se levantó y formuló la pregunta central: «¿no estamos entregando al Estado armas de control masivo sin garantías reales?» Es legítima y, al mismo tiempo, clarificadora.
Respuesta; La IA multiplica el alcance y la velocidad del control; por eso, sin transparencia y auditoría, puede erosionar derechos. Pero no es inevitable que eso ocurra: con reglas claras, trazabilidad y auditorías independientes, se puede aprovechar la tecnología sin renunciar a las garantías.
La diferencia práctica entre una supervisión real y una cosmética radica en la evidencia. Imaginar que “hay humanos” porque existe un documento institucional es frágil; la evidencia documental —registros, firmas, justificaciones— es lo que convierte la promesa en responsabilidad demostrable. Si la AEAT quiere conservar la confianza, no basta con decir que revisa; debe poder mostrar que, cuando un algoritmo apunta a una persona, hay una persona que puede explicar y asumir la decisión ante un auditor, un juez o la opinión pública.
¿Qué pediría, entonces, como ciudadano o periodista responsable? Tres cosas concretas:
- Publicación de la política de trazabilidad: la AEAT debería hacer pública la especificación mínima de su registro de auditoría: campos, conservación y plazos. La transparencia estructurada reduce la incertidumbre y facilita la fiscalización pública.
- Certificación independiente: auditorías periódicas por terceros que verifiquen, mediante muestreo, que las revisiones humanas se realizan en los casos de mayor impacto y que las anulaciones quedan registradas, justificadas y se emplean para corregir y mejorar los modelos.
- Mecanismo ágil de petición: un procedimiento claro para que el ciudadano solicite el registro de auditoría asociado a su expediente con plazos definidos de respuesta.
Terminé la sesión diciendo algo que ahora pongo por escrito: la frase “IA para mejorar la administración” merece aplauso solo si viene acompañada de responsabilidad demostrable y acceso efectivo a la prueba. En términos llanos: si la Administración usa máquinas para filtrar, tiene la obligación de enseñar el filtro cuando el filtrado afecte a una persona.
Las leyes no son un catálogo de obstáculos: son garantías.
El Reglamento General de Protección de Datos reconoce el derecho a información sobre la lógica del tratamiento y limita decisiones exclusivamente automatizadas; la regulación europea sobre IA exige registros y supervisión humana para sistemas de alto riesgo; la Ley 39/2015 garantiza el acceso al expediente; y la Ley General Tributaria impone motivación en los actos que generan obligaciones o sanciones. Con esa base normativa, lo que queda por decidir es práctico y político: cómo organizamos la supervisión para que sea eficaz y verificable sin paralizar la administración.
En la práctica, si queremos convivencia entre máquinas y ciudadanos, necesitamos herramientas que permitan al funcionario entender, en segundos, por qué saltó una alerta (qué datos influyeron), que registren esa comprensión y que permitan al funcionario escribir una justificación legible y firmarla electrónicamente. Sin esa interfaz, la revisión humana será cosmética: un gesto para la foto.
La confianza ciudadana es el activo más frágil y el más valioso. Si la AEAT quiere ser eficiente y legítima, su primer KPI debe ser la transparencia técnica y la trazabilidad comprobable. La tecnología ofrece velocidad; la legitimidad exige pruebas y una firma humana que pueda mirar a los ojos de quien ha sido señalado y explicar por qué se tomó esa decisión. Sin ello, la IA cumple objetivos de gestión, pero fracasa en algo más esencial: mantener viva la responsabilidad pública.
Si decidimos exigir esas pruebas —registro de auditoría, constancia de intervención humana y firma electrónica— no estaremos frenando la modernización; la estaremos orientando. Y eso no es poco: es la única manera de que la modernización no desborde los derechos ni la confianza de la sociedad.
