El sesgo algorítmico en la mira: la urgencia global de regular la IA en las administraciones tributarias
La implementación acelerada de inteligencia artificial (IA) en las administraciones tributarias de todo el mundo ha encendido las alertas sobre los falsos positivos y el impacto de los sesgos algorítmicos en los ciudadanos. Un reciente análisis internacional revela que, desde Chile hasta Australia, los sistemas automatizados están tomando decisiones críticas sin la debida supervisión humana, generando consecuencias jurídicas y humanas devastadoras.
La ilusión de la eficiencia automatizada
La promesa de optimizar la recaudación fiscal mediante algoritmos ha llevado a que 29 de los 38 países miembros de la OCDE ya utilicen IA en sus procesos. El salto ha sido vertiginoso: el uso pasó del 9% en 2016 al 69% en 2023. Sin embargo, esta adopción tecnológica no ha venido acompañada de los resguardos necesarios.
Expertos advierten que los sistemas automatizados de recaudación fiscal reproducen errores masivos y carecen de supervisión humana efectiva, poniendo en riesgo derechos fundamentales de los contribuyentes.
La problemática no es exclusiva de una nación. En Colombia, el asistente virtual de la DIAN respondió automáticamente casi 245.000 consultas en 2020, lo que plantea interrogantes sobre la responsabilidad legal de un 'chatbot' que actúa con logo oficial pero sin el peso de un pronunciamiento vinculante. En México, el SAT despacha cartas de invitación automatizadas, mientras que en Perú la Sunat envía SMS por supuestas inconsistencias sin explicar el motivo.
Casos emblemáticos: cuando el algoritmo destruye vidas
El costo humano de estos errores es incalculable. En Australia, el caso 'Robodebt' notificó deudas masivas a 433.000 ciudadanos basándose en una regla ilegal, obligando a muchos a pagar por temor al Estado. En Holanda, un clasificador de aprendizaje automático utilizó la nacionalidad como indicador de fraude, arruinando a 26.000 familias y provocando la caída del tercer gabinete de Mark Rutte.
La magnitud del problema queda en evidencia con datos de Estados Unidos. El comité asesor del IRS informó recientemente que sus filtros -incluso sin IA avanzada- generan un 54% de falsos positivos. Más de la mitad de las declaraciones detenidas son legítimas. Esto plantea una pregunta incómoda para Chile: ¿cuál es la tasa de error del Servicio de Impuestos Internos (SII) y por qué no se publica?
Hacia un nuevo estándar de transparencia y control
Frente a este escenario, algunos países de la región ya están tomando la delantera legislativa. La provincia de Córdoba, en Argentina, estableció el derecho del contribuyente a saber si se utilizó IA para detectar una diferencia y a exigir la explicación de los criterios objetivos aplicados. Brasil, por su parte, dictó una política que exige que la máquina 'pueda sugerir, pero no sustituir' la decisión del funcionario humano.
La premisa es clara: el error del algoritmo es responsabilidad del Estado, no un accidente meteorológico. La urgencia de establecer protocolos internos, auditorías externas y derechos de impugnación ágiles se ha convertido en una demanda ineludible para la próxima década.
Contexto o Impacto
La relevancia de esta noticia radica en que el uso de IA en la administración pública ya no es una proyección futura, sino una realidad operativa que afecta a millones de contribuyentes ahora mismo. Para el lector, esto significa que sus obligaciones fiscales, bloqueos de facturación o auditorías podrían estar siendo determinados por modelos opacos que nadie audita externamente.
La falta de medición de falsos positivos convierte a los sistemas en 'oráculos' incuestionables, donde el ciudadano queda en indefensión. La discusión trasciende lo tecnológico: es un debate sobre la carga de la prueba y la equidad. Si las administraciones no adoptan marcos como los de Brasil o Córdoba -con supervisión humana obligatoria para decisiones significativas y transparencia algorítmica-, el riesgo es que la eficiencia recaudatoria se construya sobre la indefensión sistemática de los contribuyentes honestos.
Con información de df.cl.
