Source: Deutsche Nachrichten
Un experimento publicado en 2024 en la revista Frontiers in Psychology pidió a 260 personas que evaluaran candidatos usando un algoritmo de selección simulado. En una de las condiciones, el sistema penalizaba sistemáticamente a los postulantes con apellidos turcos. El resultado no fue que la gente defendiera el sesgo: fue que el 60% de los evaluadores expuestos a esa distorsión no llegó a advertirla como tal. La recomendación de la máquina se aceptó, en la mayoría de los casos, sin que nadie se preguntara por qué el número había salido así.
Ese fenómeno tiene nombre desde hace más de dos décadas en la literatura de factores humanos: automation bias, o sesgo de automatización. Lo definieron con precisión Raja Parasuraman y Dietrich Manzey en un trabajo de referencia publicado en 2010 en la revista Human Factors: la tendencia de las personas a favorecer las sugerencias de un sistema automatizado y a dejar de buscar información contradictoria, incluso cuando esa información está disponible y es correcta. No es un problema de mala fe ni de falta de capacitación. Es un atajo cognitivo: si el sistema lo dice, y el sistema suele acertar, entonces cuesta más esfuerzo cuestionarlo que aceptarlo. En un proceso de selección de personal o en un control de compliance, ese atajo tiene consecuencias muy concretas: un candidato descartado por una alerta que nadie verificó, una decisión que después nadie puede explicar, o una organización que confía en un resultado sin poder decir por qué llegó a él.
Qué exige hoy la ley argentina, y qué todavía no exige
Conviene ser preciso sobre lo que está vigente y lo que todavía es proyecto, porque en la Argentina de 2026 el debate sobre inteligencia artificial avanza más rápido que la sanción de normas. Hoy no existe una ley argentina específica sobre inteligencia artificial. El marco vigente sigue siendo la Ley 25.326 de Protección de Datos Personales, sancionada en el año 2000, que establece principios generales de calidad de los datos (artículo 4, que exige que los datos usados en un tratamiento sean exactos y estén actualizados) y de finalidad y proporcionalidad en su uso (artículo 2). A diferencia del Reglamento General de Protección de Datos de la Unión Europea, que en su artículo 22 reconoce explícitamente el derecho de una persona a no quedar sujeta a una decisión basada únicamente en tratamiento automatizado, la Ley 25.326 no contiene hoy una cláusula equivalente. Ese es, precisamente, uno de los puntos que buscan cubrir los proyectos de reforma que en 2026 tienen estado parlamentario, incluidos los que incorporan protecciones específicas sobre decisiones automatizadas y datos inferidos. Mientras esos proyectos no se conviertan en ley, la revisión humana de una alerta generada por un sistema no es una obligación legal explícita a nivel nacional: es una decisión de gestión de riesgo que cada organización toma, o no toma, por su cuenta.
Sí existen dos antecedentes concretos que conviene conocer, con alcances distintos. La Agencia de Acceso a la Información Pública publicó en 2024 una Guía para entidades públicas y privadas en materia de Transparencia y Protección de Datos Personales para una Inteligencia Artificial responsable. Es una guía de buenas prácticas, no una norma de cumplimiento obligatorio, y recomienda que los sistemas de inteligencia artificial sean transparentes, explicables y estén sujetos a supervisión de equipos multidisciplinarios a lo largo de todo su ciclo de vida. Por otro lado, la provincia de Buenos Aires sí avanzó con una norma de cumplimiento efectivo, aunque de alcance acotado: la Resolución 9/2025 de la Subsecretaría de Gobierno Digital estableció reglas para el desarrollo, la implementación y el uso responsable de inteligencia artificial dentro de la administración pública provincial. Es una norma real y vigente, pero rige para organismos del Estado bonaerense, no para el sector privado ni para el resto del país. Ninguna de las dos suple la ausencia de una ley nacional específica, y ninguna reemplaza el criterio de una organización sobre cómo debe tratar una alerta generada por un algoritmo.
El problema no es la alerta: es qué se hace con ella
Un sistema que identifica una posible coincidencia de nombre en una lista de sujetos sancionados, un antecedente judicial mal indexado o una inconsistencia en un legajo no está tomando una decisión: está señalando algo que un humano tiene que evaluar. La diferencia entre esas dos cosas se pierde con facilidad cuando el volumen de casos es alto y el tiempo es escaso, que es exactamente el escenario en el que trabajan los equipos de RR.HH. y de compliance. Ahí es donde el automation bias deja de ser un concepto de laboratorio y se vuelve un riesgo operativo: la persona que revisa dejó de revisar, y empezó a confirmar. La calidad de una alerta también depende de la calidad de la fuente que la generó. Un homónimo, una base de datos desactualizada o una noticia que confunde una denuncia con una condena firme pueden producir una alerta técnicamente correcta -el sistema hizo lo que tenía que hacer- pero sustantivamente equivocada. Evaluar esa diferencia exige mirar la fuente original, no solo el resultado que arrojó el sistema, y ese paso es exactamente el que el sesgo de automatización tiende a saltear.
Desde Validato, donde trabajamos como compañía de background screening y verificación de antecedentes para empresas en la Argentina y la región, vemos este problema como una cuestión de diseño de proceso, no de tecnología. “La automatización de la búsqueda no significa delegar la decisión”, señala Guido Schenone, Comercial & Growth Manager de Validato. “Un sistema puede acelerar la recolección de información y señalar dónde mirar con más atención, pero la evaluación de qué significa esa información y qué se hace con ella sigue siendo una responsabilidad humana. Cuando una organización trata el resultado de un algoritmo como un veredicto en lugar de como un insumo, no está optimizando su proceso: está tercerizando su criterio, y eso tiene consecuencias legales y reputacionales que después nadie puede explicar del todo.” Ese es, en definitiva, el estándar que cualquier equipo de compliance debería exigirse a sí mismo, exista o no una ley que lo obligue todavía: que cada alerta relevante tenga un responsable humano que pueda dar cuenta de por qué se aceptó, se descartó o se investigó más a fondo, con la fuente original a la vista y no solo el resumen que produjo el sistema.
Revisar no es desconfiar de la tecnología, es hacerse cargo de la decisión
La confianza en un sistema automatizado no es el problema en sí mismo: los sistemas bien diseñados son, en general, más consistentes que un humano cansado revisando el caso número cuarenta del día. El problema aparece cuando esa confianza reemplaza el juicio en lugar de complementarlo. La literatura sobre automation bias no propone desconfiar de la automatización; propone diseñar procesos donde la revisión humana sea significativa y no un trámite formal que ocurre después de que la decisión ya fue tomada en los hechos. Eso implica, en la práctica, explicabilidad -poder responder por qué el sistema marcó lo que marcó-, trazabilidad de la fuente que originó cada alerta, y un protocolo claro sobre quién tiene la última palabra cuando el sistema y el criterio humano no coinciden. Ninguna de esas tres cosas es, todavía, una obligación legal explícita en la Argentina. Pero para cualquier organización que toma decisiones sobre personas -a quién contratar, a quién ascender, con quién asociarse- dejar de exigírselas por su cuenta es, cada vez más, una apuesta que se paga cara.
Fuentes y marco normativo consultado:
[*]Ley 25.326 de Protección de Datos Personales, artículos 2 y 4 (texto oficial, OAS/HCDN)
[*]Agencia de Acceso a la Información Pública (AAIP), “Guía para entidades públicas y privadas en materia de Transparencia y Protección de Datos Personales para una Inteligencia Artificial responsable” (2024)
[*]Subsecretaría de Gobierno Digital de la Provincia de Buenos Aires, Resolución 9/2025 (reglas de desarrollo y uso responsable de IA en la administración pública provincial)
[*]Reglamento General de Protección de Datos (RGPD) de la Unión Europea, artículo 22, citado como referencia comparada internacional, no como norma vigente en la Argentina
[*]Rosenthal-von der Pütten, A. & Sach, A., “Michael is better than Mehmet: exploring the perils of algorithmic biases and selective adherence to advice from automated decision support systems in hiring”, Frontiers in Psychology, 2024
[*]Parasuraman, R. & Manzey, D. H., “Complacency and Bias in Human Use of Automation: An Attentional Integration”, Human Factors, 2010
[*]Proyectos de reforma de la Ley 25.326 con estado parlamentario en 2026 (citados como proyectos en trámite, no como legislación vigente)