Source: Deutsche Nachrichten
Cuando un algoritmo decide, o ayuda a decidir, algo sobre una persona —si es apto para un puesto, si representa un riesgo crediticio, si aparece en una lista de sanciones—, la pregunta legal que hasta hace poco quedaba en un área gris en Argentina empieza a tener respuestas concretas en el Congreso. El expediente 1751-D-2026, presentado por el diputado Martín Yeza como parte de una reforma integral a la Ley de Protección de Datos Personales (25.326), dedica un capítulo entero a datos inferidos, decisiones automatizadas, derecho de oposición del titular y reglas de borrado para modelos de inteligencia artificial entrenados con información personal. En paralelo, un proyecto que reforma la Ley General de Sociedades y que se debate en el Senado propone crear las “sociedades automatizadas”, empresas que podrían operar funciones centrales mediante algoritmos autónomos, pero solo si mantienen un directorio humano responsable de auditar esos algoritmos, mecanismos de apagado de emergencia, y responsabilidad patrimonial plena de la empresa por cualquier daño causado por su propia IA, sin posibilidad de alegar “inmunidad algorítmica”.
Ninguno de los dos proyectos fue votado todavía, y es probable que su versión final cambie antes de convertirse en ley. Pero la dirección de ambos es la misma, y no es casual: si un algoritmo participa en una decisión sobre una persona, esa persona tiene que poder saberlo, cuestionarlo y, eventualmente, hacer responsable a la empresa que lo usó. Para cualquier compañía que construye tecnología de verificación de personas —antecedentes, riesgo crediticio, listas de sanciones, evaluación de integridad— esto no es una discusión abstracta de política pública: es, en los hechos, el estándar mínimo que va a tener que cumplir su producto, gane o pierda el proyecto de ley que hoy tiene más consenso.
El punto central que atraviesa ambas iniciativas es la trazabilidad: no alcanza con que un sistema funcione bien la mayoría de las veces, tiene que poder explicar cómo llegó a cada resultado individual, sobre todo cuando ese resultado afecta negativamente a una persona. Un algoritmo de verificación que marca a alguien como de “alto riesgo” sin dejar registro de qué fuentes cruzó, con qué criterio, y sin posibilidad de que un humano revise el caso antes de una decisión final, es exactamente el tipo de “caja negra” que tanto la reforma de la Ley 25.326 como el proyecto de sociedades automatizadas buscan eliminar. La respuesta técnica a ese problema no es dejar de usar inteligencia artificial ni automatización —sería renunciar a la velocidad y la escala que la tecnología permite—, sino diseñar el sistema para que cada paso quede documentado y sea auditable, y para que un especialista humano pueda intervenir en los casos límite antes de que la decisión se cierre.
“El proyecto de sociedades automatizadas le exige a una empresa manejada por IA tener un directorio humano que audite sus algoritmos y un botón de apagado de emergencia. Nosotros aplicamos ese mismo principio a nuestra propia tecnología de verificación desde antes de que existiera el proyecto de ley: automatización para la velocidad, pero con un especialista humano que revisa los casos que requieren criterio, y todo el proceso documentado para una auditoría”, explica Guido Schenone, Comercial & Growth Manager de Validato. “Cuando la reforma de la Ley 25.326 finalmente se apruebe —y todo indica que en algún momento se va a aprobar—, las empresas que ya construyeron sus procesos con esa lógica de trazabilidad no van a tener que rehacer nada. Las que trataron a la IA como una caja negra sí.”
Para cualquier empresa argentina que hoy incorpora inteligencia artificial a procesos que afectan a personas —no solo verificación de antecedentes, sino scoring crediticio, selección de personal o atención al cliente automatizada—, la recomendación práctica es anticiparse al resultado del debate legislativo en lugar de esperarlo: documentar qué datos usa cada algoritmo, con qué finalidad, dar a las personas afectadas una vía real para cuestionar un resultado, y mantener siempre a alguien humano con capacidad de revisar y, si hace falta, revertir una decisión automatizada. Sea cual sea la ley que finalmente salga del Congreso, esos principios ya están escritos en más de un proyecto, y difícilmente desaparezcan de la versión final.