¿Y si la IA se equivoca?

¿Qué ocurre si un banco niega un préstamo por un algoritmo sesgado, una IA de recursos humanos descarta candidatos con perfiles “no estándar”, un sistema de reconocimiento facial confunde a un inocente con un sospechoso?

¿Qué nivel de responsabilidad corresponde a la IA?

Esta pregunta es muy importante hoy en día, donde la mayoría de los marcos jurídicos se basan en una premisa básica: una persona decide, una persona responde.

Pero esto no es perfecto cuando vivimos en un mundo donde la decisión la toma un sistema, entrenado por otros, con datos que nadie entiende del todo… es aquí donde el derecho empieza a tartamudear.

¿Qué dicen las jurisdicciones?

·       Unión Europea: El AI Act de reciente data, prohíbe usos de alto riesgo e impone reglas a desarrolladores, es decir limita el nivel de gestión y autogestión.

·       Estados Unidos: El debate gira en torno a si el creador del algoritmo debe responder como si fuera fabricante de un producto defectuoso.

·       Latinoamérica: Normas fragmentadas, pero los errores ya están ocurriendo… y los pleitos se asoman a la vuelta de la esquina.

¿Por qué importa esto?

Porque muchos profesionales, empresas y gobiernos están delegando o apoyándose en los modelos de inteligencia artificial para tomar decisiones y en muchos casos no llegan a comprender los riesgos que ello conlleva.

·       Falta de transparencia (¿por qué rechazaron mi crédito?)

·       Sesgos que pueden desencadenar demandas por discriminación

·       Dificultades para probar culpa o corregir el error

THE FINE PRINT

En muchos contratos, ya se están incluyendo cláusulas relacionadas con el uso de herramientas automatizadas, cláusulas que aunque pueden parecer simples cláusulas pueden tener consecuencias no tan automatizadas que pueden conllevar consigo demandas, multas y hasta crisis reputacionales.

Mientras la tecnología avanza a golpe de innovación, el derecho avanza con pie de plomo. Pero en el intermedio, alguien siempre paga la cuenta. Y hasta ahora, la IA nunca ha tenido que contratar un abogado, por eso aunque sea una herramienta maravillosa y de mucha ayuda no está exenta de errores, por eso el factor principal es el humano, porque la IA puede ayudarte pero no reemplazarte, o al menos por ahora.

¿Te gustó esta edición?

The Fine Print no busca predecir el futuro legal… pero sí ayudarte a leerlo mejor.

Regálame tu comentario