¿Qué Pasa si tu Algoritmo Discrimina? Responsabilidad Legal en Venezuela

Responsabilidad legal si tu algoritmo discrimina en Venezuela

Un sistema de IA no decide "discriminar" a propósito. Pero puede terminar haciéndolo si se entrenó con datos sesgados, o si sus criterios de filtrado reproducen un patrón injusto sin que nadie lo haya notado. Y cuando eso pasa, la responsabilidad no es del algoritmo — es de la empresa que lo implementó sin supervisión.

Por qué la discriminación algorítmica no es un tema hipotético

Ya existen casos documentados a nivel global de sistemas de filtrado de candidatos que descartaban sistemáticamente a ciertos grupos, o de sistemas de scoring que penalizaban perfiles sin justificación real — no por diseño intencional, sino porque nadie auditó el resultado a tiempo. La herramienta no tiene mala intención. El riesgo está en no revisar lo que produce.

Lo que anticipa el proyecto de Ley de IA venezolano sobre esto

El texto en discusión clasifica los sistemas de IA por nivel de riesgo, y coloca en el nivel más alto — con mayores exigencias de supervisión — a aquellos que pueden derivar en discriminación o afectar derechos de las personas. Aunque no está promulgado todavía, ya sabemos que este es exactamente el tipo de sistema que va a requerir más control.

Dónde suele aparecer este riesgo sin que nadie lo note

1. Filtrado de candidatos 

Un sistema que descarta currículos según patrones históricos puede reproducir sesgos que existían en decisiones de contratación pasadas — sin que el sistema "sepa" que lo está haciendo.

2. Scoring de clientes o prioridad de atención 

Si un sistema decide a qué cliente responder primero, o a quién ofrecer condiciones distintas, y ese criterio correlaciona con variables sensibles, hay exposición real.

3. Moderación automática de contenido o reclamos 

Un sistema que descarta reclamos "poco relevantes" puede estar penalizando sistemáticamente a un grupo específico de clientes sin que nadie lo haya diseñado así.

Cómo te proteges antes de que esto se convierta en un problema

No se trata de dejar de usar IA en decisiones sobre personas — se trata de auditar el resultado con regularidad, no solo la configuración inicial. Una revisión periódica de a quién beneficia y a quién perjudica el sistema es lo que detecta el sesgo antes de que se convierta en un caso público o en una denuncia.

Lo que hago cuando reviso esto con un cliente

Superviso tanto el proceso — quién revisa, con qué frecuencia — como la documentación que necesitas si alguna vez tienes que demostrar que actuaste con diligencia. Eso es lo que separa a una empresa que se protege de una que descubre el problema cuando ya es demasiado tarde para prevenirlo.

Agenda una sesión →

María Alejandra Tuozzo

Abogada | Consultora en Estructura Operativa