ONU: La Inteligencia Artificial sin control puede violar los derechos humanos

La alta comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, ha advertido este miércoles sobre la necesidad urgente de establecer una moratoria a los sistemas de inteligencia artificial (IA), al considerar que representan un grave riesgo en cuestión de derechos.

"La inteligencia artificial puede ser una fuerza para el bien, que ayude a las sociedades a superar algunos de los mayores retos de nuestro tiempo. Pero las tecnologías de IA también pueden tener efectos nocivos e incluso catastróficos, cuando se emplean sin prestar la debida atención a su capacidad de vulnerar los derechos humanos", declaró Bachelet.

En ese sentido, la alta comisionada instó a detener temporalmente la venta de ciertas tecnologías de interés, sobre todo aquellas que se usan en espacios públicos, y enfatizó la necesidad de establecer una prohibición total de las aplicaciones de IA que no cumplen con el derecho internacional.

"Mientras mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la tecnología de IA. Pero dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo", agregó.

Vulneran varios derechos

Un informe publicado el mismo día por la ONU revela que ciertas tecnologías de aprendizaje automático vulneran directamente varios derechos, como los relativos a la intimidad, la salud, la educación, la libertad de movimiento, y la libertad de expresión. Además, los sistemas de reconocimiento facial, que se usan cada vez más para identificar a determinadas personas a distancia y en tiempo real, plantean dudas por permitir un seguimiento ilimitado de individuos.

Tomando en cuenta que tanto Estados como compañías se han precipitado por incorporar este tipo de tecnologías sin ejercer la debida diligencia, ya se han registrado casos de personas que acaban recibiendo tratos injustos o discriminatorios, sea porque se les denegó algún tipo de servicio o porque fueron acusados injustamente debido a errores en los sistemas de reconocimiento facial, sostiene la ONU.

Otro problema que describe el documento es que los sistemas de IA se basan en grandes bases de datos, alimentadas con información personal de usuarios. "Dado el rápido y continuo crecimiento de la IA, llenar el inmenso vacío de asunción de responsabilidades sobre cómo se recogen, almacenan, comparten y utilizan los datos es uno de los cometidos más urgentes que afrontamos en materia de derechos humanos", apuntó Bachelet.