La gobernanza de la IA a debate

¿Cómo garantizar que las decisiones tomadas por algoritmos sean justas y éticas? ¿Quién debería ser responsable por decisiones de ese tipo que resulten erróneas o sesgadas? 

Estas y otras interrogantes han de estar en el centro de los análisis del Foro Global sobre la Ética de la Inteligencia Artificial (IA) 2024, que tendrá lugar entre este día 5 y el 6 de febrero, organizado por la UNESCO y Eslovenia. 

«Cambiando el panorama de la gobernanza de la IA» https://www.unesco.org/es/forum-ethics-ai  es el lema de este 2º Foro Global que se propone buscar un equilibrio entre la autonomía de la IA y la supervisión humana.

La UNESCO ha liderado durante décadas esfuerzos internacionales para garantizar que la ciencia y la tecnología se desarrollen dentro de un marco ético. Es así que en noviembre de 2021 elaboró la primera norma mundial sobre este tema : "Recomendaciones sobre la ética de la inteligencia artificial", marco adoptado por los 193 estados miembros.

Esa Organización de Naciones Unidas apunta al respecto que proteger los derechos humanos y la dignidad es la piedra angular de esas Recomendaciones, que recuerdan siempre la importancia de la supervisión humana sobre los sistemas de IA.

La reunión que hoy comienza promete ser un valioso punto de encuentro para líderes, expertos y académicos, con miras a debatir sobre los desafíos éticos planteados por el vertiginoso avance de la (IA) y buscar soluciones que en ese sentido impulsen un desarrollo sostenible e inclusivo.

Imagen: Getty Images

Explorarán las oportunidades y los retos que plantea la IA, tales como el potencial de la tecnología para avanzar en la agenda de la equidad, la diversidad y la no discriminación, las mejores prácticas emergentes de supervisión de la IA, las asociaciones con el sector privado a través de las evaluaciones de impacto ético, y el impacto de la IA en la igualdad de género.

En el Foro también se presentarán iniciativas de la UNESCO, entre ellas el Observatorio Mundial de Ética de la IA y la Red UNESCO de Expertos en Ética de la IA sin Fronteras.

La rapidez con que la IA se ha integrado a muy diversos ámbitos, y continúa haciéndolo,  ha suscitado preocupaciones de orden ético que incluyen tópicos como la privacidad y la toma de decisiones autónomas por parte de esa inteligencia no humana. 

Además de las  grandes e innegables oportunidades a nivel global generadas por la IA, está también ha puesto sobre la mesa  profundos dilemas éticos, derivados del potencial que tienen los sistemas basados en IA para reproducir prejuicios, contribuir a la degradación del clima y amenazar  derechos humanos, entre otros. 

Tales riesgos asociados a la IA se suman a las otras muchas desigualdades que ya existen, atentando así contra grupos históricamente marginados. 

Entre los temas centrales que se espera aborden está la necesidad de establecer principios éticos sólidos que rijan la creación y uso de la IA, así como la posibilidad de consensuar principios universales para políticas y regulaciones a nivel internacional. 

Del encuentro global pudieran derivar directrices prácticas y principios éticos para ser adoptados por los gobiernos, las empresas y los desarrolladores de tecnología, privilegiando en primera instancia a la inteligencia humana.