Ginebra.– El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió a los gobiernos y a las empresas desarrolladoras de inteligencia artificial (IA) adoptar medidas urgentes para regular los sistemas más avanzados, ante los riesgos que su rápida evolución podría representar para la humanidad.
En una carta dirigida a los Estados y a desarrolladores de IA, Türk advirtió que el mundo se encuentra ante un cambio potencialmente irreversible que podría afectar no solo a las generaciones actuales, sino también a las futuras.
El funcionario instó a gobiernos y empresas a movilizarse mediante mecanismos multilaterales para establecer reglas sobre los modelos avanzados o de frontera, tomando como base el derecho internacional de los derechos humanos.
“Todos los derechos humanos están en juego”, advirtió Türk, quien señaló que entre ellos se encuentra incluso el derecho a la vida.
Preocupación por carrera de la IA
El alto comisionado sostuvo que la competencia por desarrollar sistemas de inteligencia artificial cada vez más potentes incrementa los riesgos sobre distintos ámbitos de la vida humana.
También expresó preocupación porque una parte importante de las decisiones sobre el futuro de esta tecnología se encuentra actualmente concentrada en un reducido grupo de grandes empresas.
El llamado de Naciones Unidas se produce en momentos en que aumenta el debate internacional sobre la velocidad con la que avanzan los modelos de inteligencia artificial y las medidas necesarias para evaluar y controlar sus posibles riesgos.
La discusión cobró fuerza durante el fin de semana, cuando el director ejecutivo de Anthropic, Dario Amodei, planteó desacelerar el desarrollo de los modelos de IA más avanzados para permitir que las medidas de seguridad evolucionen al mismo ritmo que sus capacidades.
La propuesta recibió el respaldo público del director ejecutivo de OpenAI, Sam Altman, y de Elon Musk, fundador de xAI, pese a las diferencias que mantienen los principales actores de la industria tecnológica.
Amodei ha planteado, entre otras medidas, evaluaciones independientes de los sistemas avanzados, una mayor coordinación entre los desarrolladores y cooperación internacional para establecer estándares de seguridad.
El debate enfrenta a quienes consideran necesario reducir el ritmo de desarrollo para evaluar mejor los riesgos de la tecnología y a quienes advierten que una desaceleración podría afectar la innovación y la competencia tecnológica entre países.