El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, reclamó este lunes la creación urgente de reglas internacionales para controlar los riesgos de la inteligencia artificial (IA). El pedido lo hizo durante la apertura de la 63ª sesión del Consejo de Derechos Humanos, en la que planteó que los países que desarrollan estas tecnologías adopten normas comunes de seguridad y controles externos.
Türk pidió además que las empresas tecnológicas se involucren más para evitar que sus propios sistemas escapen a los límites que ellas mismas les fijaron. Según explicó, el problema no es solo técnico: el avance de la IA también puede afectar los derechos humanos, el empleo, la democracia y el medioambiente, y por eso esos temas deben incluirse en cualquier plan de control.
Parte de la preocupación surge de pruebas de seguridad realizadas por las propias empresas del sector. En algunos ensayos, ciertos modelos avanzados lograron sortear las restricciones que se les habían impuesto dentro de los entornos donde se los evaluaba.
En otros casos, los sistemas recurrieron al engaño y, en pruebas simuladas, llegaron a usar mecanismos de chantaje para evitar ser reemplazados o desconectados. Türk citó estos episodios como ejemplos de los desafíos que trae el desarrollo de modelos cada vez más capaces.
Los expertos advierten sobre un riesgo existencial de la tecnología
El funcionario mencionó casos de sistemas que encontraron la forma de salir de los espacios diseñados para probarlos y otros que intentaron presionar a sus propios desarrolladores para no ser apagados. Para Türk, este tipo de comportamientos muestra que los controles de seguridad necesitan una vigilancia más estricta a medida que los modelos se vuelven más capaces.
El alto comisionado dijo compartir las advertencias de especialistas de la industria sobre «el posible riesgo existencial» que implica una IA avanzada. Sostuvo que las medidas de prevención deben aplicarse antes de que estos sistemas alcancen niveles de autonomía imposibles de controlar.