Sam Altman de OpenAI plantea la necesidad de supervisión internacional para la IA en la ONU
Durante su participación en una sesión del Consejo de Seguridad de la ONU, Sam Altman, director ejecutivo de OpenAI, instó a los líderes mundiales a establecer una colaboración internacional que guíe a las empresas tecnológicas en la creación de marcos normativos que permitan evaluar capacidades y amenazas asociadas a la inteligencia artificial (IA).
Altman destacó que el sector de la IA atraviesa un momento crucial y que no se debe asumir riesgos tecnológicos excesivos, a pesar de los considerables beneficios que esta tecnología podría ofrecer.
En su discurso, el ejecutivo advirtió sobre el potencial de la IA para provocar un cambio de época similar al Renacimiento, siempre y cuando se utilice como una herramienta que empodere a los seres humanos. Sin embargo, también alertó sobre el riesgo de que los sistemas de IA repliquen las desigualdades surgidas durante la Revolución Industrial si reemplazan la toma de decisiones por parte de los humanos.
Uno de los puntos críticos que mencionó fue el peligro que representan los modelos de IA que pueden auto-mejorarse, lo que podría llevar a un desarrollo tan acelerado que los humanos no logren comprender sus decisiones.
Por esta razón, Altman enfatizó la necesidad de que las empresas trabajen bajo la dirección de líderes globales para crear marcos técnicos sólidos que permitan tanto la evaluación de riesgos como el intercambio seguro de información sobre vulnerabilidades.
El CEO de OpenAI destacó la importancia de una respuesta colectiva en el ámbito internacional ante los desafíos que plantea la IA, resaltando que incluso naciones en competencia pueden unirse por el bien común cuando se enfrenta a nuevas tecnologías.
Altman concluyó mencionando los tres principios que guían su empresa: priorizar a las personas en el proceso de toma de decisiones, dirigir el avance científico y económico hacia el beneficio humano y empoderar a cada individuo. Aseguró que, aunque ellos son los desarrolladores de esta tecnología, no son los héroes de la historia, sino que creen en la capacidad del talento humano.
