Carlos III alerta sobre riesgos de la inteligencia artificial
LONDRES.- El rey británico, Carlos III, advirtió este jueves sobre los “riesgos existenciales” que podría generar la inteligencia artificial (IA) si cae en “manos equivocadas” y es utilizada de manera potencialmente catastrófica.
El monarca hizo la advertencia durante una reunión celebrada en Dumfries House, en Escocia, donde congregó a ejecutivos y líderes mundiales del sector tecnológico para analizar los límites y oportunidades de esta tecnología.
Al encuentro asistieron representantes de Nvidia, Google DeepMind, OpenAI, Anthropic y otras empresas, además de delegados de China, el Vaticano y el Gobierno británico.
Carlos III pide priorizar a la humanidad
Durante su discurso de apertura, Carlos III recordó que algunos de los propios creadores de estas tecnologías han advertido sobre la posibilidad de que la IA desarrolle capacidades cada vez más peligrosas.
El monarca sostuvo que el desafío no consiste únicamente en impulsar el avance tecnológico, sino también en garantizar que la inteligencia artificial esté al servicio de la humanidad, las comunidades y el medioambiente.
“Quienes han creado estas tecnologías” advierten cada vez más de que la IA podría desarrollar capacidades “más siniestras” e incluso llegar a provocar la pérdida de vidas, señaló Carlos III.
Sin embargo, las preocupaciones expresadas por el rey no fueron compartidas plenamente por todos los asistentes. El director ejecutivo de Nvidia, Jensen Huang, defendió que la inteligencia artificial no debe recibir el mismo tratamiento regulatorio que las redes sociales.
Nvidia rechaza exceso de regulación
Huang afirmó que la IA es una tecnología y no un producto, por lo que consideró que los gobiernos deben intervenir cuando su desarrollo se desvíe o genere riesgos.
El ejecutivo recordó que existen normas para sectores como la salud, el transporte y el entretenimiento, ámbitos en los que la inteligencia artificial ya tiene aplicaciones.
A su juicio, no es necesario impulsar nuevas leyes de manera indiscriminada, sino establecerlas cuando exista una necesidad concreta.
Sobre los sistemas de control, Huang sostuvo que deben desarrollarse y probarse en laboratorios cerrados antes de que los productos sean puestos a disposición del público.
Debate mundial sobre el futuro de la IA
Huang también ha coincidido con Mark Zuckerberg en cuestionar los llamados de otros líderes tecnológicos que han planteado la necesidad de ralentizar el desarrollo de la inteligencia artificial.
Entre quienes han expresado preocupaciones sobre el ritmo de avance figuran dirigentes de Anthropic y OpenAI, así como otras figuras relevantes de la industria tecnológica.
El debate sobre la regulación y el desarrollo de la IA ha adquirido mayor relevancia internacional y también ha involucrado al presidente de Estados Unidos, Donald Trump, quien se ha mostrado contrario a frenar el crecimiento de esta tecnología.