Musk ve la IA como una amenaza para la humanidad y propone un "árbitro independiente"

El consejero delegado de Tesla y propietario de la red social X, Elon Musk, ha llamado este miércoles a crear un "árbitro independiente" que vele por un desarrollo seguro de la inteligencia artificial (IA), que calificó como una de las "principales amenazas para la humanidad". En el marco de la cumbre de seguridad de IA auspiciada por el Reino Unido, el magnate estadounidense ha defendido la necesidad de regular la actividad de las empresas que desarrollan esos sistemas.

"Creo que lo que realmente queremos hacer aquí es establecer un marco de trabajo para la vigilancia. Que haya al menos una tercera parte, un árbitro independiente, que pueda observar lo que están haciendo las compañías punteras en IA y dar la voz de alarma si les suscitan preocupaciones", ha afirmado Musk a los medios.

"Por primera vez, estamos en una situación en la que hay algo que va a ser más listo que el más listo de los humanos", ha sostenido el empresario en declaraciones recogidas por EFE. "No está claro si podemos de hecho controlar algo como eso, pero creo que debemos aspirar a guiarlo hacia una dirección que sea beneficiosa para la humanidad", ha asegurado Musk.

Musk, que el jueves tiene previsto mantener una conversación con el primer ministro británico, Rishi Sunak, ha dicho que no ha acudido a la cumbre para no defender "ninguna política en particular". "Estoy diciendo que intentemos establecer un marco de trabajo para la vigilancia por parte de terceras partes neutrales", ha detallado el consejero delegado de Tesla.

Una vez dado ese paso, "se propondrán ciertas políticas o ciertas legislaciones, y eso se hará en colaboración con las compañías de IA", ha agregado Musk. El magnate estadounidense participa en la cumbre de Bletchley Park en el centro de Inglaterra, junto con 28 gobiernos nacionales, entre ellos Estados Unidos, China, y las principales tecnológicas del sector de la IA, entre ellas OpenAI, Google DeepMind y Anthropic.

28 países alertan de posibles consecuencias "catastróficas" de la IA y recalcan que es "urgente" analizar sus peligros

Los gobiernos mundiales reunidos desde este miércoles en una Cumbre de Seguridad sobre Inteligencia Artificial en el Reino Unido han alertado en una declaración conjunta este miércoles sobre las potenciales consecuencias "catastróficas" de esta nueva tecnología. Estados Unidos, China, India, España, Francia, Alemania y otros países de la Unión Europea están entre los 28 firmantes de un texto que recalca que es "especialmente urgente" analizar los peligros que presenta la Inteligencia Artificial y acordar medidas preventivas tempranas. Por Sudamérica solamente se han unido los gobiernos de Brasil y Chile. También se ha unido la Unión Europa en este semestre en el que España ostenta la presidencia rotatoria del Consejo de la UE.

"Nos comprometemos a trabajar juntos de manera inclusiva para asegurar una Inteligencia Artificial centrada en el ser humano, confiable y responsable", han señalado los 28 países firmantes de la declaración, pactada antes de la cumbre y que subraya que el mejor modo de afrontar los riesgos es la "cooperación internacional". Reunidos en Bletchley Park, el enclave inglés en el que se decodificaban los códigos nazis durante la Segunda Guerra mundial, representantes de las principales potencias globales en el sector tecnológico constataron el "potencial transformador" de la IA, que puede impulsar "el bienestar, la paz y la prosperidad".

Junto con esos posibles beneficios, sin embargo, van asociados "riesgos significativos" que obligan a velar para que el desarrollo de la tecnología se mantenga bajo "una supervisión humana adecuada". La declaración reconoce el peligro de que la IA genere "contenido manipulado" o "engañoso" y urge a tomar medidas en ese sentido. Además, los 28 países firmantes alertan sobre futuras amenazas provenientes de sistemas "de frontera", que excederán las habilidades de los actuales modelos más avanzados.

Además de la desinformación, los gobiernos se declaran especialmente preocupados por las aplicaciones de la IA en terrenos como la ciberseguridad y la biotecnología. "Existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional", subraya el comunicado conjunto. "Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente", han agregado en la declaración. Los 28 países firmantes son Estados Unidos, China, India, España, Francia, Alemania, Australia, Brasil, Chile, Canadá, Indonesia, Irlanda, Israel, Italia, Japón, Kenia, Arabia Saudita, Países Bajos, Nigeria, Filipinas, República de Corea, Ruanda, Singapur, Suiza, Turquía, Ucrania, Emiratos Árabes Unidos y Reino Unido.

El gobierno del Reino Unido ha impulsado la primera Cumbre de Seguridad Global sobre Inteligencia Artificial (AISS, en inglés), que une a representantes de gobiernos y de las principales empresas tecnológicas globales como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft. El encuentro en el que se debate sobre los peligros de la Inteligencia Artificial durará hasta el jueves y volverá a convocarse dentro de seis meses en la República de Corea y dentro de un año en Francia.