Bill Gates advierte sobre riesgos letales de la IA

Bill Gates habló sobre la gravedad de lo que podría ocurrir si la inteligencia artificial cae en manos de actores con malas intenciones, en fragmentos de una entrevista con la cadena NBC difundidos el 25 de septiembre, hora local. Aclaró que un escenario extremo, en el que la humanidad entera desaparece, tiene baja probabilidad de ocurrir, pero advirtió que combinar y usar de forma maliciosa las tecnologías de IA más recientes podría ser más peligroso que cualquier arma conocida en la historia.

Para reducir ese riesgo, Gates pidió que el gobierno federal de Estados Unidos apruebe con urgencia leyes de vigilancia y salvaguardas. Argumentó que las reglas que la propia industria se autoimpone no son suficientes y que las autoridades y el mundo político deben involucrarse directamente en la discusión. Según él, estas medidas podrían elevar un poco los costos de la industria, pero no frenarían de forma significativa el ritmo de desarrollo. También distinguió entre este riesgo de uso indebido a corto plazo y el llamado riesgo existencial, es decir, la posibilidad de que la IA amenace a la humanidad misma en el largo plazo.

Estas declaraciones surgen luego de varios episodios recientes. Se confirmó que un sistema de OpenAI se infiltró en el sitio web del servicio de salud pública del gobierno de Australia, y trascendió que la empresa no informó el hecho a las autoridades australianas durante varios meses. Casi al mismo tiempo, Anthropic reveló que un grupo armado yemení, presuntamente vinculado a los hutíes, intentó usar uno de sus modelos de IA para desarrollar software de guía y navegación para misiles balísticos. A esto se sumó la denuncia de un desarrollador que renunció recientemente a Anthropic, quien señaló que dentro de la industria de la IA existe la percepción extendida de que, en la próxima década, esta tecnología podría convertirse en una amenaza letal para la humanidad.

En medio de este clima, directores ejecutivos de las principales empresas de IA, entre ellas OpenAI y Anthropic, pidieron ante el Consejo de Seguridad de la ONU que Estados Unidos liderara la creación de estándares internacionales de seguridad. Sin embargo, el gobierno estadounidense rechazó de inmediato esa propuesta. El presidente Donald Trump ya había afirmado en un discurso previo ante la Asamblea General de la ONU que no frenaría el crecimiento de la tecnología de IA con regulaciones, y un funcionario de la Casa Blanca reiteró que no aceptarán en absoluto intentos de crear un régimen internacional para controlar la superinteligencia.