MENÚ
La advertencia sobre cómo el ritmo de desarrollo que experimenta la inteligencia artificial (IA) puede llevar a que los humanos lleguen a perder el control de esa tecnología –que hacen trabajadores desde dentro de la industria y hasta el líder de una de las principales empresas que trabaja en ese campo–, ha generado un revuelo de alcance global en el que se mezcla tecnología, negocios y geopolítica.
El 12 de septiembre de 2026, el director ejecutivo y fundador de Anthropic, Dario Amodei, publicó un ensayo en su sitio web pidiendo que las compañías que trabajan en inteligencia artificial desaceleren su desarrollo para dar tiempo a que las medidas de seguridad se pongan al día.
Su carta se difundió después de que un investigador de su empresai, Jacob Coxon, renunciara a su cargo y escribiera en su cuenta de X que “las personas que desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década”. Coxon también trabajó para la otra grande de las empresas de IA, OpenAI.
Estas preocupaciones ya las han expresado antes otros expertos, como el premio Nobel Geoffrey Hinton, considerado el “abuelo de la IA” por sus trabajos que sentaron las bases de la tecnología, quien el 30 de junio de 2026, durante la Cumbre Legislativa de la Conferencia Nacional de Legislaturas Estatales (NCSL), en Chicago, afirmó que los riesgos de la IA abarcan desde la pérdida masiva de empleos hasta el fin de la propia humanidad. Es una prédica a la que se ha dedicado Hinton desde el 1 de mayo de 2023, cuando renunció a su cargo como vicepresidente de Google para tener mayor libertad para “sonar la alarma”, como dijo en una entrevista con The New York Times.
También lo han advertido políticos, como el senador independiente por Vermont, Bernie Sanders, y el representante demócrata de Texas Greg Casar, quienes el 3 de septiembre de 2026 introdujeron un proyecto de ley para Prohibir la Superinteligencia Artificial que impediría que “los oligarcas de la IA construyan máquinas que los seres humanos no puedan controlar”.
La iniciativa MIT AI Risks del Instituto Tecnológico de Massachusetts (MIT) hizo un estudio entre 272 expertos en IA para evaluar los mayores riesgos de la tecnología y determinaron que existe “la probabilidad de daños catastróficos derivados de capacidades peligrosas, armas y ciberataques, daños ambientales, desigualdad y desempleo”.
“Surgen capacidades peligrosas como una propiedad emergente del escalado de los sistemas de IA, lo que dificulta su predicción y control. Incluso con medidas de seguridad implementadas, persiste el riesgo de un uso indebido catastrófico”, indica MIT AI Risks.
Aunque la preocupación no es nueva, sí lo es que salga del líder de una de las principales empresas que desarrolla la IA a pedir públicamente que desaceleren su desarrollo para mejorar la seguridad. De hecho, el director ejecutivo de OpenAI, Sam Altman, (con quien Amodei trabajó hasta su ruptura en 2020 y con el que ha tenido una tensa relación profesional y personal), escribió un mensaje en su cuenta de X (antes Twitter) asegurando que ese “ha sido un tema central de las conversaciones que hemos mantenido en OpenAI en las últimas semanas”.
Cuál es la preocupación de Amodei con la IA
En su carta abierta titulada “Debemos regular el ritmo de avance en la frontera tecnológica”, Amodei advierte que se podría estar llegando a un punto en el que se perdería la capacidad humana para comprender o controlar lo que se está creando.
“Desde este verano, la IA ha avanzado a una velocidad drásticamente mayor, impulsada principalmente por su creciente capacidad para crear la siguiente generación de IA. Esta dinámica se conoce como automejora recursiva y está empezando a ocurrir en todo el sector (…) Si no se controla, podría superar nuestra capacidad para comprender y gestionar estos sistemas; por tanto, su desarrollo debe abordarse con suma cautela, o incluso cuestionarse si debiera llevarse a cabo en absoluto”.
Para sustentar sus preocupaciones, Amodei plantea el caso conocido como el “Incidente de la Carita Feliz” en el que entre mayo y julio de 2026 agentes de modelos aún no comercializados de OpenAI lograron acceso a internet y evadieron la detección humana para atacar los servidores de la empresa de desarrollo de inteligencia artificial Hugging Face (cuyo logotipo es un ícono de cara feliz) y la propia red interna de OpenAI, de acuerdo con el informe que presentó la empresa que dirige Altman el 21 de julio de 2026.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, escribe Amodei.
Qué propone Amodei
Para controlar lo que considera la amenaza de un desarrollo descontrolado de la IA, Amodei plantea a la industria tomar tres pasos para moderar el ritmo de avance en la frontera tecnológica que garantice la seguridad, sin dejar de aprovechar sus beneficios.
Paso 1: Anthropic planea invitar a revisores independientes directamente a la empresa con acceso continuo para que inspeccionen las prácticas de seguridad e informen públicamente sobre sus hallazgos, incluso si no son favorables, para garantizar la transparencia.
Paso 2: Amodei dice que las empresas de IA en Estados Unidos y otras naciones democráticas deberían colaborar en la elaboración de directrices de seguridad compartidas y acordar un límite explícito sobre la rapidez del avance de las capacidades de IA, mientras se logra una regulación gubernamental formal.
Paso 3: Una vez establecida la coordinación, esas naciones democráticas deben convencer a los gobiernos autoritarios, principalmente a China, de que acepten límites similares. Amodei prevé una serie de posibles compromisos graduales con China como prohibir las aplicaciones de IA claramente peligrosas, exigir pruebas de seguridad previas al lanzamiento de nuevos modelos o limitar las capacidades de automejora recursiva.
Los líderes de la IA coinciden con Amodei
La opinión de Amodei no luce como una opinión marginal, a juzgar por el consenso mostrado por destacadas figuras del medio tecnológico que han expresado la necesidad de una ralentización controlada.
“El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que el ritmo de progreso se ha acelerado”, escribió Sam Altman, director ejecutivo de OpenAI, el mayor competidor de Anthropic, el 14 de septiembre de 2026 en su cuenta de X. Además aclaró que “moderar el ritmo, no nos referimos a ‘detenerse’”.
“El progreso ha sido rápido y seguirá siéndolo –escribe Altman–. No obstante, debería avanzar más despacio de lo que sería posible en otras circunstancias, ya que medidas como los casos de seguridad y la supervisión conllevan costes significativos (…) Ninguna presión competitiva estadounidense debería justificar la imprudencia ni permitir que el desarrollo de capacidades supere a los mecanismos de alineación y supervisión”.
“Dario tiene razón”, fue el breve mensaje de apoyo al ensayo de Amodei que Elon Musk publicó el 12 de septiembre de 2026 en su cuenta de X. Musk es director ejecutivo de SpaceXAI, una de las empresas que compiten con Anthropic y OpenAI por el liderazgo en el desarrollo de esta tecnología.
Dos días después explicó en más detalle su opinión, durante la cumbre All-In de líderes empresariales y de tecnología en Los Ángeles, asegurando que “lo más sensato sería hacer –cuanto antes, si no de inmediato– que los principales competidores en el ámbito de la IA pusieran a prueba los modelos de los demás”.
“De este modo, los sistemas de pruebas de seguridad de cada empresa evaluarían los modelos de las otras. Si los competidores señalan que un modelo no es seguro y este acabara causando algún daño, las consecuencias reputacionales serían devastadoras; el ridículo sería monumental. Además, la responsabilidad legal sería enorme”, dijo Musk el en el podcast de tecnología The All-In, cuyos productores son quienes organizan la cumbre.
También se mostró de acuerdo con Amodei otro de los “grandes” del sector, Demis Hassabis, presidente de Google DeepMind, quien escribió en su cuenta de X el 12 de septiembre de 2026: “El ensayo de Darío señala el camino correcto a seguir. Es necesario pulir los detalles, pero la orientación es la adecuada para afrontar este momento crucial”.
Pero Trump y China están en desacuerdo
Sin embargo, el presidente Donald Trump rechaza lo que llama el “alarmismo” de Amodei y descartó una intervención del gobierno para regular la IA, asegurando que es “es un engaño, igual que el ‘calentamiento’ global”, y algo que permitiría a China superar a Estados Unidos en esa carrera tecnológica.
“El único control o ‘salvaguarda’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), ¡y EE. UU. cuenta con ello de sobra! (…) Existe una conspiración ENFERMIZA contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡QUIEN GANE LA CARRERA DE LA IA, GANA!”, escribió Trump en un mensaje en su red Truth Social el 14 de septiembre de 2026.
El escrito de Amodei tampoco cayó bien en el gobierno de China. En él, Amodei afirmó que "un liderazgo chino en IA supondría un grave peligro para Estados Unidos y el mundo" y pidió mantener las restricciones a la venta a China de chips de última generación y de equipos para fabricar chips, con el fin de preservar la ventaja estadounidense.
“La IA es una tecnología trascendental para el bienestar de toda la humanidad. Todas las partes deben promover conjuntamente un desarrollo de la IA abierto e inclusivo, orientado al bien común y al beneficio de todos. El alarmismo, la confrontación y la competencia feroz no harán sino obstaculizar los esfuerzos por lograr una gobernanza global sólida de la IA, algo que no redunda en interés de nadie”, dijo en la rueda de prensa de la cancillería el 14 de septiembre de 2026 su portavoz, Guo Jiakun.
Líderes chinos también han expresado alarma sobre la IA, advirtiendo sobre los riesgos que plantean entidades extranjeras con capacidades avanzadas. Chen Yixin, ministro de Seguridad del estado de China, publicó un ensayo el último domingo, reseñado por el South China Morning Post, en el que acusó a "ciertas naciones" —en referencia a Estados Unidos— de aprovechar las ventajas en IA para obstaculizar la innovación de otros países.
Ambos países quieren "asegurarse de que la otra parte no pueda establecer un cuello de botella tecnológico sobre ellos", indicó Lizzi C. Lee, investigadora especializada en China del Asia Society Policy Institute de Washington a la agencia de noticias AP.
"Así que, desde la perspectiva de Beijing, hay una pregunta evidente: si Estados Unidos quiere que China coopere en la seguridad de frontera mientras también restringe su acceso al cómputo de frontera, ¿cómo es exactamente esa cooperación?", dijo Lee.
Factchequeado es un medio de verificación que construye una comunidad hispanohablante para contrarrestar la desinformación en Estados Unidos. ¿Quieres ser parte? Súmate y verifica los contenidos que recibes enviándolos a nuestro WhatsApp +16468736087 o a factchequeado.com/whatsapp.
Lee también:
