POR MÁXIMO RELTI PARA CANARIAS SEMANAL.ORG

   

    En julio de 2026 ocurrió algo en los laboratorios de OpenAI que, contado sin cuidado, parece el argumento de una película de ciencia ficción.

 

   Durante unas pruebas internas de ciberseguridad, varios sistemas de inteligencia artificial debían trabajar dentro de entornos informáticos aislados. Pero algunos consiguieron saltarse esas barreras. Encontraron canales para comunicarse que no estaban autorizados, pudieron aprovechar vulnerabilidades, obtuvieron acceso a internet y acabaron entrando en sistemas de terceros, entre ellos los de Hugging Face, que es una de las plataformas más importantes del sector. OpenAI reconoció posteriormente el incidente y encargó investigaciones externas.

 

    No apareció una máquina consciente. Ningún ordenador decidió «rebelarse contra la humanidad». El modelo principal implicado era, además, un prototipo experimental, con salvaguardas deliberadamente reducidas y sin intención de ser comercializado. Pero sucedió algo suficientemente serio: unas máquinas encargadas de cumplir determinados objetivos encontraron por su cuenta procedimientos que sus creadores no pretendían que utilizaran.

 

  Y así comenzó la historia que hoy tiene conmovida a Silicon Vall. En cuestión de semanas, investigadores de OpenAI, Anthropic y otras grandes compañías han empezado a hablar públicamente de desacelerar el desarrollo de los sistemas más potentes. Más de 1.300 trabajadores de grandes laboratorios habían pedido ya normas que permitieran hacerlo.

 

    Jacob Coxon, que trabajó primero para OpenAI y después para Anthropic, abandonó esta última empresa denunciando que la industria está inmersa en una carrera que él considera irresponsable. Algunos de sus antiguos compañeros hablan incluso de la posibilidad de que una inteligencia artificial futura llegue a representar un riesgo de extinción humana. 

 

   Y entonces intervino Donald Trump.  Su respuesta podría resumirse así: ¡ni hablar de pisar el freno!.

 

DE LOS CHATBOTS A LAS MÁQUINAS QUE ACTÚAN

   Para comprender por qué ha cambiado tan deprisa el debate conviene olvidar durante un momento al film Terminator.

 

   Hasta hace muy poco, para millones de personas la inteligencia artificial era fundamentalmente una máquina a la que se formulaban preguntas. Se escribía algo y el programa respondía. Pero el salto decisivo está produciéndose con los llamados agentes.

 

   Un agente no se limita a contestar. Puede recibir un objetivo, dividirlo en tareas, buscar información, escribir y ejecutar programas, utilizar herramientas informáticas, comprobar los resultados y volver a intentarlo cuando fracasa. Varios agentes pueden además colaborar. Y todo ello por su cuenta... y riesgo.

 

   La diferencia es enorme. Un chatbot se parece a un asesor sentado delante de nosotros. Un agente se parece cada vez más a un trabajador digital al que entregamos ordenador, teléfono, llaves y una misión.

 

  Que una máquina aprenda por procedimientos que no consisten simplemente en copiar a los humanos tampoco es nuevo. En 2017, AlphaGo Zero aprendió a jugar al go comenzando prácticamente desde cero y enfrentándose millones de veces contra sí misma hasta superar ampliamente a las versiones entrenadas con partidas humanas.

 

   Lo nuevo es otra cosa: aquellas máquinas jugaban dentro de un tablero. Las actuales empiezan a actuar sobre el mundo informático real.

 

  Además, pueden escribir código y colaborar en la investigación de nuevas inteligencias artificiales. De ahí procede la expresión que ha disparado todas las alarmas: automejora recursiva. La hipótesis consiste en que una IA suficientemente capaz contribuya a construir una IA mejor, que a su vez contribuya a crear otra todavía mejor, acelerando así y  progresivamente el proceso.

 

  No hemos llegado todavía a ese punto. La Agencia Reuters señalaba hace unos días que la automejora verdaderamente autónoma todavía no existe. Pero el aumento de las capacidades para programar, investigar y actuar independientemente está alimentando el temor de que algún día el progreso pueda avanzar mucho más deprisa que nuestra capacidad para comprenderlo.

 

  Dario Amodei, director ejecutivo de Anthropic, sostiene precisamente que ese margen de seguridad se está estrechando. No reclama abandonar la IA: cree que puede contribuir a curar enfermedades, acelerar la investigación y elevar extraordinariamente la productividad. Lo que propone es reducir temporalmente el ritmo al que aumentan las capacidades más avanzadas, mientras mejoran los mecanismos de control.

 

¿PUEDE REALMENTE ACABAR CON NOSOTROS?

A partir de aquí convendría separar los hechos de las profecías.

    No existe actualmente evidencia científica que permita afirmar que una inteligencia artificial esté a punto de exterminar a la humanidad. El International AI Safety Report 2026, elaborado con la participación de más de un centenar de especialistas, ha sido particularmente claro: los sistemas actuales muestran algunas capacidades relacionadas con escenarios de pérdida de control, pero todavía no poseen el conjunto de capacidades necesarias para producirla. Para ello tendrían que poder mantener planes complejos durante largos periodos, eludir sistemáticamente la supervisión y resistirse eficazmente a las contramedidas humanas.

 

  Los especialistas, además, discrepan radicalmente. Algunos consideran plausible un riesgo existencial de la humanidad; otros juzgan extremadamente improbable ese escenario.

 

   Por eso sería irresponsable escribir que «la IA va a destruir a la humanidad». Pero resultaría igualmente frívolo concluir que, puesto que nadie puede calcular la probabilidad, el peligro deba ignorarse.

 

   Cuando la consecuencia posible es extraordinariamente grave, incluso una probabilidad pequeña debe merecer toda la atención.Y existen riesgos mucho menos especulativos.

 

     Anthropic asegura haber bloqueado cinco casos en los que sus modelos fueron utilizados para investigaciones de laboratorio susceptibles de contribuir al desarrollo de armas biológicas. Entre las consultas detectadas figuraban trabajos relacionados con mutaciones del chikungunya, gripe aviar, viruela o toxinas. En varios casos es imposible saber si existía una intención criminal, porque muchas investigaciones biológicas tienen un carácter de doble uso: el mismo conocimiento que permite fabricar una vacuna puede ayudar a hacer más peligroso un patógeno.

 

    El mismo problema aparece con los ciberataques. Una IA que descubre vulnerabilidades puede defender hospitales o centrales eléctricas; pero exactamente esa misma capacidad puede utilizarse para atacarlos.

 

   Por tanto, el riesgo no exige imaginar una máquina malvada. Basta con combinar herramientas cada vez más poderosas con delincuentes, ejércitos, servicios de inteligencia, empresas o Estados dispuestos a emplearlas.

 

LA PREGUNTA QUE SE HACEN LOS PROPIOS CREADORES

    Lo más inquietante del debate actual no son las predicciones apocalípticas. Es el problema de incentivos que describen quienes trabajan dentro de estas compañías.    Cada empresa puede considerar conveniente avanzar más despacio. Pero ninguna quiere ser la única que lo haga.

 

   Si OpenAI frena y Anthropic continúa, Anthropic podrá adelantarse. Si ambas frenan y Google no, y Google ganará. Y aunque todas las empresas estadounidenses aceptaran hacerlo, queda China.

 

    Coxon lo describió como una carrera de la que los propios participantes temen bajarse unilateralmente.

   Aquí aparece una paradoja formidable. El capitalismo competitivo puede producir una situación en la que todos los actores sepan que determinada velocidad resulta peligrosa y, sin embargo, cada uno tenga racionalmente que acelerar porque supone que los demás harán lo mismo.

 

   Eso no significa que debamos aceptar sin reservas el discurso de las grandes tecnológicas. Sus peticiones de regulación contienen también evidentes intereses empresariales. Algunas voces del propio sector han advertido que unas normas diseñadas por OpenAI, Anthropic o Google podrían convertirse en gigantescas barreras de entrada para empresas más pequeñas y consolidar un oligopolio. La BBC de Londres recogió incluso acusaciones de que la retórica catastrofista está contribuyendo a justificar valoraciones empresariales astronómicas.

 

   Ambas cosas pueden ser ciertas simultáneamente: el peligro puede ser real y quienes advierten sobre él pueden tratar de convertir su regulación en ventaja competitiva.Por eso resulta especialmente absurda la idea de dejar la vigilancia de la IA exclusivamente en manos de quienes obtendrán miles y miles de millones desarrollándola.

 

TRUMP: «QUIEN GANA EN IA, GANA EN TODO»

     La posición de Donald Trump se entiende mucho mejor cuando se abandona el debate filosófico y se observa la economía política.

 

    Trump acaba de proclamar que la IA y los centros de datos serán un motor económico «más grande que el petróleo, el oro, los diamantes o incluso Internet», y ha acusado a loSs que han emitido las advertencias sobre una eventual destrucción de la humanidad prácticamente como una maniobra destinada a detener a Estados Unidos.

 

     Pero su postura no comenzó esta semana. La política oficial de su Administración consiste expresamente en alcanzar y conservar el dominio mundial estadounidense en inteligencia artificial mediante un marco regulatorio «mínimamente gravoso». Una orden presidencial de diciembre de 2025 llega a definir el desarrollo tecnológico como "una carrera contra los adversarios de Estados Unidos y ordena combatir las legislaciones estatales consideradas excesivamente restrictivas".

 

   Al mismo tiempo, Washington ha acelerado permisos, facilitado terrenos e impulsado la construcción de centros de datos como infraestructura estratégica vinculada tanto a la prosperidad económica como a la seguridad nacional.

 

  Y detrás aparece siempre China. Trump lo ha formulado sin rodeos: Estados Unidos lleva ventaja y quiere conservarla porque «quien gana en IA, gana en todo».

 

   Pekín, a su vez, ha denunciado que parte de las propuestas estadounidenses de regulación esconden una estrategia para levantar «monopolios regulatorios» y contener el desarrollo tecnológico chino.  Y no se trata de una acusación  disparatada: Washington lleva años restringiendo a China el acceso a chips avanzados. Pero eso tampoco convierte a Pekín en un observador desinteresado. China participa igualmente en la carrera tecnológica, económica y militar.

 

   La contradicción adquiere así dimensiones mundiales: precisamente cuando una tecnología requeriría cooperación internacional para establecer límites, el enfrentamiento interimperial convierte cualquier pausa en una posible cesión de ventaja al adversario.

 

  EL PROBLEMA NO ES LA MÁQUINA: ES QUIÉN TIENE LA MANO SOBRE ELLA

    Desde una perspectiva materialista y crítica, este es probablemente el punto decisivo.

   La inteligencia artificial es una fuerza productiva extraordinaria. Puede liberar al ser humano de millones de horas de trabajo rutinario, multiplicar la investigación científica, mejorar diagnósticos médicos, optimizar industrias enteras y producir una cantidad de riqueza con mucho menos trabajo humano.

    Vista en  abstracto, eso debería ser una excelente noticia para toda la humanidad.

  

    Pero las fuerzas productivas no existen en abstracto: se desarrollan siempre dentro de unas determinadas relaciones sociales de producción.

 

    Dicho de otra manera, que la Inteligencia Artificial llegue a prestar un servicio sin precedentes al conjunto de la humanidad dependerá, en buena medida, de quién la posea, quién la controle y con qué fines se utilice.

 

    Si continuara permaneciendo en manos privadas, sometida a la lógica de la acumulación capitalista, su desarrollo tenderá inevitablemente a orientarse hacia la rentabilidad, la reducción de costes y la obtención de beneficios. Si, por el contrario, sus principales infraestructuras y capacidades estuvieran bajo control colectivo y orientadas a satisfacer necesidades sociales, el aumento de productividad que promete podría traducirse en enormes avances para toda la humanidad: menos tiempo de trabajo, mejores servicios, más conocimiento disponible y una riqueza social muy superior.

 

     El informe internacional sobre seguridad de la IA estima que alrededor del 60% de los empleos de las economías avanzadas están expuestos, de una u otra forma, a esta tecnología. No significa que desaparezca el 60% del empleo. Significa que una parte de las tareas podrá automatizarse o transformarse. El mismo informe advierte, además, que la IA podría desplazar renta desde el trabajo hacia los propietarios del capital y profundizar las desigualdades existentes.

 

  Ahí está la pregunta política fundamental: si una máquina permite producir en una hora lo que antes requería diez, ¿quién se queda con las nueve horas liberadas?

 

   Bajo unas relaciones sociales diferentes, podrían convertirse en reducción de jornada, abundancia colectiva, más tiempo libre y mejores servicios públicos. Bajo la lógica de la acumulación privada, pueden transformarse en despidos, intensificación laboral y beneficios extraordinarios para quienes poseen los modelos, los chips y los centros de datos.

 

     Y estos últimos distan de ser entidades etéreas flotando en «la nube». Son gigantescas instalaciones materiales. Solo cinco grandes tecnológicas invirtieron más de 400.000 millones de dólares en 2025 y la Agencia Internacional de la Energía calcula que el consumo eléctrico mundial de los centros de datos podría pasar de 485 TWh en 2025 a unos 950 TWh en 2030.

 

   La IA tiene propietarios, necesita capital, electricidad, minerales, trabajadores, semiconductores y territorios. Y está concentrándose en un número extraordinariamente pequeño de corporaciones y Estados.

 

   Por eso la alternativa no puede ser elegir entre el optimismo publicitario de Silicon Valley y el miedo a una máquina todopoderosa.

    Tampoco basta con pedir a las mismas compañías que controlen voluntariamente aquello cuya carrera por desarrollar les reporta fortunas.

 

  Serían necesarios controles públicos internacionales sobre los modelos más potentes, obligación de comunicar incidentes, auditorías realmente independientes, límites estrictos a sus aplicaciones biológicas y militares, mecanismos verificables de desconexión y acuerdos entre potencias capaces de impedir una carrera sin final. Incluso algunos dirigentes tecnológicos reconocen ya que cualquier sistema serio necesitaría representación internacional, científica e independiente y no podría quedar gobernado por cuatro compañías.

 

   Pero habría que ir más lejos: decidir socialmente para qué se utiliza la productividad creada, quién controla las infraestructuras decisivas y cómo se distribuye la riqueza que produce.

 

   Porque quizá la pregunta equivocada sea si una máquina llegará algún día a decidir destruirnos.  La pregunta que ya podemos responder es otra: hemos colocado una tecnología de poder extraordinario dentro de un sistema económico que obliga a las empresas a competir por llegar antes y dentro de un orden internacional que obliga a los Estados a temer quedarse atrás.

 

   No sabemos si la inteligencia artificial podrá o no algún día escapar completamente al control humano. La mejor evidencia disponible dice que todavía no puede hacerlo. Lo que sí sabemos es que quienes sostienen el volante están pisando el acelerador mientras reconocen que los frenos aún no funcionan del todo.  

   Y ese peligro no pertenece a la ciencia ficción. Es rigurosamente contemporáneo.  

 

FUENTES CONSULTADAS

— Reuters, 13/09/2026.  Trump says 'very negative forces' raising exaggerated concerns over AI

— Reuters, 15/09/2026.  . From hallucinating AI chatbots to wiping out humanity: How did we get here?

— OpenAI, julio de 2026. . The Hugging Face incident and other third-party impact from misaligned models

— International AI Safety Report 2026.  . 2026 Report: Executive Summary

— Casa Blanca, 23/07/2025. Plan oficial estadounidense para «ganar la carrera de la IA», acelerar innovación e infraestructura y mantener el liderazgo mundial. White House Unveils America’s AI Action Plan

— Casa Blanca, julio de 2025. Documento completo America’s AI Action Plan — Winning the Race. America’s AI Action Plan