Las advertencias de Anthropic y OpenAI sobre el avance de los modelos más potentes, la decisión de Sam Altman de frenar la salida a bolsa de OpenAI y la creciente tensión entre Estados Unidos y China han abierto una crisis de confianza en torno a la IA. En SDi analizamos qué riesgos son reales, cuáles están sobredimensionados y qué debería preocuparnos de verdad
La conversación alrededor de la Inteligencia Artificial ha cambiado radicalmente en apenas una semana. Hasta hace pocos días, el debate giraba en torno a quién tenía el modelo más avanzado. Ahora, algunos de los propios responsables de construir esos sistemas están pidiendo reducir la velocidad.
El giro lo ha protagonizado principalmente Anthropic. Su CEO, Dario Amodei, ha reclamado ralentizar el desarrollo de los modelos de frontera para que la seguridad pueda avanzar al mismo ritmo que sus capacidades. OpenAI ha añadido todavía más tensión: Sam Altman ha respaldado la necesidad de abordar el problema y ha descartado que la compañía salga a bolsa en 2026, alegando que el actual contexto de seguridad convierte este en un momento poco apropiado.
La decisión tiene también una lectura reputacional. Una salida a bolsa llamada a capitalizar el entusiasmo generado por la IA tendría ahora que convivir con titulares sobre pérdida de control, ciberataques y agentes autónomos. La cuestión es si estamos ante un verdadero punto de inflexión o ante una nueva ola de alarmismo.
MITO: la IA está empezando a escapar del control humano
Los modelos actuales no han desarrollado una voluntad propia ni existe evidencia de que ChatGPT, Claude u otra IA comercial haya decidido escapar de sus creadores. Lo que sí está ocurriendo es algo diferente: los sistemas están aumentando muy rápido su capacidad para actuar. Los nuevos agentes pueden recibir un objetivo, dividirlo en tareas, programar, navegar, utilizar herramientas y encadenar acciones sin necesitar instrucciones humanas en cada paso.
Eso cambia el riesgo. Si una IA únicamente genera una respuesta equivocada, tenemos un problema de fiabilidad. Si dispone además de herramientas y capacidad de ejecución, un comportamiento inesperado puede tener consecuencias mucho mayores.
REALIDAD: algunos modelos ya han hecho cosas que sus desarrolladores no esperaban
Esta preocupación sí es legítima. Los últimos avances han demostrado que los sistemas pueden encontrar estrategias para alcanzar un objetivo que no habían sido previstas explícitamente por quienes los diseñaron.
Eso no significa que sean conscientes. Significa que sistemas muy complejos pueden encontrar soluciones inesperadas. Cuanto mayores sean sus capacidades y autonomía, más importante será detectar esos comportamientos antes de que tengan consecuencias reales.
Ese es precisamente uno de los argumentos de Anthropic: el desarrollo de las capacidades está avanzando más deprisa que nuestra capacidad para comprenderlas y supervisarlas.
MITO: estamos a punto de crear una IA que acabará con la humanidad
Durante los últimos días han vuelto a circular porcentajes sobre el riesgo de que una futura Inteligencia Artificial provoque una catástrofe global. Conviene distinguir una estimación de una predicción científica. Cuando investigadores o directivos asignan un porcentaje a ese escenario están expresando su valoración personal sobre un futuro enormemente incierto. No existe actualmente una fórmula capaz de determinar con precisión la probabilidad de que la IA provoque la extinción humana. Eso no significa que el riesgo deba ignorarse, pero sí que esas cifras no deberían presentarse como certezas científicas.
REALIDAD: no necesitamos una superinteligencia para encontrar riesgos serios
Los riesgos inmediatos son mucho más tangibles. Una IA avanzada puede ayudar a detectar vulnerabilidades, generar código, recopilar enormes cantidades de información o automatizar investigaciones que antes requerían equipos humanos. Esas mismas capacidades pueden utilizarse tanto para defender como para atacar.
Anthropic ha documentado ya intentos de utilizar sus modelos en actividades relacionadas con ciberoperaciones, vigilancia, fraude o recopilación de inteligencia. El riesgo más cercano no es, por tanto, que una máquina desarrolle un objetivo propio, sino que una persona, organización o Estado pueda hacer con IA algo que antes exigía muchos más conocimientos, recursos y tiempo.
REALIDAD: la seguridad de la IA se ha convertido en una batalla entre Estados Unidos y China
La discusión se complica cuando entra en el terreno geopolítico. Las compañías de Estados Unidos pueden considerar conveniente reducir la velocidad de determinados desarrollos, pero cualquier decisión de ese tipo plantea inmediatamente otra pregunta: ¿qué ocurre si China continúa avanzando? Esa es una de las grandes contradicciones de la crisis actual. Para reducir algunos de los riesgos más graves sería necesaria cierta coordinación internacional, pero la IA se ha convertido al mismo tiempo en una de las principales carreras estratégicas entre ambas potencias.
Estados Unidos quiere mantener su ventaja tecnológica y China considera que parte del discurso occidental sobre seguridad está también ligado a restricciones sobre chips y tecnologías avanzadas. Anthropic ha añadido más tensión al denunciar campañas de actores y laboratorios chinos para utilizar sus modelos en actividades de inteligencia y para extraer capacidades de sistemas más avanzados. El resultado es un dilema difícil de resolver: las empresas de Estados Unidos temen avanzar demasiado rápido, pero también teme avanzar más despacio que China.
MITO: si los propios creadores de la IA piden frenar, es porque han perdido el control
La llamada a reducir el ritmo no significa que exista actualmente una Inteligencia Artificial incontrolable. La preocupación es preventiva. Lo novedoso es que las empresas que durante años han competido por acelerar el desarrollo empiezan a reconocer públicamente que esa misma competición puede convertirse en parte del problema. Cada laboratorio tiene incentivos para continuar si piensa que sus rivales harán lo mismo. Por eso, la seguridad deja de depender únicamente de lo responsable que quiera ser una compañía concreta y pasa a convertirse en una cuestión de coordinación internacional.
REALIDAD: OpenAI tiene también un problema de confianza
La decisión de aplazar su salida a bolsa demuestra hasta qué punto la discusión ha dejado de ser exclusivamente tecnológica. OpenAI se había convertido en uno de los grandes símbolos económicos del auge de la Inteligencia Artificial. Sin embargo, esa expectativa de crecimiento empieza ahora a convivir con dudas sobre si el aumento de capacidades puede mantenerse bajo control.
La paradoja es evidente: cuanto más potentes demuestran ser los nuevos modelos, mayor parece su valor potencial y, al mismo tiempo, mayores son las preguntas sobre sus riesgos.
