Una fuerte advertencia sobre el futuro de la inteligencia artificial sacudió al sector tecnológico luego de que Jacob Coxon, un ingeniero de 27 años que trabajó durante los últimos tres años en investigación de preentrenamiento en OpenAI y Anthropic, anunciara su salida de esta última empresa.
A través de su cuenta en X, Coxon explicó que tomó la decisión porque considera que las principales compañías de inteligencia artificial no están actuando con la responsabilidad necesaria frente a los riesgos que implica el desarrollo acelerado de sistemas cada vez más capaces.
El investigador sostuvo que las empresas de IA avanzan “a toda velocidad” hacia una posible superinteligencia capaz de automejorarse, una tecnología que, según su advertencia, podría alcanzar capacidades muy superiores a las humanas.
Coxon alertó que en un futuro cercano podrían existir sistemas capaces de hackear prácticamente cualquier objetivo, transformar campos completos de conocimiento en cuestión de horas y adquirir recursos y poder en el mundo real.
Su mensaje adquirió todavía mayor relevancia porque fue publicado el mismo día en que OpenAI informó sobre un importante avance de su inteligencia artificial en la resolución de un problema matemático de enorme complejidad.
“Ninguna de las dos empresas está actuando de manera responsable”
Después de haber trabajado tanto en OpenAI como en Anthropic, Coxon afirmó que su experiencia le permitió llegar a una conclusión preocupante: ninguna de las dos compañías estaría enfrentando de manera adecuada los riesgos asociados con el desarrollo de IA avanzada.
Sin embargo, establece una diferencia entre ambas.
De acuerdo con su análisis, dentro de OpenAI existiría una parte importante de personas que todavía no ha dimensionado completamente las posibles consecuencias para la civilización. En Anthropic, en cambio, considera que sus investigadores y ejecutivos comprenden mejor los riesgos, pero estarían atrapados en una carrera tecnológica en la que temen que detenerse implique permitir que otra empresa o país tome la delantera.
Para Coxon, esa lógica puede convertirse en un problema precisamente porque todos los participantes terminan justificando continuar con el desarrollo bajo el argumento de que “alguien más lo hará de todos modos”.
La carrera por la superinteligencia preocupa al investigador
Uno de los puntos centrales de su advertencia es la posibilidad de que la competencia entre laboratorios de IA termine acelerando el desarrollo de sistemas cuyas capacidades todavía no comprendemos completamente.
Coxon considera que aceptar esa carrera y avanzar hacia lo que denomina el “endgame” de la inteligencia artificial representa una apuesta demasiado arriesgada.
Incluso cuestionó que decisiones con potenciales consecuencias globales puedan quedar determinadas dentro de los canales internos de una empresa privada.
El investigador también hizo referencia a recientes incidentes de seguridad relacionados con sistemas de IA que han demostrado comportamientos autónomos preocupantes, incluyendo un caso en el que una IA de prueba habría conseguido vulnerar un sitio externo.
¿Podría ser necesaria una pausa?
Aunque Coxon asegura mantener cierto optimismo sobre la posibilidad de que los principales laboratorios lleguen a acuerdos para coordinar el ritmo de desarrollo, considera que actualmente el mundo no avanza hacia una reducción de la competencia global.
Por ello, planteó que podrían ser necesarias medidas mucho más contundentes, incluso una prohibición temporal de mejorar las capacidades de determinados modelos de inteligencia artificial.
Sus declaraciones además llegan en medio del creciente debate entre Estados Unidos y China sobre la seguridad y el desarrollo de esta tecnología, un asunto que podría adquirir todavía mayor relevancia en las conversaciones previstas entre Donald Trump y Xi Jinping.
“Ninguna otra actividad humana entraña un peligro de tal magnitud”
Coxon aseguró que algunos ejecutivos e investigadores de alto nivel dentro de la industria comparten en privado preocupaciones mucho más graves de las que suelen expresar públicamente.
Su argumento central es inquietante: si quienes desarrollan estas tecnologías realmente creen que podrían representar un riesgo existencial para la humanidad, ¿por qué continúan acelerando su desarrollo?
Según Coxon, la respuesta está en una carrera tecnológica de la que las empresas consideran que no pueden simplemente retirarse.
El exinvestigador terminó haciendo un llamado a otros especialistas en inteligencia artificial para que cuestionen si quieren continuar participando en el desarrollo de sistemas que podrían conducir a una superinteligencia sin comprender completamente cómo funcionan internamente.
Su pregunta final deja abierta una de las grandes discusiones sobre el futuro de la IA: ¿debemos seguir avanzando porque la tecnología inevitablemente llegará, o exigir nuevas condiciones antes de cruzar un punto de no retorno?
