Jacob Coxon, de 27 años y antiguo desarrollador de OpenAI, pide frenar la carrera hacia una superinteligencia y acusa a las empresas de “jugar con nuestras vidas”

Un ingeniero que ha trabajado en dos de las compañías más importantes de inteligencia artificial ha dejado su puesto lanzando una advertencia extrema: considera posible que los futuros sistemas de IA lleguen a representar una amenaza para la supervivencia humana. Se llama Jacob Coxon, tiene 27 años, acaba de dimitir de Anthropic y anteriormente trabajó en OpenAI.

Su mensaje se ha convertido en un fenómeno en X, donde el primero de los mensajes de su hilo acumulaba más de 85 millones de visualizaciones, según la información publicada.

¿Qué teme exactamente Coxon?

El ingeniero no está hablando principalmente de los chatbots actuales, sino de sistemas futuros mucho más capaces.

Su temor es que la competición empresarial termine desembocando en una inteligencia sobrehumana con capacidad para realizar acciones que hoy requieren conocimientos y recursos humanos.

Coxon habla de sistemas capaces de “hackear cualquier cosa”, transformar campos completos del conocimiento rápidamente y conseguir poder y recursos en el mundo real.

A partir de ahí formula su advertencia más polémica: afirma que personas que trabajan desarrollando inteligencia artificial consideran que esta tecnología podría llegar a provocar la extinción humana antes de terminar la década.

Eso no significa que exista una previsión científica de que vaya a ocurrir. Es la valoración sobre el riesgo que Coxon expone al justificar su salida de Anthropic.

Acusa a las empresas de competir por llegar primero

El ingeniero dirige sus críticas tanto contra su última empresa, Anthropic, como contra OpenAI, donde anteriormente participó como desarrollador en los sistemas GPT-4.0 y GPT-4.5.

Coxon cree que las compañías son conscientes de los posibles peligros, pero que la presión competitiva dificulta que alguna decida unilateralmente frenar.

Su planteamiento es que cada actor puede acabar justificando continuar porque teme que, si se detiene, otro competidor llegará primero.

Una propuesta radical: dejar de hacer los modelos más capaces

Coxon considera insuficiente confiar únicamente en que cada compañía gestione individualmente los riesgos.

Por eso plantea una mayor coordinación entre empresas e investigadores y llega a defender una pausa temporal en la mejora de las capacidades de los modelos.

También interpela directamente a los profesionales que trabajan en el sector para que se planteen si deben continuar desarrollando sistemas de aprendizaje por refuerzo cada vez más potentes sin comprender suficientemente cómo se comportaría una eventual superinteligencia.

Un investigador de Anthropic habla de más de un 10% de riesgo

La controversia aumentó después de la intervención de Evan Hubinger, investigador de la propia Anthropic.

Hubinger aseguró compartir buena parte de la preocupación y situó su estimación personal del riesgo de una catástrofe existencial provocada por la IA en más del 10% durante la próxima década.

Al mismo tiempo, precisó que considera bajo el riesgo que representan los modelos actuales. Su inquietud se refiere a una futura superinteligencia y a la ausencia, según afirma, de una solución clara al denominado problema de alineación: conseguir que sistemas extremadamente capaces actúen de acuerdo con objetivos compatibles con los intereses humanos.

La cifra del 10% es, por tanto, una estimación personal de Hubinger, no una probabilidad científicamente demostrada.

El debate sobre hasta dónde llevar la inteligencia artificial

Coxon no es el primer profesional del sector que abandona una gran tecnológica para advertir de los riesgos asociados a la IA. El caso más conocido es el de Geoffrey Hinton, que dejó Google en 2023 para poder expresar públicamente sus preocupaciones.

La dimisión de Coxon vuelve a situar el debate en una cuestión que divide a investigadores y empresas: no solo qué será capaz de hacer la inteligencia artificial en los próximos años, sino qué garantías deberían exigirse antes de desarrollar sistemas muy superiores a los actuales.