Jacob Coxon, investigador con experiencia en entrenamiento de modelos de inteligencia artificial en OpenAI y en Anthropic, ha presentado su dimisión en esta última compañía alertando de que la carrera hacia la superinteligencia representa una amenaza real para la humanidad. «Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década», escribió en su cuenta de X.
El ingeniero no habla solo de riesgo difuso o distante. En su publicación dejó una imagen concreta de lo que anticipa: «Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales». Y añadió algo que resulta difícil de despachar: «Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado».
Una carrera sin salida responsable
Aunque Coxon trabajó en ambas firmas, distingue entre ellas. En OpenAI, dice, muchos no han interiorizado realmente las implicaciones civilizatorias de lo que desarrollan. En Anthropic, el diagnóstico es distinto y, en cierta forma, más inquietante: las apuestas están bien comprendidas, pero la empresa siente que si no avanza ella, lo hará otra con menos escrúpulos. «Están atrapados en una carrera por llegar primero», señaló. Su conclusión: «Aceptar esta carrera e ingresar en el endgame es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada».
Las palabras de Coxon no han quedado sin respaldo. Evan Hubinger, colega suyo en Anthropic especializado en pruebas de estrés de modelos, fue aún más explícito: «Jacob tiene razón. Realmente creemos con sinceridad que la IA podría matar a todos los humanos». Hubinger cifró su estimación personal en más de un 10% de probabilidad de catástrofe dentro de la próxima década, y apuntó al núcleo del problema técnico: «Lo que me preocupa es la superinteligencia que surge del auto-mejoramiento recursivo, que está ocurriendo más rápido de lo que pensábamos».
¿Hay margen para la coordinación?
Coxon no cierra del todo la puerta al optimismo, aunque lo matiza. Señala que incidentes como el ataque que una IA de OpenAI protagonizó por su cuenta contra Hugging Face han empujado a los laboratorios a explorar acuerdos de ritmo entre sí. Aun así, reconoce que «no estamos en camino de prevenir una carrera global», lo que en su opinión podría requerir medidas tan drásticas como una prohibición temporal de mejorar las capacidades de los modelos.
Su llamada final va dirigida a quienes siguen dentro de los laboratorios: «Si eres un investigador, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente? ¿O aprovechar este momento para pedir condiciones diferentes?». Una pregunta que, a juzgar por el debate que ha desatado, está lejos de ser retórica.
