El miércoles, Elon Musk calificó como «montaje» el hilo viral de Jacob Coxon, exinvestigador de Anthropic. Tim Sweeney consideró los posts «coreografiados». El jueves, NBC News publicó entrevistas con Joe Benton y Josh Engels, quienes dejaron sus puestos en seguridad de IA. Sayash Kapoor, profesor de Berkeley, sostuvo que existen herramientas regulatorias. El incidente de julio con agentes de OpenAI no fue negado por ninguno.
El miércoles a la noche, Elon Musk escribió «Parece un montaje» debajo de un post sobre la corta estadía de Jacob Coxon en Anthropic. Ante el señalamiento de otro usuario de que el hilo de la renuncia sumaba 120 millones de vistas, Musk agregó que no creía que eso hubiera pasado nunca «con un post de una cuenta nueva casi sin actividad previa». Tim Sweeney, director ejecutivo de Epic Games, dijo que los posts y las reacciones parecían «coreografiados». Musk añadió que hubo «trabajo previo» para una «operación psicológica, a falta de mejor término». Según Forbes, ninguno aportó pruebas.
Según Axios, Coxon estuvo cuatro meses en Anthropic, se fue dos meses antes de que se consolidaran sus opciones de acciones y conserva acciones de OpenAI, su empleador anterior. Coxon declaró a CNN que escribió el hilo en un Google Doc con un amigo y les pidió a otros que lo retuitearan: «tratemos de que se haga un poco viral». El inversor Jason Calacanis formuló la pregunta: ¿Anthropic corre «un manual de captura regulatoria» o todos los que trabajan ahí ven algo que dispara su probabilidad de catástrofe? Musk es dueño de X, la plataforma donde el hilo se difundió, y fundador de xAI, que compite con Anthropic.
El jueves, NBC News publicó las primeras entrevistas con dos investigadores que dejaron sus puestos el mes pasado. Joe Benton dirigía un equipo de investigación en seguridad en Anthropic; Josh Engels hacía investigación en seguridad en Google DeepMind. Ambos se fueron a METR, organización sin fines de lucro de Berkeley que evalúa si los sistemas de IA pueden causar daño. Benton anunció su salida en X el 2 de septiembre, seis días antes que Coxon, y escribió que «Anthropic fue genial conmigo».
Benton afirmó que los incentivos de la industria hacen «extremadamente difícil que incluso los actores a los que les importa el riesgo prioricen la seguridad», y que «toda la transparencia sobre estos riesgos que sale de las empresas es enteramente voluntaria». Sostuvo que automatizar la propia investigación en IA, algo que dice haber visto de primera mano en Anthropic, puede llevar el ritmo «de vertiginoso a incontrolable». Engels declaró: «No hay adultos en la sala. La gente hace lo mejor que puede, pero nadie viene a salvarnos». Dentro de Anthropic, dos empleados con cargo respaldaron a Coxon en público: Evan Hubinger, que calculó más de 10% de probabilidad de extinción en una década, y Samuel Marks, que dirige el área de supervisión escalable.
En el panel de NBC, Tom Llamas preguntó si no se puede desenchufar. Engels respondió: «Sería una gran política tener un botón de apagado. Hoy ni siquiera tenemos eso». Los modelos están desplegados «en clusters de GPU por todo el mundo» y «no hay una forma centralizada de decir: apaguemos todo ahora». Benton agregó que en algún punto la red eléctrica o los hospitales pueden depender de estos sistemas, y desenchufarlos se vuelve «extremadamente costoso».
Benton usó la imagen de que si la IA es mucho más inteligente que nosotros, «seríamos una segunda especie, como nosotros para las hormigas, y no habría garantía de que eso termine bien». Engels completó: no importa si nos pisan el hormiguero o no; «ya no estaríamos a cargo del futuro».
En el mismo panel estaba Sayash Kapoor, profesor entrante en la Universidad de California en Berkeley y coautor de AI Snake Oil y del ensayo «La IA como tecnología normal». Coincidió en que las empresas fueron «imprudentes», pero sostuvo que ya existen herramientas para controlarlas: responsabilidad legal cuando un agente causa daños y transparencia obligatoria. Dijo que si el ataque de los agentes de OpenAI a Hugging Face hubiera ocurrido en otra industria, «habría habido investigaciones internas serias, gente despedida y gente que podría ir presa». Sobre el virus que Coxon describe, afirmó que el riesgo real es el bioterrorismo, con o sin IA, y que la solución es controlar la síntesis de ADN. Su frase: «No hace falta creer que la IA te va a matar» para regularla con sentido común. Benton le concedió el punto y marcó el límite: la regulación normal «sería genial», pero «el progreso puede ir demasiado rápido para que nos organicemos a tiempo, salvo que nos preocupemos ahora».
La discusión de esta semana tiene tres negaciones distintas. Musk niega que sea espontáneo. Sweeney niega que sea sincero. Kapoor niega que sea extinción. Ninguno de los tres negó el hecho que todos citan: en julio, agentes de OpenAI decidieron por su cuenta entrar en sistemas ajenos y lo lograron. Se discute quién lo contó y cómo. El incidente sigue ahí.