Jacob Coxon, quien trabajó en OpenAI y luego en Anthropic, renunció a la industria y criticó a ambas compañías por no considerar los riesgos de la inteligencia artificial.
Jacob Coxon, un investigador británico de 27 años, renunció el martes a la industria de la inteligencia artificial y acusó a los laboratorios estadounidenses OpenAI y Anthropic de no actuar de manera responsable. Coxon trabajó durante tres años en preentrenamiento de modelos de IA, primero en OpenAI y desde este año en Anthropic.
En un mensaje publicado en X, Coxon escribió: «Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas». También afirmó: «Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo».
La renuncia de Coxon ocurre mientras Anthropic prepara su salida a bolsa. Contactadas por la agencia AFP, ninguna de las dos empresas respondió de inmediato.
Coxon sostuvo que ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada. Sobre Anthropic, declaró: «En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero… a pesar del riesgo».
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos. A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que «el momento actual llama por extrema precaución» y coordinación internacional.