El investigador brindó fuertes declaraciones tras su renuncia en la empresa, donde participó en el entrenamiento de modelos de IA. La dura advertencia.
El investigador Jacob Coxon, de 27 años, renunció a Anthropic, una empresa estadounidense de investigación y desarrollo de inteligencia artificial fundada en 2021, y acusó tanto a esa empresa como a OpenAI de avanzar sin suficientes controles hacia sistemas de IA que podrían superar las capacidades humanas.
Coxon trabajó durante los últimos tres años en las dos compañías y participó en el entrenamiento de sus modelos. Al anunciar su salida, aseguró que ninguna está actuando de manera responsable y afirmó que ambas “están apostando con nuestras vidas”.
Su declaración más alarmante apunta al riesgo de extinción. Según el ingeniero, las personas involucradas en el desarrollo de esta tecnología creen que la inteligencia artificial “podría matarnos a todos antes de que termine la década”.
Coxon se dedicaba a la investigación de preentrenamiento, la etapa en la que los modelos procesan enormes volúmenes de información para aprender patrones, relaciones y estructuras del lenguaje antes de recibir ajustes más específicos.
En ese período pasó por OpenAI, creadora de ChatGPT, y luego se incorporó a Anthropic, responsable de Claude.
El ingeniero explicó su renuncia en redes sociales y cuestionó la velocidad con la que las empresas intentan desarrollar sistemas capaces de mejorar su propio rendimiento y adquirir una autonomía cada vez mayor.
A su entender, parte de OpenAI todavía no asumió por completo las consecuencias que podría tener una inteligencia sobrehumana. En Anthropic, en cambio, considera que los riesgos son conocidos, pero que la compañía avanza por temor a que otro competidor llegue primero.
La preocupación de Coxon se concentra en la llamada superinteligencia, un sistema hipotético capaz de superar a las personas en prácticamente todas las tareas intelectuales. El riesgo aumentaría si esa tecnología pudiera modificar su funcionamiento y volverse más poderosa sin una supervisión humana suficiente.
Ese proceso recibe el nombre de automejora recursiva. En teoría, una inteligencia artificial podría perfeccionar sus propias herramientas, utilizar esa versión mejorada para avanzar otra vez y repetir el ciclo a una velocidad imposible de seguir para sus creadores.
Los modelos disponibles actualmente no alcanzaron ese nivel ni demostraron que puedan iniciar por sí solos un proceso ilimitado de automejora. La advertencia del investigador se refiere a una posibilidad futura: que las empresas construyan sistemas más capaces antes de aprender a controlarlos.
Las declaraciones de Coxon recibieron el apoyo de Evan Hubinger, responsable del área de Ciencia de Alineamiento de Anthropic y exjefe del investigador. Hubinger estimó que existe una probabilidad superior al 10% de que la inteligencia artificial provoque la muerte de todos los seres humanos durante la próxima década.
Aunque defendió los esfuerzos de la empresa, reconoció que “no tenemos un plan para resolver el alineamiento de una superinteligencia” y que el trabajo actual tampoco garantiza que puedan encontrarlo a tiempo.
En julio, más de 1.300 trabajadores de empresas dedicadas al desarrollo de modelos avanzados firmaron una declaración para pedir que Estados Unidos impulsara acuerdos internacionales destinados a controlar el ritmo de la investigación.
Anthropic y OpenAI reconocieron entonces que podría ser necesario establecer herramientas para frenar el desarrollo cuando la velocidad de avance supere la capacidad de comprender y controlar los nuevos sistemas.