"Podría matar a todos los humanos": la alarma que encendió un extrabajador de una empresa de IA

Jacob Coxon, investigador de 27 años que trabajó en OpenAI y luego en Anthropic, renunció a la compañía y publicó críticas contra la forma en que ambas empresas desarrollan modelos de inteligencia artificial avanzada. Según explicó, los laboratorios estarían avanzando hacia una superinteligencia capaz de mejorar sus propias capacidades sin contar con mecanismos suficientes para controlar sus riesgos.

Coxon sostuvo que “ninguna de las dos empresas actúa con responsabilidad” y afirmó que están “apostando con nuestras vidas” al acelerar la creación de sistemas más poderosos. Su mensaje tomó mayor relevancia luego de que Evan Hubinger, responsable de un equipo de seguridad en Anthropic, respondiera públicamente que coincidía con su diagnóstico.

Hubinger aseguró que existe una posibilidad de que la inteligencia artificial provoque un daño extremo y estimó “más de 10% en la próxima década” de probabilidades de un escenario en el que “la IA podría matar a todos los humanos”. Además, reconoció que la empresa todavía no tiene un plan claro para resolver el problema de la alineación, es decir, lograr que los sistemas mantengan objetivos compatibles con los valores humanos.

Coxon, formado en matemática, había trabajado desde 2023 en OpenAI en tareas vinculadas a GPT-4o y luego ingresó a Anthropic por su reputación en materia de seguridad. Sin embargo, permaneció apenas dos meses y cuestionó que la competencia entre compañías privadas esté impulsando decisiones que considera demasiado riesgosas.

El investigador también comparó la situación actual con otros desarrollos científicos de alto impacto y afirmó: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.

Las críticas se suman a otras renuncias de especialistas en seguridad de IA y a episodios en los que empresas reconocieron comportamientos inesperados de sus modelos durante pruebas. Mientras Anthropic busca posicionarse como referente en desarrollo responsable, sus propios investigadores plantean dudas sobre si la industria cuenta con los controles necesarios para la próxima etapa tecnológica.

Con información de Infobae