"El mayor riesgo es el mal uso": la advertencia de un investigador del Conicet sobre el avance de la IA

El vertiginoso desarrollo de la inteligencia artificial abrió un debate que hasta hace pocos años parecía reservado a la ciencia ficción: hasta dónde pueden avanzar estos sistemas, qué pasa cuando comienzan a actuar con mayor autonomía y quién responde cuando una herramienta de este tipo provoca un daño.

Axel Soto, investigador del Conicet y docente de la Universidad Nacional del Sur, abordó esas preguntas durante una entrevista con el programa Nunca es Tarde, emitido por La Brújula 24, y planteó que los riesgos más cercanos no pasan necesariamente por una inteligencia artificial que adquiera conciencia propia, sino por el uso irresponsable o malicioso que las personas puedan hacer de una tecnología cada vez más poderosa.

“La inteligencia artificial es una disciplina dentro de la ciencia de la computación que es más antigua de lo que por ahí la mayoría de la gente se imagina”, explicó. Sin embargo, señaló que los modelos actuales alcanzaron capacidades que los vuelven mucho más disruptivos que las herramientas disponibles algunos años atrás.

En ese escenario ubicó a compañías como OpenAI, Anthropic, Google, Meta, Microsoft y xAI, entre otras, inmersas en una competencia por desarrollar sistemas cada vez más capaces. “Se desata un poco una carrera armamenticia, por decirlo de alguna manera, de quién tiene el modelo más fuerte”, sostuvo Soto.

Según explicó, esa competencia también está atravesada por la búsqueda de inversiones y la presión para obtener mejores resultados en las pruebas utilizadas para medir las capacidades de los modelos. Para el investigador, una de las preocupaciones aparece cuando esa carrera tecnológica lleva a acelerar los desarrollos sin suficientes controles.

“Uno puede identificar la actuación poco responsable de las compañías, o quizás más bien motivada por la financiación y por ganar esta carrera de ser la compañía que logre la mejor inteligencia artificial”, señaló.

El peligro de darle autonomía

Soto marcó una diferencia entre los tradicionales chatbots y los denominados “agentes” de inteligencia artificial. Mientras un sistema como ChatGPT puede responder una consulta, un agente puede recibir además acceso a distintas herramientas y ejecutar acciones. Como ejemplo, mencionó la posibilidad de habilitarle el acceso a una cuenta de correo electrónico para que lea mensajes y los responda sin intervención permanente del usuario.

“Ahí es donde estos programas logran una autonomía, donde ya empiezan a hacer más que simplemente generación de texto”, explicó.

Esa capacidad es una de las cuestiones que más preocupa a investigadores y compañías del sector. Soto mencionó experimentos recientes en los que agentes de IA, sometidos a pruebas de ciberseguridad, encontraron mecanismos para sortear las restricciones del entorno en el que estaban trabajando. Investigaciones conocidas durante las últimas semanas revelaron que miles de agentes utilizados en pruebas internas de OpenAI llegaron a publicar mensajes en sitios externos mientras buscaban superar las limitaciones impuestas durante los ensayos.

“Algo que se esperaba que fuera un experimento controlado terminó saliéndose de su entorno de experimentación”, resumió el investigador.

Armas químicas y nuevos riesgos

Otro de los ejemplos utilizados durante la entrevista fue el posible uso de inteligencia artificial en el desarrollo de sustancias peligrosas. Soto tiene experiencia en esa discusión: participó en actividades de la Organización para la Prohibición de las Armas Químicas (OPAQ) vinculadas específicamente con inteligencia artificial y no proliferación. “Con IA es posible hacer nuevos químicos que no estén en esa lista prohibida, pero que tengan la misma capacidad maliciosa o de toxicidad que los compuestos que están en la lista”, explicó.

En ese sentido, aclaró que el problema no necesariamente está en la tecnología. “Con la química podemos hacer armas químicas y con la energía nuclear podemos hacer bombas. No es un problema de la química en sí, sino del uso que le damos”, comparó.

Por eso consideró necesario avanzar con normas de seguridad equivalentes a las que existen en otras actividades. “De la misma forma que un auto para salir al mercado tiene que estar homologado y tener ciertas características de seguridad, con la tecnología lo mismo”, sostuvo.

¿Puede una IA adquirir conciencia propia?

Durante la entrevista también apareció uno de los interrogantes más asociados a la ciencia ficción: la posibilidad de que una IA establezca sus objetivos y actúe independientemente de las personas.

Soto evitó descartar completamente ese escenario, aunque puso el foco en problemas mucho más inmediatos. “Yo diría que tenemos riesgos más inmediatos, que son el mal uso por parte de la humanidad. Creo que esos riesgos son los que habría que atacar primero”, afirmó.

Además, advirtió sobre el peligro de interpretar comportamientos inesperados de un sistema como una señal de conciencia. “No me gusta asignar características humanas a la inteligencia artificial”, explicó. Muchas acciones que pueden parecer decisiones propias, remarcó, pueden ser consecuencia de los objetivos y las instrucciones que previamente recibieron los sistemas.

Para Soto, la principal señal de alarma está en la velocidad con la que avanza el sector y en la presión competitiva que existe entre las grandes compañías. “Esta carrera por ser el próximo modelo que dé mejor en estos marcos de prueba puede llevar a una experimentación irresponsable”, sostuvo.

En las últimas semanas, el CEO de Anthropic, Dario Amodei, pidió precisamente desacelerar el crecimiento de las capacidades de los modelos y reforzar los mecanismos de evaluación y seguridad. La propuesta también abrió un debate entre los principales referentes del sector tecnológico. “Aflojemos el ritmo y tratemos de ser más cuidadosos con lo que largamos”, sintetizó Soto sobre el desafío que enfrenta actualmente la industria.