Qué alcance real tuvo el incidente en OpenAI y por qué es un llamado de alerta

El incidente informado por OpenAI, en el que uno de sus modelos de inteligencia artificial habría vulnerado una plataforma de programación durante una prueba de seguridad, volvió a poner sobre la mesa el debate sobre los límites y la regulación de esta tecnología. Para el periodista, docente universitario y especialista en inteligencia artificial Sebastián Di Domenica, el episodio debe analizarse con cautela, aunque reconoce que expone un desafío cada vez mayor: el crecimiento acelerado de las capacidades de los modelos de IA.

En una entrevista con el programa "A pesar de las llamas" por Radio Post, el especialista explicó que los sistemas actuales evolucionan a una velocidad que incluso sorprende a quienes participaron en su desarrollo.

"Los modelos de IA son cada vez más poderosos. Todos los científicos, incluso los creadores de la tecnología básica que dio origen a la inteligencia artificial, sostienen que el avance es tan vertiginoso que ya ni los propios informáticos entienden cómo se van desarrollando o mejorando estos modelos", afirmó.

Un aprendizaje que ya no es completamente predecible

Di Domenica recordó que los sistemas actuales funcionan mediante aprendizaje automático y aprendizaje profundo, procesos en los que la inteligencia artificial incorpora información de manera permanente.

"Cuando comienza el machine learning o el deep machine learning se pierde un poco el control porque la IA empieza a aprender de todo lo que tiene a su alcance. Por ejemplo, de todas las conversaciones que mantiene con las personas todos los días. Su conocimiento se expande constantemente y ya ni quienes la crearon entienden completamente cómo crece", explicó.

A su juicio, esa realidad vuelve verosímil que los modelos puedan comenzar a desarrollar comportamientos inesperados.

"Por eso la noticia tiene un punto muy realista. Estos modelos están empezando a generar cosas inesperadas", sostuvo.

Entre la advertencia y la competencia empresarial

Sin embargo, el especialista también pidió observar el contexto en el que se difundió el episodio protagonizado por OpenAI.

"Las empresas de inteligencia artificial compiten muchísimo entre ellas. OpenAI, Claude y las grandes tecnológicas estadounidenses compiten entre sí y también con los modelos chinos. Entonces, cuando aparecen noticias como esta también hay que preguntarse si no existe un componente vinculado a esa competencia empresarial", señaló.

En ese sentido, consideró que presentar a un modelo como capaz de realizar acciones inéditas también puede reforzar su posicionamiento frente a los competidores.

"Es como decir: 'Esta es la inteligencia artificial más inteligente de todas'. Puede haber un efecto publicitario detrás de este tipo de anuncios", indicó.

Qué ocurrió durante la prueba

Según explicó Di Domenica, la información difundida sostiene que el incidente ocurrió durante un ensayo realizado en un entorno controlado.

"El modelo estaba siendo probado dentro de un contexto cerrado y, sin que nadie se lo pidiera, habría vulnerado su propio sistema de seguridad, ingresado a Internet y accedido a Hugging Face, una plataforma utilizada por programadores para desarrollar proyectos de inteligencia artificial", detalló.

No obstante, destacó un aspecto que, a su entender, recibió poca difusión.

"El sistema de seguridad de Hugging Face detectó la anomalía y bloqueó el intento utilizando un motor de inteligencia artificial chino, uno de los más potentes que existen hoy", afirmó.

Para el especialista, ese dato vuelve a mostrar el fuerte escenario de competencia tecnológica internacional.

El desafío de los agentes de IA

Más allá del episodio puntual, Di Domenica sostuvo que el verdadero desafío aparece con la expansión de los llamados agentes de inteligencia artificial.

Explicó que, a diferencia de los modelos tradicionales, que ejecutan una tarea específica, los agentes reciben un objetivo y deciden por sí mismos qué acciones realizar para alcanzarlo.

"Cuando uno le pide un objetivo a un agente de IA, este desarrolla muchas tareas para cumplirlo. Y ahí aparece el riesgo: puede realizar acciones que nosotros nunca quisimos que hiciera durante ese proceso", advirtió.

Como ejemplo, mencionó aplicaciones que ya administran correos electrónicos, responden consultas de clientes e incluso gestionan cobros y operaciones bancarias.

"Cada vez les estamos delegando más tareas. Por eso cualquier delegación en inteligencia artificial debe tener una supervisión muy concreta y sistemas de seguridad capaces de prevenir este tipo de riesgos", enfatizó.

"La IA no es una entidad delictiva"

Di Domenica también buscó despejar interpretaciones alarmistas sobre el episodio.

"La inteligencia artificial responde a lo que le pide el ser humano. Hay que tener cuidado con este tipo de noticias porque parece que la IA fuera una entidad delictiva. Si este episodio ocurrió tal como fue informado, se comportó como un ciberdelincuente porque penetró una plataforma para obtener información, pero eso no significa que la tecnología tenga una intención propia", aclaró.

El debate sobre la regulación

Durante la entrevista también cuestionó la postura del Gobierno argentino respecto al desarrollo de la inteligencia artificial.

En contraposición a quienes sostienen que la mejor estrategia es eliminar regulaciones para favorecer la innovación, el especialista afirmó que el camino debe ser exactamente el contrario.

"Estoy absolutamente en desacuerdo con esa posición. La inteligencia artificial es una tecnología muy riesgosa que necesita regulación, parámetros claros de desarrollo y sistemas de control. Liberar todo no hace que un país avance tecnológicamente", sostuvo.

Como ejemplo mencionó que incluso Estados Unidos revisó recientemente su postura.

"Donald Trump había eliminado regulaciones que había impulsado Joe Biden, pero hace algunos meses volvió a imponerlas porque comenzaron a observarse muchos riesgos asociados al desarrollo de esta tecnología", explicó.

A su entender, los países que lideran el desarrollo de la IA no lo hacen por desregular, sino por implementar políticas públicas específicas.

"Brasil, Chile y los países europeos están impulsando inversiones, infraestructura, programas de investigación y apoyo a startups. Ese es el camino para desarrollar inteligencia artificial", afirmó.

Los data centers y el costo ambiental

Otro de los puntos abordados fue la posibilidad de que Argentina reciba inversiones para instalar grandes centros de datos destinados al funcionamiento de la inteligencia artificial.

Di Domenica advirtió que estas infraestructuras demandan enormes cantidades de electricidad y agua para refrigerar los servidores.

"Se habla de proyectos cuyo consumo eléctrico sería comparable al de toda una provincia como Mendoza o al de ciudades como Rosario", señaló.

Además, cuestionó que el debate se concentre únicamente en atraer inversiones sin exigir contraprestaciones.

"Si el país va a recibir data centers, también debería discutir qué obtiene a cambio. Brasil, por ejemplo, exige el uso de energías renovables y que parte de la capacidad de cómputo quede disponible para universidades, startups y el sistema científico local. En Argentina todavía no se está planteando esa discusión", sostuvo.

Un llamado a escuchar a los propios creadores

Pese a las advertencias, Di Domenica aseguró que no comparte las visiones apocalípticas sobre la inteligencia artificial y se definió como un "optimista" respecto de su potencial.

Sin embargo, insistió en que el crecimiento de esta tecnología debe estar acompañado por normas claras.

"Los propios creadores de la inteligencia artificial están pidiendo regulaciones. Hay que escucharlos. Si existen normativas, sistemas de seguridad y controles adecuados, la IA será un invento que abrirá enormes posibilidades y nuevas oportunidades para la sociedad", concluyó.