Schapachnik: "El escenario Terminator es el menor de nuestros problemas"

La posibilidad de que la inteligencia artificial llegue a desarrollar una capacidad de automejora capaz de poner en riesgo a la humanidad generó nuevas advertencias dentro de la industria tecnológica. Sin embargo, Fernando Schapachnik, doctor e investigador del Departamento de Computación de la Facultad de Ciencias Exactas de la UBA y del instituto UBA-CONICET, consideró que el escenario planteado por el ex trabajador de Anthropic está sobredimensionado y que el debate debería concentrarse en problemas que ya están ocurriendo.

"Me parece que hay que separar un poco la paja del trigo", sostuvo Schapachnik en diálogo con el programa "A pesar de las llamas" por Radio Post, y apuntó directamente contra el modo en que Silicon Valley presenta los riesgos de estas tecnologías.

"A Silicon Valley le encanta hacer estas exageraciones que tienen dos objetivos: una, de alguna manera, mediante la amenaza hacernos creer que sus productos son más potentes de lo que realmente son; y la segunda, distraernos, hacernos mirar al lugar equivocado", afirmó.

Para el investigador, la posibilidad de una máquina que tome el control y decida eliminar a los seres humanos no constituye hoy el principal riesgo. "El escenario Terminator, que es un poco lo que este muchacho sugiere, es el menor de nuestros problemas. Eso es una ridiculez", planteó.

En cambio, señaló que la discusión debería concentrarse en las consecuencias que la inteligencia artificial ya está produciendo: "El problema por el cual efectivamente tenemos que demandar regulación de este tipo de tecnologías tiene que ver no con los problemas futuros, sino con los problemas actuales que nos está generando".

Entre esos efectos enumeró la "incertidumbre en el mundo laboral, pérdida de habilidades", el "enorme impacto ambiental", una "burbuja financiera" cuyas consecuencias todavía son difíciles de anticipar y un problema educativo que definió con un término particularmente fuerte: "cognitivisidio".

"Más artificial que inteligente"

Schapachnik también rechazó la idea de que los sistemas actuales estén avanzando hacia una superinteligencia capaz de mejorarse a sí misma en el sentido planteado por algunos referentes de la industria.

"Lo primero que tenemos que entender es que esto que nosotros llamamos inteligencia artificial es más artificial que inteligente", explicó.

Según su descripción, estos sistemas "en base a un cuerpo de texto con el que han sido entrenados responden la frase que tiene mayor probabilidad de continuar aquello que le pusimos en el texto de entrada".

Para el investigador, se trata de una tecnología que puede producir resultados sorprendentes, pero eso no implica que exista detrás un proceso equivalente al pensamiento humano. "Esto es un truco que funciona bien y nos hace pensar que las respuestas son inteligentes, pero no es más que eso", afirmó.

Schapachnik sí reconoció que los modelos tienen una capacidad importante para programar y generar software. Precisamente allí encuentra el origen de la expresión "automejorante" utilizada para describir la evolución de estos sistemas.

"Con esta tecnología se ha logrado una muy buena capacidad para generar software, para programar. Eso es cierto", señaló. "Esta tecnología, uno le pide tareas de programación y las hace con una eficiencia muy, muy razonable. Y entonces acelera los tiempos de desarrollo".

La industria utiliza esos mismos productos para desarrollar nuevas versiones de sus sistemas, pero, según explicó, eso es lo que se presenta como automejora. "No es más que eso", insistió.

Por eso, pidió abandonar la imagen de una máquina con voluntad propia: "Tenemos que sacarnos de la cabeza este escenario que todos tenemos como referencia de la ciencia ficción, que hay una máquina que toma decisiones y que hace planes y que tiene voluntad".

Y fue todavía más categórico respecto de la conciencia: "No hay nada de eso, ni efectivamente la famosa conciencia de sí misma".

Según Schapachnik, los sistemas pueden generar interacciones que parecen humanas, pero se trata de comportamientos diseñados para producir ese efecto. "Simulan empatía", dijo, y explicó que fueron programados por sus creadores "para parecer empática, para parecer cierta familiaridad, como si estuviésemos hablando con una persona".

Qué hay detrás de los supuestos casos de "pérdida de control"

Durante la entrevista también se refirió a los experimentos en los que las empresas aseguran que un sistema habría actuado de una manera no prevista o se habría "salido de control".

El investigador pidió tomar esas afirmaciones con cautela y planteó una primera exigencia: "Para considerarlo cierto tendrían que pasar un montón de cosas. La primera es transparencia como cualquier experimento científico: no podemos tomar por válido algo que dice la propia empresa que sucedió".

Además, explicó que una prueba puede involucrar cientos de miles de ejecuciones. En ese contexto, que un sistema haya producido una conducta determinada en una oportunidad no necesariamente demuestra que posea la capacidad que se le atribuye.

"Por ahí en un ensayo ejecutó algo parecido a un plan", explicó. Pero advirtió que podría ocurrir que "en los otros 999.000 se golpeó la cabeza contra la pared".

Schapachnik utilizó entonces el concepto de cherry picking, es decir, seleccionar únicamente el resultado llamativo de un conjunto mucho mayor de pruebas.

"Elegís la más brillante, la mejor, pero eso no es representativo de la calidad de toda la cesta de frutas", graficó. Y fue particularmente crítico con esa práctica: "Cherry picking es una manera elegante de decir que estás haciendo trampa".

De todos modos, aclaró que la falta de transparencia impide conocer con certeza qué ocurrió en esos experimentos. Y marcó una diferencia fundamental: "Ahí estaba cumpliendo una tarea que se le había pedido".

Eso no significa, aclaró, que considere conveniente dejar que estos sistemas tomen decisiones por sí solos. "Si vos me preguntás si es razonable encomendarle a estos productos que tomen decisiones, no, por supuesto que no. Por supuesto que no. Es una pésima idea", afirmó.

Por qué reclama regulación

Frente al debate sobre si los gobiernos deberían establecer controles sobre la inteligencia artificial, Schapachnik rechazó el argumento de que regular implique necesariamente frenar la innovación.

Para explicarlo recurrió a un ejemplo concreto: "La industria farmacéutica está regulada en todo el planeta. Es una industria que comparte estas tres características en simultáneo: es fuertemente innovadora, altamente redituable y está fuertemente regulada".

Por eso cuestionó la idea de que exista una elección inevitable entre regulación y desarrollo tecnológico.

"Quienes nos piden no regular nos proponen una falsa dicotomía entre regulación e innovación que solo existe en sus agitadas cabezas, pero en la realidad es todo lo contrario", sostuvo.

Incluso planteó que determinadas regulaciones pueden generar nuevos procesos de innovación. "Muchas veces la regulación impulsa la innovación", afirmó, y puso como ejemplo las normas destinadas a reducir emisiones, que, según explicó, impulsaron el desarrollo de la electromovilidad.

Para Schapachnik, el mismo criterio debería aplicarse a la inteligencia artificial, pero no por una eventual amenaza de extinción, sino por sus consecuencias concretas.

Educación: "Es realmente muy grave"

Uno de los puntos que más preocupación le genera es el impacto de estas herramientas sobre el aprendizaje.

En ese sentido, mencionó un estudio realizado sobre 26.000 estudiantes chinos, seguidos durante varios años, que encontró que quienes utilizaban inteligencia artificial para realizar sus tareas tenían una caída en sus notas.

"Los que usaban IA para hacer la tarea decaían en sus notas, les iba peor", explicó.

También citó una investigación del MIT, realizada con una población menor pero que, a su criterio, permite observar el fenómeno con mayor claridad. Los participantes fueron divididos en tres grupos y tuvieron que escribir una composición: uno sin asistencia, otro con posibilidad de utilizar Google y un tercero con acceso a ChatGPT.

La prueba no consistía en pedirle a ChatGPT que realizara directamente el trabajo, sino en utilizarlo como una herramienta de asistencia, en línea con la recomendación habitual de emplearlo "inteligentemente".

Después de terminar, los investigadores preguntaron a los participantes de qué había tratado el texto que acababan de escribir.

Según Schapachnik, la enorme mayoría de quienes habían trabajado sin asistencia o solamente con Google pudo recordar el contenido. En cambio, "a los que usaron ChatGPT, el 85% no podía recordar lo que había escrito hacía pocos minutos".

Por eso insistió con su concepto de "cognitivisidio": "Es realmente muy, muy grave lo que está pasando".

Y volvió a cuestionar que la discusión pública se concentre en una eventual amenaza futura. "Me molesta cuando escucho aclaraciones como estas de este muchacho porque siento que es una maniobra distractoria", dijo. "No, miren el riesgo del futuro", resumió como la lógica que, a su entender, termina desviando la atención de los problemas actuales.

El impacto laboral 

El empleo fue otro de los ejes de la conversación. Schapachnik reconoció que la inteligencia artificial está generando "mucha incertidumbre en el mundo laboral", aunque aclaró que el impacto no es igual en todas las actividades.

"Lo que nos muestran los datos es que el efecto real varía por sector", señaló.

También cuestionó la idea de que las herramientas hagan de manera eficiente todas las tareas que se les asignan, debido a los errores conocidos como "alucinaciones". "En un montón de tareas que se supone que hace bien, cada tanto se equivoca", explicó.

Pero existen sectores particularmente expuestos al reemplazo. Entre ellos mencionó las tareas vinculadas con la voz y puso un ejemplo cercano a la propia radio: "Probablemente ahí en tu mesa te acompañe algún locutor o locutora y la verdad que esa es una tarea donde lamentablemente están siendo reemplazados".

La pregunta, para él, es qué obtiene la sociedad con ese reemplazo.

"Más allá de que a mí me divierte, imagínate, hipotéticamente, poder tipear un texto y que una voz al estilo de Cacho Fontana lo lea en voz alta, más allá de ese entretenimiento, ¿qué ganamos como sociedad con que la radio ya no necesite esos profesionales de la voz?", planteó.

Y agregó: "Hay una profesión muy noble que se pierde, un montón de puestos de trabajo. Insisto, ¿para qué? Para que algunas empresas se ahorren unos pesos y entonces sean más redituables".

"Proponemos soluciones a problemas que nadie tiene"

Schapachnik reconoció que su posición puede resultar paradójica porque se considera profundamente ligado al mundo tecnológico.

"Muchas veces lo digo con dolor porque voy a decir un problema de la gente que se dedica a la tecnología. Dediqué toda mi vida a esto", explicó.

A diferencia de quienes, según su visión, utilizan estos temas principalmente para obtener exposición pública, remarcó: "Es la carrera que elegí estudiar, en la que trabajé, la que enseño. Yo realmente me considero una persona de la tecnología".

Pero justamente desde ese lugar cuestionó parte del entusiasmo alrededor de la IA: "A veces proponemos soluciones a problemas que nadie tiene".

Para el investigador, esa debería ser una de las preguntas centrales antes de incorporar estas herramientas: "Tenemos que hacer un esfuerzo de concentración para que los espejitos de colores no nos distraigan y volver a preguntarnos qué problema soluciona esto y de qué manera contribuye a los problemas reales".

Su preocupación final vuelve a alejarse del escenario de ciencia ficción planteado por la advertencia sobre una eventual IA capaz de destruir a la humanidad. "Estas tecnologías tienen enorme impacto ambiental. Detrás de esto hay una burbuja financiera que estamos alimentando. Cuando estalle, ¿qué va a pasar? ¿Quién se va a quedar sin...?", planteó.

Y cerró con otra advertencia sobre el poder concentrado en las grandes empresas tecnológicas: "No hay una concentración de poder en estos magnates que tienen unas utopías que son distópicas, y concentramos el poder en ellos".

Para Schapachnik, por lo tanto, el debate urgente no pasa por imaginar una máquina que algún día decida enfrentarse a los seres humanos, sino por discutir qué efectos económicos, educativos, laborales, ambientales y sociales ya está produciendo la inteligencia artificial y qué controles deberían aplicarse sobre una tecnología cuyo desarrollo avanza a gran velocidad.

Editó Carina Pérez