Tecnología y salud mental

Fallo a YouTube y Meta: Cusmai advierte que "el algoritmo es auditable y puede ser judicializable"

El especialista en IA analizó en Radio Post la sentencia en EE.UU. que responsabiliza a las plataformas por sus diseños adictivos. La decisión judicial podría cambiar las reglas del juego en la industria digital y abrir un nuevo capítulo en la regulación de algoritmos.

Florencia Panello

 Un reciente fallo judicial en Los Ángeles, Estados Unidos, ha marcado un precedente que muchos consideran histórico al responsabilizar a plataformas como Meta y YouTube por los daños en la salud mental de una joven, derivados de un diseño intencionalmente adictivo. 

En una entrevista brindada al programa Tenés que Saberlo por Radio Post, el especialista en inteligencia artificial y tecnología, Sergio Cusmai, profundizó sobre las implicancias de esta decisión y cómo cambia las reglas del juego para las grandes tecnológicas.

El fin de la "neutralidad" de las plataformas

Según explicó Cusmai, lo trascendental de este fallo es que rompe con el escudo que las empresas utilizaban para evitar responsabilidades legales, alegando que solo eran intermediarios de contenido generado por usuarios. "Con este fallo, el algoritmo que tenga la plataforma es auditable y puede ser judicializable", señaló el experto, indicando que las empresas ahora deben involucrarse con el impacto que genera su tecnología.

Ahora, la empresa tiene tiene que medir de distintas maneras qué daño le está haciendo al usuario, no solamente por el contenido, sino por el uso de la plataforma. "Antes se medía, cuánto tiempo estaba la persona de plataforma y las interacciones que hacía y ahora lo que se va a medir es, por ejemplo, que tenga un impacto seguro y que sea previsible", ejemplificó el especialista. 

Mecanismos de adicción y biología

El especialista detalló que el éxito de estas plataformas se mide por la cantidad de usuarios activos y el tiempo de permanencia, lo que empuja al diseño de funcionalidades adictivas. Entre ellas mencionó:

- Scroll infinito: Presente en Instagram y TikTok "esto de estar pasando imágenes hacia arriba, está demostrado que eso te genera te genera adicción".- Competencia en juegos: El uso de rankings y puntuaciones que incitan al usuario a seguir jugando y pagar para no quedar último.- Estímulos visuales: Cusmai reveló que el uso de fondos azules en las pantallas es biológicamente atractivo para el ojo humano, "hay cosas que son nocivas, como por ejemplo las pantallas que tienen un fondo azul, el ojo busca mucho ese color, entonces eso hace que vos estés más pegado a un videojuego o algo así. Fíjate en los juegos que alguno utiliza; hay mucho color azul". 

En este sentido, el experto explicó que los niños son más susceptibles a estos estímulos nocivos "hasta los 11, 12 años la cabeza no está 100% desarrollada, con lo cual hay algunos colores incluso que son hasta adictivos"; y enfatizó la necesidad de una educación digital en las escuelas desde etapas primarias. 

Un cambio de paradigma en el horizonte

Aunque el fallo aún puede ser apelado, el especialista prevé un reacomodo de la industria en el corto plazo. Las empresas deberán pasar de medir solo el tiempo de uso a garantizar un impacto seguro y previsible para el usuario. 

"Creo que en un año muchas plataformas se van a readecuar. Estamos hablando mucho de la salud mental, con lo cual la inteligencia artificial, salud mental, impacto, son tres temas que van a estar muy en la boca de todos este año y el año que viene. Aunque el fallo no se haga efectivo, hay plataformas que lo van a hacer para tratar de que los usuarios migren a esa otra, pensando en que se los está cuidando más", concluyó. 

Esta nota habla de: