Cobos presentó un proyecto para castigar la desinformación generada por IA

El diputado nacional Julio Cobos presentó un proyecto para castigar a quienes utilizan inteligencia artificial para manipular contenido, e incidir así en las propuestas electorales, tras el impacto que tuvo en CABA el video publicado donde supuestamente Mauricio Macri anunciaba que Silvia Lopesnnato se bajaba de su candidatura.

Cobos explicó que "Al día de hoy, y más allá de los estudios científicos realizados sobre el tema, resulta difícil comprender lo que representa y el alcance de la inteligencia artificial, estamos ante un fenómeno que todavía es inconmensurable e imprevisible. Como toda acción que impacta en la vida de las personas, tiene su uso y difusión una dimensión ética y moral y los límites son aún difusos", y agregó "lamentablemente, recientemente hemos vivido un episodio en las elecciones de Ciudad de Buenos Aires, con un video falso creado con esta tecnología que llegó a tener más de 14 millones de vistas y circuló por los teléfonos de todos los ciudadanos. Su efecto concreto es difícil de medir, pero claramente generó una situación falsa que perjudicó a uno de los sectores que competía en los comicios. Más allá de que después se desmintió la veracidad del mismo, el daño estaba hecho. Esto es peligroso e inaceptable".

"En los próximo meses Argentina enfrentará su primer proceso electoral nacional en un contexto de inteligencia artificial generativa, donde la desinformación impulsada por esta tecnología puede contaminar de forma inédita los ecosistemas informativos. Con herramientas digitales de fácil acceso, actores maliciosos pueden -por ejemplo- crear imágenes falsas de candidatos en situaciones desfavorables, videos manipulados de autoridades electorales cuestionando la integridad del proceso electoral, o audios falsos de funcionarios indicando cambios falsos en los lugares o formas de votación".

"Esta clase de contenidos puede difundirse viralmente y afectar la voluntad del electorado o socavar la confianza en los resultados electorales. Actuemos antes que esto suceda y tiña de forma irremediable la contienda electoral. Por eso proponemos la modificación del Código Nacional Electoral, en límites temporales y procedimientos específicos, para evitar el uso de contenidos manipulados con fines de desinformación electoral. Además, se plantean obligaciones de rotulación que están estrictamente dirigidas a informar al público sobre la falsedad o manipulación de ciertos contenidos para evitar el engaño con la finalidad de proteger la transparencia y equidad de los comicios; bajo ningún aspecto nos involucramos con un derecho fundamental como lo es la libertad de expresión", señaló el diputado radical.

"Existe jurisprudencia importante sobre este tema y que nos indica el camino a seguir, porque el marco regulatorio de políticas para la IA es un tema emergente en jurisdicciones de todo el mundo, incluso para organizaciones como el Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) o la OCDE. Diversos países han ido incorporando a su cuerpo legislativo estrategias, planes de acción y documentos de políticas sobre IA. En 2021, la Cámara de Diputados de Brasil aprobó el Marco Legal de la Inteligencia Artificial. En 2023, la Unión Europea aprobó el Acta de la UE para al IA, creando un marco regulatorio con importantes implicaciones a nivel mundial. Argentina puede y debe avanzar con legislación que contemple esta nueva realidad".

"También, durante la presidencia de Joe Biden, EE.UU. obtuvo compromisos voluntarios de siete empresas (Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI) para gestionar los riesgos asociados a la IA. Las empresas se comprometieron a garantizar que los productos de IA se sometan a pruebas de seguridad internas y externas antes de su lanzamiento al público; a compartir información sobre la gestión de los riesgos de la IA con la industria, los gobiernos, la sociedad civil y el mundo académico y a priorizar la ciberseguridad, entre otros compromisos".

Finalmente, Cobos señaló que "frente a esto no podemos quedarnos con brazos cruzados y aceptar con resignación las noticias falsas, la manipulación de la verdad y la tergiversación de la información. Discutamos el tema sin temores ni prejuicios, por eso proponemos este proyecto como un primer paso para empezar por el ámbito electoral y lo que vaya surgiendo de otras preocupaciones que originan el uso de la IA, lo evaluaremos en su oportunidad en el Congreso de la Nación".

Este es el proyecto presentado

 Protección del Régimen Electoral frente a la desinformación generada por contenidos manipulados. 

ARTÍCULO 1°: Incorpórese como Capítulo IV ter del Código Nacional Electoral t.o. decreto 2135 el siguiente texto: "CAPÍTULO IV ter. Protección del Régimen Electoral frente a la desinformación generada por contenidos manipulados. Artículo 64 terdecies: Definiciones: 

a) Contenido manipulado: cualquier contenido audiovisual o sonoro creado o alterado digitalmente de forma tal que induzca a una persona razonable a creer falsamente que representa hechos o expresiones reales de la persona que aparece en el contenido.

 b) Contenido materialmente engañoso: aquel contenido audiovisual o sonoro generado o modificado digitalmente que pueda inducir a error a una persona razonable respecto a la autenticidad del mensaje. Quedan excluidos los cambios menores que no alteran el sentido del contenido. 

c) Plataforma digital de gran alcance: Toda red social, buscador, sitio web, aplicación o servicio digital que cuente con al menos cien mil (100.000) de usuarios en Argentina durante los últimos doce (12) meses. d) Medio de comunicación audiovisual: Incluye canales de televisión abierta o por cable, emisoras de radio, plataformas de streaming, operadores satelitales y servicios de distribución de contenidos en línea.

 e) Publicidad electoral: Toda comunicación pública o masiva, difundida mediante cualquier medio digital, que tenga por objeto apoyar u oponerse a una persona candidata a un cargo electivo. 

f) Período de restricción: Es el plazo que comienza a los sesenta (60) días previos al día del comicio con el inicio de la campaña electoral y finaliza a las cero horas del día siguiente al día del comicio. 

Artículo 64 quaterdecies: 

Eliminación obligatoria de contenidos. Las plataformas digitales de gran alcance deberán desarrollar e implementar procedimientos técnicos para detectar y eliminar contenidos materialmente engañosos si se cumplen las siguientes condiciones: 

1. El contenido ha sido reportado conforme al procedimiento del presente capítulo.

 2. El contenido: a) Muestra a una persona candidata realizando o diciendo algo que no hizo ni dijo, y que razonablemente pueda afectar su imagen o intención de voto. b) Muestra a una autoridad electoral diciendo o haciendo algo falso que pueda socavar la confianza en el proceso electoral. c) Muestra a una autoridad electa diciendo o haciendo algo falso que afecte la percepción sobre la legitimidad del proceso electoral. 

3. El contenido ha sido difundido dentro del período de restricción. 

4. La plataforma conoce o actúa con negligencia respecto a la naturaleza engañosa del contenido. 

Artículo 64 quindicies: Plazo para la eliminación. Etiquetado hasta la eliminación. 

El contenido que cumpla con las condiciones anteriores deberá ser eliminado en un plazo no mayor a cuarenta y ocho (48) horas desde su reporte. Hasta la eliminación del contenido se lo deberá rotular con la leyenda: "Este [imagen/audio/video] ha sido manipulado y no es auténtico." El etiquetado debe ser visible y permitir al usuario acceder a más información explicativa con un clic o toque. 

Artículo 64 sexdecies: Etiquetado. Las plataformas deberán identificar y etiquetar contenidos engañosos fuera del período de restricción, si: 

1. El contenido es reportado por usuarios. 

2. Aun siendo engañoso, no cumple las condiciones para remoción inmediata. 

3. La plataforma actúa con conocimiento o negligencia sobre su carácter engañoso. El contenido deberá ser rotulado con la leyenda: "Este [imagen/audio/video] ha sido manipulado y no es auténtico." El etiquetado debe ser visible y permitir al usuario acceder a más información explicativa con un clic o toque. 

Artículo 64 septdecies: Procedimiento de reporte. Las plataformas deberán habilitar mecanismos accesibles para que los usuarios reporten contenidos presuntamente engañosos. Deben responder al denunciante en un plazo máximo de treinta y seis (36) horas, informando la acción tomada. 

Artículo 64 octodecies: Medidas cautelares. El juez con competencia electoral podrá ordenar como medida cautelar el cumplimiento del presente capítulo.

 Artículo 64 novodecies: Excepciones. Quedan exceptuados del presente Capítulo:

 a) Contenido publicado por medios periodísticos que acompañen dicho contenido con una advertencia clara sobre su carácter ficticio.

 b) Transmisiones en medios de comunicación que formen parte de coberturas periodísticas, documentales o comentarios de interés público, siempre que se incluya una advertencia clara sobre su falsedad. 

c) Contenido satírico o paródico.

" Julio C. Cobos Margarita Stolbizer Marcela Coli Melina Giorgi Atilio Benedetti Mario Barletta Danya Tavela