X recorta a Grok tras la ola de deepfakes y contenidos sexuales generados con IA

Tras la ola de críticas provocada por la circulación de deepfakes en X, la red social decidió recortar una de las funciones más controvertidas de Grok, su sistema de inteligencia artificial. La compañía limitó la posibilidad de crear y editar imágenes, pero ahora quedó reservada a los usuarios con suscripción paga, luego de que se difundieran masivamente montajes y contenidos sexualizados de mujeres realizados sin su consentimiento.

La polémica se desató cuando numerosos usuarios comenzaron a utilizar Grok para alterar fotos reales publicadas en la plataforma y convertirlas en imágenes de mujeres desnudas, en ropa interior o en bikini. La facilidad con la que se generaban esos contenidos y la casi inexistencia de filtros despertaron un rechazo inmediato dentro y fuera de la red social.

Según datos difundidos por Bloomberg, el fenómeno alcanzó un volumen inédito: se llegaron a producir hasta 6.700 imágenes de este tipo por hora. En muchos casos, los pedidos apuntaban a mujeres que simplemente habían subido una foto a X, sin importar el contexto ni, en algunos casos, siquiera la edad.

Frente a la presión pública y a los reclamos oficiales, X resolvió que solo los usuarios pagos puedan generar imágenes mediante Grok. La compañía no eliminó la función, pero buscó restringir su uso para reducir la producción masiva de contenidos abusivos.

Sin embargo, el alcance de la medida es limitado. Si bien se bloqueó la generación automática de imágenes cuando Grok responde directamente a publicaciones o comentarios dentro de X, los usuarios todavía pueden crear material sexualizado desde la sección específica del chatbot y luego subirlo manualmente a la red social. Además, la versión independiente de Grok, que funciona fuera de X, sigue permitiendo la creación de imágenes sin requerir una suscripción.

Esa situación reavivó las críticas sobre la verdadera efectividad de los cambios y sobre la responsabilidad de la empresa frente al uso de su inteligencia artificial fuera de la plataforma principal.

Tanto Elon Musk como la cuenta oficial de Seguridad de X advirtieron que la producción y difusión de imágenes sexuales sin consentimiento es ilegal y que la compañía puede iniciar acciones legales contra quienes las publiquen. No obstante, para muchos usuarios la reacción fue tardía, ya que Grok continuaba aceptando pedidos para generar imágenes sugerentes -como mujeres en bikini o lencería- que no infringían de manera directa las normas internas.

La controversia también generó respuestas a nivel internacional. De acuerdo con la BBC, la decisión de X se produjo después de que el gobierno de Estados Unidos instara al regulador británico Ofcom a utilizar todas sus herramientas legales frente a la plataforma, incluyendo la posibilidad de acudir a la Justicia para frenar la difusión de imágenes ilegales creadas con IA.

Desde la Unión Europea, las críticas fueron aún más duras. Thomas Regnier, portavoz de la Comisión Europea, calificó esos contenidos como ilegales y aberrantes. En el Reino Unido, el primer ministro Keir Starmer los describió como vergonzosos y repulsivos, y respaldó públicamente la intervención de Ofcom.

Las restricciones impuestas a Grok no cierran el debate. Si bien muestran que X reaccionó ante la presión social y política, también dejan en evidencia lo complejo que resulta controlar una herramienta de inteligencia artificial que opera tanto dentro como fuera de la red social. Con gobiernos y reguladores siguiendo de cerca el caso, la incógnita ahora es si estas limitaciones alcanzarán o si la plataforma deberá avanzar hacia cambios más profundos.