La Unión Europea anunció este lunes el comienzo de una investigación para la red social X del magnate tecnológico Elon Musk, por diseminar contenido ilegal.
La decisión se toma siguiendo el descontento creciente por parte de sus usuarios, ya que el chatbot de la aplicación, Grok ha podido modificar de forma explícita imágenes que en realidad no lo eran. Un ejemplo de esto es la sexualización de figuras públicas —o cualquier persona, sin discriminar quién es— que han sido expuestas de esta forma sin su consentimiento. Es así como la UE busca conocer si la plataforma protege a sus consumidores, si los asesora, los informa e incluso si mitiga los riesgos que implica usar Grok.
La investigación se realiza bajo el esquema de la Ley de Servicios Digitales, (DSA por sus siglas en inglés). En caso de que no se cumplan con los requisitos sobre la protección del consumidor europeo, se aplicarán infracciones que están consideradas bajo este marco legal, según se informa en la nota de prensa que publica el organismo.
Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica, Seguridad y Democracia, declaró que “los deep fakes sexuales de mujeres y niños son una forma violenta e inaceptable de degradación”. Siendo esta “investigación” un determinante para conocer si la red social “ha cumplido con sus obligaciones legales en virtud de la DSA” o si trata “los derechos de los ciudadanos europeos —incluidos los de mujeres y niños— como daño colateral de su servicio”.
El anuncio se realiza después de que el Reino Unido —el 12 de enero—, a través de su organismo nacional regulatorio de comunicaciones (Ofcom) anunciara que se “ha decidido abrir una investigación formal para determinar si X ha incumplido sus obligaciones legales en virtud de la Ley de Seguridad en Línea” según dice la página oficial de la entidad británica.
Dentro de lo que cabe, se buscará “evaluar el riesgo” que tienen los habitantes del Reino Unido de ver “contenido que es ilegal”. Se buscarán medidas adecuadas para impedir que habitantes del Reino Unido vean contenido ilegal “prioritario”, incluyendo imágenes íntimas no consentidas y material de abuso sexual infantil (CSAM por sus siglas en inglés) entre otras medidas.
La ministra en tecnología, Liz Kendall, anunció que el gobierno Británico creará una nueva ley que haga ilegal el proporcionar herramientas que permitan crear deep fakes, siendo denominadas como “armas de abuso” por las autoridades británicas. En la página oficial del gobierno se puede leer lo siguiente al respecto: “Los depredadores que crean deep fakes sexualmente explícitos podrían enfrentar procesos judiciales, mientras el Gobierno intensifica su ofensiva contra el abuso en línea”.
Según reporta Reuters, el primer ministro britanico, Keir Starmer calificó las imágenes de Grok como “repugnantes” e “ilegales”, mencionando que la plataforma de Musk debía “poner orden” en la IA. El secretario de negocios al ser cuestionado si X podría ser prohibida, respondió: “Sí, por supuesto”, aunque aclaró que eso solo le compete a la Ofcom hacerlo.
“Solo quieren suprimir la libertad de expresión”, escribió Musk respecto a estas medidas que toma el gobierno británico. Kendall explicó que no está relacionado a este derecho. “Se trata de combatir la violencia contra las mujeres y las niñas”, dijo ante los legisladores. “Se trata de defender los valores británicos básicos de decencia y respeto y de garantizar que los estándares que esperamos fuera de línea se respeten también en línea, y de ejercer nuestro poder soberano”.
En este mes X actualizó sus políticas al respecto, mencionando que la red social informó que se tomarán las acciones necesarias para “las cuentas que violan nuestras reglas de X”, de igual forma se aseguró que se reportará ante las autoridades las cuentas que busquen contenido relacionado con explotación sexual infantil. También se mencionaron medidas que ayuden a prevenir que el chatbot no edite imágenes de personas reales.
Estas investigaciones y medidas que impone la UE se dan en un clima de creciente rivalidad con Estados Unidos sobre la soberanía digital que tiene este continente y su permisividad ante ciertas prácticas de las grandes empresas tecnológicas.
Previamente el New York Times publicó un artículo en el que explica cómo Estados Unidos le retiró la visa a cinco reguladores e investigadores por presuntamente incentivar una campaña de censura contra los estadounidenses. Esto se suma a una reciente multa que impuso la Comisión Europea a X de $140 millones por violar la Ley de Servicios Digitales al vender marcas de verificación que permiten a usuarios engañar sobre su identidad, prácticas publicitarias opacas y por negarse a facilitar el acceso a información a investigadores. Ante esto, la respuesta de Musk fue que la UE debería ser abolida y que la soberanía debía regresar de forma individual a sus países.
The post La Unión Europea investiga a Grok por su capacidad de sexualizar imágenes appeared first on Rolling Stone en Español.
Comment