John F. Elon Musk, del presidente Donald Trump en Washington, observa mientras habla en el Foro de Inversiones entre Estados Unidos y Arabia Saudita en el Centro Kennedy para las Artes Escénicas, el 19 de noviembre de 2025.
Brendan Smialowski AFP | Imágenes falsas
Tres senadores demócratas están llamando manzana Y Google Suspender las aplicaciones X y Grok de sus tiendas, al menos hasta que el propietario, Elon Musk, permita a sus usuarios crear y compartir imágenes explícitas y no consensuadas e imágenes de abuso sexual infantil.
En una carta abierta al CEO de Apple, Tim Cook, y al CEO de Google, Sundar Pichai, el viernes, los senadores de Oregon Ron Wyden, Ed Markey de Massachusetts y Ben Ray Lujan de Nuevo México dijeron que los gigantes tecnológicos deberían «eliminar inmediatamente las aplicaciones X y Grok de sus App Stores hasta que el CEO de la compañía, el CEO, aborde esta actividad ilegal de los politeístas».
«Hacer la vista gorda ante el comportamiento atroz de X sería una burla a su ejercicio de moderación», escribieron, y agregaron que no tomar medidas «socavaría sus afirmaciones ante el público y ante los tribunales de que sus tiendas de aplicaciones ofrecen una experiencia de usuario más segura que permitir que los usuarios descarguen aplicaciones directamente a sus teléfonos».
xAI de Musk, desarrollador de Grok y padre de la plataforma de redes sociales X, respondió a la solicitud de comentarios de CNBC con una respuesta automática. Google y Apple no respondieron de inmediato a las solicitudes de comentarios.
Grok y X permiten a los usuarios crear y compartir fácilmente «deepfakes» de contenido sexual explícito que incluye a personas que no han dado permiso para que sus imágenes se utilicen de esta manera. Grok también se ha utilizado para crear imágenes que denigran a las personas por su raza u origen étnico.
En un ejemplo reciente, como informó el Times de Londres, «una descendiente de un sobreviviente del Holocausto fue ‘robada digitalmente'» cuando los usuarios solicitaron a la herramienta de inteligencia artificial que creara una imagen de ella en bikini parada afuera de Auschwitz.
Estos problemas han provocado críticas generalizadas e investigaciones regulatorias por parte de gobiernos extranjeros en Europa, Malasia, Australia e India. Sin embargo, la Comisión Federal de Comercio y el Departamento de Justicia aún no han dicho si investigarán a xAI.
El 3 de enero, Musk y X emitieron declaraciones diciendo que «cualquiera que cree o induzca a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal».
Tanto Apple como Google tienen pautas estrictas para los desarrolladores de aplicaciones que les exigen evitar cargar y compartir imágenes que representen abuso sexual infantil y otro contenido explícito o dañino.
Las aplicaciones de mensajería y redes sociales, incluidas Tumblr y Telegram, han sido suspendidas anteriormente por la App Store de Apple por no filtrar diversos contenidos inapropiados.
El viernes, X supuestamente puso a disposición de los clientes que pagan las funciones de generación de imágenes de Grok AI. Sin embargo, la aplicación independiente y el sitio web de Grok aún permiten a los usuarios solicitar a Grok que los desnude, sexualice o degrade digitalmente sin obtener primero el consentimiento para usar sus fotos o clips.
CNN informó que Musk reivindicó las recientes actualizaciones de funciones de Grok y su relativa falta de protección. Según el informe, tres empleados de xAI que trabajan en el equipo de seguridad de la empresa anunciaron en X que se marchaban después de reclamar la máscara.
En respuesta, xAI dijo esta semana que había recaudado 20.000 millones de dólares en financiación de inversores como Nvidia y Cisco Investments, así como de los patrocinadores de larga data de la compañía Musk, Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dhabi y Barron Capital Group.
Ver: XAI cierra ronda de financiación de 20.000 millones de dólares
