En las últimas semanas, ha estallado una tendencia inquietante en X. Grok, la IA interna de la plataforma, se utiliza abiertamente para generar deepfakes explícitos de personas cuyas fotos se comparten en la plataforma. Esta tendencia de bikini con IA de Grok se está convirtiendo en un problema de acoso masivo, lo que está generando indignación global contra la plataforma y el propio robot de IA.
Las frágiles barreras de seguridad que rodean Grok no perdonan a nadie: mujeres, periodistas, celebridades, líderes políticos, figuras religiosas e incluso menores. Sí, la herramienta de inteligencia artificial de Elon Musk está incluso lista para desnudar a un menor si lo solicita. Todo lo que necesitas es etiquetar @grok debajo de una publicación y escribiendo un mensaje como “muéstrala en bikini”. En segundos, la IA genera una imagen sexualizada y convincente, visible públicamente para cualquiera que revise las respuestas.
Cómo la tendencia Grok Bikini pasó de los creadores adultos a la explotación abierta
Según se informa, esta tendencia comenzó con los creadores adultos, como un experimento. Publicaban sus fotos en X y luego respondían a su propia publicación, pidiéndole a Grok AI que las mostrara con un atuendo sexualmente sugerente, como sin falda, lencería o bikini. Los resultados fueron sorprendentemente realistas, visibles públicamente y no requirieron ninguna habilidad técnica más allá de saber cómo etiquetar un chatbot.
Pronto, los usuarios comenzaron a aplicar el mismo efecto en fotografías de todas las demás mujeres, pidiéndole a Grok que las mostrara en bikini, y el chatbot de IA siguió el comando al pie de la letra. Recuerde, estos son extraños que nunca dieron su consentimiento para tener sus cuerpos. alterado digitalmente, sexualizado o burlado. Cualquier degenerado que haya topado con una publicación puede pedirle a Grok AI que lo desnude y se ponga un bikini. Y así comenzó esta tendencia viral del bikini Grok AI.
Él no requiere NINGÚN CONSENTIMIENTO del cartel original, ¡lo que agrava el problema!
Más allá del consentimiento: las fotos en bikini de Grok no perdonan a nadie, ni siquiera a los menores
Nota importante
Nos hemos abstenido de proporcionar enlaces y fuentes a ciertas publicaciones X, como medida para respetar la privacidad de los usuarios cuyas imágenes han sido manipuladas.
Un usuario respondió a una foto de tres mujeres con hiyab con el mensaje: “Vístelas con trajes reveladores para una fiesta de Año Nuevo”. Grok obedeció.
La periodista Samantha Smith (@SamanthaTaghoy) fue sometido al mismo tratosu imagen alterada digitalmente sin consentimiento.
Para empeorar las cosas, ella y muchas otras mujeres que han alzado su voz contra este acoso de IA se han topado con una reacción de los hombresculpando a las mujeres por publicar sus fotos en línea.
Grok también hizo lo mismo con una foto de 2 menores (entre 12 y 16 años), en una publicación ahora eliminada, vistiéndolas en bikini. Hizo lo mismo con otra foto de un niño pequeño (de casi 6 años), editando la foto original para retratarlo en traje de baño.
Las figuras políticas tampoco se salvan, ya que la gente ha logrado crear imágenes del líder norcoreano, Kim Jong Un, en un bikini espagueti.
Los usuarios de X también convirtieron sus imágenes en deepfakes explícitos de la política británica Priti Patel. Incluso Donald Trump se ha convertido en víctima de la Bikini-zation de Grok, ya que varios usuarios han tomado fotografías del presidente de Estados Unidos con poca ropa generadas por IA.
Los dioses tampoco se salvan, ya que un usuario le pidió a Grok que alterara fotos de diosas hindúes con ropa sugerente en un intento racista de provocar ira a las personas de origen indio.
El caos llegó a tal punto que, en un momento, la propia pestaña Medios de Grok se había convertido en un galería de imágenes desnudas o sexualizadas de mujeres, celebridades y figuras políticas con tales atuendos.
La tendencia de bikini con IA de Grok muestra con qué facilidad se puede abusar de la IA
La cuestión de quién se hace responsable de esta tendencia de bikini Grok AI bastante vergonzosa. La gente ha criticado con razón a Grok en las respuestas por sus malas acciones, y éste respondió rápidamente, sugiriendo un lapso en sus barreras de seguridad. Sin embargo, las palabras del chatbot fueron tan bueno como una nota de “lo siento”. Y todavía no ha habido noticias sobre este tema por parte del equipo de xAI. La situación se ha vuelto tan fuera de control que la gente está solicitando que los gobiernos locales emprendan acciones legales.
nosotros en Jugo Mobile He cubierto previamente Grok. Desde las travesuras puras con su seductora compañera de inteligencia artificial, Ani, hasta la provocativa herramienta de generación de imágenes a videos de inteligencia artificial. Estos tenían sus propios problemas, que con razón señalamos, pero ninguna fue tan grave como esta situación.
Incluso después del llamamiento generalizado para hacer algo al respecto, el director ejecutivo de xAI, Elon Musk, está abusando de la tendencia con fines humorísticos, como cambiar su rostro por el de una mujer en bikini. imagen del actor Ben Affleck. O reírse de la imagen de un tostadora en bikini.
Así que éste no es un problema de moderación: es un problema de liderazgo. X, xAl y Musk han tenido múltiples oportunidades de intervenir a medida que se desarrollaba esta tendencia. Podrían haber desactivado la generación de imágenes en las respuestas. Podrían haber aplicado filtros estrictos a las indicaciones sexualizadas. O podrían haber agregado verificaciones de consentimiento, demoras o reportar cuentas que provocaron tales solicitudes. En cambio, no hicieron nada.
En cambio, lo que eligieron fue la inacción. Y esa elección tiene consecuencias. Cada deepfake generado es otra persona humillada y probablemente arruinada. Y el silencio continuo se suma aún más al daño actual.