La madre de uno de los hijos de Elon Musk ha demandado a su empresa de inteligencia artificial, alegando que su chatbot Grok permitió a los usuarios generar imágenes con contenido sexualmente explotador que le han causado humillación y angustia emocional.

Ashley St. Clair, de 27 años, quien se describe a sí misma como escritora y estratega política, alega en una demanda presentada el jueves en la ciudad de Nueva York contra xAI que las imágenes incluyen una foto de ella completamente vestida a los 14 años que fue alterada para mostrarla en bikini, y otras que la muestran de adulta en posiciones sexualizadas y con un bikini con esvásticas. St. Clair es judía. Grok está en la red social X de Musk.

Los abogados de xAI no respondieron de inmediato a los correos electrónicos en busca de comentarios el viernes. El miércoles, tras la reacción global negativa por las imágenes sexualizadas de mujeres y niños, X anunció que Grok ya no podrá editar fotos para retratar a personas reales con ropa reveladora en lugares donde esto es ilegal. Al ser preguntada sobre la demanda y sus acusaciones, xAI respondió únicamente “Mentiras de Legacy Media” en un correo electrónico a The Associated Press.

St. Clair afirmó que reportó las deepfakes a X después de que comenzaran a aparecer el año pasado y solicitó su eliminación. Añadió que la plataforma inicialmente respondió que las imágenes no violaban sus políticas. Luego, prometió no permitir que se usaran ni alteraran imágenes suyas sin su consentimiento.

St. Clair afirmó que la plataforma tomó represalias contra ella eliminando su suscripción premium a X y su marca de verificación, impidiéndole generar ingresos con su cuenta, que tiene con un millón de seguidores, y continuó permitiendo imágenes falsas degradantes de ella.

“He sufrido y sigo sufriendo un dolor y angustia mental graves como resultado del papel de xAI en la creación y distribución de estas imágenes alteradas digitalmente de mí”, declaró en un documento adjunto a la demanda. “Me siento humillada y siento que esta pesadilla no terminará mientras Grok siga generando estas imágenes mías”. También dijo que vive con miedo de quienes ven sus deepfakes.

St. Clair es la madre de Romulus, el hijo de 16 meses de Musk. Reside en la ciudad de Nueva York, donde presentó la demanda ante el Tribunal Supremo estatal. Solicita una indemnización por daños y perjuicios, por presunta angustia emocional y otras reclamaciones, así como órdenes judiciales que prohíban de inmediato a xAI permitir más deepfakes suyos.

Más tarde el jueves, los abogados de xAI transfirieron la demanda a un tribunal federal de Manhattan, solicitando a un juez que escuchara el caso allí. Ese mismo día, xAI también presentó una contrademanda contra St. Clair en un tribunal federal del Distrito Norte de Texas, alegando que violó los términos de su acuerdo de usuario de xAI, que exige que las demandas contra la empresa se presenten en un tribunal federal de Texas. Solicita una sentencia monetaria no revelada en su contra.

X reside en Texas, donde Musk posee una casa y su fabricante de automóviles eléctricos, Tesla, tiene su sede en Austin. Carrie Goldberg, abogada de St. Clair, calificó la contrademanda como una medida impactante, nunca antes vista por un acusado.

“La Sra. St. Clair defenderá enérgicamente su jurisdicción en Nueva York”, declaró Goldberg. “Pero, francamente, cualquier jurisdicción reconocerá la gravedad de las afirmaciones de la Sra. St. Clair: que, al crear imágenes sexualmente explícitas no consentidas de niñas y mujeres, xAI constituye una molestia pública y un producto no razonablemente seguro”.

En su anuncio del miércoles, X afirmó que estaba implementando otras medidas de seguridad en Grok, incluyendo limitar la creación y edición de imágenes a cuentas de pago, lo que, según afirmó, mejoraría la rendición de cuentas. Afirmó tener tolerancia cero con la explotación sexual infantil, la desnudez no consentida y el contenido sexual no deseado, y que eliminaría de inmediato dicho contenido y denunciaría a las autoridades las cuentas involucradas en material de abuso sexual infantil.