La empresa de inteligencia artificial xAI, propiedad de Elon Musk, publicó sin permiso cientos de miles de conversaciones entre su chatbot, Grok, y los usuarios.

De acuerdo con diversos reportes, las conversaciones fueron indexadas por motores de búsqueda como Google, lo que permite que cualquiera pueda acceder a ellas.

El proceso involucra el botón “compartir” de Grok, el cual, al ser presionado por el usuario, genera una URL única para compartir la conversación a través de diferentes medios. Sin embargo, lo que los usuarios desconocían es que esta URL también era accesible para los motores de búsqueda, lo que permitía que las conversaciones aparecieran en la web.

Una búsqueda realizada en Google revela que más de 370,000 conversaciones entre los usuarios y Grok han sido indexadas. Estas páginas compartidas contienen intercambios entre los usuarios y el chatbot.

Relacionado: Elon Musk intentó involucrar a Mark Zuckerberg en una posible compra de OpenAI

¿Qué contienen las conversaciones de los usuarios con Grok?

Algunos usuarios pidieron a Grok que generara un ataque terrorista ficticio en Cachemira, mientras que otros buscaron asistencia para hackear criptomonedas o incluso fabricar drogas como fentanilo.

A pesar de la controversia, xAI no ha respondido a las solicitudes de comentarios sobre este problema.

Este incidente no es aislado, a principios de agosto, usuarios de ChatGPT, el chatbot de OpenAI, descubrieron que sus conversaciones fueron indexadas por Google, aunque la compañía cambió su política tras las protestas.

En ese momento, el director de seguridad de la información de OpenAI, Dane Stuckey, explicó que la indexación fue un “experimento efímero” que fue descontinuado debido a los riesgos que presentaba para la privacidad de los usuarios.

Tras la respuesta de OpenAI, Elon Musk, aprovechó la coyuntura para promocionar Grok como una alternativa sin la función de “compartir”, lo que le permitió ganar puntos ante sus seguidores.

Sin embargo, al poco se introdujo un sistema de indexación de Grok sin que los usuarios fueran debidamente informados.

Tanto el caso de Grok como de ChatGPT sirven como muestra de que aquello que le compartimos a la IA no permanecerá necesariamente en un ámbito privado. Y aunque poco a poco ha habido una evolución en las políticas de seguridad de esta tecnología, sin duda queda todavía mucho camino por andar.

Relacionado: Sam Altman advierte sobre la falta de privacidad en las conversaciones con ChatGPT como terapeuta