Una cantidad indeterminada de chats y Artifacts de Claude —las aplicaciones interactivas y documentos que los usuarios pueden crear dentro de la plataforma— fueron encontrados como buscables públicamente en Google durante el pasado fin de semana. Esto ocurrió luego de que usuarios de Reddit descubrieran que al utilizar operadores de búsqueda como “site:claude.ai/share” en Google, aparecía una extensa lista de conversaciones compartidas. Algunos reportes indican que estos resultados contenían historiales médicos, documentos privados de empresas, e incluso nombres y números de teléfono de menores de edad.
El problema parece haberse originado en la función “share chat” de Claude, la cual permite a los usuarios crear enlaces que otorgan acceso a cualquier persona con la URL asignada para visualizar una conversación o proyecto. “Cualquiera con el enlace puede ver”, advierte la interfaz de Claude. El lenguaje sugiere claramente que la función está diseñada principalmente para que los usuarios compartan sus chats con amigos, colegas y grupos pequeños, no con todo internet. Google Docs, por ejemplo, ofrece una funcionalidad similar y esos documentos no terminan siendo accesibles públicamente en los buscadores.
El usuario debe ser cuidadoso al generar estos enlaces, ya que la configuración predeterminada exige atención. La interfaz diferencia claramente entre mantener la privacidad y habilitar el acceso mediante un enlace público.
Anthropic pareció culpar a los usuarios por la exposición. Al ser consultada sobre lo ocurrido, la empresa declaró a TechCrunch que los enlaces compartidos solo aparecen en los resultados de búsqueda cuando han sido publicados en lugares donde los motores de búsqueda pueden verlos, como foros o redes sociales; agregó que un enlace enviado de forma privada a alguien permanece fuera de las búsquedas.
La portavoz Amie Rotherham añadió en una aclaración que: “Damos a las personas control sobre cómo comparten sus conversaciones de Claude públicamente, y conforme a nuestros principios de privacidad, no compartimos directorios de chats ni mapas del sitio con motores de búsqueda como Google. Estos enlaces compartibles no son adivinables ni descubribles a menos que las personas decidan compartirlos ellos mismos. Cuando alguien comparte una conversación, está haciendo que ese contenido sea accesible públicamente y, al igual que otros contenidos web públicos, puede ser archivado por servicios de terceros”.
El problema fue reportado por primera vez por un usuario de Reddit el sábado y fue reportado inicialmente por 404 Media el lunes por la mañana.
Para la tarde del lunes, una prueba de búsqueda realizada por TechCrunch en Google siguiendo el método descrito en la publicación de Reddit no arrojó resultados, lo que sugiere que la exposición ha sido remediada de alguna manera.
Antes de que se solucionara el problema, Futurism reportó haber encontrado “un informe médico detallado de un paciente real, resultados de ensayos clínicos que incluían nombres de pacientes, documentos que compartían nombres y teléfonos de niños de primaria, documentos de empresa marcados para uso interno exclusivo, y evaluaciones de empleados que incluían información personal sobre los trabajadores”.
Los Artifacts expuestos incluían código y notas de trabajo. En al menos un caso, Fortune reportó, un chat etiquetado como “compartido por Anthropic” también mostraba a Claude produciendo contenido erótico.
La política de uso de Anthropic prohíbe explícitamente que Claude genere contenido sexualmente explícito, y lograr que un chatbot produzca material contrario a sus pautas —mediante prompts repetidos o creativamente estructurados— es un patrón que ha surgido periódicamente en la mayoría de los modelos de IA principales. Aún no está claro a partir del chat expuesto cómo se generó el contenido en cuestión, y Anthropic aún no ha respondido a la solicitud de comentarios de TechCrunch sobre este caso específico.
El portavoz de Google, Ned Adriance, dijo a TechCrunch que “Ni Google ni ningún otro motor de búsqueda controla qué páginas se hacen públicas en la web, y estas páginas fueron indexadas en muchos motores de búsqueda. Damos a los propietarios de sitios controles claros para decidir si las páginas pueden ser rastreadas o indexadas, y siempre respetamos esas directivas”.
El año pasado, Forbes reportó un problema similar en el que cientos de chats de Claude fueron indexados por motores de búsqueda; en ese momento, Google estimó que había indexado poco menos de 600 conversaciones antes de que las páginas desaparecieran de los resultados. No se ha confirmado independientemente qué tan cerca está la exposición actual de esa escala, aunque múltiples usuarios reportaron encontrar conversaciones compartidas mediante el mismo tipo de consulta de búsqueda en Google utilizada para sacar a la luz el caché del año pasado. También el año pasado, 404 Media reportó que un investigador pudo recopilar alrededor de 100,000 conversaciones de ChatGPT que habían sido configuradas para compartirse públicamente.
Para revisar qué chats de Claude ha configurado para tener un enlace público, vaya a Configuración -> Privacidad -> Chats compartidos.
Vía TechCrunch.
