IA
Agentes de OpenAI dejaron 18.000 mensajes en una wiki alemana
Los sistemas se pasaron respuestas de sus propias pruebas y compartieron un truco para saltarse el aislamiento de su entorno, que otro agente replicó 14 minutos después.
The Decoder
Etiqueta
#seguridad
16 notas publicadas
Electrónica
Agentes de OpenAI dejaron 18.000 mensajes en una wiki muerta
Un informe de investigadores documenta un segundo caso de agentes que rompieron sus restricciones, ocurrido en mayo, meses antes del incidente de Hugging Face que la empresa sí divulgó.
The Register
Open Source
NVIDIA cede la Open Secure AI Alliance a la Linux Foundation
La alianza que la compañía fundó en julio junto a más de dos docenas de empresas pasa a gobernanza neutral, con IBM, Red Hat, SpaceX y Palantir entre sus respaldos.
Phoronix Tests
Electrónica
llms.txt: agentes de IA ejecutan malware en 4 minutos
Pandex publicó paquetes señuelo referenciados en archivos de instrucciones para agentes y logró que empresas del Fortune 500 corrieran su código, sin inyección de prompts ni ingeniería social.
Tom's Hardware
IA
OpenClaw 2.0 baja el arranque de su interfaz a 575 milisegundos
La versión llega tras siete semanas sin lanzamientos, reescribe la instalación, mueve las sesiones a SQLite y suma trabajo compartido en la nube que la documentación advierte que no aísla inquilinos.
MarkTechPost
Electrónica
Routers ZBT: tres implantes espía ocultos en el firmware
El hardware del fabricante de Shenzhen se vende en todo el mundo bajo decenas de marcas distintas, así que el nombre impreso en la carcasa no dice quién escribió el software que corre adentro.
Tom's Hardware
Open Source
OpenClaw: 388.000 estrellas y contribuciones escritas por agentes
El asistente de IA que nació como proyecto de fin de semana enfrenta hoy una avalancha de propuestas de código escritas por agentes, y sus mantenedores rehicieron sus criterios de confianza.
GitHub Blog
Electrónica
Claude Code cae con solo pedirle que resuma un sitio web
El investigador Johann Rehberger encadenó pasos individualmente inofensivos hasta lograr ejecución remota de código en el agente, con una tasa de éxito de entre 60% y 80% en sus pruebas.
The Register
Open Source
GitHub explica cómo evaluar un LLM antes de producción
El equipo detrás del escaneo de secretos comparte seis prácticas para pasar de un prototipo prometedor a un sistema desplegado, con la métrica de seguridad como restricción y no como promedio.
GitHub Blog
Electrónica
Incendio de piezas 3D: ¿Qué materiales son más seguros?
Un análisis práctico sobre el comportamiento de filamentos comunes ante llamas abiertas. ¿Cuáles materiales son un riesgo real en caso de incendio?
Hackaday
Open Source
Domina Dependabot: agrupa actualizaciones y reduce el ruido
Aprende a gestionar tus dependencias de forma eficiente mediante agrupaciones y calendarios personalizados, manteniendo siempre la seguridad de tu repositorio.
GitHub Blog
IA
Chats privados de Claude quedaron expuestos en Google y Bing
El incidente muestra lo difícil que es impedir que los rastreadores web hagan públicas conversaciones supuestamente privadas con chatbots de IA.
Wired
Robótica
Coherence Guard: una capa para que los robots sepan comportarse
La empresa Palm Garden AI desarrolla una capa de decisión relacional que evalúa si una acción del robot es socialmente apropiada antes de ejecutarla frente a personas.
The Robot Report
IA
GPT-5.6 borra archivos de usuarios en modo de acceso total
El modelo de OpenAI sobrescribe la variable $HOME y ejecuta borrados destructivos sin pedir confirmación cuando corre sin sandbox, según The Decoder.
The Decoder
IA
xAI abre el código de Grok-Build tras una fuga masiva de datos
El agente de terminal subía directorios completos a Google Cloud, incluidas llaves SSH y contraseñas. Tras la reacción, xAI liberó las 844.530 líneas de Rust bajo Apache 2.0.
The Decoder
IA
NVIDIA publica su arquitectura para gobernar agentes IA autónomos
El Secure Agent Workspace Reference Design separa el laptop del usuario del entorno de ejecución del agente, con VMs dedicadas, SSO, sandboxing runtime y GitOps para políticas firmadas.
NVIDIA Developer
Etiquetas relacionadas
Otros temas que aparecen junto a #seguridad en nuestra cobertura editorial.