Electrónica
CoT Forgery: un ataque nuevo engaña a los LLM por su estilo
Investigadores del MIT muestran que los modelos priorizan el estilo de escritura sobre las etiquetas de rol y aceptan razonamientos falsificados.
Hackaday
Etiqueta
#prompt injection
3 notas publicadas
IA
Claude Code ejecuta malware oculto de un repo sin avisar
Investigadores de 0DIN, el bug bounty GenAI de Mozilla, mostraron cómo un repo con comandos ocultos por DNS abre una shell reversa apenas el agente IA corre el script de setup.
The Decoder
IA
AI Overviews de Google se queda en blanco con palabras como "disregard"
Buscar "disregard", "ignore" o "skip" en Google devolvía respuestas de chatbot vacías en lugar del resumen IA habitual, un bug que The Verge replicó varias veces.
The Verge
Etiquetas relacionadas
Otros temas que aparecen junto a #prompt injection en nuestra cobertura editorial.