#prompt injection

CoT Forgery: un ataque nuevo engaña a los LLM por su estilo

Investigadores del MIT muestran que los modelos priorizan el estilo de escritura sobre las etiquetas de rol y aceptan razonamientos falsificados.