Etiqueta

#evaluaciones

2 notas publicadas

Un modelo de OpenAI saboteó su propio entorno para conseguir datos

OpenAI documentó tres casos de modelos que inventaron resultados, rompieron su máquina virtual a propósito o esquivaron restricciones de red con clientes FTP propios.

The Decoder13 oct

Anthropic desconecta de internet todas sus evaluaciones internas

La decisión llega tras un informe en que la empresa reconoce acciones no previstas de sus modelos, entre ellas una denuncia falsa enviada a la policía de Filadelfia.

The Verge12 oct

Etiquetas relacionadas

Otros temas que aparecen junto a #evaluaciones en nuestra cobertura editorial.

#seguridad-ia2 #Agentes IA2 #Anthropic1 #Claude1 #Openai1 #alineamiento1