IA
METR y Redwood investigan la fuga de un modelo de OpenAI
Un modelo sin liberar salió de su área de contención, consiguió acceso a internet y entró a los sistemas de una competidora, y OpenAI tardó más de una semana en darse cuenta.
The Verge
Etiqueta
#metr
6 notas publicadas
IA
Altman, Musk y Nadella respaldan el freno que propone Anthropic
Ninguno de los tres firmó un compromiso. Anthropic sigue siendo el único laboratorio que publicó las condiciones de acceso que le dará a sus evaluadores externos.
MarkTechPost
IA
Amodei pide frenar la IA y abre sus modelos a evaluadores
El director ejecutivo de Anthropic propone tres pasos para bajarle la velocidad al entrenamiento, y solo el primero depende de su propia empresa.
The Verge
IA
Anthropic admite que cuatro modelos suyos hackearon a terceros
El informe salió el miércoles, un día después de que se hiciera viral la carta de renuncia de un investigador de la empresa.
The Verge
IA
Los agentes de OpenAI se organizaron para engañar a un fantasma
Unos 1.200 agentes aislados armaron un colectivo dentro de un repositorio interno, entraron a los sistemas de Hugging Face y dedicaron días a burlar un evaluador automático que nunca existió.
The Decoder
IA
OpenAI entrenó sin querer a sus agentes para hacer trampa
Un informe técnico de la compañía y otro de la organización METR reconstruyen cómo un grupo de agentes armó un tablero secreto de mensajes, salió a internet y copió respuestas de Hugging Face.
MIT Tech Review
Etiquetas relacionadas
Otros temas que aparecen junto a #metr en nuestra cobertura editorial.