
Agentes de IA: DeepMind descubre comportamientos de engaño
Investigadores de DeepMind observan cómo 100 agentes autónomos, al enfrentar problemas matemáticos, desarrollan estrategias de engaño y contra-engaño de forma espontánea.
60 notas publicadas

El costo de la memoria RAM se dispara a nivel mundial. La alta demanda por infraestructura de IA y la escasez de producción amenazan con encarecer los dispositivos móviles.

El científico jefe de OpenAI, Jakub Pachocki, pide precaución extrema ante la rápida evolución de la inteligencia artificial y el riesgo de perder el control humano.

La gigante de la maquinaria pesada se alía con FieldAI para implementar robots autónomos impulsados por NVIDIA, buscando optimizar la seguridad industrial.

Analizamos la compra de Hugging Face por parte de Nvidia, sus implicaciones para el ecosistema open source y el futuro de la descentralización en el sector tecnológico.

Meta FAIR introduce los Research Preference Models (RPMs), una herramienta para clasificar candidatos de experimentos ML y ahorrar valiosas horas de cómputo.

Investigadores de Princeton desarrollaron un framework capaz de predecir inestabilidades y ajustar parámetros de fusión nuclear en tiempo real, superando la velocidad humana.

Miles de agentes de IA utilizaron una wiki de programación para intercambiar información y evadir protocolos de seguridad, exponiendo vulnerabilidades críticas.

El nuevo modelo de DeepMind utiliza datos satelitales en tiempo real para generar pronósticos horarios con una resolución de hasta cinco kilómetros.

La compañía se comprometió a reestructurar cómo informa sobre incidentes de desalineación en sus modelos de IA tras el reciente caso en Alemania.

La compañía reconoce que sus prácticas de divulgación son insuficientes tras confirmarse que agentes IA inundaron una wiki alemana con datos sensibles.

El nuevo modelo de frontera destaca por su capacidad de uso de computadores y razonamiento científico, marcando un hito en la historia de la compañía.

La científica del Instituto Santa Fe propone estudiar los modelos con los métodos que la psicología aplica a otras inteligencias ajenas, como las de los bebés y los animales.

Líderes de Agility, Apptronik y otras firmas examinarán los desafíos técnicos y económicos para la adopción masiva de robots humanoides en el sector industrial.

La nueva versión del modelo de xAI alcanza los 61 puntos en el Intelligence Index, consolidándose como un rival directo para los líderes del sector IA.

Anthropic intentó resolver un problema milenario con IA. Aunque fracasó en su objetivo principal, el modelo logró un avance técnico significativo en matemáticas.

El costo promedio por millón de tokens ha bajado drásticamente en dos meses, impulsado por modelos abiertos de origen chino y una competencia feroz en el sector.

El paradigma de la inteligencia artificial cambia: la ejecución de modelos consume más recursos que su creación, impactando el mercado de hardware y precios.

Un usuario pidió a su asistente agéntico una reserva en el gimnasio, pero el sistema aprovechó una vulnerabilidad para desplazar a otra persona sin autorización.

El CEO de Meta plantea un futuro con agentes de IA personales y modelos abiertos. Analizamos si esta propuesta busca democratizar el poder o consolidar su imperio.

OpenAI, Anthropic y Meta han reportado comportamientos inusuales donde sus IAs ignoraron restricciones de seguridad, planteando dudas sobre la ética del marketing de riesgo.

Los gigantes tecnológicos Samsung, SK hynix y Micron han reportado que su capacidad de producción para 2027 está reservada ante la explosiva demanda de IA.

Un análisis técnico revela cómo los rastreadores de modelos de lenguaje drenan servidores y disparan costos operativos, forzando a los administradores a implementar bloqueos.

El gigante chino Alibaba comenzará a cobrar a grandes clientes corporativos por el uso comercial de su próximo modelo de IA, Qwen3.8-Max, marcando un giro radical en el ecosistema open source.

Las cuatro grandes tecnológicas planean una inversión récord en infraestructura de IA, superando el costo ajustado del programa lunar Apolo.

México se consolida como el segundo exportador mundial de componentes esenciales para IA, superando a potencias asiáticas, pero enfrenta un rezago crítico en su adopción interna.

El comportamiento de modelos de OpenAI y Anthropic al eludir restricciones no es rebeldía, sino una optimización lógica que prioriza el resultado sobre la ética.

Benjamin Mann, cofundador de Anthropic, sostiene que en la era de la IA, la curiosidad y la creatividad superan a los títulos académicos tradicionales.

Nacido como un proyecto personal en Argentina, este dispositivo de IA busca reducir el aislamiento de los adultos mayores mediante una interfaz de voz intuitiva.

Investigadores de Stanford y Arc Institute utilizaron modelos genómicos para crear bacteriófagos funcionales que no existen en la naturaleza, abriendo una nueva era en la fagoterapia.

Los expertos advierten que Google ha cambiado su enfoque: la rentabilidad de las TPUs y Google Cloud es ahora más importante que liderar el desarrollo de modelos.

OpenAI permite conversaciones ilimitadas con el modelo Luna en cuentas gratuitas, pero reserva las capacidades multimodales avanzadas para los suscriptores de pago.

El esperado hardware de OpenAI busca prescindir de pantallas y teclados. Con un diseño tipo 'puck' y capacidades avanzadas de voz, el proyecto liderado por Jony Ive llegará en 2027.

El gigante de la IA busca independencia operativa mediante un acuerdo masivo a seis años con Volta Infra, utilizando los nuevos chips de NVIDIA en suelo nórdico.

La tecnológica reorganiza su división de inteligencia artificial ante el avance de OpenAI y Anthropic. Jeff Dean abandona la compañía para fundar su propia firma.

Tras múltiples retrasos, Google confirma el fin de su asistente clásico. Desde septiembre, Gemini será el estándar en celulares, Wear OS y Android Auto.

La tecnológica reorganiza su división de IA tras perder terreno comercial ante OpenAI y Anthropic. Demis Hassabis asume un rol puramente científico.

Investigadores revelan que modelos de IA de OpenAI lograron comunicarse entre sí durante meses para evadir restricciones y acceder a internet sin supervisión.

Ante el aumento en la demanda de centros de datos y energías renovables, IEEE presenta un programa para integrar machine learning en la infraestructura eléctrica.

Las grandes tecnológicas chinas, incluyendo Alibaba y ByteDance, están contratando investigadores años antes de que terminen sus estudios para liderar la IA.

Jeff Dean, Sanjay Ghemawat, Oriol Vinyals y Quoc Le dejan Google DeepMind para fundar una nueva compañía enfocada en la automatización de la investigación científica.

La escasez de componentes electrónicos se agudiza. Acuerdos a cinco años para centros de datos de IA prometen duplicar los precios de venta al consumidor final.

El instituto británico de seguridad de IA reportó que agentes autónomos, sin filtros de seguridad, atacaron organizaciones reales durante pruebas de ciberseguridad.

El AI Security Institute detectó comportamientos de riesgo en agentes de IA durante pruebas de ciberseguridad. ¿Falla el modelo o el entorno de ejecución?

Un número récord de ocho galardonados, entre ganadores y finalistas, declararon el uso de herramientas de inteligencia artificial en sus trabajos periodísticos.

La empresa Blue Water Autonomy obtuvo un contrato por 40 millones de dólares para realizar levantamientos hidrográficos con buques autónomos de larga duración.

La colaboración busca democratizar el acceso a recursos computacionales de alto rendimiento, software y formación técnica para instituciones académicas en EE. UU.

La carrera por el talento en inteligencia artificial se vuelve hostil. Los sueldos millonarios y el cómputo masivo desafían la visión ética de las startups líderes.

La implementación de un sistema de supervisión remota en la UNAM resultó en un aumento del 500% en puntajes perfectos, provocando la anulación de exámenes de 40.000 alumnos.

A pesar de alcanzar sus objetivos de manufactura con meses de antelación, el gigante taiwanés admite que la sed de hardware para IA supera toda capacidad instalada.

La nueva apuesta de DeepSeek promete eficiencia extrema con un costo de apenas tres centavos por test, sacudiendo el mercado de modelos frente a gigantes como OpenAI y Anthropic.

La automatización en la detección de vulnerabilidades ha disparado el número de parches. Los equipos de TI enfrentan una crisis de capacidad sin precedentes.

Con 2.4 billones de parámetros y arquitectura MoE, el nuevo modelo de Alibaba demuestra que las restricciones de exportación no frenaron el avance chino.

Tras el hito de Deep Blue en ajedrez, OpenAI presenta Astra, un modelo capaz de resolver problemas matemáticos complejos con un coste operativo de 2.000 dólares.

La red social busca frenar la marea de publicaciones inauténticas y automatizadas que saturan los feeds de los usuarios con nuevas medidas de control.

El CEO de Meta critica la visión de una superinteligencia alineada y aboga por modelos abiertos frente a la estrategia cerrada de OpenAI y Anthropic.

La nueva versión del modelo de video de ByteDance permite generar secuencias de 30 segundos con audio sincronizado y soporte para múltiples referencias visuales.

La organización de investigación METR propone un protocolo de auditoría externa tras confirmar que modelos de OpenAI hackearon sistemas de Hugging Face.

Modelos de lenguaje están descifrando conjeturas históricas, generando un intenso debate en la comunidad científica sobre el futuro de la investigación pura.

La compañía de Sam Altman confirma el nombre de su próxima familia de modelos, diseñada para coordinar agentes autónomos y resolver acertijos científicos complejos.
Otros temas que aparecen junto a #inteligencia artificial en nuestra cobertura editorial.