Dar instrucciones a una IA a veces se parece a hablar con un niño pequeño. Uno escribe un prompt detallado con lo que quiere y la IA hace algo relacionado, pero no lo que uno pedía. Investigadores del Korea Advanced Institute of Science and Technology (KAIST), junto a Microsoft Research Asia, crearon un sistema que detecta ese "eso no es lo que quise decir" directamente en las ondas cerebrales, según informó New Atlas el 4 de octubre. La idea es que una IA se dé cuenta de que entendió mal y se corrija en tiempo real.

La técnica de interfaz cerebro-computador se llama Neural Value Alignment (NVA). Usa electroencefalografía (EEG) para detectar las distintas respuestas cerebrales que se producen cuando una persona ve que una IA persigue el objetivo equivocado o toma una acción inesperada. Esas señales sirven después como retroalimentación para que la IA entienda qué hizo mal y ajuste su conducta.

El problema de adivinar la intención

Para que personas e IA trabajen juntas sin roces, la IA necesita entender qué quiere lograr la persona. Los sistemas actuales lo infieren sobre todo de lo que pueden observar, como prompts, voz, acciones y gestos. El problema es que la conducta humana puede ser ambigua incluso para otras personas, y más para un algoritmo.

Como explican los investigadores, una misma acción puede servir a objetivos muy distintos, y un mismo objetivo se puede alcanzar con acciones diferentes. Si alguien toma una taza, puede querer beber de ella, lavarla, moverla o pasársela a otra persona. Y si lo único que quiere es calmar la sed, puede tomar la taza, agarrar una botella de agua o pedirle a alguien que le traiga algo para beber. El equipo llama a esto ambigüedad entre objetivo y acción, en la que mirar la acción no revela por sí solo el objetivo real ni la forma preferida de alcanzarlo.

¿Qué señales lee el sistema?

La solución de los investigadores fue dejar de depender solo de lo que la persona pedía con sus acciones o sus instrucciones, y recibir la confirmación del propio cerebro. El cerebro predice todo el tiempo qué debería pasar a continuación, y cuando el resultado no coincide con esa predicción aparecen respuestas neuronales características. El equipo se concentró en dos de ellas, el error de predicción de recompensa (RPE) y el error de predicción de estado (SPE).

El error de predicción de recompensa refleja una diferencia en el resultado o en el objetivo. En el sistema NVA puede indicar que la IA no entendió qué quería la persona en el fondo. Por ejemplo, alguien le dice a un robot doméstico "tráeme algo para tomar". Quiere agua, pero el robot le trae café. El objetivo está mal, así que el cerebro genera un error de predicción de recompensa.

El error de predicción de estado es distinto. Refleja una transición inesperada, en la que el objetivo puede estar bien pero la acción, el paso intermedio o el método de la IA no son los que la persona esperaba. En la práctica, un SPE le dice al sistema "sí, ahí quería que fueras, pero no así".

Siguiendo el ejemplo, la persona quiere agua y el robot lo entiende. Pero en vez de tomar la botella que está al lado, va a la cocina y llena un vaso en la llave. La persona recibe agua, así que el objetivo es correcto, pero la secuencia de acciones no es la que esperaba. Eso puede generar un error de predicción de estado.

Cómo se convierte la señal en una corrección

Los investigadores hicieron experimentos que produjeron patrones de ondas cerebrales distintos según hubiera un error de predicción de recompensa, uno de estado o los dos a la vez. Después aplicaron aprendizaje profundo a esas señales de EEG para que el sistema clasificara cómo reaccionaba la persona ante la conducta de la IA. Así la IA puede detectar y distinguir si se equivocó de objetivo o de método sin que la persona diga nada.

El equipo implementó el sistema con un "algoritmo de sinergia humano-IA basado en Neural Value Alignment", que usa las señales neuronales decodificadas como retroalimentación para las decisiones de la IA. Además de detectar que algo anda mal y qué es, el sistema puede cambiar su curso de acción en tiempo real según la señal que detecte.

Los autores apuntan a usos donde personas y máquinas controladas por IA trabajan muy cerca. Un robot doméstico, por ejemplo, podría notar en la respuesta neuronal de su usuario que entendió mal una instrucción y cambiar de rumbo sin esperar una corrección verbal. Mencionan también robots industriales, vehículos autónomos que respondan al criterio del conductor, robots médicos o de rehabilitación para personas con dificultades para hablar o moverse, y sistemas educativos que se adapten al estado cognitivo del estudiante.

"Esta investigación es significativa porque muestra que la IA puede ir más allá de inferir la intención humana solo a partir de resultados conductuales visibles y, en cambio, usar directamente las señales cognitivas que genera el cerebro durante la colaboración con la IA", dijo el profesor Sang Wan Lee, quien lideró el estudio.

¿Qué falta para usarlo fuera del laboratorio?

El sistema se demostró en simulaciones. No hubo una prueba real completa con un robot operando libre por una casa, leyendo el EEG de alguien de forma continua y corrigiendo su conducta.

El EEG además requiere electrodos para medir las pequeñas señales eléctricas del cerebro, y esas señales pueden ser ruidosas y bastante más difíciles de captar fuera de un experimento controlado. Falta establecer con qué confiabilidad funciona NVA en interacciones naturales, con personas que se mueven y con situaciones mucho más desordenadas que las tareas de laboratorio.

La investigación se publicó en la revista IEEE Transactions on Cybernetics.

Fuente: KAIST