¿Cómo funciona la actualización de IA mediante luz?
Sobre un banco de laboratorio, el investigador postdoctoral de Cornell Tech, Yifan He, posiciona el lente de un receptor óptico a casi un metro de distancia de un LED que emite un haz de luz roja. El monitor del computador conectado al receptor tarda un instante en refrescarse y luego muestra una matriz de cuadrados que recuerda a un código QR.
Cuando apuntas la cámara de tu celular hacia un código QR, la luz golpea el sensor de imagen solo como un primer paso para revelar los datos ocultos tras la matriz de blanco y negro. El receptor aquí hace algo distinto: altera directamente su propia memoria utilizando las fotocorrientes producidas por el haz de luz. Y a diferencia de los datos detrás de un código QR, que podrían apuntar a una simple dirección web, este código óptico podría transmitir los parámetros de un modelo de IA.
El nuevo diseño de receptor, presentado el mes pasado en el IEEE/JSAP Symposium on VLSI Technology & Circuits, busca reducir la carga de las crecientes demandas de memoria en los sistemas de IA. Proyectar datos sobre los procesadores podría disminuir la energía requerida típicamente para centros de datos, vehículos autónomos e incluso aplicaciones de "edge computing" como robots potenciados por IA, según señalan los investigadores.
"La gente está diseñando todo tipo de chips de IA distintos", comenta Jae-sun Seo, profesor asociado de ingeniería eléctrica e informática en Cornell Tech, en Nueva York. Estos procesadores a menudo no tienen espacio para todos los parámetros que componen los modelos de IA, por lo que los datos adicionales se almacenan en memoria de acceso aleatorio dinámica (DRAM). Las conexiones eléctricas utilizadas comúnmente para mover datos entre la DRAM y el procesador generan preocupaciones de costo y eficiencia a medida que los sistemas escalan. "Ese es uno de los principales cuellos de botella".
Los enlaces ópticos mueven datos con un gran ancho de banda y menor pérdida de energía que los cables metálicos, pero los receptores ópticos actuales socavan esa ventaja al depender de circuitos analógicos hambrientos de energía para convertir la luz en bits electrónicos. La nueva tecnología del grupo recibiría en su lugar destellos rápidos de matrices digitales similares a códigos QR, permitiendo que los chips ajusten los parámetros del modelo sin esos circuitos analógicos, habilitando una comunicación óptica totalmente digital que consumiría menos energía.
"Este es un problema realmente importante", afirma Dennis Sylvester, miembro de IEEE y jefe del departamento de ingeniería eléctrica e informática de la Universidad de Michigan, quien no participó en el trabajo. "Tiene implicaciones comerciales masivas. Esta solución es una forma inteligente de abordarlo".
¿Cómo logra la luz modificar la memoria para potenciar la IA?
Los procesadores poseen una pequeña cantidad de memoria estática de acceso aleatorio (SRAM) integrada, pero no la suficiente para permitir que un modelo de IA funcione de forma independiente. Aunque la SRAM es la más rápida de las dos opciones de memoria, la DRAM puede almacenar más datos en la misma superficie física.
En el nuevo sistema, la DRAM se ubica junto al transmisor y el receptor es parte de la SRAM del procesador. El transmisor emite los datos hacia la matriz de celdas SRAM, las cuales en este caso han sido modificadas para contener fotodiodos. La luz que golpea cada fotodiodo crea una corriente necesaria para cambiar los valores binarios en la SRAM.
Establecer un enlace entre la luz y el receptor requiere calibración, ya que no se puede esperar que estén perfectamente alineados o perpendiculares entre sí. Por ello, el chip referencia un marco de datos que contiene información sobre la posición esperada de cada píxel de datos y utiliza esa referencia para asegurar que puede recibir la información real, explica He. "Idealmente, la mejor forma es tener un espacio directo, punto a punto, entre el transmisor y el receptor", añade Seo, "pero incluso si está ligeramente inclinado, contamos con este circuito de calibración".
Para aplicaciones en entornos del mundo real, los investigadores señalan que necesitarán construir un transmisor óptico capaz de alterar la matriz de luz millones de veces por segundo, transfiriendo gigabits por segundo. El transmisor observado en el laboratorio de He y Seo es solo una prueba de concepto, emitiendo una matriz estática de 14x14 bits a través de una máscara metálica sobre la luz. Los investigadores indican que están trabajando con grupos de investigación en óptica para construir un transmisor capaz de cambiar la matriz rápidamente.
¿Cuál es el futuro de los enlaces de memoria basados en luz?
Sylvester menciona que la tecnología en su forma actual probablemente está lejos de la comercialización, debido a que las celdas de bits fotosensibles individuales son más grandes que las celdas de bits SRAM en los chips convencionales. Esas celdas más grandes implican que el chip puede albergar menos memoria, una compensación que, según él, podría anular la eficiencia añadida del enfoque basado en luz.
Seo responde que esto es parte de los esfuerzos continuos del grupo para reducir el tamaño de las celdas de bits, lo cual se puede lograr optimizando el tamaño de los transistores y circuitos, aprovechando el escalado CMOS.
Seo y He están explorando usos para esta tecnología en robótica y otras aplicaciones de borde. Un ejemplo se encuentra en almacenes y fábricas operadas por robots con IA, los cuales podrían utilizar datos ópticos para recibir actualizaciones constantes de sus modelos de navegación o visión sin necesidad de detenerse para una carga eléctrica tradicional o una transferencia de datos lenta por cable. Vía IEEE Spectrum.
