La startup Underdog publicó un juego construido con Woof, su nuevo modelo de voz, que pesa apenas 32 MB, informó TechCrunch el 6 de noviembre. Mientras las grandes empresas de IA compiten por modelos cada vez más grandes, que necesitan enormes cantidades de cómputo, algunos investigadores y startups van en la dirección contraria. Hacen modelos chicos que corren en el teléfono o el computador del usuario.
¿Cómo funciona la demo?
El juego muestra una habitación con estética de tecnología retro, una máquina de escribir y un monitor CRT. Hay una lámpara de escritorio que suena al hacer clic en su interruptor. La introducción advierte sobre proveedores de nube "intrusivos" en el pueblo, una pulla evidente a los modelos que corren en la nube.
Se puede interactuar con la máquina de escribir y con un sintonizador de música. Lo que se escriba con el teclado en la máquina, el juego lo lee en voz alta. Al girar el sintonizador se generan distintos tipos de música.
Todo funciona dentro del navegador con el modelo de generación de voz de Underdog, que según la empresa corre en la mayoría de los dispositivos sin conexión a internet. Woof tiene 31 millones de parámetros y cualquiera puede descargarlo.
Un modelo de ese tamaño difícilmente va a reemplazar a los grandes. Aun así puede bastar para asistentes locales o para crear pódcasts personalizados.
Bark, el transcriptor de 167 MB
La demo llega semanas después de que Underdog lanzara Bark, un modelo de voz a texto de 167 MB, pensado también para correr en dispositivos locales y usarse en transcripción y dictado.
Sigil Wen, fundador de Underdog, contó a TechCrunch que empezó a construir la aplicación porque, en vez de usar herramientas para tomar notas como Granola, quería armar su propio sistema con modelos de IA que corrieran en los equipos de los usuarios y les dejaran ser dueños de sus datos.
"Creo que en cuestión de meses vamos a poder correr la mayoría de los modelos capaces de hoy en los dispositivos que ya tienes. Solo queremos entrenar los mejores modelos abiertos hechos en Estados Unidos, que sean abiertos, capaces y que permitan a la gente tener IA privada", dijo, en referencia a su manifiesto.
Un modelo de 27.000 millones para notebooks
Además de los dos modelos de voz, Underdog lanzó un modelo de 27.000 millones de parámetros que corre en notebooks, junto con una aplicación con lista de espera que la empresa presenta como alternativa local a Muse e Instinct.
