Transcribe voz en medio segundo con un modelo de medio billón de parámetros
Reson8 ha publicado los pesos de Rumble-2-Flash, un modelo de transcripción de voz (ASR) open source bajo licencia Apache 2.0 que funciona de forma nativa tanto en Transformers como en vLLM. La compañía lo ha liberado con su checkpoint y su tokenizer, de modo que se puede ejecutar en GPU o en CPU sin dependencias propietarias.
En el Open ASR Leaderboard multilingüe promedia un 6,96 % de error de transcripción, por debajo de modelos con quince veces más parámetros, y supera los 7.000 RTFx: una hora de audio se procesa en aproximadamente medio segundo. Lo más relevante viene de la prueba real: en 302 horas de llamadas de helpline grabadas, con 14 acentos distintos, el modelo iguala al Nemotron 3.5 Transcribe de 30.000 millones de parámetros, que es hoy la referencia de transcripción comercial de NVIDIA.
El modelo viene acompañado de un cuadro de diálogo en Hugging Face para probar transcripción en streaming, un script de evaluación y una guía de cuantización para INT4 y BF16. La licencia Apache 2.0 y la disponibilidad de los pesos hacen que sea utilizable tanto en infraestructura propia como en entornos donde la privacidad de la voz es una restricción de cliente.
- Reson8 publica Rumble-2-Flash bajo licencia Apache 2.0, con pesos y tokenizer abiertos, compatible con Transformers y vLLM.
- Promedia un 6,96 % de error en el Open ASR Leaderboard multilingüe, por debajo de modelos quince veces mayores.
- Supera los 7.000 RTFx: una hora de audio se transcribe en unos medio segundo.
- En 302 horas de llamadas reales de helpline con 14 acentos, iguala al Nemotron 3.5 Transcribe de 30.000 millones de parámetros.
- Incluye cuantización INT4 y BF16, script de evaluación y cuadro de diálogo para streaming en Hugging Face.
Para quien trabaja con redes, el dato interesante no es el referencia, es el de las llamadas de helpline: 302 horas de voz real con 14 acentos distintos es exactamente el tipo de audio que llega por un tronco o por una centralita virtual, con ruido de línea, pérdida de paquetes y acentos que ningún dataset sintético reproduce bien. Un ASR que aguanta eso y corre en tu propia infraestructura abre la puerta a casos que hasta ahora se descartaban por coste o por cumplimiento.
La cifra de 7.000 RTFx merece una segunda lectura: es la diferencia entre transcribir en tiempo real y transcribir un histórico entero. Si el modelo va en CPU o en una GPU modesta, el coste por hora de audio deja de ser una decisión de presupuesto y pasa a ser un detalle. Eso habilita usos que antes no salían, como indexar todo el archivo de llamadas para buscar patrones de incidencia, o correlacionar la voz con las métricas del enlace.
La contrapartida honesta es la de siempre: un modelo de 0,5B se nota en los casos difíciles, con acentos fuertes, voz de baja calidad o vocabularios técnicos. En redes, el vocabulario es precisamente el problema (siglas de protocolos, nombres de equipos, números de puerto). El ajuste fino con tu propio vocabulario sigue siendo obligatorio, pero la base ya está descargada y gratuita, lo cual cambia el cálculo.