Привет, HN, это Toby из Nari Labs. Мы работали над тем, чтобы сделать OSS-модели речи сверхбыстрыми. В прошлом году мы создали Dia — первую OSS-модель преобразования текста в речь, способную вести естественный диалог. С тех пор было выпущено много других отличных речевых моделей. Но рынок по-прежнему доминируют закрытые модели. Мы считаем, что это проблема инференса. Существующие системы, такие как vLLM / SGLang, плохо подходят для мультимодального инференса. Чтобы доказать это, мы создали специализированный движок инференса для Qwen3-TTS и открыли его исходный код. Работая с задержкой менее 50 мс при 10 RPS, это показало, что открытые модели можно запускать гораздо быстрее и дешевле.

С тех пор мы усердно работаем, чтобы предоставить всем дешёвый, быстрый и качественный сервис. И мы даже обыграли закрытые модели в их собственной игре! По данным широко цитируемых голосовых бенчмарков Coval (YC S24), наш эндпоинт Qwen3-TTS не только №2 по задержке, но и №1 по точности (WER) по сравнению с 11Labs, Cartesia и др., при этом являясь самым дешёвым эндпоинтом. Наш эндпоинт Qwen3-ASR имеет самую низкую задержку и №2 по точности, всего на 0,1% отставая от №1. Это вторая самая дешёвая модель в списке.

Потребовалось много умной инженерной работы по инференсу, чтобы сделать эти модели быстрыми, производительными и при этом недорогими. Интересно, что официальные эндпоинты Alibaba, похоже, работают хуже по точности и задержке по сравнению с нашими. Но тем не менее, огромная благодарность команде Qwen за открытие исходного кода этих потрясающих речевых моделей. Мы хотим продолжать снижать цены, чтобы сделать речевые технологии товаром — чтобы каждое приложение могло иметь отличные TTS и STT, не беспокоясь о стоимости за единицу. Мы также работаем над другими частями аудио, такими как диаризация, а также над инференсом видео и мировых моделей. Продолжение следует!

Ключевые сущности: Компании: Nari Labs, Qwen, Coval, 11Labs, Cartesia, Alibaba, Assembly AI, Deepgram, Fluxions | Люди: Toby