Ваш терминал теперь может отвечать вам, и забавно то, что он делает это без вызова каких-либо облачных API. В субботу Ollama выпустила версию 0.40.11 с функцией преобразования текста в речь на macOS. Первая модель речи — Phonon, семейство небольших TTS-моделей от Gradium. Её можно загрузить с помощью команды ollama pull phonon и запустить, как любую другую модель. То, что действительно заинтересует разработчиков — это API. Phonon работает с совместимым с OpenAI endpoint’ом /v1/audio/speech на localhost. Если ваш код уже использует OpenAI SDK для речи, в документации говорится, что вам нужно только изменить базовый URL. Ответ потоково передаётся во время генерации аудио, поэтому воспроизведение может начаться ещё до завершения генерации всего текста. Вы даже можете напрямую передать ответ чат-модели в Phonon — и она начнёт говорить сразу после первой фразы. Выходной формат — 24 кГц моно, по умолчанию в формате WAV или сырые 16-битные PCM, если вы запросите их. В документации перечислены некоторые ограничения, которые легко превысить. Каждый запрос может содержать до 4 096 символов, хотя ollama run автоматически разбивает более длинный текст. Цены, символы, электронные адреса и URL-адреса произносятся по буквам, а числовые даты читаются так, как они написаны, поэтому в документации рекомендуется писать даты словами. Неподдерживаемые параметры, такие как скорость или инструкции, возвращают ошибку 400, а не игнорируются молча. Лицензирование требует внимательного прочтения перед выпуском чего-либо. По умолчанию английская модель Phonon распространяется по лицензии Apache 2.0. Версии на французском, немецком, испанском, португальском и мультиязыковые версии объёмом 40 МБ распространяются по лицензии CC BY-NC 4.0, что исключает коммерческое использование. Ollama также сообщает, что на MacBook Pro с M5 Max модель работала на 35 % быстрее, чем собственный рантайм Gradium — это их собственный бенчмарк, а не независимый тест. На данный момент речь поддерживается только на Apple Silicon; поддержка Windows и Linux указана как предстоящая.
