Дописи
avatar

Ваш термінал тепер може відповідати вам, і дивно те, що він робить це, не викликаючи жодного хмарного API. У суботу Ollama випустила версію 0.40.11 з підтримкою тексту в голос на macOS. Першою мовою для голосу є Phonon — сімейство невеликих TTS-моделей від Gradium. Ви завантажуєте її за допомогою ollama pull phonon і запускаєте, як будь-яку іншу модель. Те, що справді зацікавить розробників — це API. Phonon працює з ендпоінтом /v1/audio/speech, сумісним з OpenAI, на localhost. Якщо ваш код вже використовує OpenAI SDK для голосу, у документації сказано, що вам потрібно лише змінити базовий URL. Відповідь потоково передається під час генерації аудіо, тому відтворення може початися ще до завершення повного тексту. Ви навіть можете безпосередньо передати відповідь чат-моделі в Phonon — і вона почне говорити вже після першого речення. Вихідний формат — 24 кГц моно, за замовчуванням у форматі WAV або сирі 16-бітні PCM, якщо ви це запитаєте. У документації перелічено деякі обмеження, які легко порушити. Кожен запит може містити до 4 096 символів, хоча ollama run автоматично розбиває довші тексти. Ціни, символи, електронні адреси та URL-адреси вимовляються по літерах, тоді як числові дати читаються так, як написано — тому документація пропонує писати дати словами. Непідтримувані параметри, такі як швидкість або інструкції, повертають помилку 400 замість того, щоб просто ігноруватися. Ліцензування варто уважно прочитати перед тим, як випускати щось у продакшн. За замовчуванням англійська модель Phonon має ліцензію Apache 2.0. 40-мільйонні версії для французької, німецької, іспанської, португальської та багатомовних мов мають ліцензію CC BY-NC 4.0, яка забороняє комерційне використання. Ollama також зазначає, що на MacBook Pro з M5 Max вона працює на 35 % швидше, ніж власний рендер Gradium — хоча це їхній внутрішній бенчмарк, а не незалежний. Наразі голосова підтримка працює лише на Apple Silicon; підтримка Windows і Linux зазначена як «незабаром».

Цей контент призначений виключно для інформаційних та освітніх цілей. Він може містити думки третіх осіб, спонсорований контент або рекламні матеріали, за які автор може отримувати оплату. Жодна інформація в цій стрічці не є інвестиційною порадою чи гарантією прибутковості. Ви несете повну відповідальність за власні інвестиційні рішення. Перед початком торгівлі завжди проводьте власне дослідження та дотримуйтесь обережності. Ми не гарантуємо точність інформації від третіх осіб і не несемо відповідальності за будь-які збитки. Минулі результати не є показником майбутніх. Дивіться наші Умови спільноти та Заяву про ризики для отримання детальної інформації.

avatarОпублікуйте відповідь

Коментувати