Google вбудує архітектуру Gemini у новий AI-чіп, що збільшить ефективність висновку до 10 разів

icon MarsBit
Поділитися
AI summary iconКороткий зміст
Цього тижня в новинах про штучний інтелект і криптовалюту з’явилося повідомлення, що Google працює над чіпом Frozen v2 для висновку штучного інтелекту. Новий дизайн вбудовуватиме частину архітектури Gemini безпосередньо в апаратне забезпечення. Ця зміна спрямована на зменшення обчислювальних накладних витрат і витрат на переміщення даних. Google оцінює, що цей чіп зможе обробляти в 6–10 разів більше токенів на ват, ніж найновіший TPU. Компанія планує розгорнути його до 2028 року, щоб зменшити дефіцит обчислювальних ресурсів. Google Cloud вже почав відмовляти у замовленнях зовнішніх клієнтів через цей обмеження. Frozen v2 буде працювати поруч із TPU, пропонуючи кращу ефективність, але меншу гнучкість. Якщо архітектура Gemini зміниться, ці чіпи можуть втратити свою цінність. Нові лістинги токенів залишаються під Spotlight, оскільки галузь штучного інтелекту розвивається.

За даними Beating Monitoring, Google розробляє AI-чіп Frozen v2 для висновків. Він безпосередньо інтегрує частину архітектури Gemini у чіп, зменшуючи обчислення та переміщення даних під час виконання моделі. Внутрішні оцінки передбачають, що кількість токенів на ват може досягти 6–10 разів більше, ніж у найновіших TPU. Google планує розгорнути його не раніше 2028 року. Компанія сподівається вирішити проблему нестачі обчислювальних ресурсів — дефіцит вже змусив Google Cloud відмовляти від частини замовлень ззовні. Frozen v2 буде існувати паралельно з TPU. TPU може запускати різні моделі, тоді як Frozen v2 обмінює гнучкість на ефективність. Це також ставка на архітектуру: якщо в майбутньому Gemini претерпить значні зміни у базовому дизайні, ці чіпи можуть стати непридатними для використання.

Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.