Наступний обмежуючий фактор у ШІ — не завжди модель. Іноді це затримка. Уявіть, що ваш агент має… прочитати документ, звернутися до бази даних, пошукати в мережі, виконати інструмент, а потім запитати модель, що робити далі. Якщо кожен крок чекає на попередній, проста задача може займати кілька секунд або навіть хвилин. Саме тут важливими стають такі речі, як паралельні виклики інструментів, стрімінг, кешування та асинхронне виконання. Вам не обов’язково потрібен розумніший модель. Можливо, вам просто потрібна краща система навколо неї. Це те, що мені подобається у інженерії ШІ зараз. Багато складних проблем починають виглядати дуже знайомо: розподілені системи, кешування, черги, конкурентність, спостережуваність. Частина ШІ — нова. Інженерні проблеми під нею — ні.
Pandit | Ξ🦇🔊Поділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.