Следующим узким местом в ИИ не всегда является модель. Иногда это задержка. Представьте, что ваш агент должен: прочитать документ, обратиться к базе данных, найти информацию в интернете, запустить инструмент, а затем спросить модель, что делать дальше. Если каждый шаг ждёт завершения предыдущего, простая задача может занимать секунды или даже минуты. Вот здесь важными становятся такие вещи, как параллельные вызовы инструментов, потоковая передача, кэширование и асинхронное выполнение. Вам не обязательно нужна более умная модель. Возможно, вам просто нужна более эффективная система вокруг неё. В этом я вижу одно из преимуществ современной инженерии ИИ. Многие сложные проблемы начинают выглядеть очень знакомо: распределённые системы, кэширование, очереди, конкурентность, наблюдаемость. Сам ИИ — новое. Но инженерные задачи, лежащие в его основе, — нет.
Pandit | Ξ🦇🔊Поделиться
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.