Чёрт… это самый безумный проект распределённого вывода в интернете. С нуля написанный движок WebGPU, сеть WebRTC между всеми устройствами в комнате, спекулятивное декодирование, которое обгоняет native llama.cpp на том же GPU, всё это работает в одной вкладке браузера. Откройте URL, выберите модель… и вы уже в работе. Сохраните это, пока друзья не узнали, что их телефон может помочь запустить модель размером 27 млрд.
NeilXbtПоделиться
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.