Посты
avatar

Ваши открытые модели теперь могут работать на вашем собственном устройстве без отправки данных в облако. @TPN_Labs (Bittensor SN65) сжимает модели с помощью конкурентной оптимизации. Минеры уменьшают их в размерах с учетом реальных ограничений оборудования и минимальных порогов тестирования. Валидаторы повторно запускают тесты. Побеждает самая компактная модель, которая все еще проходит порог. @Gratis_AI затем запускает эти модели (или любую модель из @huggingface) локально в браузере или настольном приложении. Однако важно понимать, что локальный вывод все еще зависит от вашего оборудования. Что примечательно: • Модели оптимизируются в цепочке. Недавний конкурс сократил модель с ~17 ГБ до 7,71 ГБ, одновременно повысив результат теста с 66,57% до 74,93%. • Gratis не требует настройки. Выберите модель или загрузите её с Hugging Face — она скачивается один раз и работает на вашем устройстве. • Конфиденциальность — по умолчанию. Каждый запрос остается на вашем устройстве. Работает оффлайн после первоначальной загрузки. • Нет платы за API, не требуется аккаунт. Быстрый пример: Модель, которая ранее требовала мощную видеокарту, теперь может быть сжата до размеров, достаточных для работы на обычном ноутбуке, и использоваться через Gratis, не покидая ваше устройство. TPN создает компактные, мощные модели. Gratis их запускает. #Bittensor #Subnet65 #TPN

Этот контент предназначен исключительно для информационных и образовательных целей. Он может содержать информацию от третьих лиц, спонсорский контент или рекламные материалы, за которые креатор может получить вознаграждение. Ничто в этой ленте не является инвестиционным советом или гарантией прибыли. Вы несете полную ответственность за свои собственные инвестиционные решения. Всегда проводите самостоятельные исследования и проявляйте осторожность перед торговлей. Мы не гарантируем точность информации третьих лиц и не несем ответственности за понесенные убытки. Прошлые результаты не являются показателем будущих. Пожалуйста, ознакомьтесь с нашими Условиями сообщества и Заявлением о раскрытии информации о рисках для получения подробной информации.

avatarОставьте свой ответ

Комментарий