Ваші моделі з відкритим кодом тепер можуть працювати на вашому пристрої, не надсилаючи нічого до хмари. @TPN_Labs (Bittensor SN65) стискає моделі за допомогою конкурентної оптимізації. Майни зменшують їх у межах реальних обмежень апаратного забезпечення та мінімальних порогів тестування. Валідатори повторно запускають тести. Найменша модель, яка все ще проходить поріг, вигравала. @Gratis_AI потім бере ці моделі (або будь-яку модель з @huggingface) і запускає їх локально у браузері або настільному додатку. Але є нюанс: локальний висновок все ще залежить від вашого апаратного забезпечення. Що варто зазначити: • Моделі оптимізуються на ланцюгу. Останній конкурс зменшив модель з ~17 ГБ до 7,71 ГБ, покращивши результат тесту з 66,57% до 74,93%. • Gratis не вимагає налаштувань. Виберіть модель або завантажте її з Hugging Face — вона завантажується один раз і працює на вашому пристрої. • Конфіденційність — за замовчуванням. Кожен запит залишається на вашому пристрої. Працює автономно після початкового завантаження. • Немає комісій за API, не потрібен акаунт. Швидкий приклад: Модель, яка раніше вимагала потужної GPU, тепер може бути стиснута настільки, щоб працювати на звичайному ноутбуці, а потім використовуватися через Gratis, ніколи не покидаючи ваш пристрій. TPN створює маленькі, здатні моделі. Gratis їх запускає. #Bittensor #Subnet65 #TPN