Великий тиждень для @TPN_Labs: Gratis вже запущений, і це саме те, що люди казали, що субнети ніколи не випустять. Це безкоштовний додаток, який запускає моделі з відкритим кодом прямо в вашій вкладці браузера або на стільниці — без акаунта, без встановлення, ніщо з того, що ви вводите, не залишає ваш пристрій. Мене здивувала інженерія. Зазвичай браузери обмежують вкладку 4 ГБ пам’яті — набагато менше, ніж потрібно реальній моделі. Команда форкнула інференс-рантайм з підтримкою 64-бітного адресування й підняла ліміт до 16 ГБ. Саме тому модель справжнього розміру взагалі може працювати в вкладці. Він також завантажує моделі з понад 900 000 варіантів з відкритим кодом на Hugging Face, безкоштовно й без обмежень на використання, бо працює на апаратному забезпеченні, яке ви вже маєте. Перевага для вас тут проста: наступного разу, коли хтось запитає, що насправді дають субнети, просто надішліть посилання — і вони запустять модель самі за хвилину. Щире визнання команді: ось як роблять локальний ІІ доступним для будь-кого. Повний пост із цифрами за ним — завтра. 1/2