
@TPN_Labs için büyük bir hafta, Gratis hemen canlı oldu ve insanların alt ağların asla piyasaya sürülmediğini söylediği tam olarak böyle bir şey. Bu, bir hesaba, kurulum gerektirmeden, tarayıcı sekmesinde veya masaüstüde açık kaynak modelleri çalıştıran ücretsiz bir uygulama; yazdığınız her şey asla cihazınızdan ayrılmaz. Mühendislik beni etkiledi. Tarayıcılar genellikle bir sekmenin belleğini 4 GB'a kadar sınırlar, bu da gerçek bir modelin ihtiyaç duyduğu miktardan çok daha az. Takım, çıkarım çalışma zamanını 64 bit adreslemeye dönüştürerek bu sınırı 16 GB'a çıkardı. İşte bu yüzden gerçek boyutta bir model bir sekmede çalışabiliyor. Ayrıca, Hugging Face'deki 900.000'den fazla açık kaynak seçeneğinden modelleri ücretsiz ve kullanım sınırı olmadan yükler, çünkü mevcut donanımınızda çalışır. Buradaki avantaj basit: Bir sonraki sefer kimse alt ağların aslında ne ürettiğini sorarsa, sadece bir link gönderirsiniz ve o kişi yaklaşık bir dakika içinde kendi kendine bir model çalıştırır. Takıma gerçek onur, bu, yerel yapay zekayı herkesin dokunabileceği hale getirmenin yolu. Sayılarla ilgili tam postu yarın paylaşacağız. 1/2
