- يقلل TurboQuant من Tether من استخدام ذاكرة الذكاء الاصطناعي بنسبة تصل إلى 5 مرات، مما يساعد الأجهزة على تنفيذ مهام أطول محليًا.
- QVAC 0.12.0 يسمح للمطورين بتشغيل أحمال عمل ذكاء اصطناعي أكبر على أجهزة الكمبيوتر المحمولة والهواتف مع تقليل الضغط على الذاكرة.
- يُعالج TurboQuant عقدة ذاكرة الذكاء الاصطناعي، مما يمكّن من محادثات أطول، وملفات أكبر، ومشاريع كود أكبر.
أضافت تيتر أداة تحسين ذاكرة جديدة إلى QVAC SDK 0.12.0، وهي خطوة يمكن أن تساعد أجهزة الكمبيوتر المحمولة والهواتف الذكية وأجهزة أخرى على التعامل مع أحمال عمل أكبر محليًا. وفي إعلانه عن التحديث على X، قال الرئيس التنفيذي باولو أردوينو إن الإصدار يشمل TurboQuant، وهي تقنية تقلل من متطلبات ذاكرة الذكاء الاصطناعي بنسبة تصل إلى خمس مرات مع الحفاظ على جودة إخراج شبه متماثلة.
يركز التحديث على قيد رئيسي للنماذج اللغوية الكبيرة: الذاكرة. مع طول المحادثات والمهام، تزداد متطلبات الذاكرة بشكل حاد. ويقلل TurboQuant من هذا العبء، مما يسمح للأجهزة بالعمل مع مستندات أكبر، ومحادثات أطول، ومزيد من المعلومات في وقت واحد.
كما تضيف الإصدارة إمكانية توليد الفيديو من النص، وميزات التحكم في الروبوتات، ودعم مساعد البرمجة، وترقيات معالجة الصوت، وأدوات أسرع لتصنيف الصور.
تستهدف TurboQuant عقدة ذاكرة الذكاء الاصطناعي
يقع TurboQuant في مركز إصدار QVAC SDK 0.12.0. هذه التقنية تضغط ذاكرة KV، وهي نوع من الذاكرة المؤقتة التي تستخدمها نماذج الذكاء الاصطناعي لتتبع المحادثات والمستندات ومعلومات أخرى أثناء الجلسة.
تزداد متطلبات الذاكرة مع قيام المستخدمين بإدخال مزيد من المعلومات إلى النموذج. وقالت تيتر إن نموذجًا بحجم 4 مليارات معلمة يعالج حوالي 262,000 رمزًا قد يتطلب حوالي 8 جيجابايت من الذاكرة فقط للذاكرة المؤقتة. ويمكن أن يتجاوز تشغيل عدة جلسات بهذا الحجم بسرعة حدود العديد من أجهزة الكمبيوتر المحمولة والأجهزة الاستهلاكية.
يهدف TurboQuant إلى تقليل هذا الضغط. وفقًا لـ Tether، يمكن لهذه التقنية تقليل متطلبات ذاكرة KV cache بنسبة تصل إلى خمس مرات مع الحفاظ على جودة إخراج شبه متماثلة. ونتيجة لذلك، يمكن للمستخدمين العمل مع محادثات أطول، ومستندات أكبر، وقواعد كود أكبر دون الاعتماد بشكل كبير على موارد الحوسبة عن بُعد.
QVAC تتوسع خارج نماذج اللغة
يتضمن التحديث أكثر من تحسينات الذاكرة. يضيف QVAC SDK 0.12.0 عدة أدوات جديدة تهدف إلى توسيع ما يمكن للمطورين تشغيله على الأجهزة المحلية.
من بين الإضافات، دعم توليد الفيديو من النص عبر نموذج Wan2.1. كما تقدم المنصة ميزة الرؤية-اللغة-الإجراء التي تسمح للمطورين ببناء تطبيقات للتحكم في الروبوتات.
يضيف الإصدار أداة خفيفة لتصنيف الصور مصممة للمهام التي لا تتطلب نماذج رؤية أكبر. في نفس الوقت، نقلت QVAC أنظمتها من النص إلى الكلام والنقل النصي إلى محرك GGML، وهو تغيير يوسع الدعم عبر أنظمة التشغيل المكتبية والجوالة الرئيسية.
كما حصل المطورون على خيارات جديدة لمساعدي البرمجة. الآن يتكامل QVAC مع OpenCode وOpenClaw من خلال حزمة مزود تبسط إدارة النماذج ونشرها.
ذات صلة: مؤسس Multicoin يعلن أن "Web3 مات" وسط أزمة هوية التشفير
تقترب الذكاء الاصطناعي مفتوح المصدر من الحافة
يُظهر الإصدار تركيز Tether على تشغيل مهام حوسبة أكثر مباشرة على أجهزة المستخدمين بدلاً من الاعتماد كليًا على مراكز البيانات المركزية. وقد ركزت الشركة بشكل متزايد على البرمجيات التي يمكنها العمل عبر الأجهزة الشخصية، والشبكات المحلية، والأنظمة اللامركزية.
قال أردينو: "أظهر بحث جوجل أنه يمكن ضغط ذاكرة الذكاء الاصطناعي بكفاءة أكبر بكثير مما افترضه معظم الناس. إن عملنا يجلب هذه الثورة إلى برامج إنتاجية يمكن للمطورين ورواد الأعمال والمستخدمين بناءها فعليًا."
أضاف: "يجب أن يكون بإمكان الناس طلب مساعدة مساعد ذكي لقراءة مستند طويل، أو تذكّر مشروع، أو المساعدة في الكود، أو العمل من خلال معلومات خاصة دون أن يُجبر كل مهمة على المرور عبر مركز بيانات بعيد."
يأتي الإطلاق مع توسع تيتر لجهودها خارج أدوات تحسين الذاكرة. كشف أردوينو مؤخرًا أن الشركة تطور محرك بحث نظير إلى نظير مفتوح المصدر وشاركت عرضًا توضيحيًا لنظام بحث موزع عن ويكيبيديا.
ذات صلة: مايكل بوري يصف صفقة Nvidia بقيمة 5.4 مليار دولار للرسومات بـ "فوجازي"
إخلاء المسؤولية: المعلومات المقدمة في هذه المقالة مخصصة لأغراض إعلامية وتعليمية فقط. لا تشكل المقالة نصيحة مالية أو أي نوع من النصائح. لا تتحمل Coin Edition أي مسؤولية عن أي خسائر تتكبدها نتيجة استخدام المحتوى أو المنتجات أو الخدمات المذكورة. يُنصح القراء بممارسة الحذر قبل اتخاذ أي إجراء متعلق بالشركة.