يقول باحثو Microsoft إنهم طوروا نموذج AI شديد الكفاءة يمكن أن يعمل على وحدات المعالجة المركزية

يزعم باحثو Microsoft أنهم طوروا أكبر نموذج الذكاء الاصطناعى 1 بت على نطاق واحد ، والمعروف أيضًا باسم “bitnet” ، حتى الآن. يُطلق عليه Bitnet B1.58 2B4T ، وهو متوفر علناً بموجب ترخيص MIT ويمكنه تشغيله على وحدات المعالجة المركزية ، بما في ذلك M2 Apple.

Bitnets هي نماذج مضغوطة بشكل أساسي مصممة لتشغيلها على أجهزة خفيفة الوزن. في النماذج القياسية ، غالبًا ما تكون الأوزان ، والقيم التي تحدد الهيكل الداخلي للنموذج كمية بحيث تؤدي النماذج بشكل جيد على مجموعة واسعة من الآلات. إن تحديد الأوزان يقلل من عدد البتات – أصغر الوحدات التي يمكن للكمبيوتر معالجتها – اللازمة لتمثيل تلك الأوزان ، مما يتيح النماذج للتشغيل على رقائق مع ذاكرة أقل ، أسرع.

تقوم BitNets بتكميات الأوزان إلى ثلاث قيم فقط: -1 و 0 و 1. من الناحية النظرية ، مما يجعلها أكثر كفاءة في الذاكرة والحوسبة من معظم النماذج اليوم.

يقول باحثو Microsoft أن Bitnet B1.58 2B4T هو أول Bitnet مع 2 مليار معلمة ، “المعلمات” كونها مرادفًا إلى حد كبير لـ “الأوزان”. تم تدريبه على مجموعة بيانات من 4 تريليونات الرموز – أي ما يعادل حوالي 33 مليون كتاب ، حسب تقدير واحد – بينت B1.58 2B4T يتفوق على النماذج التقليدية من أحجام مماثلة ، كما يزعم الباحثون.

Bitnet B1.58 2B4T لا يكتسح الأرض مع نماذج منافسة 2 مليار من المعلمة ، لتكون واضحة ، ولكن يبدو أنها تحمل. وفقًا لاختبار الباحثين ، يتجاوز النموذج LLAMA 3.2 1B من Meta ، و Google Gemma 3 1B ، و QWEN 2.5 1.5B من Alibaba على المعايير بما في ذلك GSM8K (مجموعة من مشاكل الرياضيات على مستوى المدرسة).

ربما أكثر إثارة للإعجاب ، Bitnet B1.58 2B4T هو أسرع من النماذج الأخرى من حجمها – في بعض الحالات ، ضعف السرعة – أثناء استخدام جزء من الذاكرة.

هناك صيد ، ولكن.

يتطلب تحقيق هذا الأداء استخدام إطار عمل Microsoft المخصص ، bitnet.cpp ، والذي يعمل فقط مع أجهزة معينة في الوقت الحالي. تغيب عن قائمة الرقائق المدعومة هي وحدات معالجة الرسومات ، والتي تهيمن على مشهد البنية التحتية لمنظمة العفو الدولية.

هذا كل شيء يعني أن Bitnets قد يحمل وعدًا ، خاصة بالنسبة للأجهزة المقيدة بالموارد. لكن التوافق – ومن المحتمل أن يبقى – نقطة ملتصقة كبيرة.