في عام نموذجي، يتميز Cloud Next – أحد مؤتمري Google السنويين الرئيسيين للمطورين، والآخر هو I/O – بشكل حصري تقريبًا بمنتجات وخدمات واجهات برمجة التطبيقات المدارة والمغلقة المصدر والمغلقة خلفها. ولكن هذا العام، سواء لتعزيز النوايا الحسنة للمطورين أو تعزيز طموحات النظام البيئي (أو كليهما)، أطلقت جوجل لأول مرة عددًا من الأدوات مفتوحة المصدر التي تهدف في المقام الأول إلى دعم مشاريع الذكاء الاصطناعي والبنية التحتية التوليدية.
الأول، MaxDiffusion، الذي أصدرته Google بهدوء في فبراير، عبارة عن مجموعة من التطبيقات المرجعية لنماذج النشر المختلفة – نماذج مثل مولد الصور Stable Diffusion – التي تعمل على أجهزة XLA. يرمز “XLA” إلى Accelerated Linear Algebra، وهو اختصار غريب يشير إلى تقنية تعمل على تحسين وتسريع أنواع معينة من أعباء عمل الذكاء الاصطناعي بما في ذلك الضبط الدقيق والتقديم.
وحدات المعالجة الموترية (TPUs) الخاصة بشركة Google هي أجهزة XLA، كما هو الحال مع وحدات معالجة الرسومات Nvidia الحديثة.
بالإضافة إلى MaxDiffusion، أطلقت Google محرك Jetstream، وهو محرك جديد لتشغيل نماذج الذكاء الاصطناعي التوليدية – وخاصة نماذج توليد النص (لذلك لا انتشار مستقر). يقتصر حاليًا دعم Jetstream على دعم وحدات TPU مع التوافق مع وحدة معالجة الرسومات (GPU) التي من المفترض أن تأتي في المستقبل، ويقدم Jetstream ما يصل إلى 3 أضعاف “أداء لكل دولار” لنماذج مثل Gemma 7B الخاصة بشركة Google وMeta’s Llama 2، كما تدعي Google.
كتب مارك لوهمير، المدير العام للبنية التحتية للحوسبة والتعلم الآلي في Google Cloud، في منشور مدونة تمت مشاركته مع TechCrunch: “مع قيام العملاء بإحضار أعباء عمل الذكاء الاصطناعي الخاصة بهم إلى الإنتاج، هناك طلب متزايد على مجموعة استدلالية فعالة من حيث التكلفة توفر أداءً عاليًا”. “يساعد JetStream في تلبية هذه الحاجة… ويتضمن تحسينات للنماذج المفتوحة الشائعة مثل Llama 2 وGemma.”
الآن، يعد التحسين “3x” ادعاءً حقيقيًا، وليس من الواضح تمامًا كيف وصلت Google إلى هذا الرقم. باستخدام أي جيل من TPU؟ مقارنة بأي محرك أساسي؟ وكيف يتم تعريف “الأداء” هنا، على أي حال؟
لقد طرحت كل هذه الأسئلة على Google وسوف أقوم بتحديث هذه المشاركة إذا تلقيت ردًا.
في المرتبة الثانية قبل الأخيرة في قائمة مساهمات Google مفتوحة المصدر هناك إضافات جديدة إلى MaxText، وهي مجموعة Google من نماذج الذكاء الاصطناعي لإنشاء النصوص والتي تستهدف وحدات معالجة الرسومات (TPU) ووحدات معالجة الرسومات Nvidia في السحابة. يشتمل MaxText الآن على Gemma 7B، وGPT-3 من OpenAI (سلف GPT-4)، وLlama 2 ونماذج من شركة Mistral الناشئة للذكاء الاصطناعي – والتي تقول Google إنه يمكن تخصيصها جميعًا وضبطها بدقة لتناسب احتياجات المطورين.
“لقد قمنا بالتحسين بشكل كبير [the models’] وقال لوهمير: “إن الأداء على وحدات معالجة الرسومات (TPU) ودخلت أيضًا في شراكة وثيقة مع Nvidia لتحسين الأداء على مجموعات GPU الكبيرة”. “هؤلاء تعمل التحسينات على زيادة استخدام GPU وTPU، مما يؤدي إلى زيادة كفاءة الطاقة وتحسين التكلفة.
أخيرًا، تعاونت Google مع Hugging Face، الشركة الناشئة العاملة في مجال الذكاء الاصطناعي، لإنشاء Optimum TPU، والذي يوفر الأدوات اللازمة لجلب أعباء عمل معينة للذكاء الاصطناعي إلى وحدات TPU. الهدف هو تقليل حاجز الدخول للحصول على نماذج الذكاء الاصطناعي التوليدية على أجهزة TPU، وفقًا لشركة جوجل – ولا سيما نماذج إنشاء النصوص.
ولكن في الوقت الحاضر، يعد Optimum TPU مجرد عظام بسيطة. النموذج الوحيد الذي يعمل معه هو Gemma 7B. ولا يدعم Optimum TPU حتى الآن تدريب النماذج التوليدية على وحدات TPU – بل تشغيلها فقط.
تحسينات جوجل الواعدة في المستقبل.
اكتشاف المزيد من موقع fffm
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
