تريد Giga ML مساعدة الشركات على نشر LLMs دون الاتصال بالإنترنت

أصبح الذكاء الاصطناعي رائجًا للغاية – وخاصة الذكاء الاصطناعي المولد للنص، والمعروف أيضًا باسم نماذج اللغة الكبيرة (فكر في النماذج على غرار ChatGPT). في إحدى الدراسات الاستقصائية الحديثة التي شملت ما يقرب من 1000 مؤسسة مؤسسية، قال 67.2% إنهم يرون أن اعتماد نماذج اللغات الكبيرة (LLMs) كأولوية قصوى بحلول أوائل عام 2024.

لكن الحواجز تقف في الطريق. وفقًا لنفس الاستطلاع، فإن الافتقار إلى التخصيص والمرونة، إلى جانب عدم القدرة على الحفاظ على معرفة الشركة والملكية الفكرية، كان – ولا يزال – يمنع العديد من الشركات من نشر شهادات LLM في الإنتاج.

هذا ما جعل فارون فومادي وإيشا مانديب دين يفكران: كيف يمكن أن يبدو الحل لتحدي اعتماد LLM في المؤسسة؟ بحثًا عن واحدة، أسسوا شركة Giga ML، وهي شركة ناشئة تعمل على بناء منصة تتيح للشركات نشر شهادات LLM داخل الشركة – مما يؤدي ظاهريًا إلى خفض التكاليف والحفاظ على الخصوصية في هذه العملية.

قال فومادي لـ TechCrunch في مقابلة عبر البريد الإلكتروني: “تعد خصوصية البيانات وتخصيص LLMs من أكبر التحديات التي تواجهها المؤسسات عند اعتماد LLMs لحل المشكلات”. “تعالج Giga ML هذين التحديين.”

تقدم Giga ML مجموعتها الخاصة من شهادات LLM، “سلسلة X1″، لمهام مثل إنشاء التعليمات البرمجية والإجابة على أسئلة العملاء الشائعة (على سبيل المثال، “متى يمكنني أن أتوقع وصول طلبي؟”). تدعي الشركة الناشئة أن النماذج، المبنية على Meta’s Llama 2، تتفوق في الأداء على LLMs الشائعة في معايير معينة، لا سيما مجموعة اختبار MT-Bench لمربعات الحوار. لكن من الصعب أن نقول كيف يمكن مقارنة X1 من حيث النوعية؛ جرب هذا المراسل العرض التوضيحي عبر الإنترنت لـ Giga ML لكنه واجه مشكلات فنية. (انتهت مهلة التطبيق بغض النظر عن المطالبة التي كتبتها.)

حتى لو نماذج جيجا ML نكون بالرغم من تفوقهم في بعض الجوانب، هل يمكنهم حقًا إحداث ضجة في محيط برامج LLM مفتوحة المصدر وغير المتصلة بالإنترنت؟

من خلال التحدث إلى Vummadi، شعرت أن Giga ML لا تحاول كثيرًا إنشاء أفضل برامج LLM من حيث الأداء ولكنها بدلاً من ذلك تقوم ببناء أدوات تسمح للشركات بضبط LLMs محليًا دون الحاجة إلى الاعتماد على موارد الطرف الثالث و المنصات.

وقال فومادي: “تتمثل مهمة Giga ML في مساعدة المؤسسات على نشر LLMs بشكل آمن وفعال على البنية التحتية المحلية الخاصة بها أو السحابة الخاصة الافتراضية”. “تعمل Giga ML على تبسيط عملية التدريب والضبط الدقيق وتشغيل دورات LLM من خلال الاهتمام بها من خلال واجهة برمجة تطبيقات سهلة الاستخدام، مما يزيل أي متاعب مرتبطة بها.”

وشدد فومادي على مزايا الخصوصية لتشغيل النماذج دون الاتصال بالإنترنت، وهي مزايا من المحتمل أن تكون مقنعة لبعض الشركات.

وجدت Predibase، وهي منصة تطوير الذكاء الاصطناعي ذات التعليمات البرمجية المنخفضة، أن أقل من ربع المؤسسات تشعر بالارتياح عند استخدام شهادات LLM التجارية بسبب المخاوف بشأن مشاركة البيانات الحساسة أو الخاصة مع البائعين. قال ما يقرب من 77% من المشاركين في الاستطلاع إنهم إما لا يستخدمون أو لا يخططون لاستخدام شهادات LLM التجارية بما يتجاوز النماذج الأولية في الإنتاج – مشيرين إلى مشكلات تتعلق بالخصوصية والتكلفة ونقص التخصيص.

“يجد مديرو تكنولوجيا المعلومات على مستوى C-suite أن عروض Giga ML ذات قيمة بسبب النشر الآمن داخل الشركة لـ LLMs، والنماذج القابلة للتخصيص المصممة خصيصًا لحالة الاستخدام المحددة والاستدلال السريع، مما يضمن الامتثال للبيانات وأقصى قدر من الكفاءة.” قال فومادي.

Giga ML، التي جمعت ما يقرب من 3.74 مليون دولار من تمويل رأس المال الاستثماري حتى الآن من Nexus Venture Partners، وY Combinator، وLiquid 2 Ventures، و8vdx والعديد من الشركات الأخرى، تخطط على المدى القريب لتنمية فريقها المكون من شخصين وزيادة البحث والتطوير في المنتج. سيتم تخصيص جزء من رأس المال لدعم قاعدة عملاء Giga ML أيضًا، وقال فومادي، والتي تضم حاليًا شركات “مؤسسية” لم يذكر اسمها في مجال التمويل والرعاية الصحية.