تقوم أداة Martian بالتبديل تلقائيًا بين LLMs لتقليل التكاليف
يرى شرياش أوبادهياي وإيتان جينسبيرج، باحثان في مجال الذكاء الاصطناعي من جامعة بنسلفانيا، أن العديد من شركات الذكاء الاصطناعي الكبيرة تضحي بالأبحاث الأساسية في سعيها لتطوير نماذج ذكاء اصطناعي قوية وتنافسية. يلقي هذا الثنائي اللوم على ديناميكيات السوق: عندما تقوم الشركات بجمع أموال كبيرة، فإن الأغلبية عادة ما تذهب نحو الجهود المبذولة للبقاء في التفوق على المنافسين بدلا من دراسة الأساسيات.
“خلال بحثنا حول LLMs [at UPenn,] “لقد لاحظنا هذه الاتجاهات المثيرة للقلق في صناعة الذكاء الاصطناعي” ، هذا ما قاله أوبادهياي وجينسبيرج لـ TechCrunch في مقابلة عبر البريد الإلكتروني. “يكمن التحدي في جعل أبحاث الذكاء الاصطناعي مربحة.”
اعتقد أوبادهياي وجينسبيرج أن أفضل طريقة لمعالجة هذه المشكلة قد تكون من خلال تأسيس شركة خاصة بهم – شركة تستفيد منتجاتها من قابلية التفسير. ومن الطبيعي أن تتوافق مهمة الشركة مع تعزيز أبحاث قابلية التفسير بدلاً من أبحاث القدرات، كما افترضوا، مما يؤدي إلى بحث أقوى.
خرجت هذه الشركة، Martian، اليوم من الخفاء بتمويل قدره 9 ملايين دولار من مستثمرين بما في ذلك NEA وProsus Ventures وCarya Venture Partners وجنرال كاتاليست. ويقول أوبادهياي وجينسبيرج إن العائدات يتم توجيهها نحو تطوير المنتج، وإجراء أبحاث حول العمليات الداخلية للنماذج وتنمية فريق مارتيان المكون من عشرة موظفين.
المنتج الأول لشركة Martian هو “جهاز التوجيه النموذجي”، وهو أداة تستقبل موجهًا مخصصًا لنموذج لغة كبير (LLM) – على سبيل المثال GPT-4 – وتوجهه تلقائيًا إلى LLM “الأفضل”. افتراضيًا، يختار جهاز التوجيه النموذجي شهادة LLM التي تتمتع بأفضل مدة تشغيل ومجموعة مهارات (مثل حل المشكلات الرياضية) ونسبة التكلفة إلى الأداء للموجه المعني.
قال أوبادهياي وجينسبيرج: “إن الطريقة التي تستخدم بها الشركات حاليًا شهادات LLM هي اختيار LLM واحد لكل نقطة نهاية ترسل إليها جميع طلباتها”. “ولكن ضمن مهمة مثل إنشاء موقع ويب، ستكون النماذج المختلفة أكثر ملاءمة لطلب محدد اعتمادًا على السياق الذي يحدده المستخدم (ما هي اللغة، وما هي الميزات، والمبلغ الذي يرغبون في دفعه، وما إلى ذلك) … باستخدام فريق من النماذج في التطبيق، يمكن للشركة تحقيق أداء أعلى وتكلفة أقل مما يمكن أن تحققه أي ماجستير إدارة أعمال بمفردها.
هناك حقيقة لذلك. قد يكون الاعتماد حصريًا على ماجستير إدارة الأعمال المتميز مثل GPT-4 باهظ التكلفة بالنسبة لبعض الشركات، إن لم يكن معظمها. كشف الرئيس التنفيذي لشركة Permutable.ai، وهي شركة متخصصة في استخبارات السوق، مؤخرًا أن الشركة تكلف الشركة أكثر من مليون دولار سنويًا لمعالجة حوالي مليوني مقال يوميًا باستخدام نماذج OpenAI المتطورة.
لا تحتاج كل مهمة إلى القدرة الحصانية للنماذج الأعلى سعرًا، ولكن قد يكون من الصعب إنشاء نظام يقوم بالتبديل بذكاء أثناء التنقل. وهنا يأتي دور Martian – وقدرته على تقدير أداء النموذج دون تشغيله فعليًا.
وأضافوا: “يمكن لـ Martian التوجه إلى نماذج أرخص بناءً على الطلبات التي تؤدي أداءً مشابهًا للنماذج الأكثر تكلفة، والتوجه فقط إلى النماذج باهظة الثمن عند الضرورة”. “يقوم جهاز التوجيه النموذجي بفهرسة النماذج الجديدة عند ظهورها، ودمجها في التطبيقات دون الحاجة إلى أي احتكاك أو عمل يدوي.”
الآن، جهاز التوجيه النموذجي الخاص بـ Martian ليس تقنية جديدة. توفر شركة ناشئة أخرى على الأقل، وهي Credal، أداة تلقائية لتبديل النماذج. لذا فإن ارتفاعها سيعتمد على القدرة التنافسية لتسعير Martian – وقدرتها على التنفيذ في سيناريوهات تجارية عالية المخاطر.
يزعم أوبادهياي وجينسبيرج أنه كان هناك بعض الإقبال بالفعل، بما في ذلك بين الشركات “التي تبلغ قيمتها مليارات الدولارات”.
وقالوا: “إن بناء جهاز توجيه نموذجي فعال حقًا أمر صعب للغاية لأنه يتطلب تطوير فهم لكيفية عمل هذه النماذج بشكل أساسي”. “هذا هو الاختراق الذي كنا رائدين فيه.”
