تعمل بوابة AI الجديدة مفتوحة المصدر في Kong على تسهيل إنشاء تطبيقات LLM المتعددة

تطلق شركة API Kong بوابة AI مفتوحة المصدر، اليوم، وهي امتداد لبوابة API الحالية التي تسمح للمطورين وفرق العمليات بدمج تطبيقاتهم مع واحد أو أكثر من نماذج اللغات الكبيرة (LLMs) والوصول إليها من خلال واجهة برمجة تطبيقات واحدة. علاوة على ذلك، يطلق كونغ العديد من الميزات الخاصة بالذكاء الاصطناعي، والهندسة السريعة وإدارة بيانات الاعتماد والمزيد.

“نعتقد أن الذكاء الاصطناعي يمثل حالة استخدام إضافية لواجهات برمجة التطبيقات”، هذا ما أخبرني به المؤسس المشارك لكونج ومدير التكنولوجيا التنفيذي ماركو بالادينو. “تعتمد واجهات برمجة التطبيقات على حالات الاستخدام: الهاتف المحمول والخدمات الصغيرة – ويصادف أن يكون الذكاء الاصطناعي هو الأحدث. عندما ننظر إلى الذكاء الاصطناعي، فإننا ننظر حقًا إلى واجهات برمجة التطبيقات في كل مكان. نحن ننظر إلى واجهات برمجة التطبيقات عندما يتعلق الأمر باستهلاك الذكاء الاصطناعي، ونحن ننظر إلى واجهات برمجة التطبيقات لضبط الذكاء الاصطناعي، والذكاء الاصطناعي نفسه. […] لذا، كلما زاد الذكاء الاصطناعي، زاد استخدام واجهة برمجة التطبيقات (API) في العالم.

يقول بالادينو إنه في حين أن كل مؤسسة تقريبًا تبحث في كيفية استخدام الذكاء الاصطناعي، إلا أنها تخشى أيضًا تسرب البيانات. ويعتقد أن هذه الشركات سوف ترغب في نهاية المطاف في تشغيل نماذجها محليًا، وربما تستخدم السحابة كبديل. ومع ذلك، في الوقت الحالي، تحتاج هذه الشركات أيضًا إلى معرفة كيفية إدارة بيانات الاعتماد للوصول إلى النماذج المستندة إلى السحابة، والتحكم في حركة المرور وتسجيلها، وإدارة الحصص، وما إلى ذلك.

وأشار إلى أنه “من خلال بوابة API الخاصة بنا، أردنا تقديم عرض يسمح للمطورين بأن يكونوا أكثر إنتاجية عند البناء على الذكاء الاصطناعي من خلال القدرة على الاستفادة من بوابتنا لاستهلاك واحد أو أكثر من موفري LLM دون الحاجة إلى تغيير التعليمات البرمجية الخاصة بهم”. تدعم البوابة حاليًا نماذج Anthropic وAzure وCohere وMeta’s LLaMA وMistral وOpenAI.

يجادل فريق Kong بأن معظم موفري واجهات برمجة التطبيقات (API) الآخرين يديرون حاليًا واجهات برمجة تطبيقات الذكاء الاصطناعي بنفس الطريقة التي تدير بها أي واجهات برمجة تطبيقات أخرى. ومع ذلك، يعتقد فريق Kong أنه من خلال وضع هذه الميزات الإضافية الخاصة بالذكاء الاصطناعي أعلى واجهة برمجة التطبيقات، فإنه يمكن تمكين حالات استخدام جديدة (أو على الأقل تسهيل تنفيذ الحالات الحالية). باستخدام محولات الاستجابة والطلبات التي تعمل بالذكاء الاصطناعي، والتي تعد جزءًا من بوابة الذكاء الاصطناعي الجديدة، يمكن للمطورين تغيير المطالبات ونتائجها بسرعة لترجمتها تلقائيًا أو إزالة معلومات التعريف الشخصية، على سبيل المثال.

كما تم دمج الهندسة السريعة بشكل عميق في البوابة، مما يمكّن الشركات من فرض إرشاداتها على رأس هذه النماذج. وهذا يعني أيضًا أن هناك نقطة مركزية لإدارة هذه الإرشادات والمطالبات.

لقد مرت تسع سنوات تقريبًا منذ إطلاق منصة إدارة Kong API. في ذلك الوقت، كانت الشركة التي أصبحت الآن كونغ لا تزال تُعرف باسم Mashape، ولكن كما أخبرني أوغوستو مارييتي، المؤسس المشارك والرئيس التنفيذي لشركة Mashape/Kong، في مقابلة أجريت معه في وقت سابق من هذا الأسبوع، كان هذا بمثابة جهد أخير تقريبًا. وقال: “لم يذهب Mashape إلى أي مكان، ومن ثم أصبح Kong المنتج رقم واحد لواجهة برمجة التطبيقات على GitHub”. وأشار مارييتي إلى أن التدفق النقدي لدى كونغ كان إيجابيًا في الربع الأخير – ولا يبحث حاليًا عن تمويل – لذا فقد نجح الأمر بشكل جيد.

والآن، أصبحت بوابة كونج هي جوهر النظام الأساسي للشركة وأيضًا ما يدعم بوابة الذكاء الاصطناعي الجديدة. في الواقع، يتعين على مستخدمي Kong الحاليين فقط ترقية التثبيت الحالي الخاص بهم للوصول إلى جميع ميزات الذكاء الاصطناعي الجديدة.

اعتبارًا من الآن، تتوفر ميزات الذكاء الاصطناعي الجديدة هذه مجانًا. وبمرور الوقت، يتوقع كونغ إطلاق ميزات مدفوعة الأجر أيضًا، لكن الفريق أكد أن هذا ليس هو الهدف لهذا الإصدار الحالي.