كيف يستخدم Kapa LLMs لمساعدة الشركات في الإجابة على الأسئلة الفنية للمستخدمين بشكل موثوق

كان الذكاء الاصطناعي التوليدي ونماذج اللغات الكبيرة (LLMs) رائجًا في السنوات الأخيرة، مما أدى إلى قلب البحث التقليدي عبر الإنترنت عبر أمثال ChatGPT مع تحسين دعم العملاء وإنشاء المحتوى والترجمة والمزيد. الآن، تستخدم إحدى الشركات الناشئة الناشئة LLMs لبناء مساعدي الذكاء الاصطناعي القادرين على وجه التحديد على الإجابة على الأسئلة المعقدة للمطورين والمستخدمين النهائيين للبرامج والموظفين – إنه مثل ChatGPT، ولكن للمنتجات التقنية.

تأسست Kapa.ai في فبراير من العام الماضي، وهي خريجة برنامج Y Combinator (YC) Summer 2023، وقد جمعت بالفعل قائمة رائعة إلى حد ما من العملاء، بما في ذلك OpenAI، وDocker، وReddit، وMonday.com، وMapbox. ليس سيئًا بالنسبة لشركة عمرها 18 شهرًا.

“جاء مفهومنا الأولي بعد أن تواصل العديد من الأصدقاء الذين يديرون شركات التكنولوجيا مع نفس المشكلة، وبعد أن بنينا أول نموذج أولي لـ Kapa.ai لمعالجة هذه المشكلة لهم، حصلنا على أول طيار مدفوع الأجر في غضون أسبوع،” الرئيس التنفيذي والشركة – قال المؤسس إميل سورنسن لـ TechCrunch. “أدى ذلك إلى النمو العضوي من خلال الحديث الشفهي – أصبح عملاؤنا أكبر المؤيدين لنا.”

وللبناء على هذا الجذب المبكر، قامت Kapa.ai الآن بجمع 3.2 مليون دولار في جولة تمويل أولية بقيادة رأس المال المبدئي.

الحصول على التقنية

وبمعنى أوسع، تقوم الشركات بإدخال وثائقها الفنية إلى Kapa.ai، والتي تعمل بعد ذلك على توفير واجهة يمكن للمطورين والمستخدمين النهائيين من خلالها طرح الأسئلة. على سبيل المثال، أطلقت Docker مؤخرًا مساعد توثيق جديدًا يسمى Docker Docs AI، والذي يوفر إجابات فورية على الأسئلة المتعلقة بـ Docker من داخل صفحات التوثيق الخاصة به – وقد تم تصميم هذا باستخدام Kapa.ai.

ولكن يمكن استخدام Kapa.ai لعدد لا يحصى من حالات الاستخدام مثل دعم العملاء، والمشاركة المجتمعية، وكمساعد في مكان العمل لمساعدة الموظفين في الاستعلام عن قاعدة المعرفة الخاصة بشركتهم.

تحت الغطاء، يعتمد Kapa.ai على العديد من شهادات LLM من مقدمي خدمات مختلفين ويعتمد على إطار عمل للتعلم الآلي يسمى Retrieval Augmented Generation (RAG)، والذي يعزز أداء LLMs من خلال تمكينهم من الاستفادة بسهولة من مصادر البيانات الخارجية ذات الصلة لتوفير معلومات أكثر ثراءً. الردود.

قال سورنسن: “نحن لا نعتمد على النماذج – فنحن نعمل مع العديد من مقدمي الخدمات، بما في ذلك استخدام نماذجنا الخاصة، من أجل استخدام تقنيات المكدس والاسترجاع الأفضل أداءً لكل حالة استخدام محددة”.

تجدر الإشارة إلى أن هناك عددًا من الأدوات المماثلة المتوفرة بالفعل، بما في ذلك الشركات الناشئة المدعومة بالمشاريع مثل Sana وKore.ai، والتي تهدف بشكل جوهري إلى جلب الذكاء الاصطناعي التحادثي إلى قواعد المعرفة المؤسسية. ومن جانبها، تتناسب Kapa.ai مع هذه المجموعة، لكن الشركة تقول إن ما يميزها الرئيسي هو أنها تركز إلى حد كبير على المستخدمين الخارجيين بدلاً من الموظفين – وكان لذلك تأثير كبير على تصميمها.

وقال سورنسن: “عند نشر مساعد الذكاء الاصطناعي خارجيًا للمستخدمين النهائيين، يقفز مستوى التدقيق عشرة أضعاف”. “الدقة هي الشيء الوحيد الذي يهم، لأن الشركات تشعر بالقلق من تضليل الذكاء الاصطناعي للعملاء، وقد حاول الجميع جعل ChatGPT أو كلود يهلوسون. بعض الإجابات السيئة ستفقد الشركة الثقة في نظامك على الفور. لذلك هذا ما نهتم به.”

دقة

هذا التركيز على تقديم إجابات دقيقة حول التوثيق الفني، مع الحد الأدنى من الهلوسة، يسلط الضوء على كيف أن Kapa.ai هو نوع مختلف من حيوانات LLM – فهو مصمم لحالة استخدام أضيق بكثير.

قال سورنسن: “إن تحسين دقة النظام يأتي بشكل طبيعي مع المقايضات، لأنه يعني أنه يتعين علينا تصميم النظام ليكون أقل إبداعًا مما يمكن أن تتحمله أنظمة LLM الأخرى”. “هذا لضمان أن الإجابات يتم إنشاؤها فقط من عالم المحتوى الذي يقدمونه.”

ثم هناك القضية الشائكة المتعلقة بخصوصية البيانات، وهي أحد العوائق الرئيسية أمام الشركات التي قد تفعل ذلك يريد لتبني الذكاء الاصطناعي التوليدي ولكنهم حذرون بشأن كشف البيانات الحساسة لأنظمة الطرف الثالث. على هذا النحو، يتضمن Kapa.ai اكتشاف بيانات PII (معلومات التعريف الشخصية) وإخفائها، وهو ما يقطع شوطًا نحو ضمان عدم تخزين المعلومات الخاصة أو مشاركتها.

يتضمن ذلك فحص معلومات تحديد الهوية الشخصية في الوقت الفعلي: عندما يتلقى Kapa.ai رسالة، يتم فحصها بحثًا عن بيانات معلومات تحديد الهوية الشخصية، وإذا تم اكتشاف أي بيانات شخصية، فسيتم رفض الرسالة ولا يتم تخزينها. يمكن للمستخدمين أيضًا تكوين Kapa.ai بحيث يتم إخفاء هوية أي بيانات PII يتم اكتشافها في المستند.

يمكن للشركات بالطبع تجميع شيء مشابه لـ Kapa.ai بنفسها باستخدام أدوات خارجية مثل خدمة OpenAI من Azure أو Haystack من Deepset. ولكنه مسعى يستغرق وقتًا طويلاً ومكثفًا للموارد، خاصة عندما يمكنك فقط النقر على أداة موقع الويب الخاص بـ Kapa، أو نشر الروبوت الخاص به لـ Slack أو Zendesk، أو استخدام واجهة برمجة التطبيقات (API) الخاصة به والتي تسمح للشركات بتخصيص الأشياء قليلاً باستخدام واجهاتها الخاصة.

قال سورنسن: “معظم الأشخاص الذين نعمل معهم لا يريدون القيام بكل الأعمال الهندسية، أو ليس لديهم بالضرورة موارد الذكاء الاصطناعي في فرقهم للقيام بذلك”. “إنهم يريدون محركًا دقيقًا وموثوقًا للذكاء الاصطناعي يمكنهم الوثوق به بدرجة كافية لعرضه مباشرة على العملاء، والذي تم تحسينه بالفعل ليناسب حالة الاستخدام الخاصة بهم للإجابة على الأسئلة الفنية المتعلقة بالمنتج.”

فيما يتعلق بالتسعير، تقول Kapa.ai إنها تستخدم نموذج اشتراك SaaS، وتقدم أسعارًا متدرجة بناءً على مدى تعقيد النشر والاستخدام – على الرغم من أنها لا تنشر هذه الأسعار.

لدى الشركة فريق عمل عن بعد مكون من تسعة أفراد منتشرين في جميع أنحاء العالم في مركزين رئيسيين في كوبنهاجن، حيث يقع مقر سورنسن، وسان فرانسيسكو.

وبصرف النظر عن الداعم الرئيسي “Initialized Capital”، شهدت جولة Kapa.ai الأولية مشاركة من Y Combinator وعدد كبير من المستثمرين الملائكيين، بما في ذلك مؤسس Docker Solomon Hykes، وأستاذ جامعة ستانفورد وباحث الذكاء الاصطناعي Douwe Kiela، ومؤسس Replit أمجد مسعد.