يهدف Credal إلى ربط بيانات الشركة بـ LLMs “بشكل آمن”

قامت Credal.ai، وهي شركة ناشئة مدعومة من Y Combinator والتي تمنح المؤسسات طريقة لربط بياناتها الداخلية بنماذج الذكاء الاصطناعي المستضافة على السحابة، بجمع 4.8 مليون دولار في جولة أولية بقيادة Spark Capital.

تم تأسيس Credal على يد جاك فيشر ورانافين ثامبابيلايد، اللذين عملا سابقًا في Palantir وكانا مرتبطين بالمصلحة المشتركة في الأمن والامتثال. كان فيشر موظفًا سابقًا في Google، بينما علم رافين نفسه البرمجة بعد دراسة الفلسفة والسياسة والاقتصاد في جامعة أكسفورد.

قال فيشر لـ TechCrunch في مقابلة عبر البريد الإلكتروني: “لقد أدركنا أنه، بفضل خلفياتنا في مجال أمن بيانات المؤسسات والذكاء الاصطناعي من شركة Palantir، كنا في وضع فريد يمكننا من خلاله بناء منصة بيانات للذكاء الاصطناعي يمكن للمؤسسات أن تثق بها بالفعل”.

شرع فيشر وثامبابيليد في البداية في بناء ما وصفوه بـ “مساعد صنع القرار” للمؤسسات التي تستخدم نماذج لغوية كبيرة (LLMs) – نماذج على غرار ChatGPT – لقراءة المستندات وتقديم المشورة بشأن الاستراتيجيات والإدارة. القرارات على مستوى الجناح. لكن المشروع تحول في نهاية المطاف إلى شيء أوسع: أداة لربط البيانات من مصادر البيانات الداخلية إلى حاملي شهادات الماجستير في القانون من الخارج.

نظرًا لوجود النظام الأساسي اليوم، يمكن استخدام Credal لبناء المعرفة العامة أو روبوتات الدردشة المدعومة بالذكاء الاصطناعي الخاصة بالمجال لمجموعة من حالات الاستخدام. على سبيل المثال، يمكن لشركة أن تنقر على Credal لإنشاء روبوت يجيب على أسئلة الأمان حول البرامج التي ترخصها الشركة، بالاعتماد على أحدث الوثائق.

Credal لا يخدم LLMs نفسه. بدلاً من ذلك، فهو يقع بين المستخدمين الذين يرسلون المطالبات (على سبيل المثال، “ما هو أحدث إصدار من هذا البرنامج؟”) وواجهة برمجة التطبيقات (API) من مزود LLM تابع لجهة خارجية مثل OpenAI أو Anthropic، ويعمل بمثابة “طيار مساعد” يمكن نشره في الأنظمة الحالية. تطبيقات مثل سلاك.

يحاول Credal توجيه المطالبات تلقائيًا إلى ماجستير إدارة الأعمال “الأنسب” إذا كانت الشركة تستخدم أكثر من واحدة، استنادًا إلى عوامل مثل حساسية البيانات المقدمة والتكلفة وسياسة الشركة والقدرات الفنية للنموذج. في بعض الحالات، تستخدم أكثر من ماجستير إدارة أعمال لإنجاز مهمة ما – على سبيل المثال استخدام Anthropic’s Claude وGPT-4 لتنظيم مستندات الشركة.

توفر الكثير من المنصات طرقًا لربط بيانات الشركة بمسؤولي إدارة الأعمال – راجع Unstructured وDeasie وLlamaIndex. وتقوم OpenAI بتوسيع إطار عمل البرنامج الإضافي المدمج. لكن توجه كريدال الفريد في هذا الشأن هو التركيز القوي على الامتثال والأمن – على الأقل بالطريقة التي يقولها فيشر.

يحاول Credal التنقيح وإخفاء الهوية والتحذير تلقائيًا عندما تكون البيانات الحساسة على وشك إرسالها خارج الشبكة، على سبيل المثال إلى LLM مستضافة على سحابة عامة. ويوفر سجلات توضح البيانات التي تمت مشاركتها مع حاملي شهادات LLM.

تم إرسال البيانات إلى Credal يكون يتم الاحتفاظ بها افتراضيًا ويتم الاحتفاظ بها لمدة 30 يومًا بعد انتهاء صلاحية الحسابات، مما قد يؤدي إلى توقف بعض الشركات مؤقتًا. لكن المشرفين يستطيع ويؤكد فيشر أن عليك تغيير هذا واختيار مسح البيانات في أي وقت.

يدعي فيشر أيضًا أن Credal هي واحدة من البائعين القلائل من نوعها الذين تم تسجيلهم بموجب إطار خصوصية البيانات، وهو الاتفاق الأخير بين الولايات المتحدة والاتحاد الأوروبي الذي يحكم نقل البيانات الشخصية بين البلدين. ويقول فيشر إن ذلك مكنها من الفوز بعقود مع شركات أوروبية منظمة ومتداولة علنًا مثل وايز.

وأضاف: “تريد أقسام تكنولوجيا المعلومات في المؤسسات الرؤية والتحكم في كيفية استخدام الذكاء الاصطناعي داخل مؤسساتهم”. “يعطيهم كريدال [this transparency] بتنسيق قياسي عبر موفري LLM متعددين، مما يوفر ضوابط بيانات دقيقة حول من يمكنه الوصول إلى النماذج، وما هي البيانات التي يمكن استخدامها من قبل كل مستخدم ولأي أغراض … على عكس أنظمة “الذكاء الاصطناعي على بياناتك” الأخرى، يعكس Credal الأذونات تلقائيًا من الأنظمة المصدر التي يتصل بها، لذلك عندما يطرح المستخدم سؤالاً، يستجيب الذكاء الاصطناعي من مستندات الشركة ذات الصلة فقط و في متناول هذا المستخدم.”

منذ إطلاقه في أبريل، يدعي فيشر أن Credal تعاملت مع أكثر من ربع مليون مكالمة LLM واستوعبت حوالي 100000 مستند خاص بالشركة. لدى الشركة 11 عميلًا حاليًا، وقع العديد منهم عقودًا من “ستة أرقام”، وفقًا لفيشر.

باستخدام رأس المال من الجولة التأسيسية، تخطط كريدال لتوسيع عدد موظفيها (الذي يبلغ خمسة موظفين في الوقت الحاضر) و”توسيع المنتج ليشمل المزيد من مصادر البيانات وإجراء استرجاع بيانات أكثر تعقيدًا”، كما يقول فيشر.

قال فيشر: “تعاني صناعة الذكاء الاصطناعي في الوقت الحالي من خلل نسبي بين الحماس الهائل والعدد الصغير نسبياً من الشركات التي تستخدم شهادات الماجستير في القانون لخلق قيمة في العالم الحقيقي”. “تقوم شركة Credal بحل هذه المشكلة من خلال الدمج العميق مع عدد صغير من المؤسسات الرائعة وحل مشكلاتها فعليًا بشكل شامل.”