Lakera، التي تحمي الشركات من ثغرات LLM، تجمع 20 مليون دولار
قامت شركة Lakera، وهي شركة سويسرية ناشئة تعمل على بناء تكنولوجيا لحماية تطبيقات الذكاء الاصطناعي التوليدية من المطالبات الضارة والتهديدات الأخرى، بجمع 20 مليون دولار في جولة من السلسلة A بقيادة شركة رأس المال الاستثماري الأوروبية Atomico.
لقد برز الذكاء الاصطناعي التوليدي باعتباره الطفل المدلل لحركة الذكاء الاصطناعي المزدهرة، مدفوعة بالتطبيقات الشائعة مثل ChatGPT. ولكنه يظل مدعاة للقلق داخل إعدادات المؤسسة، ويرجع ذلك إلى حد كبير إلى المشكلات المتعلقة بالأمان وخصوصية البيانات.
بالنسبة للسياق، فإن نماذج اللغة الكبيرة (LLMs) هي المحركات التي تقف وراء الذكاء الاصطناعي التوليدي وتمكن الآلات من فهم النص وتوليده تمامًا مثل الإنسان. ولكن سواء كنت تريد مثل هذا التطبيق لكتابة قصيدة أو تلخيص عقد قانوني، فإنه يحتاج إلى تعليمات لتوجيه مخرجاته. ومع ذلك، يمكن إنشاء هذه “المطالبات” بطريقة تخدع التطبيق للقيام بشيء ليس من المفترض أن يفعله، مثل الكشف عن البيانات السرية التي تم استخدامها لتدريبه، أو منح الوصول غير المصرح به إلى الأنظمة الخاصة. وتشكل مثل هذه “الحقن الفوري” مصدر قلق حقيقي ومتزايد، وهي على وجه التحديد ما يسعى لاكرا إلى معالجته.
استجابة سريعة
تأسست Lakera في زيورخ في عام 2021، وتم إطلاقها رسميًا في أكتوبر الماضي بتمويل قدره 10 ملايين دولار، مع وعد صريح بحماية المؤسسات من نقاط الضعف الأمنية في LLM مثل تسرب البيانات أو الحقن الفوري. إنه يعمل مع أي برنامج LLM، بما في ذلك OpenAI’s GPT-X، وGoogle’s Bard، وMeta’s LLaMA، وAnthropic’s Claude.
يتم تقديم Lakera في جوهره على أنه “جدار حماية لتطبيقات الذكاء الاصطناعي منخفض زمن الوصول” الذي يؤمن حركة المرور داخل وخارج تطبيقات الذكاء الاصطناعي التوليدية.
المنتج الافتتاحي للشركة، Lakera Guard، مبني على قاعدة بيانات تجمع الأفكار من مصادر لا تعد ولا تحصى، بما في ذلك مجموعات البيانات “مفتوحة المصدر” المتاحة للجمهور مثل تلك المستضافة على Hugging Face، وأبحاث التعلم الآلي الداخلية، ولعبة تفاعلية غريبة. تم تطويره يسمى Gandalf، والذي يدعو المستخدمين لمحاولة خداعه للكشف عن كلمة مرور سرية.
تصبح اللعبة أكثر تعقيدًا (وبالتالي يصبح “اختراقها” أكثر صعوبة) مع تقدم المستويات. لكن هذه التفاعلات مكنت لاكيرا من بناء ما تسميه “تصنيف الحقن الفوري” الذي يفصل مثل هذه الهجمات إلى فئات.
وأوضح ديفيد هابر، المؤسس المشارك والرئيس التنفيذي لشركة Lakera، لموقع TechCrunch: “نحن نعتمد على الذكاء الاصطناعي أولاً، حيث نبني نماذجنا الخاصة لاكتشاف الهجمات الضارة مثل الحقن الفوري في الوقت الفعلي”. “تتعلم نماذجنا باستمرار من كميات كبيرة من تفاعلات الذكاء الاصطناعي التوليدية كيف تبدو التفاعلات الضارة. ونتيجة لذلك، فإن نماذج الكشف لدينا تتحسن وتتطور باستمرار مع مشهد التهديدات الناشئة.
تقول Lakera أنه من خلال دمج تطبيقاتها مع Lakera Guard API، يمكن للشركات توفير حماية أفضل ضد المطالبات الضارة. ومع ذلك، قامت الشركة أيضًا بتطوير نماذج متخصصة تقوم بمسح المطالبات ومخرجات التطبيقات بحثًا عن المحتوى السام، مع أجهزة كشف مخصصة لخطاب الكراهية والمحتوى الجنسي والعنف والألفاظ النابية.
وقال هابر: “هذه الكاشفات مفيدة بشكل خاص للتطبيقات التي تواجه الجمهور، على سبيل المثال برامج الدردشة الآلية، ولكنها تستخدم في إعدادات أخرى أيضًا”.
على غرار مجموعة أدوات الدفاع الفوري، يمكن للشركات دمج ذكاء إدارة محتوى Lakera مع سطر واحد من التعليمات البرمجية، ويمكنها الوصول إلى لوحة تحكم مركزية للتحكم في السياسة لضبط الحدود التي تريد تعيينها وفقًا لنوع المحتوى.
ومع وجود مبلغ جديد قدره 20 مليون دولار في البنك، تستعد شركة Lakera الآن لتوسيع تواجدها العالمي، لا سيما في الولايات المتحدة. وتمتلك الشركة بالفعل عددًا من العملاء البارزين إلى حد ما في أمريكا الشمالية، بما في ذلك شركة Respell الناشئة للذكاء الاصطناعي ومقرها الولايات المتحدة بالإضافة إلى الشركة الكندية. ميجا يونيكورن كوهير.
وقال هابر: “تتسابق الشركات الكبيرة وشركات SaaS ومقدمو نماذج الذكاء الاصطناعي جميعًا لطرح تطبيقات الذكاء الاصطناعي الآمنة”. “تدرك مؤسسات الخدمات المالية مخاطر الأمن والامتثال وهي من أوائل المتبنين لهذه التكنولوجيا، ولكننا نشهد اهتمامًا عبر الصناعات. تعرف معظم الشركات أنها بحاجة إلى دمج GenAI في عملياتها التجارية الأساسية لتظل قادرة على المنافسة.
بصرف النظر عن الداعم الرئيسي Atomico، تضمنت جولة Lakera’s Series A مشاركة من ذراع Dropbox’s VC وCiti Ventures وRedalpine.
