يريد Prompt Security جعل GenAI آمنًا للمؤسسة

تتحرك الشركات بشكل أسرع من أي وقت مضى لاستخدام الذكاء الاصطناعي التوليدي وتقديمه لموظفيها ومستخدميها. ومع ذلك، فإن التحرك السريع والأمان لا يسيران جنبًا إلى جنب دائمًا، لذلك انتبهت العديد من الشركات الآن فقط إلى المخاوف الأمنية المحتملة المتعلقة باستخدام الذكاء الاصطناعي التوليدي. تريد شركة Prompt Security ومقرها إسرائيل مساعدة المؤسسات على ضمان عدم قيام موظفيها بتسريب البيانات إلى أدوات GenAI – بما في ذلك تلك التي لم يتم اعتمادها رسميًا من قبل فرق تكنولوجيا المعلومات في الشركة (فكر في “الذكاء الاصطناعي الظلي”) – مع مساعدتهم أيضًا في تأمين تعاملاتهم الخاصة مع العملاء تطبيق تمكين GenAI.

تخرج الشركة من السرية اليوم وتعلن عن جولة تمويل أولية بقيمة 5 ملايين دولار بقيادة Hetz Ventures، بمشاركة من Four Rivers وعدد من المستثمرين الملائكيين في هذا المجال، بما في ذلك CISOs في Airbnb وElastic وDolby.

تأسست شركة Prompt Security على يد إيتامار جولان (الرئيس التنفيذي) وليور دريهيم (CTO)، اللذين عملا سابقًا في Check Point وOrca Security. “كنت أعلم دائمًا أنني أريد تأسيس شركتي الخاصة. كان شغفي الأكبر هو الذكاء الاصطناعي والأمن، ولكن قبل خمس سنوات، أدركت أن السوق لم يكن ناضجًا بما فيه الكفاية. لذلك انتظرت اللحظة المناسبة”، قال لي جولان.

وبعد ذلك، منذ حوالي 18 شهرًا، بدأ فريقه في Orca في البحث في تنفيذ ميزة معالجة قائمة على الذكاء الاصطناعي، والتي انتهى به الأمر إلى بنائها بالتعاون مع Drihem. وهذا ما ألهم الفريق لبدء هذه الشركة الجديدة. “لقد رأينا الأبواب الخلفية المختلفة التي كنا نتركها خلال عملية التطوير ونظرنا إلى بعضنا البعض وقلنا: هناك سطح هجوم جديد بسبب هذه البنى والأطر الجديدة – أصبحت أشياء مثل الحقن الفوري مستحيلة فجأة – ثم فهمنا أن السوق الجديدة على وشك الازدهار.

يعد Golan أيضًا جزءًا من مبادرة OWASP Top 10 لتعزيز أمان تطبيقات LLM.

وأوضح جولان أن جزءًا من مشكلة كبار مسؤولي تكنولوجيا المعلومات اليوم هو أنهم ليس لديهم فهم جيد للأدوات التي يصل إليها مستخدموهم من داخل شبكاتهم. وهذا أيضًا يترك الباب مفتوحًا للموظفين، على سبيل المثال، لمشاركة معلومات التعريف الشخصية مع هذه الخدمات. يمثل هذا النوع من تسرب البيانات مشكلة في حد ذاته، ولكنه قد يعرض الشركة أيضًا لقضايا تنظيمية. من وجهة نظر المستخدم، فإن منتج Prompt Security لضمان عدم حدوث ذلك هو امتداد للمتصفح ومكون إضافي لـ IDE. تكتشف أدوات الشركة تلقائيًا الأنماط المتعلقة باستخدام GenAI ثم تضع سياسة التنفيذ فوق ذلك. وتقول الشركة إن كل هذا لا يقدم سوى الحد الأدنى من زمن الوصول لتجربة المستخدم.

وفي الوقت نفسه، على جانب التطبيق، تفتح تطبيقات الدردشة GenAI سطحًا جديدًا للهجوم من خلال عمليات الحقن السريع وكسر الحماية، والتي قد تصل إلى حد السماح للمهاجم بتشغيل تعليمات برمجية غير مصرح بها داخل شبكة الشركة.

وشدد جولان على أن الشركة تحاول بناء منصة كاملة هنا من خلال تغطية الجوانب المختلفة لاستخدام GenAI في المؤسسة. “نحن نحاول بناء حل شامل لأمن GenAI. نحن نغطي استخدام الموظفين – جانب أمن المعلومات الخاص بالشركة – وجانب أمان التطبيق.”

أخبرني جولان أنه قبل بضعة أشهر فقط، كان العديد من مدراء تكنولوجيا المعلومات لا يزالون إما غير مدركين أو غير مهتمين بقضايا أمان GenAI، لكن هذا يتغير بسرعة الآن بعد أن شهدوا زيادة في استخدام الظل للذكاء الاصطناعي.

وبمرور الوقت، تخطط الشركة لإطلاق المزيد من الخدمات التي تساعد عملائها على زيادة وضعهم الأمني ​​في GenAI. حاليًا، ينصب تركيز Prompt Security في الغالب على تأمين التطبيقات في الإنتاج، لكن الفريق يخطط للتركيز بشكل متزايد على مساعدة المطورين على تأمين تطبيقاتهم أثناء مرحلتي التطوير والاختبار. قال جولان عندما سألته عن خطط الشركة التوسعية: “أعتقد أننا بحاجة إلى التركيز بشدة في الوقت الحالي على الاحتياجات الحالية المتعلقة بجيل الذكاء الاصطناعي: الرؤية وخصوصية البيانات في الوقت الفعلي”. “في وقت لاحق، سوف نتوسع بمزيد من الأموال والمزيد من تعليقات العملاء – وأود أن أقول إن هذا السوق مجنون للغاية، وما أقوله لك الآن ربما لن يكون ذا صلة في العام المقبل.”