تريد Armilla منح الشركات ضمانًا للذكاء الاصطناعي

هناك الكثير من الأخطاء التي يمكن أن تحدث في GenAI، وخاصة GenAI التابع لجهة خارجية. إنه يصنع الأشياء. انها متحيزة وسام. ويمكن أن يتعارض مع قواعد حقوق النشر. وفقًا لدراسة حديثة أجرتها MIT Sloan Management Review وBoston Consulting Group، فإن أدوات الذكاء الاصطناعي التابعة لجهات خارجية مسؤولة عن أكثر من 55% من حالات الفشل المرتبطة بالذكاء الاصطناعي في المؤسسات.

لذلك ليس من المستغرب، على وجه التحديد، أن تكون بعض الشركات حذرة من اعتماد هذه التكنولوجيا حتى الآن.

ولكن ماذا لو جاء GenAI مع ضمان؟

هذه هي فكرة العمل التي طرحها كارثيك راماكريشنان، رجل الأعمال والمهندس الكهربائي، منذ عدة سنوات أثناء عمله في شركة Deloitte كمدير أول. لقد شارك في تأسيس شركتين “الذكاء الاصطناعي أولاً”، هما Gallop Labs وBlu Trumpet، وفي النهاية أدرك أن الثقة – والقدرة على قياس المخاطر – كانت تعيق اعتماد الذكاء الاصطناعي.

وقال راماكريشنان لـ TechCrunch في مقابلة عبر البريد الإلكتروني: “في الوقت الحالي، تبحث كل مؤسسة تقريبًا عن طرق لتطبيق الذكاء الاصطناعي لزيادة الكفاءة ومواكبة السوق”. “وللقيام بذلك، يلجأ الكثيرون إلى بائعين خارجيين وينفذون نماذج الذكاء الاصطناعي الخاصة بهم دون فهم كامل لجودة المنتجات… يتقدم الذكاء الاصطناعي بوتيرة سريعة بحيث تتطور المخاطر والأضرار دائمًا.”

لذلك تعاون راماكريشنان مع دان أدامسون، الخبير في خوارزميات البحث ومؤسس شركة ناشئة مرتين، لبدء شركة Armilla AI، التي توفر ضمانات على نماذج الذكاء الاصطناعي لعملاء الشركات.

قد تتساءل كيف يمكن لـ Armilla القيام بذلك نظرًا لأن معظم النماذج عبارة عن صناديق سوداء أو خلف التراخيص والاشتراكات وواجهات برمجة التطبيقات؟ لدي نفس السؤال. من خلال قياس الأداء، كانت إجابة راماكريشنان – واتباع نهج دقيق لاكتساب العملاء.

تتخذ Armilla نموذجًا – سواء كان مفتوح المصدر أو خاصًا – وتجري تقييمات “للتحقق من جودته”، بناءً على المشهد التنظيمي العالمي للذكاء الاصطناعي. تقوم الشركة باختبار أشياء مثل الهلوسة، والتحيز العنصري والجنسي والعدالة، والمتانة العامة والأمان عبر مجموعة من التطبيقات النظرية وحالات الاستخدام، مع الاستفادة من تقنية التقييم الداخلية الخاصة بها.

إذا اجتاز النموذج الاختبار، فإن Armilla تدعمه بضمانها، الذي يعوض مشتري النموذج عن أي رسوم دفعها لاستخدام النموذج.

وقال راماكريشنان: “ما نقدمه للمؤسسات حقًا هو الثقة في التكنولوجيا التي يشترونها من بائعي الذكاء الاصطناعي الخارجيين”. “يمكن للشركات أن تأتي إلينا وتطلب منا إجراء تقييمات للموردين الذين يتطلعون إلى استخدامهم. تمامًا مثل اختبار الاختراق الذي يقومون به للتكنولوجيا الجديدة، فإننا نقوم بإجراء اختبار الاختراق للذكاء الاصطناعي.

بالمناسبة، سألت راماكريشنان عما إذا كان هناك أي نماذج لأرميلا لن اختبار لأسباب أخلاقية – على سبيل المثال، خوارزمية التعرف على الوجه من بائع معروف بممارسة أعمال تجارية مع جهات مشكوك فيها. هو قال:

“لن يكون الأمر مخالفًا لأخلاقياتنا فحسب، بل يتعارض مع نموذج أعمالنا، الذي يعتمد على الثقة، لإنتاج تقييمات وتقارير توفر ثقة زائفة في نماذج الذكاء الاصطناعي التي تمثل مشكلة للعميل والمجتمع. من وجهة نظر قانونية، لن نتعامل مع عملاء النماذج المحظورة من قبل الاتحاد الأوروبي، والتي تم حظرها، وهذا هو الحال بالنسبة لبعض أنظمة التعرف على الوجه وأنظمة التصنيف البيومترية، على سبيل المثال – ولكن التطبيقات التي تندرج ضمن فئة “الخطر العالي” كما هو محدد في قانون الذكاء الاصطناعي للاتحاد الأوروبي، نعم.

الآن، مفهوم الضمانات وتغطية السياسة للذكاء الاصطناعي ليس جديدًا – وهي حقيقة فاجأت هذا الكاتب بصراحة. في العام الماضي، أطلقت شركة ميونيخ ري لأول مرة منتج تأمين، aiSure، المصمم للحماية من الخسائر الناجمة عن نماذج الذكاء الاصطناعي التي يحتمل أن تكون غير موثوقة من خلال تشغيل النماذج من خلال معايير مماثلة لتلك الخاصة بشركة Armilla. وبعيدًا عن الضمانات، يقدم عدد متزايد من الموردين، بما في ذلك OpenAI وMicrosoft وAWS، الحماية المتعلقة بانتهاكات حقوق الطبع والنشر التي قد تنشأ عن نشر أدوات الذكاء الاصطناعي الخاصة بهم.

لكن راماكريشنان يدعي أن نهج أرميلا فريد من نوعه.

وأضاف: “يتطرق تقييمنا إلى مجموعة واسعة من المجالات، بما في ذلك مؤشرات الأداء الرئيسية والعمليات والأداء وجودة البيانات والمعايير النوعية والكمية، ونقوم بذلك بجزء صغير من التكلفة والوقت”. “نحن نقوم بتقييم نماذج الذكاء الاصطناعي بناءً على المتطلبات المنصوص عليها في التشريعات مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي أو قانون التحيز في توظيف الذكاء الاصطناعي في مدينة نيويورك – القانون المحلي لمدينة نيويورك رقم 144 – ولوائح الدولة الأخرى، مثل لائحة الاختبار الكمي للذكاء الاصطناعي المقترحة في كولورادو أو تعميم التأمين في نيويورك بشأن استخدام الذكاء الاصطناعي في الاكتتاب أو التسعير. نحن أيضًا على استعداد لإجراء التقييمات التي تتطلبها اللوائح الناشئة الأخرى عند دخولها حيز التنفيذ، مثل قانون الذكاء الاصطناعي والبيانات الكندي.

تدعي شركة Armilla، التي أطلقت التغطية في أواخر عام 2023، بدعم من شركات النقل Swiss Re وGreenlight Re وChaucer، أن لديها عشرة عملاء أو نحو ذلك، بما في ذلك شركة رعاية صحية تطبق GenAI لمعالجة السجلات الطبية. أخبرني راماكريشنان أن قاعدة عملاء Armilla تنمو بمعدل مرتين شهريًا منذ الربع الرابع من عام 2023.

وقال راماكريشنان: “نحن نخدم جمهورين رئيسيين: المؤسسات وبائعي الذكاء الاصطناعي الخارجيين”. “تستخدم المؤسسات ضماننا لتوفير الحماية لموردي الذكاء الاصطناعي التابعين لجهات خارجية الذين يشترونهم. ويستخدم البائعون الخارجيون ضماننا كختم موافقة على أن منتجهم جدير بالثقة، مما يساعد على تقصير دورات مبيعاتهم.

تعتبر ضمانات الذكاء الاصطناعي أمرًا بديهيًا. لكن جزءًا مني يتساءل عما إذا كانت شركة Armilla ستكون قادرة على مواكبة سياسة الذكاء الاصطناعي سريعة التغير (على سبيل المثال، قانون التحيز لخوارزمية التوظيف في مدينة نيويورك، وقانون الاتحاد الأوروبي للذكاء الاصطناعي، وما إلى ذلك)، مما قد يضعها في مأزق للحصول على دفعات كبيرة إذا لم تتمكن من ذلك. التقييمات – والعقود – ليست مضادة للرصاص.

تجاهل راماكريشنان هذا القلق.

وقال: “إن التنظيم يتطور بسرعة في العديد من الولايات القضائية بشكل مستقل، وسيكون من الأهمية بمكان فهم الفروق الدقيقة في التشريعات حول العالم. لا يوجد “مقاس واحد يناسب الجميع” يمكننا تطبيقه كمعيار عالمي، لذلك نحن بحاجة إلى دمج كل ذلك معًا. وهذا يمثل تحديًا – ولكن له فائدة في إنشاء “خندق” لنا.”

قامت شركة Armilla – التي يقع مقرها في تورونتو ويعمل بها 13 موظفًا – بجمع 4.5 مليون دولار مؤخرًا في جولة تأسيسية بقيادة ميسترال (يجب عدم الخلط بينه وبين شركة الذكاء الاصطناعي الناشئة التي تحمل الاسم نفسه) بمشاركة من Greycroft وDifferential Venture Capital وMozilla Ventures وBetaworks Ventures وGreycroft وDifferential Venture Capital وMozilla Ventures وBetaworks Ventures. MS&AD Ventures، 630 Ventures، Morgan Creek Digital، Y Combinator، Greenlight Re and Chaucer. ليصل إجمالي المبلغ الذي تم جمعه إلى 7 ملايين دولار، قال راماكريشنان إن العائدات سيتم تخصيصها لتوسيع عرض الضمان الحالي لشركة Armilla بالإضافة إلى تقديم منتجات جديدة.

وقال راماكريشنان: “سيلعب التأمين الدور الأكبر في معالجة مخاطر الذكاء الاصطناعي، وتعد شركة Armilla في طليعة تطوير منتجات التأمين التي ستسمح للشركات بنشر حلول الذكاء الاصطناعي بأمان”.