السلامة حسب التصميم | تك كرانش

دبليو
مرحبًا بكم في TechCrunch Exchange، وهي نشرة إخبارية أسبوعية عن الشركات الناشئة والأسواق. إنه مستوحى من عمود TechCrunch+ اليومي حيث حصل على اسمه. هل تريدها في بريدك الوارد كل يوم سبت؟ سجل هنا.

قدرة التكنولوجيا على إعادة الابتكار للعجلة جوانبها السلبية: فقد تعني تجاهل الحقائق الصارخة التي تعلمها الآخرون بالفعل. لكن الخبر السار هو أن المؤسسين الجدد يكتشفون الأمر بأنفسهم في بعض الأحيان بشكل أسرع من أسلافهم. — آنا

الذكاء الاصطناعي والثقة والسلامة

هذا العام هو العام الأولمبي، سنة كبيسة. . . و أيضا ال سنة الانتخابات. ولكن قبل أن تتهمني بالتقصير في الولايات المتحدة، فأنا لا أفكر فقط في تتمة بايدن ضد ترامب: إذ تعقد أكثر من 60 دولة انتخابات وطنية، ناهيك عن انتخابات برلمان الاتحاد الأوروبي.

وفي أي اتجاه يمكن أن يؤثر كل من هذه الأصوات على شركات التكنولوجيا؛ على سبيل المثال، تميل الأطراف المختلفة إلى اتخاذ مواقف مختلفة بشأن تنظيم الذكاء الاصطناعي. ولكن قبل إجراء الانتخابات، سيكون للتكنولوجيا أيضًا دور تلعبه لضمان نزاهتها.

من المحتمل أن نزاهة الانتخابات لم تكن في ذهن مارك زوكربيرج عندما أنشأ فيسبوك، وربما حتى عندما اشترى واتساب. ولكن بعد مرور 20 و10 سنوات على التوالي، أصبحت الثقة والسلامة الآن مسؤولية لا تستطيع شركة ميتا وغيرها من عمالقة التكنولوجيا الهروب منها، سواء شاءوا ذلك أم لا. وهذا يعني العمل على منع المعلومات المضللة والاحتيال وخطاب الكراهية ومواد الاعتداء الجنسي على الأطفال وإيذاء النفس وغير ذلك الكثير.

ومع ذلك، من المرجح أن يجعل الذكاء الاصطناعي المهمة أكثر صعوبة، وليس فقط بسبب التزييف العميق أو تمكين أعداد أكبر من الجهات الفاعلة السيئة. يقول لوتان ليفكويتز، الشريك العام في Grove Ventures:

كل منصات الثقة والأمان هذه لديها قاعدة بيانات مشاركة التجزئة، حتى أتمكن من تحميل ما هو سيء هناك، ومشاركته مع جميع مجتمعاتي، وسيقوم الجميع بإيقافه معًا؛ لكن اليوم، يمكنني تدريب النموذج لمحاولة تجنبه. لذلك، فحتى أعمال الثقة والسلامة الأكثر كلاسيكية، بسبب Gen AI، أصبحت أكثر صرامة لأن الخوارزمية يمكن أن تساعد في تجاوز كل هذه الأشياء.

من الفكر اللاحق إلى المقدمة

على الرغم من أن المنتديات عبر الإنترنت قد تعلمت بالفعل شيئًا أو اثنين عن الإشراف على المحتوى، إلا أنه لم يكن هناك قواعد تشغيل خاصة بالشبكات الاجتماعية ليتبعها فيسبوك عند ولادته، لذا فمن المفهوم إلى حد ما أن الشركة ستحتاج إلى بعض الوقت للارتقاء إلى مستوى المهمة. ولكن من المحبط أن نعلم من الوثائق الداخلية أنه منذ عام 2017، كان لا يزال هناك تردد داخلي في اعتماد تدابير يمكن أن تحمي الأطفال بشكل أفضل.

كان زوكربيرج أحد الرؤساء التنفيذيين الخمسة لتكنولوجيا وسائل التواصل الاجتماعي الذين ظهروا مؤخرًا في جلسة استماع بمجلس الشيوخ الأمريكي حول سلامة الأطفال عبر الإنترنت. لم تكن الشهادة الأولى على الإطلاق بالنسبة لـ Meta، ولكن إدراج Discord جدير بالملاحظة أيضًا؛ على الرغم من أنها تشعبت إلى ما هو أبعد من جذور الألعاب، إلا أنها بمثابة تذكير بأن تهديدات الثقة والسلامة يمكن أن تحدث في العديد من الأماكن عبر الإنترنت. وهذا يعني أن أحد تطبيقات الألعاب الاجتماعية، على سبيل المثال، يمكن أن يعرض مستخدميه أيضًا لخطر التصيد الاحتيالي أو الاستدراج.

هل ستمتلك الشركات الأحدث بشكل أسرع من FAANGs؟ وهذا غير مضمون: غالبًا ما يعمل المؤسسون انطلاقًا من المبادئ الأولى، وهو أمر جيد وسيئ؛ منحنى التعلم للإشراف على المحتوى حقيقي. لكن OpenAI أصغر بكثير من Meta، لذلك من المشجع أن نسمع أنها تشكل فريقًا جديدًا لدراسة سلامة الأطفال – حتى لو كان ذلك نتيجة للتدقيق الذي تخضع له.

ومع ذلك، فإن بعض الشركات الناشئة لا تنتظر ظهور علامات على وجود مشكلة حتى تتخذ الإجراءات اللازمة. أخبرني رئيسها التنفيذي نعوم شوارتز، أن شركة ActiveFence، وهي شركة تقدم حلول الثقة والسلامة المدعومة بالذكاء الاصطناعي وجزء من محفظة Grove Ventures، تشهد المزيد من الطلبات الواردة.

“لقد رأيت الكثير من الأشخاص يتواصلون مع فريقنا من الشركات التي تم تأسيسها للتو أو حتى تم إطلاقها مسبقًا. إنهم يفكرون في سلامة منتجاتهم أثناء مرحلة التصميم [and] اعتماد مفهوم يسمى السلامة حسب التصميم. إنهم يتخذون تدابير السلامة داخل منتجاتهم، بنفس الطريقة التي تفكر بها اليوم في الأمان والخصوصية عندما تقوم ببناء ميزاتك.

ليست ActiveFence الشركة الناشئة الوحيدة في هذا المجال، والتي وصفتها Wired بأنها “خدمة الثقة والأمان”. لكنها واحدة من أكبر الشركات، خاصة أنها استحوذت على Spectrum Labs في سبتمبر، لذا من الجيد أن نسمع أن عملائها لا يشملون فقط الأسماء الكبيرة التي تخشى أزمات العلاقات العامة والتدقيق السياسي، ولكن أيضًا الفرق الأصغر التي بدأت للتو. لدى التكنولوجيا أيضًا فرصة للتعلم من أخطاء الماضي.