عمالقة الذكاء الاصطناعي يرمون عظمة (صغيرة) للباحثين في مجال سلامة الذكاء الاصطناعي

أعلن منتدى Frontier Model Forum، وهو هيئة صناعية تركز على دراسة نماذج الذكاء الاصطناعي “الحدودية” على غرار GPT-4 وChatGPT، اليوم أنه سيتعهد بمبلغ 10 ملايين دولار لصندوق جديد لتعزيز الأبحاث حول أدوات “اختبار وتقييم الذكاء الاصطناعي”. نماذج الذكاء الاصطناعي الأكثر قدرة.

يقول منتدى Frontier Model Forum – الذي يضم أعضاؤه Anthropic وGoogle وMicrosoft وOpenAI – سيدعم الباحثين المنتمين إلى المؤسسات الأكاديمية ومؤسسات البحث والشركات الناشئة، بتمويل أولي سيأتي من كل من منتدى Frontier Model وشركائه الخيريين، مؤسسة باتريك جيه ماكغفرن، ومؤسسة ديفيد ولوسيل باكارد، والرئيس التنفيذي السابق لشركة جوجل إريك شميدت، والملياردير الإستوني جان تالين.

وسيتولى إدارة الصندوق معهد ميريديان، وهو مؤسسة غير ربحية مقرها في واشنطن العاصمة، والتي ستوجه دعوة لعدد غير محدد من المقترحات “خلال الأشهر القليلة المقبلة”، حسبما يقول منتدى فرونتير النموذجي. سيتم دعم عمل المعهد من قبل لجنة استشارية من خبراء خارجيين، وخبراء من شركات الذكاء الاصطناعي و”أفراد ذوي خبرة في تقديم المنح”، حسبما أضاف منتدى Frontier Model Forum – دون تحديد هوية هؤلاء الخبراء والأفراد بالضبط أو حجم اللجنة الاستشارية في هذا المجال. سؤال.

“نحن نتوقع مساهمات إضافية من شركاء آخرين،” هذا ما جاء في بيان صحفي نشره منتدى Frontier Model Forum على عدد من المدونات الرسمية. “سيكون التركيز الأساسي للصندوق هو دعم تطوير التقييمات والتقنيات النموذجية الجديدة…. للمساعدة في تطوير واختبار تقنيات التقييم للقدرات التي يحتمل أن تكون خطرة للأنظمة الحدودية.

10 مليون دولار ليس تغييرًا بسيطًا. (بشكل أكثر دقة، تبلغ قيمتها 10 ملايين دولار تعهدات — لم تلتزم مؤسسة ديفيد ولوسيل باكارد رسميًا بالتمويل بعد.) ولكن في سياق أبحاث سلامة الذكاء الاصطناعي، يبدو الأمر جيدًا، محافظ – على الأقل مقارنة بما أنفقه أعضاء The Frontier Model Forum على مساعيهم التجارية.

وفي هذا العام وحده، جمعت شركة Anthropic مليارات الدولارات من أمازون لتطوير مساعد الذكاء الاصطناعي من الجيل التالي، بعد استثمار بقيمة 300 دولار من Google. تعهدت مايكروسوفت بمبلغ 10 مليارات دولار لصالح OpenAI، ويقال إن OpenAI – التي تزيد إيراداتها السنوية عن مليار دولار – تجري محادثات لبيع أسهم في خطوة من شأنها أن تعزز تقييمها إلى ما يصل إلى 90 مليار دولار.

كما أن الصندوق صغير أيضًا مقارنة بمنح سلامة الذكاء الاصطناعي الأخرى.

تبرعت مؤسسة Open Philanthropy، وهي مؤسسة تقديم المنح والأبحاث التي شارك في تأسيسها مؤسس فيسبوك داستن موسكوفيتز، بحوالي 307 ملايين دولار لسلامة الذكاء الاصطناعي، وفقًا لتحليل نُشر على مدونة Less Wrong. وقد تبرعت مؤسسة المنفعة العامة The Survival and Flourishing Fund – التي قدمتها تالين بشكل أساسي – بحوالي 30 مليون دولار لمشاريع سلامة الذكاء الاصطناعي. وقالت مؤسسة العلوم الوطنية الأمريكية إنها ستنفق 20 مليون دولار على أبحاث سلامة الذكاء الاصطناعي على مدى العامين المقبلين، بدعم جزئي من المنح الخيرية المفتوحة.

لن يقوم باحثو سلامة الذكاء الاصطناعي بالضرورة بتدريب نماذج مستوى GPT-4 من الصفر. ولكن حتى النماذج الأصغر حجمًا والأقل قدرة التي قد يرغبون في اختبارها سيكون تطويرها باستخدام أجهزة اليوم أمرًا مكلفًا، حيث تتراوح التكلفة من مئات الآلاف من الدولارات إلى الملايين. وهذا لا يأخذ في الاعتبار النفقات العامة الأخرى، مثل الرواتب التي يجب دفعها للباحثين. (علماء البيانات لا يأتون بثمن بخس).

يشير منتدى Frontier Model إلى صندوق أكبر في المستقبل. فإذا تحقق ذلك، فهو ربما فقط لدينا فرصة لتحريك الإبرة في أبحاث سلامة الذكاء الاصطناعي – إذا أردنا أن نثق في داعمي الصندوق الذين يهدفون إلى الربح بالتأكيد للامتناع عن ممارسة تأثير غير مبرر على البحث. ولكن بغض النظر عن كيفية تقسيمها، فإن الشريحة الأولية تبدو محدودة للغاية بحيث لا يمكنها تحقيق الكثير.