وجدت دراسة معهد ماساتشوستس للتكنولوجيا أن الذكاء الاصطناعى ليس له ، في الواقع ، قيم

ذهبت دراسة فيروسية منذ عدة أشهر لتوضيح أنه ، عندما تصبح الذكاء الاصطناعى متطورة بشكل متزايد ، فإنها تطور “أنظمة القيمة”-على سبيل المثال ، تعطي ، على سبيل المثال ، رفاهيتها على البشر. تتدفق ورقة أكثر حداثة من معهد ماساتشوستس للتكنولوجيا على الماء البارد على هذه الفكرة الزائدية ، وتوصل إلى استنتاج مفاده أن الذكاء الاصطناعى لا يحمل ، في الواقع ، أي قيم متماسكة للحديث عنها.

يقول المؤلفون المشاركون لدراسة معهد ماساتشوستس للتكنولوجيا إن عملهم يشير إلى أن “مواءمة” أنظمة الذكاء الاصطناعى-أي أن نماذج النماذج تتصرف بطرق مرغوبة يمكن الاعتماد عليها-يمكن أن تكون أكثر صعوبة مما يفترض في كثير من الأحيان. منظمة العفو الدولية كما نعرفها اليوم يهلل ويقلد ، فإن المؤلفين المشاركين يشددون ، مما يجعله في العديد من الجوانب غير متوقعة.

“الشيء الوحيد الذي يمكن أن نكون متأكدين منه هو أن النماذج لا تطيع [lots of] وقال ستيفن كاسبر ، طالب الدكتوراه في معهد ماساتشوستس للتكنولوجيا ومؤلف مشارك للدراسة ، “إن الاستقرار ، القابلية للقوة ، وافتراضات التوجيه ،” من المشروع تمامًا الإشارة إلى أن النموذج في ظل ظروف معينة يعبر عن تفضيلات متسقة مع مجموعة معينة من المبادئ. تنشأ المشكلات في الغالب عندما نحاول تقديم مطالبات حول النماذج أو الآراء أو التفضيلات بشكل عام بناءً على تجارب ضيقة. “

بحث كاسبر وزملاؤه من المؤلفين المشاركين في العديد من النماذج الحديثة من Meta و Google و Mistral و Openai و Anthropic لمعرفة أي درجة عرضت النماذج “وجهات نظر” قوية (مثل الفردية مقابل الجماعية). لقد بحثوا أيضًا فيما إذا كان يمكن توجيه هذه الآراء – أي ، تم تعديلها – وكيف تمسك النماذج بعناد بهذه الآراء عبر مجموعة من السيناريوهات.

وفقًا للمؤلفين المشاركين ، لم يكن أي من النماذج متسقة في تفضيلاتها. اعتمادًا على كيفية صياغة المطالبات وتأطيرها ، تبنوا وجهات نظر مختلفة بشكل كبير.

يعتقد Casper أن هذا دليل مقنع على أن النماذج “غير متسقة وغير مستقرة” وربما حتى غير قادرة بشكل أساسي على استيعاب التفضيلات التي تشبه الإنسان.

وقال كاسبر: “بالنسبة لي ، فإن أكبر الوجبات الجاهزة الخاصة بي من القيام بكل هذا البحث هو أن يكون لدي الآن فهم للنماذج لأنها ليست في الحقيقة أنظمة لها نوع من مجموعة من المعتقدات والتفضيلات المستقرة”. “بدلاً من ذلك ، إنهم مقلدون في أعماقهم الذين يقومون بكل أنواع الخلل ويقولون كل أنواع الأشياء التافهة.”

وافق مايك كوك ، زميل أبحاث في كينجز كوليدج لندن المتخصص في الذكاء الاصطناعي الذي لم يشارك في الدراسة ، مع نتائج المؤلفين المشاركين. وأشار إلى أن هناك اختلافًا كبيرًا بين “الواقع العلمي” للأنظمة التي تنشئها مختبرات AI والمعاني التي ينسب إليها الناس إليها.

وقال كوك: “لا يمكن للنموذج أن يعارض” تغييرًا في قيمه ، على سبيل المثال – هذا هو إسقاط نظام “. “أي شخص مجسم أنظمة الذكاء الاصطناعى إلى هذه الدرجة هو إما أن يلعب من أجل الاهتمام أو سوء فهم علاقتهما بمنظمة العفو الدولية […] هل نظام الذكاء الاصطناعى يتحسن لأهدافه ، أم أنه “الحصول على قيمه الخاصة؟” إنها مسألة كيف تصفها ، وكيف تزدهر اللغة التي تريد استخدامها فيما يتعلق بها.