تعرف على Black Forest Labs، الشركة الناشئة التي تعمل على تشغيل مولد الصور المعطل بالذكاء الاصطناعي الخاص بـ Elon Musk
أصدر Elon Musk’s Grok ميزة جديدة لإنشاء صور الذكاء الاصطناعي ليلة الثلاثاء، والتي، تمامًا مثل برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، لا تحتوي على سوى القليل من الضمانات. وهذا يعني أنه يمكنك إنشاء صور مزيفة لدونالد ترامب وهو يدخن الماريجوانا في برنامج Joe Rogan Show، على سبيل المثال، وتحميلها مباشرة على منصة X. لكن الشركة الناشئة الجديدة هي التي تقف وراء هذه الميزة المثيرة للجدل.
لقد امتلأ موقع التواصل الاجتماعي بالفعل بالصور الفاحشة من الميزة الجديدة. من المؤكد أن هذا يثير مخاوف مع اقتراب الدورة الانتخابية، لكن بالمعنى الدقيق للكلمة، ليست شركة الذكاء الاصطناعي التابعة لإيلون موسك هي التي تحرك الجنون. يبدو أن ” ماسك ” وجد شركة تتعاطف مع رؤيته لـ Grok باعتباره “روبوت دردشة مضاد للاستيقاظ” بدون حواجز الحماية الصارمة الموجودة في Dall-E من OpenAI أو Imagen من Google. في يوم الثلاثاء، أعلنت xAI عن تعاونها مع Black Forest Labs، وهي شركة ناشئة تعمل بالذكاء الاصطناعي للصور والفيديو تم إطلاقها في 1 أغسطس، لتشغيل مولد الصور الخاص بـ Grok باستخدام نموذج FLUX.1 الخاص به.
يقع مقر Black Forest Labs في ألمانيا، وقد خرجت مؤخرًا من السرية بتمويل أولي بقيمة 31 مليون دولار، بقيادة أندريسن هورويتز، وفقًا لبيان صحفي. ومن بين المستثمرين البارزين الآخرين الرئيس التنفيذي لشركة Y Combinator Garry Tan والرئيس التنفيذي السابق لشركة Oculus Brandan Iribe. كان المؤسسون المشاركون للشركة الناشئة، روبن رومباخ، وباتريك إيسر، وأندرياس بلاتمان، باحثين سابقًا ساعدوا في إنشاء نماذج Stable AI’s Stable Diffusion.
وفقًا للتحليل الاصطناعي، تتفوق نماذج FLUX.1 من Black Forest Lab على مولدات الصور ذات الذكاء الاصطناعي من Midjourney وOpenAI من حيث الجودة، على الأقل حسب تصنيف المستخدمين في ساحة الصور الخاصة بهم.
تقول الشركة الناشئة إنها “تجعل نماذجنا متاحة لجمهور واسع”، من خلال نماذج توليد صور الذكاء الاصطناعي مفتوحة المصدر على Hugging Face وGitHub. وتقول الشركة قريبًا إنها تخطط لإنشاء نموذج تحويل النص إلى فيديو أيضًا.
لم تستجب شركة Black Forest Labs على الفور لطلب TechCrunch للتعليق.
في بيان الإطلاق، تقول الشركة إنها تهدف إلى “تعزيز الثقة في سلامة هذه النماذج”، ومع ذلك، قد يقول البعض إن تدفق الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي على X Wednesday فعل العكس. تمكن المستخدمون من إنشاء العديد من الصور باستخدام أداة Grok وBlack Forest Labs، مثل صورة Pikachu وهو يحمل بندقية هجومية، ولم يكن من الممكن إعادة إنشائها باستخدام Google أو مولدات الصور الخاصة بـ OpenAI. من المؤكد أنه ليس هناك شك في أن الصور المحمية بحقوق الطبع والنشر قد تم استخدامها لتدريب العارضة.
هذا نوع من النقطة
من المحتمل أن يكون هذا النقص في الضمانات هو السبب الرئيسي وراء اختيار ” ماسك ” لهذا المتعاون. لقد أوضح ماسك أنه يعتقد أن الضمانات تجعل نماذج الذكاء الاصطناعي أقل أمانًا. وقال ماسك في تغريدة من عام 2022: “إن خطر تدريب الذكاء الاصطناعي على الاستيقاظ – بمعنى آخر، الكذب – هو خطر مميت”.
نشر مدير مجلس إدارة Black Forest Labs، Anjney Midha، على X سلسلة من المقارنات بين الصور التي تم إنشاؤها في اليوم الأول من الإطلاق بواسطة Google Gemini وGrok’s Flux. يسلط الموضوع الضوء على مشكلات Google Gemini الموثقة جيدًا فيما يتعلق بإنشاء صور دقيقة تاريخيًا للأشخاص، وتحديدًا عن طريق إدخال التنوع العرقي في الصور بشكل غير لائق.
“أنا سعيد أن @ibab وفريق العمل أخذوا هذا الأمر على محمل الجد واتخذوا القرار الصحيح”، قال Midha في تغريدة، في إشارة إلى تجنب FLUX.1 الواضح لهذه المشكلة (وذكر حساب الباحث الرئيسي في xAI إيغور بابوشكين).
وبسبب هذا الخطأ، اعتذرت Google وأوقفت قدرة Gemini على إنشاء صور للأشخاص في شهر فبراير. اعتبارًا من اليوم، لا تزال الشركة لا تسمح لـ Gemini بإنشاء صور للأشخاص.
خرطوم من المعلومات المضللة
قد يتسبب هذا النقص العام في الضمانات في حدوث مشكلات لـ ” ماسك “. أثارت منصة X انتقادات عندما انتشرت الصور الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تمثل تايلور سويفت على المنصة. إلى جانب تلك الحادثة، يصدر Grok عناوين هلوسة تظهر للمستخدمين على X أسبوعيًا تقريبًا.
في الأسبوع الماضي فقط، حث خمسة وزراء خارجية X على التوقف عن نشر معلومات مضللة حول كامالا هاريس على X. وفي وقت سابق من هذا الشهر، أعاد Musk مشاركة مقطع فيديو يستخدم الذكاء الاصطناعي لاستنساخ صوت Harris، مما جعله يبدو كما لو أن نائب الرئيس اعترف بأنه ” تأجير التنوع.”
يبدو أن ” ماسك ” عازم على السماح لمعلومات مضللة مثل هذه بالانتشار في المنصة. من خلال السماح للمستخدمين بنشر صور Grok المدعومة بالذكاء الاصطناعي، والتي يبدو أنها تفتقر إلى أي علامات مائية، مباشرة على المنصة، فقد فتح بشكل أساسي خرطومًا من المعلومات الخاطئة الموجهة إلى موجز أخبار X للجميع.
طعم وكيف دليل المطاعم والكافيهات دليل المطاعم مدن العالم طعام وشراب مقاهي الرياض أخبار ونصائح دليل الرياض كافيهات الرياض جلسات خارجية دليل مقاهي ومطاعم أفضل كافيهات الرياض عوائل
اكتشاف المزيد من موقع fffm
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
