يتيح منصة سحابة الخادم Koyeb الآن للمطورين تدوير مسرعات AI من TenStorrent
بعد بضعة أسابيع فقط من جمع صانع الرقائق TenStorrent ما يقرب من 700 مليون دولار من التمويل ، يمكن للمطورين الآن تجربة مسرعات AI في Tenstorrent على Koyeb. تبيع TenStorrent معالجات الذكاء الاصطناعي المبنية حول بنية مجموعة تعليمات RISC-V ، وقد طورت مكتبة الشبكات العصبية المفتوحة المصدر ، TT-NN ، ونموذج البرمجة منخفضة المستوى مفتوح المصدر ، TT-Metalium.
TenStorrent هي جزء من مجموعة من الشركات التي تحاول بناء بدائل لـ Nvidia GPUs ومكتبة CUDA التابعة للشركة. وهو يتنافس مع Axelera ، المحفور ، Groq وغيرها.
تأسست Koyeb من قبل المديرين التنفيذيين السابقين في Scaleway ، ويركز على تطوير منصة سحابة بدون خادم للمطورين الذين يبحثون عن طبقة تجريدية على مستوى البنية التحتية السحابية. يتنافس مع أمثال Fly.io ، السكك الحديدية والعرض.
يتيح Koyeb للمطورين نشر التطبيقات عبر العديد من الأجهزة الظاهرية باستخدام واجهة سطر الأوامر أو دفع GIT بعد الاندماج مع مستودع الرمز. وهو يدعم حاويات Docker والعديد من اللغات الشعبية.
تتمثل إحدى ميزات Koyeb الرئيسية في أنه يمكن تلقائيًا توسيع نطاق التطبيق إلى مئات الخوادم إذا لزم الأمر ، وعندما يكون هناك عدد أقل من حركة المرور ، يمكن أن يقلل تلقائيًا من البنية التحتية للخادم.
في الأشهر الأخيرة ، تركز Koyeb على وجه التحديد على تطبيقات الذكاء الاصطناعي. نظرًا للطبيعة بدون خادم من النظام الأساسي ، يمكن أن تقدم تجربة منخفضة الكلية لأعباء عمل الذكاء الاصطناعي.
على جبهة الأجهزة ، نشرت Koyeb لوحات PCIe في TenStorrent في مراكز البيانات الخاصة بها. يمكن للمطورين الوصول إلى TT-Metalium SDK من TenStorrent منخفضة المستوى لكتابة برامج المضيف والنواة.
سيجد المطورون نوعين جديدين من الحالات في وثائق Koyeb وألواح المشرفين:
- يحتوي مثيل TT-N300S على 24 جيجابايت من ذاكرة GDDR6 ، 192 ميجابايت من SRAM ، ويوفر ما يصل إلى 466 FP8 TFLOPS. يقترن مع 64 جيجابايت من ذاكرة الوصول العشوائي و 4 VCPUs.
- يحتوي مثيل TT-Loudbox على أربعة N300s. يحصل المطورون على 96 جيجابايت من GDDR6 ، 768 ميجابايت من SRAM ، وما يصل إلى 1864 FP8 TFLOPS. يضم 256 جيجابايت من ذاكرة الوصول العشوائي و 16 VCPU.
مع هذا الإصدار ، تحاول Koyeb أن تضع نفسها كمنصة سحابة غازية للأجهزة. “هذا يذكرنا بأول ARM لأول مرة في سوق الخادم مع رقائق عالية الأداء” ، قال المؤسس المشارك والمدير التنفيذي لشركة Koyeb لـ TechCrunch لـ TechCrunch.
وأضاف: “نظرًا لأننا قدمنا ARM إلى السوق مع عودة Scaleway في الأيام ، حيث قدمت خوادم مخصصة بالكامل في 2013-2014 ، لدينا خبرة في نشر مختلف البنى وتشغيل أجهزة متنوعة”.
أما بالنسبة لـ TenStorrent ، تبحث صانع AI Chipmaker عن شركاء لبناء نظام بيئي للمطور حول نموذج البرمجة المفتوح المصدر. سوف يستغرق الأمر قرية لتقديم بديل لمكدس Nvidia من الذكاء الاصطناعي.
