أصدرت شركة Alphabet Inc يوم الثلاثاء تفاصيل جديدة حول أجهزة الكمبيوتر العملاقة التي تستخدمها لتدريب نماذج الذكاء الاصطناعي ، قائلة إن الأنظمة أسرع وأكثر كفاءة في استهلاك الطاقة من الأنظمة المماثلة من Nvidia Corp .
صممت Google شريحة مخصصة خاصة بها تسمى Tensor Processing Unit أو TPU. تستخدم هذه الشرائح لأكثر من 90٪ من عمل الشركة في تدريب الذكاء الاصطناعي ، وهي عملية تغذية البيانات من خلال النماذج لجعلها مفيدة في مهام مثل الرد على الاستفسارات بنصوص تشبه الإنسان أو توليد الصور.
Google TPU هو الآن في جيله الرابع. نشرت Google يوم الثلاثاء ورقة علمية توضح بالتفصيل كيفية دمج أكثر من 4000 شريحة معًا في كمبيوتر عملاق باستخدام مفاتيحها الضوئية المطورة خصيصًا للمساعدة في توصيل الأجهزة الفردية.
أصبح تحسين هذه الاتصالات نقطة رئيسية في المنافسة بين الشركات التي تبني أجهزة كمبيوتر عملاقة تعمل بالذكاء الاصطناعي لأن ما يسمى بنماذج اللغات الكبيرة التي تعمل بتقنيات مثل Bard من Google أو ChatGPT من OpenAI
قد انفجرت في الحجم ، مما يعني أنها كبيرة جدًا بحيث لا يمكن تخزينها على شريحة واحدة.
بدلاً من ذلك ، يجب تقسيم النماذج عبر آلاف الرقائق ، والتي يجب أن تعمل معًا لأسابيع أو أكثر لتدريب النموذج. تم تدريب نموذج PaLM من Google – وهو أكبر نموذج لغوي تم الكشف عنه علنًا حتى الآن – من خلال تقسيمه عبر اثنين من أجهزة الكمبيوتر العملاقة المكونة من 4000 شريحة على مدار 50 يومًا.
قالت Google إن حواسيبها الفائقة تجعل من السهل إعادة تكوين الاتصالات بين الرقائق أثناء التنقل ، مما يساعد على تجنب المشاكل والتعديل لتحقيق مكاسب في الأداء.
كتب زميل Google نورم جوبي ومهندس Google المتميز ديفيد باترسون في منشور مدونة حول النظام: “يجعل تبديل الدوائر من السهل التوجيه حول المكونات الفاشلة”. “تسمح لنا هذه المرونة حتى بتغيير طوبولوجيا الاتصال بين الحواسيب الفائقة لتسريع أداء نموذج التعلم الآلي (ML).”
بينما تصدر Google الآن فقط تفاصيل حول جهاز الكمبيوتر العملاق الخاص بها ، إلا أنها كانت متصلة بالإنترنت داخل الشركة منذ عام 2020 في مركز بيانات في مقاطعة مايز بولاية أوكلاهوما. قالت شركة جوجل إن الشركة الناشئة Midjourney استخدمت النظام لتدريب نموذجه ، والذي ينتج صورًا جديدة بعد تلقيه بضع كلمات من النص.
في الورقة البحثية ، قالت Google إنه بالنسبة للأنظمة ذات الحجم المتماثل ، فإن رقاقاتها أسرع بما يصل إلى 1.7 مرة وأكثر كفاءة في استهلاك الطاقة 1.9 مرة من نظام يعتمد على شريحة Nvidia’s A100 التي كانت موجودة في السوق في نفس الوقت مثل الجيل الرابع من TPU .
ورفض متحدث باسم Nvidia التعليق.
قالت جوجل إنها لم تقارن جيلها الرابع بشريحة H100 الرئيسية الحالية من Nvidia لأن H100 جاء إلى السوق بعد شريحة Google وهو مصنوع بتقنية أحدث.
ألمحت Google إلى أنها قد تعمل على TPU جديدة من شأنها أن تنافس Nvidia H100 لكنها لم تقدم أي تفاصيل ، حيث أخبر Jouppi رويترز أن Google لديها “خط أنابيب صحي من الرقائق المستقبلية”.
تعليق واحد