آبل تتعاون مع Nvidia لتحسين سرعة أداء نماذج الذكاء الاصطناعى الخاصة بها

4:31 ص

دقيقة واحدة

مي كمال الدين

تتعاون Apple مع Nvidia لتحسين سرعة أداء نماذج الذكاء الاصطناعي (AI). أعلنت الشركة أنها تبحث في تسريع الاستدلال على منصة Nvidia لمعرفة ما إذا كان من الممكن تحسين كفاءة وزمن الوصول لنموذج اللغة الكبير (LLM) في وقت واحد. .

استخدمت Apple تقنية تسمى Recurrent Drafter (ReDrafter)، والتي تم دمجها مع إطار تسريع الاستدلال Nvidia TensorRT-LLM.

شرح باحثو Apple بالتفصيل التعاون الجديد مع Nvidia لتحسين أداء LLM والنتائج التي تحققت منه.

وأكدت الشركة أنها تحقق في مشكلة تحسين كفاءة الاستدلال مع الحفاظ على زمن الوصول في نماذج الذكاء الاصطناعي. يشير الاستدلال في التعلم الآلي إلى عملية عمل تنبؤات أو قرارات أو استنتاجات بناءً على مجموعة محددة من البيانات أو المدخلات أثناء استخدام نموذج مدرب.

تعتمد خطوة المعالجة هذه في نموذج الذكاء الاصطناعي على فك تشفير المطالبات وتحويل البيانات الأولية إلى معلومات معالجة غير مرئية
في وقت سابق من هذا العام.

نشرت شركة Apple تقنية ReDrafter وجعلتها مفتوحة المصدر، مما أدى إلى تقديم نهج جديد لفك تشفير البيانات التخمينية. باستخدام نموذج أولي للشبكة العصبية المتكررة (RNN)، فهو يجمع بين البحث المتجه (آلية حيث يستكشف الذكاء الاصطناعي احتمالات متعددة للحل) والاهتمام الشجري الديناميكي (تتم معالجة البيانات). هيكل الشجرة باستخدام آلية الانتباه).

أفاد الباحثون أنه يمكن تسريع إنشاء كود LLM بما يصل إلى 3.5 كود لكل جيل.

للمزيد : تابعنا هنا ، وللتواصل الاجتماعي تابعنا علي فيسبوك وتويتر .