تحدثت شركة أبل عن ضغط نماذج الذكاء الاصطناعي مع PrismML؛ نماذج تحتوي على 27 مليار معلمة لتعمل على iPhone

تجري شركة آبل مناقشات في مرحلة مبكرة مع شركة ناشئة في مجال الذكاء الاصطناعي تُدعى PrismML لدمج تقنية ضغط نماذجها في iPhone، بحسب الرئيس التنفيذي لدى PrismML. وقد تتيح هذه الشراكة تشغيل نماذج ذكاء اصطناعي تضم 27 مليار معلمة مباشرة على الجهاز، ما يعزز قدرات Siri ويقوي موقف Apple فيما يتعلق بالخصوصية.

في 14 يوليو، أعلنت PrismML عن اختراقها في مجال الضغط: تقليص نموذج Qwen مفتوح المصدر من Alibaba من 54 جيجابايت إلى أقل من 4 جيجابايت مع الحفاظ على مقياس 27 مليار معلمة لتشغيله بسلاسة على iPhone 15 والأجهزة الأحدث. وتخفض هذه التقنية استخدام الذاكرة بمقدار 10–15 مرة، وترفع سرعة الاستجابة بمقدار 6–8 مرات، رغم أن الرئيس التنفيذي أقر بوجود مفاضلات بين دقة الاسترجاع للحقائق مقابل قدرات الاستدلال والبرمجة.