تكنولوجيا

الذكاء الاصطناعي المحلي Turbocharge لأجهزة Mac: يقوم Ollama باستخدام MLX للحصول على سرعة مذهلة

لقد عززت شركة Ollama بشكل كبير أداء الذكاء الاصطناعي المحلي على أجهزة Mac من خلال دمج إطار عمل MLX من Apple، مما يتيح استنتاج نموذج لغة كبير أسرع وأكثر خصوصية وغير متصل بالإنترنت للمستخدمين العاديين.

DailyWiz Editorial··4 دقيقة قراءة·889 مشاهدات
الذكاء الاصطناعي المحلي Turbocharge لأجهزة Mac: يقوم Ollama باستخدام MLX للحصول على سرعة مذهلة

إحداث ثورة في الذكاء الاصطناعي على الجهاز لمستخدمي Apple

في قفزة كبيرة في مجال الذكاء الاصطناعي على الجهاز المزدهر، قام Ollama، وهو إطار العمل الشهير مفتوح المصدر لتشغيل نماذج اللغات الكبيرة (LLMs) محليًا، بدمج إطار عمل MLX القوي من Apple. يعد هذا التحديث المحوري، الذي تم طرحه مع الإصدار Ollama v0.1.30 في أواخر مايو 2024، بتوفير سرعة وكفاءة غير مسبوقتين لاستدلال نماذج الذكاء الاصطناعي مباشرة على أجهزة Mac، مما يؤدي إلى تغيير جذري في كيفية تفاعل مستخدمي Apple مع الذكاء الاصطناعي المتقدم.

على مدى سنوات، تطلب تشغيل نماذج الذكاء الاصطناعي المتطورة موارد حوسبة سحابية ضخمة أو أجهزة متخصصة. ومع ذلك، مع ظهور Apple Silicon والآن دعم Ollama's MLX، يتغير هذا النموذج بسرعة. يمكن للمستخدمين الآن الاستفادة من القوة الكاملة لأجهزة Mac الخاصة بهم لتشغيل طرز مثل Llama 3 أو Mistral أو Gemma من Google مع استجابة ملحوظة، كل ذلك بدون اتصال بالإنترنت أو تكبد رسوم خدمة سحابية.

الحافة التقنية: Apple Silicon وMLX Synergy

يكمن جوهر ثورة الأداء هذه في التآزر بين شرائح M-series المصممة خصيصًا من Apple وإطار التعلم الآلي المخصص لها، MLX. توفر Apple Silicon، المعروفة ببنية الذاكرة الموحدة ومحركها العصبي القوي، أساسًا قويًا لأعباء عمل الذكاء الاصطناعي. على عكس البنيات التقليدية التي تكون فيها ذاكرة وحدة المعالجة المركزية (CPU) وذاكرة وحدة معالجة الرسومات (GPU) منفصلتين، تسمح الذاكرة الموحدة للنظام بأكمله بالوصول إلى مجموعة واحدة من الذاكرة ذات النطاق الترددي العالي، مما يقلل بشكل كبير من اختناقات نقل البيانات - وهو عامل حاسم لنماذج الذكاء الاصطناعي الكبيرة.

إن MLX، الذي طورته Apple خصيصًا لمنتجها من السيليكون، هو إطار عمل عالي الأداء للتعلم الآلي مُحسّن لحوسبة المصفوفات. لقد تم تصميمه ليكون مرنًا وسهل الاستخدام، مما يسمح للمطورين ببناء نماذج التعلم الآلي وتشغيلها بأداء أصلي على أجهزة Apple. من خلال دمج MLX، يستطيع Ollama الآن الاستفادة بشكل مباشر من تحسينات الأجهزة هذه، وتجاوز الواجهات الخلفية الحسابية الأكثر عمومية. Early benchmarks suggest performance improvements of up to 2x for certain models compared to previous versions, with some users reporting sustained inference speeds of 30 tokens per second on a MacBook Pro M3 Max running a 7B parameter model.

Why Local AI is a Game Changer for Everyday Users

The implications of this speed boost and efficiency are far-reaching, extending beyond developers and AI enthusiasts to everyday Mac users. توفر القدرة على تشغيل نماذج الذكاء الاصطناعي محليًا العديد من المزايا الرائعة:

  • الخصوصية المحسنة: لا تترك بياناتك جهازك أبدًا. يعد هذا أمرًا بالغ الأهمية بالنسبة للمعلومات الحساسة أو الملاحظات الشخصية أو بيانات الأعمال الخاصة، مما يزيل المخاوف بشأن التخزين السحابي أو وصول طرف ثالث.
  • إمكانية الوصول دون اتصال بالإنترنت: يمكنك العمل مع نماذج الذكاء الاصطناعي في أي مكان وفي أي وقت دون اتصال بالإنترنت. مثالي للمسافرين، أو العاملين عن بعد، أو البيئات ذات الاتصال غير الموثوق.
  • توفير التكاليف:تخلص من رسوم الاشتراك المتكررة أو تكاليف الدفع لكل استخدام المرتبطة بخدمات الذكاء الاصطناعي المستندة إلى السحابة. بمجرد تنزيل النموذج، يصبح استخدامه مجانيًا لأجل غير مسمى.
  • التخصيص والتحكم: يمكنك تجربة نماذج مختلفة، أو تحسينها، أو حتى إنشاء نموذج خاص بك دون التقيد بقيود النظام الأساسي أو قيود واجهة برمجة التطبيقات.

بالنسبة للطالب الذي يلخص الأوراق البحثية، أو الكاتب الذي يطرح أفكارًا جديدة، أو مبرمجًا لتصحيح الأخطاء، فإن فورية وخصوصية الذكاء الاصطناعي المحلي يمكن أن تعزز الإنتاجية بشكل كبير الإبداع.

أجهزة Mac موصى بها للحصول على أفضل أداء محلي للذكاء الاصطناعي

بينما يمكن لأي جهاز Mac مزود بـ Apple Silicon الاستفادة من تكامل MLX من Ollama، إلا أن الأداء يتدرج مع قوة وذاكرة شريحتك. فيما يلي بعض التوصيات:

  • للمستوى الأولي (الاستخدام العرضي): جهاز MacBook Air M2 أو M3 مزود بذاكرة موحدة تبلغ سعتها 16 جيجابايت على الأقل. يعد هذا التكوين ممتازًا لتشغيل نماذج معلمات 7B أصغر حجمًا للمهام الأساسية مثل إنشاء النص أو التلخيص.
  • متوسطة المدى (المستهلك/المطور): جهاز MacBook Pro M3 Pro أو M3 Max مزود بذاكرة موحدة بسعة 32 جيجابايت أو 64 جيجابايت. توفر هذه الآلات دفعة كبيرة، مما يتيح استنتاجًا أسرع والقدرة على تشغيل نماذج معلمات أكبر حجمًا تبلغ 13B أو حتى 30B بشكل مريح. مثالي للمساعدة في البرمجة وإنشاء المحتوى المتقدم وتحليل البيانات المحلية.
  • الأجهزة المتطورة (أبحاث الذكاء الاصطناعي/المستخدمون المتميزون): Mac Studio أو Mac Pro المزود بشريحة M2 Ultra وذاكرة موحدة بسعة 64 جيجابايت أو 128 جيجابايت. يمكن لهذه القوى القوية التعامل مع أكبر النماذج المتاحة بسرعة استثنائية، ومناسبة لتطوير الذكاء الاصطناعي المكثف، أو عمليات المحاكاة المعقدة، أو تشغيل نماذج متعددة في وقت واحد.

الخلاصة الرئيسية هي أن المزيد من الذاكرة الموحدة تترجم مباشرة إلى القدرة على تشغيل نماذج أكبر وأكثر قدرة مع أداء أفضل.

الطريق إلى الأمام: ثورة الذكاء الاصطناعي المحلية

يعد تكامل MLX من Olmaa لأجهزة Mac أكثر من مجرد ترقية للأداء؛ إنها شهادة على الاتجاه المتزايد لإضفاء الطابع الديمقراطي على الذكاء الاصطناعي. مع استمرار تطور الأجهزة وتحسين أطر العمل، ستصبح الحدود بين الذكاء الاصطناعي السحابي والذكاء الاصطناعي المحلي أكثر ضبابية. يعمل هذا التطوير على تمكين المستخدمين الأفراد والشركات الصغيرة من الاستفادة من أحدث تقنيات الذكاء الاصطناعي وفقًا لشروطهم الخاصة، وتعزيز الابتكار، وتعزيز الخصوصية، وفتح حدود جديدة للحوسبة الشخصية. يبدو أن مستقبل الذكاء الاصطناعي أصبح شخصيًا وعلى الجهاز بشكل متزايد.

Recommended

* We may earn a commission from qualifying purchases at no extra cost to you.

Comments

No comments yet. Be the first!

مقالات ذات صلة

أرتميس الخامس: أربعة رواد فضاء ينطلقون في مهمة فجر القمر التاريخية

أرتميس الخامس: أربعة رواد فضاء ينطلقون في مهمة فجر القمر التاريخية

غير محدد

رسوم Sam's Club Hikes، تثير التكهنات بشأن Costco وBJ's

رسوم Sam's Club Hikes، تثير التكهنات بشأن Costco وBJ's

قام Sam's Club برفع رسوم عضويته، مما أثار تكهنات بين المحللين بأن المنافسين Costco وBJ's Wholesale Club يمكن أن يحذوا حذوه قريبًا وسط ارتفاع معدلات التضخم وتكاليف التشغيل.

ثورة فيلا جامايكا: التصميم الرفيع يلتقي بروح الجزيرة

ثورة فيلا جامايكا: التصميم الرفيع يلتقي بروح الجزيرة

تعيد الفيلات الفاخرة في جامايكا تعريف ملاذات الجزيرة، حيث تمزج بين التصميم الرفيع والمبادئ الصديقة للبيئة مع الضيافة الشخصية. اكتشف الخلوات المخصصة التي توفر الخصوصية والتجارب الثقافية الفريدة والراحة التي لا مثيل لها.

إحياء Fallingwater بقيمة 7 ملايين دولار: تحفة رايت المميزة تتلألأ من جديد

إحياء Fallingwater بقيمة 7 ملايين دولار: تحفة رايت المميزة تتلألأ من جديد

أكملت Fallingwater، تحفة فرانك لويد رايت الشهيرة في بنسلفانيا، عملية ترميم مدتها ثلاث سنوات بقيمة 7 ملايين دولار، حيث عالجت بدقة سقفها وأعمال البناء والنوافذ للحفاظ على سلامتها المعمارية.

عادتي "حجر القلق" لمدة دقيقتين والتي أنهت الأرق الليلي

عادتي "حجر القلق" لمدة دقيقتين والتي أنهت الأرق الليلي

يشاركنا أليكس فينش، الصحفي في DailyWiz، كيف قدم أحد خبراء النوم عادة بسيطة مدتها دقيقتان باستخدام حجر القلق للتغلب على الأرق المزمن الناتج عن القلق.

العدالة والثقة والسفر: إزالة بوندي والتصورات العالمية

العدالة والثقة والسفر: إزالة بوندي والتصورات العالمية

إن إقالة ترامب للمدعية العامة الأمريكية بام بوندي، التي خيمت عليها ملفات إبستاين، تسلط الضوء على مدى تأثير العدالة والشفافية بمهارة على الصورة العالمية للدولة وجاذبيتها للمسافرين. تبرز كوريا الجنوبية كمنارة للسلامة والثقافة، حيث تقدم تجارب فريدة للسياح المميزين.