“وحدة معالجة الرسومات لا تقرأ أبدًا نفس النص مرتين”: تريد شركة Corbenic الناشئة البلجيكية تحويل SSD الخاص بخادمك إلى ذاكرة AI، ولكن تسريعها بمقدار 14x يرجع إلى قراءة أقل

محرر الموقعمنذ ساعة واحدة

0 0 6 دقائق

يحفظ الإصدار التجريبي من Galahad من Corbenic AI ذاكرة التخزين المؤقت KV للنموذج في NVMe المحلي المشفر حتى تتمكن الخوادم من تخطي إعادة قراءة النص بعد مسح ذاكرة GPU أو بعد إعادة التشغيل
يقول المؤسس Sietse Schelpe لـ TechRadar Pro أنه لا توجد حاجة إلى أجهزة خاصة، لكن الورقة تنسب معظم التسريع بمقدار 14x إلى Blaise ، وهو مكون استرجاع، وليس تحميل SSD
LMCache و Nvidia Dynamo و CMX و WEKA و Phison يحتفظون بالفعل بذاكرة تخزين مؤقت KV للتخزين؛ تعد ميزة Galahad بمثابة إعادة استخدام دقيقة ومغلقة في مكتبة صغيرة واحدة

بدء التشغيل البلجيكية كوربينيك آي تقول إنها يمكن أن تمنع وحدات معالجة الرسومات من إعادة قراءة المستندات التي عالجتها بالفعل، وقد أخبر مؤسسها موقع TechRadar Pro أن الحيلة لا تحتاج إلى شيء أكثر غرابة من محرك NVMe الموجود بالفعل في الخادم.

جلاهاد، الذي دخلت النسخة التجريبية في 1 أكتوبر 2026، يحفظ ذاكرة التخزين المؤقت لقيمة المفتاح (KV) للنموذج، وهي حالة الانتباه التي يتم إنشاؤها أثناء قراءة النموذج للمطالبة، للتخزين المحلي المشفر وإعادة تحميله في المرة التالية التي يظهر فيها النص نفسه.

في رسالة بالبريد الإلكتروني إلى تك رادار برو، قدم كوربينيك Galahad بالسطر “لا تقرأ وحدة معالجة الرسوميات النص نفسه مرتين أبدًا”، ولخص المؤسس والرئيس التنفيذي Sietse Schelpe الأمر على أنه “أصبح SSD الذي أصبح الخادم بالفعل جزءًا من الذاكرة العاملة للذكاء الاصطناعي”.

أحدث مقاطع الفيديو منتك رادار

تقديم الطعام لسوق به الكثير من البدائل

توقيت إعلان كوربينيك لا تشوبه شائبة. مع مراكز البيانات في طريقها لاستيعاب أكثر من 70% من رقائق الذاكرة المتطورة في عام 2026، يعد الحصول على المزيد من العمل باستخدام الأجهزة الموجودة أمرًا سهلاً للبيع. لكن بحث كوربينيك يظهر أن عنوانها الرئيسي هو أن تسريع 14x يرجع إلى قراءة نص أقل من تحميل العمل المحفوظ، والشركة تسير في مجال حيث نفيديا، فيسون، و أ مشروع مفتوح المصدر ممول بشكل جيد تقدم بالفعل شيئا مماثلا.

يختلف نهج Galahad قليلاً: في العرض القياسي، يقوم النموذج الذي يجيب على سؤال ثانٍ حول مستند بإعادة حساب حالة انتباه هذا المستند من الرمز المميز الأول، وهي خطوة تسمى التعبئة المسبقة. تقوم محركات مثل vLLM و SGLang بالفعل بإعادة استخدام هذه الحالة أثناء وجودها في ذاكرة وحدة معالجة الرسومات، ولكن ورقة كوربينيك يلاحظ أنه يتم إخلاؤه تحت ضغط الذاكرة ويتم فقده عند إعادة تشغيل العملية.

يكتب مكون KV الخاص بـ Galahad ، Taliesin ، كل كتلة من حالة النص إلى القرص تحت بصمة وحدات بايت الإدخال الدقيقة والنموذج والمستأجر، ثم يقوم بتحميلها عندما تظهر تلك البايتات مرة أخرى.

وشدد شيلبي على أن النسخة المخزنة لا يتم تشغيلها إلا بعد مسح ذاكرة وحدة معالجة الرسومات أو إعادة تشغيل الخادم. وقال لـ TechRadar Pro: “لذا فإن الاختيار ليس SSD أو RAM. إنه SSD أو حوسبة كل شيء مرة أخرى على وحدة معالجة الرسومات”، مضيفًا أن التحميل “يحدث مرة واحدة، قبل الكلمة الأولى من الإجابة”.

وقد تطوع بشرطين: لا يتم تخزين النصوص القصيرة لأن إعادة حسابها تتم بسرعة بالفعل، وتخزين الشبكة أبطأ بكثير من محرك أقراص NVMe المحلي. تضع الورقة قاعدة مغلقة بالفشل في الأعلى: “اخدم بدون ذاكرة، ولا تتمتع أبدًا بذاكرة خاطئة“، لذا فإن أي سجل يفشل في الفحص يتم إعادة حسابه ببساطة.

ليست هناك حاجة إلى أجهزة خاصة، وفقًا لشيلبي، فقط Linux ووحدة معالجة الرسومات Nvidia ومحرك NVMe SSD القياسي. وعندما سُئل عن CXL ، قال: “لقد جربنا تخزينًا أسرع، ولم يجعل ذلك Galahad أسرع”، وهو ما يطابق اختبار H100 الخاص بالورقة، حيث يوفر قرص RAM وقرص محلي إنتاجية شبه متطابقة.

على محركات أقراص المؤسسات مثل خط Phison’s Pascari ، الذي كان صانعه نصب فلاش كإجابة على عنق الزجاجة في ذاكرة الذكاء الاصطناعيلقد كان حذرًا بشكل منعش: “لم نقم بقياسها، لذا لن أذكر أرقامًا”.

أخبر Schelpe موقع TechRadar Pro أن تحميل الحالة المخزنة من SSD سريع “أسرع بكثير” من إعادة القراءة، “وهذا هو المكان الذي تأتي منه 14×: 0.59 ثانية لكل سؤال على vLLM.” ال الجداول الورقية الخاصة أخبر قصة أكثر تعقيدًا.

تأتي نتيجة 0.59 ثانية من اختبار الاستدعاء الذي يحتوي على 100 حقيقة مخفية في قائمة مكونة من 96,726 رمزًا، وتم إجراؤها على Gemma 4 31B ، واستخدم Taliesin plus Blaise. Blaise هو المكون الثاني الذي يحتفظ بالمستندات كنص ويسلم النموذج فقط القسم الذي يحتاجه السؤال، حوالي 668 رمزًا بدلاً من المجموعة بأكملها. الصحيفة نفسها تنسب الفضل لبليز في رفع المكاسب على llama.cpp من 3.1x إلى 14.5x.

مع Taliesin وحده، استغرق vLLM 15.56 ثانية لكل سؤال، وهو أبطأ من خط الأساس البالغ 8.11 ثانية، واستغرق SGLang 22.02 ثانية مقابل 10.29. فقط llama.cpp أصبح أسرع عند إعادة استخدام KV وحده، عند 3.01 ثانية مقابل 9.25. هذه المقارنات غير متوازنة في كلا الاتجاهين: استخدم خط الأساس نافذة مكونة من 12000 رمز، والتي شهدت فقط 12% الأخيرة من المجموعة وأجابت على 10 من 100 سؤال، في حين سمح تاليسين للنموذج بالاهتمام بكل شيء والإجابة على 98 من 100.

يضع شيلبي جالاهاد في مواجهة خطوط أنابيب توليد الاسترجاع المعزز (RAG) مثل راج فلو، الذي يقسم المستندات إلى أجزاء ويمرر النموذج إلى الأجزاء التي تحتل مرتبة البحث الأعلى. وقال: “عندما يفشل البحث، لا يرى النموذج الإجابة أبدًا”، مستشهدًا بمعيار أجاب فيه جالاهاد على 100 من 100 سؤال و RAGFlow 77.

وردًا على سؤال من TechRadar Pro لماذا لم يتوصل أي شخص آخر إلى هذه الإستراتيجية، قال شيلبي إن المنافسين طاردوا “الأكبر هو الأفضل” وأنه “ليس هناك مجد حقيقي” في بناء شيء مثل هذا، مضيفًا أنه كان محظوظًا لأنه لم يحمل نفس العبء العقلي. تشير الصفحة الرئيسية لكوربينيك إلى نفس النقطة مع الشعار “توقف عن بناء نماذج أكبر. قم ببناء الطبقة أدناه.”

الفرضية لا تصمد بشكل جيد. LMCache، وهو مشروع Apache 2.0 يضم حوالي 10,900 نجم GitHub ، ويقوم بالفعل بنقل ذاكرة التخزين المؤقت KV إلى ذاكرة وحدة المعالجة المركزية، ومحركات أقراص SSD المحلية والتخزين عن بعد، و 2024 مشاركة على مدونتها تم عرضه على أنه “السماح لحاملي شهادة الماجستير في القانون بقراءة كل نص مرة واحدة فقط.” قبل تسعة أيام من إطلاق جالاهاد، سامسونج مهندسين تفصيل أ طبقة NVMe قابلة لإعادة التشغيل والاسترداد للمشروع والداعم التجاري له Tensormesh ، جمعت 20 مليون دولار في مايو من المستثمرين بما في ذلك AMD Ventures و CoreWeave و Nvidia’s NVentures.

إطار دينامو نفيديا طبقات ذاكرة التخزين المؤقت KV من ذاكرة GPU من خلال DRAM المضيف إلى NVMe المحلي والتخزين الشبكيوفي معرض CES 2026 كشفت الشركة عن منصة الذاكرة السياقية BlueField-4، تسمى الآن CMX، مصمم لدفع ذاكرة التخزين المؤقت KV إلى محركات أقراص NVMe SSD. لقد جادلت نفيديا بذلك التخزين هو الحدود التالية للذكاء الاصطناعي. تبيع WEKA منتجاتها شبكة الذاكرة المعززة لنفس الوظيفة، تقدم شركة Huawei أ مدير ذاكرة التخزين المؤقت الموحد لتجنب تكرار الحسابات، ويقوم برنامج Phison’s aiDAPTIV+ بالفعل بإيقاف ذاكرة التخزين المؤقت KV على الفلاش أجهزة الكمبيوتر المحمولة الاستهلاكية مثل Thunderobot’s AI Master M7000.

لعبة تتمحور حول الأمان ولا تزال بحاجة إلى اختبار مستقل

إن التمييز الحقيقي بين شركة جلاهاد وبين معظم منافسيها المدعومة بغزارة هو أضيق. تستشهد ورقتها بـ LMCache و Mooncake مباشرة وتميز نفسها عن غيرها من حيث الدقة، مع وجود سجلات متطابقة للبت كاختبار للقبول ويتم التعامل مع أي عدم تطابق على أنه خطأ. قال شيلبي: “دقيق، وليس تقريبيًا”، على الرغم من أن هذا التباين يقع بشكل أكبر على تقنيات مثل CacheBlend ، التي يستخدمها LMCache لإعادة استخدام القطع غير البادئة مع إعادة الحساب الانتقائي، بدلاً من التفريغ العادي.

إصدار إطلاق Corbenic يؤدي في الواقع إلى الأمان بدلاً من السرعة، ويتصل بـ Galahad “قبو آمن للذاكرة العاملة” يقوم بتشفير الحالة المخزنة، ويبقي بيانات كل عميل منفصلة، ويمكنه تسجيل النشاط حتى يتمكن المطورون من إعادة الذاكرة المحفوظة للخادم إلى نقطة سابقة.

القلق وراء الملعب حقيقي. أظهر الباحثون في استراتيجية الدفاع الوطني 2025 أن مشاركة ذاكرة التخزين المؤقت KV في vLLM و SGLang يمكن أن تسمح لمستخدم واحد بإعادة بناء مطالبات شخص آخر من خلال قناة جانبية للتوقيت، وتواجه مكتبة Galahad ذلك من خلال رفض البدء بدون هوية المستأجر وبصمة النموذج. وشدد شيلبي أيضًا على بقاء البيانات كما هي: “لا توجد شبكة ذاكرة تخزين مؤقت مشتركة، ولا يتم إرسال أي شيء إلينا”.

على الجانب الآخر، كوربينيك هو فريق صغير مقره بلجيكا مسجلة كشركة في ولاية ديلاوير، وكل رقم في بحثها الرئيسي في جالاهاد يأتي من تجارب أجراها المؤسس بنفسه على وحدات معالجة الرسومات السحابية المستأجرة، كما تكشف الورقة. يتم الوعد بالسجلات الأولية ولكن لم يتم نشرها بعد، ويتم حجب طريقة اختيار بليز في انتظار براءات الاختراع، والأوراق البحثية عبارة عن مطبوعات arXiv أولية منشورة ذاتيًا وليست أعمالًا خاضعة لمراجعة النظراء.

وتشمل منافستها كلاً من الحلول الخاصة والمفتوحة المصدر، والتي خضع معظمها لمزيد من الاختبارات ومن المرجح أن تشهد اعتماداً أوسع بكثير ما لم تجد شركة جلاهاد شركاء في الصناعة على استعداد لدمجها.

لا شيء من هذا يجعل الفكرة خاطئة. إن الدفع لوحدة معالجة الرسومات لإعادة قراءة نفس العقود والأدلة والتعليمات البرمجية لكل طلب يعد إهدارًا حقيقيًا، ويضع شيلبي المنافسة بشكل معقول عندما يطلق على “المنافس الحقيقي: شراء المزيد من وحدات معالجة الرسومات”. ومع انخفاض أسعار الذاكرة والتخزين، ستجد البرامج التي تجعل الخوادم الحالية تفعل المزيد مشترين، وقال إن ردود الفعل المبكرة كانت إيجابية، مع “بعض الطلبات الجيدة وبعض الدروس المستفادة بالفعل”.

ما يحتاجه جالاهاد الآن هو معيار شخص آخر: مواجهة مباشرة مع LMCache على نفس جهاز Nvidia ، مع تشغيل ذاكرة التخزين المؤقت للبادئة الخاصة بكل وقت تشغيل، واختبار استرجاع Blaise على مستندات لم يتم بناؤها حولها. حتى ذلك الحين، القراءة الأكثر أمانًا هي أن Galahad هو تحليل دقيق ودقيق لاستمرارية KV ، وأن أرقامه الأكثر لفتًا للانتباه تأتي من قراءة أقل بدلاً من تذكر المزيد.