اكتشف إلى أين يتجه أولاً
تقريبًا كل فريق قمنا بدراسته أخطأ في تحديد الخطوة الأكثر تكلفة، وعادةً ما كان الفارق يصل إلى خمسة أضعاف. قم بالقياس قبل الشروع في التحسين.
- تسجيل رموز الإدخال ورموز الإخراج ورموز التخزين المؤقت والنموذج لكل استدعاء، مع وضع علامة تشير إلى خطوة سير العمل.
- قم بالتجميع حسب الخطوة، وليس حسب اليوم. عادةً ما تمثل الخطوة الواحدة 60% أو أكثر من الفاتورة.
- افصل المدخلات عن المخرجات. فالمخرجات أغلى بعدة أضعاف، لذا فإن الخطوة التي تتطلب تفاعلاً كثيفًا مع مدخلات قصيرة قد تفوق في الأهمية الخطوة التي تقرأ مستندًا كاملاً.
- انظر إلى الذيل. إن قيمة p99 التي تبلغ عشرين ضعف القيمة المتوسطة تعني عادةً وجود حلقة إعادة محاولة لم يلاحظها أحد.
التخزين المؤقت السريع، وهو ما يمثل الجزء الأكبر من الفائدة
إذا كانت موجه النظام الخاص بك تحتوي على تعليمات أو مخطط أو أمثلة أو سياق مسترجع، فأنت تدفع الثمن كاملاً لإرسال الرموز نفسها مرارًا وتكرارًا. وعادةً ما يكون تخزين تلك البادئة مؤقتًا هو أكبر وسيلة متاحة لتقليل الحجم.
- ضع كل ما هو ثابت في المقدمة: الأدوات، ثم التعليمات، ثم المواد المرجعية. وضع كل ما يتغير في النهاية تمامًا.
- ضع علامة على الحد الفاصل في نهاية الجزء الثابت. فوضع العلامة في نهاية المطالبة بأكملها يعني أن كل طلب يكتب إدخالاً جديداً ولا يتم قراءة أي منها على الإطلاق.
- تأكد من عدم وجود أي تغيير داخل البادئة. فوجود طابع زمني أو معرّف طلب أو مفتاح JSON أعيد ترتيبه يؤدي إلى إبطال صحة كل ما يليه، وهذا هو السبب الأكثر شيوعًا الذي يجعل التخزين المؤقت يبدو وكأنه لا يعمل.
- في المحادثة، قم بتمييز نهاية آخر دور أيضًا، بحيث يعيد السلسلة الطويلة قراءة بادئتها بدلاً من دفع تكلفة ذلك مرة أخرى.
تكلفة قراءة البيانات المخزنة في ذاكرة التخزين المؤقت لا تمثل سوى جزء بسيط من تكلفة القراءة المباشرة، بينما تكلفة الكتابة تزيد قليلاً عن تكلفة القراءة المباشرة. وإذا أعاد حركة المرور قراءة البادئة ولو بضع مرات، فستظهر الفائدة على الفور.
مسارات التوجيه والأسقف
توجيه المهام: قم بتوجيه الغالبية السهلة إلى نموذج بسيط، ولا قم بتصعيد سوى الحالات التي تتطلب تحليلاً أعمق. إنك تمتلك بالفعل الإشارة التي تدل على ذلك إذا كنت قد جمعت مؤشرات الثقة. في مسارات المعالجة التي نديرها، لا تحتاج ما بين 70% و90% من الحالات أبدًا إلى النموذج المكلف.
الحدود القصوى ليست إجراءً للتحسين، بل هي آلية أمان، وكل نقطة نهاية عامة تحتاج إليها:
- حد أقصى ثابت لعدد الرموز في كل محادثة أو في كل مهمة، يتم تطبيقه عبر الكود البرمجي، وليس عبر المطالبة النصية.
- يتم وضع حد أقصى لعدد مرات استدعاء الأدوات خلال الدورة الواحدة، وبالتالي لا يمكن للحلقة أن تستمر إلى ما لا نهاية.
- حدود المعدل لكل متصل، يتم الاحتفاظ بها في مكان مشترك بدلاً من ذاكرة مثيل واحد.
- إنذار للإنفاق اليومي يُرسل إشعارًا إلى شخص ما، بمستوى يمكنك ملاحظته دون أن يؤثر عليك بشكل كبير.
كل واحد من هذه العناصر موجود بسبب حادثة مر بها شخص ما. وبشكل خاص، «حلقة المربوطة»: فالعامل الذي يمكنه استدعاء أداة تنتج عملاً له سيستمر في ذلك إلى أن يوقفه شيء ما.
هل تريد أن ننفّذ هذا معك؟
التدقيق هو هذه المنهجية موجّهة إلى أنظمتك، وفي نهايته خطة بناء مُسعّرة.
تحديد موعد مكالمة