ثلاثة محاور، وهي تعمل بالفعل
كل خيار في التصميم يتحرك على ثلاثة محاور في آن واحد، وتحسين أحدها عادةً ما يأتي على حساب الآخر. وتسمية هذه المحاور تمنع الجدل من الدوران في حلقة مفرغة.
- عمق الاستدلال
- هل يمكنه التعامل مع سلسلة متعددة الخطوات دون فقدان الخيط؟ هذا هو ما يميز النموذج الذي يقوم بتصنيف الفاتورة عن النموذج الذي يقوم بتسوية الفاتورة المتنازع عليها.
- زمن الاستجابة
- الوقت المستغرق حتى الحصول على الرمز الأول والوقت المستغرق حتى إتمام العملية. يتحمل الشخص الذي ينتظر أمام الشاشة حوالي ثانيتين. أما العامل في طابور الانتظار، فيتحمل الانتظار لعدة دقائق.
- تكلفة المكالمة الواحدة
- يتم تسعير عمليات الإدخال والإخراج بشكل منفصل، وتكون تكلفة الإخراج أعلى بعدة أضعاف. فالعملية التي تقرأ كثيرًا وتكتب قليلاً تكون أرخص بكثير مما يوحي به عدد الرموز.
هناك محور رابع مهم في منطقة الخليج على وجه التحديد: المكان الذي يمكن أن تعمل فيه الأحمال. فالنموذج الذي لا يمكن نشره في بيئتك الخاصة لا يمكن أن يكون خيارًا مناسبًا لحمل عمل لا يمكن نقله خارجها، مهما كانت درجة أدائه.
اتخذ قرارك على أساس كل خطوة على حدة، وليس على أساس كل مشروع على حدة
عادةً ما يشمل سير العمل الواحد ثلاث أو أربع عمليات استدعاء للنماذج ذات متطلبات مختلفة تمامًا. ومعاملتها كقرار واحد تجبرك على شراء النموذج الأغلى ثمناً لكل خطوة.
تتضمن عملية استلام الفواتير التي أنشأناها أربع خطوات. ويُعد استخراج البيانات من النسخة الممسوحة ضوئيًا مهمة واسعة النطاق ولكنها بسيطة، تُنفذ على نموذج سريع ورخيص. أما التصنيف وفقًا لخريطة الحسابات فهو عملية بحث باستخدام نموذج صغير وطبقة استرجاع جيدة. وتعد تسوية حالات عدم التطابق هي الخطوة الوحيدة التي تتطلب عمقًا حقيقيًّا في الاستدلال. أما الملخص الذي يتم إرساله إلى المشغل فهو نموذج منخفض التكلفة أيضًا.
لو تم تطبيق نموذج الاستدلال على جميع الحالات الأربع، لكانت التكلفة قد بلغت تقريبًا تسعة أضعاف، دون تحقيق أي مكاسب ملموسة في الدقة بالنسبة لثلاث منها. ونحن نعلم ذلك لأننا قمنا بقياسه، وهو ما سنناقشه في القسم التالي.
الاختبار الذي يحسم الأمر
تُجيب اختبارات الأداء على سؤال لم تطرحه بعد. قم بتشغيل هذا البرنامج بدلاً من ذلك، وسيستغرق الأمر بعد ظهر اليوم.
- اختر خمسين قضية حقيقية من سجلك الخاص، تم البت فيها، ومعروف فيها الجواب الصحيح. وأدرج القضايا الصعبة؛ فهي جوهر الموضوع.
- اكتب المطالبة مرة واحدة. لا تقم بضبطها وفقًا لكل نموذج، وإلا فإنك ستقوم بقياس عملية الضبط التي قمت بها.
- قم بتشغيل جميع النماذج الخمسين عبر نموذجين أو ثلاثة نماذج مرشحة. وسجل الدقة، وزمن الاستجابة عند الشريحة 95، وإجمالي الإنفاق.
- قسّم الدقة حسب ما إذا كانت الحالة روتينية أم استثنائية. فهذا هو المكان الذي تتباين فيه النماذج، وحيث يخفي المتوسط كل شيء.
- اختر النموذج الأرخص الذي يستوفي معاييرك فيما يتعلق بالاستثناءات. ففي الحالات العادية، يتم استيفاء جميع المعايير تقريبًا.
إذا كان الفارق بين نموذجين لا يتجاوز نقطة واحدة في بياناتك الخاصة، فإنهما يعتبران نفس النموذج بالنسبة لأغراضك. اختر النموذج الأرخص وخصص الفرق في السعر لإجراء عمليات التقييم.
عندما تكون الإجابة «لا يوجد نموذج»
هناك نسبة مدهشة من المهام التي تُطرح على أنها مشكلات تتعلق بالذكاء الاصطناعي، وهي في الواقع ليست كذلك. والقول بذلك في مرحلة مبكرة هو الخيار الأقل تكلفة للجميع.
- القاعدة ثابتة وقابلة للكتابة. إذا كان بإمكان الشخص صياغة القاعدة في جملة واحدة ولم تتغير خلال عامين، فاكتب القاعدة. سيكون ذلك أسرع ومجاني وقابل للاختبار.
- المدخلات منظمة بالفعل. إذا وصلت البيانات في شكل سجل صحيح البناء، فأنت تحتاج إلى أداة تحقق من الصحة، وليس إلى نموذج لغوي.
- تكلفة الإجابة الخاطئة تفوق تكلفة قيام الإنسان بها. في الحالات التي تتسم بانخفاض الحجم وارتفاع المخاطر، لا تُعد الأتمتة الحل الأمثل بغض النظر عن دقة النتائج.
- المشكلة الحقيقية هي وجود حقل مفقود. وقد لاحظنا مرتين أن تنظيف عمود واحد في المرحلة السابقة أدى إلى الاستغناء عن النموذج تمامًا.
خطة المقايضة
أياً كان اختيارك، فسيتم استبداله لاحقاً. ما يهم في الجانب الهندسي هو أن يكون استبداله مجرد تغيير في الإعدادات، وليس مشروعاً.
- احرص على إخفاء النموذج خلف واجهة تستقبل الأنواع الخاصة بك، وليس أنواع المزود. محول واحد لكل مزود، ولا يقوم سير العمل أبدًا باستيراد حزمة SDK.
- احتفظ بالتوجيهات في نظام التحكم في الإصدارات كبيانات، لا كجزء مدمج في مسارات الكود.
- احتفظ بمجموعة التقييم. فهي الشيء الوحيد الذي يخبرك ما إذا كان النموذج الجديد أفضل فعليًّا في عملك، وهي ما يجعل عملية التبديل مهمة يمكن إنجازها في يوم واحد.
- سجل أي نموذج اتخذ أي قرار، في كل قرار. وعندما يتغير السلوك بعد إجراء عملية التبديل، ستحتاج إلى معرفة أي الدعوات تأثرت بذلك.
إذا تم الأمر بهذه الطريقة، فإن النموذج هو العنصر الأرخص الذي يمكن استبداله. أما إذا تم الأمر بالطريقة الأخرى، فإن المشروع هو الأرخص.
هل تريد أن ننفّذ هذا معك؟
التدقيق هو هذه المنهجية موجّهة إلى أنظمتك، وفي نهايته خطة بناء مُسعّرة.
تحديد موعد مكالمة