فيما يتعلق بمخاطر السلامة، لأولئك منكم الذين يبنون الوكلاء: لأنكم خبراء في المخاوف X، Y، وZ، فمن المرجح أن يكون وكيلكم استثنائياً في هذه الأمور وأنتم لستم معرضين للخطر في تلك المجالات. لكن! هناك مخاوف لا حصر لها الأخرى التي قمتم إما بتحديدها بشكل سيء أو رديء، ولا تملكون القدرة على الحكم على صحتها بأنفسكم، ولا يمكنكم بأي حال تقييم مخاطرها. أنتم تعتمدون بشدة على افتراضات النموذج المسبقة للقيام بعمل جيد للتخفيف من هذا الخطر. هذا يقع في منطقة "المجهول المجهول" للغاية بالنسبة لكم ولاستخدام النموذج.

بالنسبة لي، من الصعب أن أملك ثقة عالية جداً في افتراضات النماذج المسبقة لأنني مهندس برمجيات خبير وأنا غير راضٍ (ولم أكن أبداً) عن السلوكيات الافتراضية للنموذج عند إنتاج البرمجيات. خبرتي في كتابة البرمجيات تمنحني رؤية جيدة بشكل غير عادي وتجعلني أقل استعداداً بكثير للثقة العمياء في افتراضاته المسبقة في المحاسبة ذات القيد المزدوج، والمالية، والقانون، والعمليات، أو أي شيء آخر لا يمكنني تقييمه شخصياً بعمق خبير.

مهندسو البرمجيات (وحديثاً، علماء الرياضيات!) في هذه المرحلة على دراية تامة بـ "القمامة" — مخرجات النموذج التي، بينما تنجز المهمة، تكون سيئة بطريقة ما. كل استخدام لـ Record أو معالجة استثناءات دفاعية مفرطة رآها مهندسو البرمجيات من النماذج هو لأن غير خبير كافأ النموذج على هذه السلوكيات أثناء التدريب. افتراضات النموذج المسبقة سيئة.

الكيانات الرئيسية: الأشخاص: Karan Lyons، David Adrian، Bryan Berg