बैंकिंग में मॉडल जोखिम प्रबंधन का परीक्षण जनरेटिव AI द्वारा किया जा रहा है। एक बड़े बैंक में एक सत्यापनकर्ता को एक AI सहायक का सामना करना पड़ता है जो क्रेडिट मेमो का मसौदा तैयार करता है, लेकिन मानक सत्यापन टेम्पलेट एक विकास नमूना मांगता है जो मौजूद नहीं है। मॉडल को एक विक्रेता द्वारा अनदेखे डेटा पर प्रशिक्षित किया गया था। यह पारंपरिक ढांचे को तोड़ता है।

मुख्य चुनौती—एक ऐसी प्रणाली को सत्यापित करना जिसे पूरी तरह से निरीक्षण नहीं किया जा सकता—बैंकिंग से परे चिकित्सा सारांश, कानूनी अनुसंधान और चैटबॉट पर लागू होती है। बैंकों के लिए बनाया गया ढांचा, जोखिम स्तरीकरण, परिणाम मूल्यांकन, मजबूती परीक्षण और मूक बहाव निगरानी पर आधारित है, किसी भी डोमेन में स्थानांतरित होता है जहां गलत होना महंगा है।

बैंक क्रेडिट निर्णय, पूंजी, हानि पूर्वानुमान और धोखाधड़ी का पता लगाने के लिए सांख्यिकीय मॉडल पर निर्भर करते हैं। त्रुटियों से गलत मूल्य वाला जोखिम, नियामक दंड और बड़े नुकसान होते हैं। 2008 का संकट और 2012 का एक व्यापारिक नुकसान ने दांव दिखाया। नियामकों ने 2011 में SR 11-7 के साथ प्रतिक्रिया दी, मॉडल जोखिम को परिभाषित किया और जानबूझकर प्रबंधन की आवश्यकता बताई। EU AI अधिनियम बैंकिंग में उच्च जोखिम वाले AI के लिए समान अपेक्षाएं बढ़ाता है।

जनरेटिव AI के लिए, सत्यापन प्रतिकृति से परीक्षण डिजाइन की ओर स्थानांतरित होता है। चूंकि मॉडल को फिर से प्रशिक्षित या पूरी तरह से निरीक्षण नहीं किया जा सकता है, प्रभावी चुनौती का अर्थ है आत्मविश्वासपूर्ण त्रुटियों को पकड़ने और बहाव की निगरानी के लिए परीक्षण डिजाइन करना। यह प्लेबुक किसी भी गंभीर AI तैनाती के लिए आगे का रास्ता प्रदान करती है।