可解釋的人工智能：解讀 BERT 模型

近年來，隨著人工智能的發(fā)展，專門針對人工智能的法規(guī)也應(yīng)運而生，例如制藥行業(yè)的良好機器學(xué)習(xí)實踐 (GMLP) 和金融行業(yè)的模型風(fēng)險管理 (MRM)，以及其他涉及數(shù)據(jù)隱私的廣泛法規(guī)，如歐盟的 GDPR 和加州的 CCPA。同樣，內(nèi)部合規(guī)團隊在驗證基于模型預(yù)測的決策時可能也希望解釋模型的行為。例如，承保人希望了解為什么特定的貸款申請被 ML 模型標(biāo)記為可疑。