模型可解释性(SHAP)
SHAP含义：观察到某一个样本的预测中各个特征对预测结果产生的影响。
准确性：在训练模型时，通常会将数据集分成训练集和测试集。训练集用来训练模型，测试集用来评估模型的准确性。一个准确率高的模型能够在测试集上表现良好，同时也能够在新数据上表现出色。
这表明，“friend”这个单词的(某种)变动会影响模型最终的判断，而这个依据没有被SHAP方法体现出来。
评分卡模型需要具有以下特性：可解释性：评分卡模型应该能够清晰地解释其预测的依据和逻辑，以便用户理解并信任模型的结果。适用性：评分卡模型应该能够根据业务场景的变化随时调整评分卡分数，以适应不同的政策和市场环境。
可解释行机器学习算法与随机森林哪个精度高
随机森林（下称RF）就是集成学习的一种，它的子模型是一棵一棵的决策树，决策树作为一种非参数学习算法，使用它创建子模型更能产生差异性。
因此，当您在随机森林中，仅考虑用于分割节点的随机子集，甚至可以通过在每个特征上使用随机阈值来使树更加随机，而不是如正常的决策树一样搜索最佳阈值。这个过程产生了广泛的多样性，通常可以得到更好的模型。
随机森林具有准确率高、鲁棒性好、易于使用等优点，这使得它成为了目前最流行的机器学习算法之一。随机森林提供了两种特征选择的方法：mean decrease impurity 和 mean decrease accuracy。
可解释AI,如何打开算法的黑箱?
第一个针对的是直接用户，用户需要了解人工智能产品、服务背后的原理是什么，这是建立可信任AI的重要基础。可解释AI，实际上支撑了可信任AI。
广义地，指提升AI算法、产品和服务做出决策时的透明度和公平性，以防算法偏见和打开算法黑箱，助力用户的信任和监管的合规性。
“AI的‘黑箱’问题，不可避免会带来难以控制、歧视偏见和安全风险，甚至会打击我们对算法本身的信任。”梁正说，“因此，算法的可解释性对AI的应用至关重要。
算法是什么意思
1、算法的词语解释是：算法suànfǎ。(1)计算方法。算法的词语解释是：算法suànfǎ。(1)计算方法。词性是：名词。注音是：ㄙㄨㄢ_ㄈㄚˇ。拼音是：suànfǎ。结构是：算(上下结构)法(左右结构)。
2、算法，从字面意义上解释，就是用于计算的方法，通过该这种方法可以达到预期的计算结果。目前，被广泛认可的算法专业定义是：算法是模型分析的一组可行的，确定的，有穷的规则。
3、算法_词语解释 【拼音】：suànfǎ 【解释】：算术的旧称。计算的方法。【例句】：研究了系统体系结构、数据模型、数据远程访问、配号及配线算法。
4、算法是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。也就是说，能够对一定规范的输入，在有限时间内获得所要求的输出。
5、所谓0个输入是指算法本身定除了初始条件； 输出：一个算法有一个或多个输出，以反映对输入数据加工后的结果。没有输出的算法是毫无意义的； 可行性： 算法原则上能够精确地运行，而且人们用笔和纸做有限次运算后即可完成。
6、关于算法的意思，计算机专业术语名词解释 是解决一个问题的明确的规则或程序。在网络中，算法通常用于确定业务量从一个特定信源到特定信宿的最好路由。