为我们的生活带来了许多便利，让我们体验到了智能化的生活，那么AI透明度是什么呢？我们需要它吗？接下来就为大家介绍。

　　当基于规矩的软件编程不再能够处理核算国际想要处理的问题时，现代AI诞生了。咱们不行能对程序有必要丈量的全部条件进行编码，因此核算专家规划了仿照人类思维方法的机器，从而使AI能够经过观察数据自行学习。这种称为神经网络的方法催生了AI技术，例如人脸识别程序、癌症检测算法和自动驾驶轿车。

　　可是神经网络带有一个折衷之处：咱们无法理解系统的作业方法，AI模型缺少通明度。这种现象被称为黑匣子AI，事实证明这是个问题，而且或许是严重的问题。

　　黑盒AI的权衡

　　通常以准确性百分比来衡量，即系统在多大程度上能够给出正确答案。依据手头的使命，所需的最低精度或许会有所不同，可是即便是99％的精度也不能成为AI值的唯一衡量。咱们还有必要考虑到AI的主要缺陷，尤其是在将AI应用于商业中时：具有近乎完美准确性的AI模型也或许会出现问题。

　　随着模型准确性的提高，人工智能解说其得出某个答案的原因的才能下降，这使企业有必要面对的一个问题是：缺少模型的AI通明度，因此，咱们人类无法信任其结果。因为，咱们或许彻底不知道到终究算法底会进化成什么样，是否会造成严重的结果，全部皆有或许。

　　黑盒问题在AI技术的前期阶段能够接受，可是当发现算法误差时就失去了它的长处。例如，经过开发的AI能够依据种族对丧失作业才能的人进行分类，而用于银职业务AI依据性别筛选不合格借款申请者。 AI接受训练的数据并不平衡，无法包括各种人的满足数据，人类决议计划中存在的历史偏见也传递到了AI算法模型中。

　　还标明，近乎完美的模型仍或许犯下令人震惊的错误。精度为99％的AI模型或许会为剩下的1％发生误差，例如将停车标志分类为限速标志。犹如，千万人级别人口的大城市，1%的数量也不容小觑。

　　尽管这是错误分类或数据量缺乏的一些最极端状况，但它们仍然突显了AI算法存在缺陷的或许性。人工智能遵从一种形式来得出答案，其神奇之处在于，它在逾越人力的状况下表现出色。出于相同的原因，形式中的异常更改使模型简略遭到攻击，这也是咱们需求AI通明度的原因，咱们需求知道AI怎么得出结论。

　　特别是，当运用AI进行关键决议计划时，有必要了解算法的推理进程与逻辑关系。旨在检测癌症的AI模型（即便错误率仅为1％）也或许威胁生命。在这种状况下，人工智能和人类需求一同协同作业，而且当人工智能模型能够解说其怎么到达某个决守时，使命将变得愈加简略。 AI的通明度使其成为团队合作者。

　　从法令的视点来看，有时通明是必要的过程。

　　看来AI通明性有很多好处，可是为什么全部的算法都不通明？

　　人工智能通明度缺乏

　　就像能够解说怎么完成某个决议计划的算法相同，它也能够按份额变得更简略被黑客入侵。经过了解AI的推理，黑客将能够更轻松地诈骗算法。通明度的另一个问题是专有算法的维护，因为研究人员已证明，仅经过检查其解说即可盗窃整个算法。最后，通明算法更难规划，至少暂时而言，它们只能应用于更简略的模型。假如有必要要具有通明度，那么它或许会迫使企业和安排运用不太杂乱的算法。

　　怎么到达平衡

　　与其他任何核算机程序相同，人工智能需求优化。为此，咱们要检查特定问题的特定需求，然后调整通用模型以最合适这些需求。

　　施行AI时，安排有必要注意以下四个要素：

　　法令需求：假如作业需求从法令和法规的视点进行解说，那么除了供给通明度之外别无选择。为此，安排或许有必要诉诸更简略但可解说的算法。

　　严重程度：假如要在生命攸关的使命中运用AI，则有必要做到通明。这样的使命很或许不仅仅依赖于AI，因此具有推理机制能够改善与操作员的团队合作。假如AI影响某人的日子，例如用于作业应用程序的算法，则相同适用。

　　另一方面，假如AI的使命不是很关键，那么不通明的模型就满足了。考虑一种算法，该算法主张下一个潜在客户接触具有数千个潜在客户的数据库，穿插检查AI的决议底子不值得。

　　拜访权限：依据谁能够拜访AI模型，安排或许期望维护算法免受不必要的影响。假如可解说性能够协助专家得出更好的结论，那么即便在网络安全领域，它也能够是很好的。可是，假如局外人能够拜访同一资源并了解该算法的作业原理，则最好运用不通明的模型。

　　数据集：无论何种状况，安排都有必要一直尽力具有最好来自尽或许多的来历的多样化且平衡的数据集。终究，咱们将尽或许多地依赖于AI，而且AI仅像训练过的数据相同智能。经过整理训练数据，消除噪声并平衡输入，咱们能够协助削减误差并提高模型的准确性。

　　更多资讯请继续关注北京安全技术防范行业协会！