David Lawton, Technical Director, Informed Solutions
人工智能(AI)是增长最快的技术之一, 流行的数据驱动技术正在全球范围内使用.
According to analyst house Gartner, 2015年，只有10%的公司已经使用或即将使用人工智能技术. 快进到2020年，这个数字已经上升到近40%, 超过90%的跨国公司质疑计划投资人工智能技术以提高效率和生产力.
Today, all around the globe, 从政府和大型组织到小型在线企业，各种规模的组织都在以越来越快的速度和规模采用人工智能. 这种兴趣和吸收的激增是由可用数据的指数增长驱动的, which, 当与云计算提供的计算能力的巨大增长相结合时, 人工智能软件工具和框架的商品化使人工智能和机器学习(ML)技术变得越来越有吸引力.
Now, the benefits of AI can be seen almost daily. 组织正在利用人工智能技术来提高效率, productivity and decision making, 消费者越来越愿意分享他们的数据，并采用人工智能来改善他们的服务体验, 从流媒体音乐到选择金融产品等等. Alongside this, 由于疾病和疾病诊断的速度和准确性的提高，这些技术的社会效益正变得越来越明显.
这种全球最大的博彩平台如何使用人工智能的观点必须与人工智能和机器学习技术被错误配置的可能性相平衡, mishandled, or abused, 如果这项技术的发展没有必要的安全和偏见制衡，那么它的不可预测性就会出现.
So, whilst the benefits and advancements are clear, 引入人工智能和基于机器学习的技术不应急于求成, 特别是对于在复杂或高度监管的环境中运作的组织. Indeed, 对于服务和保护这些行业的监管机构来说，面临着双重挑战:监管机构如何最好地监管跨行业的人工智能, 以及他们自己如何利用人工智能来监管这些行业，并确保自主系统的安全和道德部署.
保证人工智能系统的关键考虑因素之一与数据有关. 这就是采用人工智能带来的独特挑战:训练数据(用于机器学习开发的数据)可能存在缺陷, introducing error, duplication or even bias into a system.
Data degradation can result in ‘Model Drift’, 哪些从根本上改变了系统的性能和结果, 随着时间的推移，人工智能会退化，因为算法和数据不能充分反映现实世界的变化. 其结果是，一个组织可能会做出错误的决定，人工智能不公平或歧视的可能性也会增加.
人工智能保障和确保人工智能系统的安全需要一种亲力亲为的方法——管理流程和人员以获得最佳结果. So, what are some best practices to consider? 我们可以做些什么来构建一个良好的人工智能治理框架? 如果您已经有了数据策略，那么您就有了一个正确的开始. 数据和人工智能之间的关系非常密切:你有什么数据? Where is it coming from? How is the data being altered? By whom? Clear-cut requirements and principles must be adopted.
我们在Informed的工作使我们处于复杂和高度监管环境中数字服务设计和交付的核心. Whether in healthcare, 司法和紧急服务或能源和环境, 人工智能和机器学习技术的应用为复杂的数据带来了生命和意义，必须根据政策方向仔细考虑.
智能监管的发展可以伴随着新兴技术的发展和接受, protecting consumers, citizens, or patients, 同时帮助推动创新，这与政策自然有效地结合在一起. In the last ten years however, 政策制定者给了行业参与者一定程度的自由，以部署新兴技术. 对于希望利用人工智能和机器学习的复杂市场，制定智能政策的关键在于监管机构能够更好地了解和理解这些技术带来的潜力和挑战. 这反过来将有助于建立有效的未来框架，从而实现创新增长, whilst the public remains protected.
因此，正在努力应对人工智能保障挑战的组织或监管机构如何才能最好地理解和管理复杂市场中监管人工智能和机器学习技术所涉及的复杂性? Today, 由约翰·麦克德米德教授领导的一个越来越有影响力和重要的小组正在管理世界领先的安全保证计划之一, 约克大学保证自治国际项目主任.
2016年，劳埃德船级社基金会对机器人和自主系统的前瞻性评论, (RAS) which includes AI and ML, 认识到获得RAS利益的最大障碍是它们的保证和监管. The Assuring Autonomy International Programme 创建并积极应对这些全球挑战.
它是领先的最先进的研究提供工业, 监管机构和其他在确保和监管RAS方面提供指导的机构. It breaks safety assurance into three elements: Communication; confidence; and trust.
- Communication -一个向您传达适当信息的系统，以便您了解它是如何做出决策的.
- Confidence – A system that is built using tools, 技术和数据让你对它的决定有信心, actions, abilities, safety, and limitations.
- Trust -一种结构化的方式来理解和评估系统，并评估其安全保证是否充分和可信任.
“安全保证就是将这三个要素以一种结构化的、有证据的方式结合在一起. The work we’re undertaking, through collaborations across the globe, 为开发商和监管机构提供指导，以确保我们都能从安全中受益吗, assured and regulated introduction and adoption of RAS,” said Professor McDermid.
At Informed, 我们对人工智能技能的投资并不仅仅依赖于对方法的深入理解, algorithms and software capabilities. 我们对积极颠覆性技术的能力和局限性的真正理解依赖于我们与创新者的长期接触, 学者和行业利益相关者，以便我们能够开发和提供方法和实践，确保在敏感环境中安全、合乎道德地实施人工智能和机器学习.
Ultimately, a structured, 确保人工智能和机器学习技术适用于受监管行业的有效和可衡量的方法将使收益得以实现, 无论是在行业范围内对最佳实践的理解, 以及证明使用人工智能和机器学习的新技术和新系统的实施是安全的证据. 反过来，这将有助于监管机构更好地了解如何通过更好地了解可以保证自动驾驶技术安全运行的风险和限制来保护和服务行业.
