AI监管兴起,全球迎来AI风险管理浪潮   软件与服

AI监管兴起,全球迎来AI风险管理浪潮 软件与服

时间:2020-03-23 12:13 作者:admin 点击:
阅读模式 作者:赵安琪 [摘要]数据保护是AI法律法规的一个子集,AI法律法规还包括算法、模型的开发等。 随着全球对数据隐私愈加重视,市场出现了AI风险管理的角色或职业。事实上,自从欧洲公布GDPR规定,各国的科技公司开始重新审视技术与隐私之间的边界。目前,全球法律、法规将数据法规的重点置于数据隐私方面,而数据隐私只是数据保护的一个部分,数据保护是AI法律法规的一个子集,AI法律法规还包括算法、模型的开发等。

1970年代、1980年代充满着银行危机,在来自世界各地的监管机构共同努力下,管理金融风险设定了国际标准。这些标准(现在称为巴塞尔标准)定义了有关如何度量和管理风险的通用框架和分类法。这也间接导致了专业财务风险管理人员的崛起。

例如,当前最大的专业风险协会GARP和PRMIA现在拥有超过25万个认证会员,并且还有更多没有经过这些特定认证的专业风险经理。而新的世纪下,发生了一些改变,我们更多受到数据泄露和数据隐私丑闻的困扰,世界各地的监管机构亦对数据法规做出了回应。

GDPR就是一个很好的例子。不久前,英国ICO发布了一项详细的AI审核草案。有趣的是,它的方法与巴塞尔标准非常相似:应明确管理特定的AI风险,未来,这项标准将导致专业AI风险管理职业的出现。

要知道,巴塞尔框架是国际清算银行(BIS)制定的一套国际银行业监管标准,旨在促进金融市场的稳定。BIS本身没有监管权,但是其作为 中央银行 的地位使巴塞尔法规成为世界标准。制定这些标准的巴塞尔银行监管委员会(BCBS)是在全球金融危机之时成立的。

据悉,BCBS始于1974年的10名央行行长,现由28个辖区的45名成员组成。鉴于最近发生的侵犯隐私和丑闻事件,可以将GDPR视为等同于数据世界的巴塞尔标准。我们可以将欧洲数据保护主管(EDPS)视为用于数据隐私的BCBS。

尽管,GDPR因算法本身很难调节,同时,算法规范已经嵌入了一些机构的发布的法规中,所以,GDPR仅涵盖了一部分算法规定。比如,巴塞尔规定了应如何在银行中构建和部署算法。医疗保健方面也有类似的规定。潜在的冲突或重叠规则使编写更广泛的算法规则变得困难。

因而,欧盟,英国和新加坡的监管机构正在尝试率先提供有关如何管理和审核AI系统的详细指南。《巴塞尔协议一》于1988年撰写的,《巴塞尔协议二》于2004年,《巴塞尔协议三》于2010年。

这些法规为应如何构建风险模型,支持这些模型的流程以及风险将如何影响风险模型设定了标准。为了银行业务提供了衡量和评估银行面临风险的通用框架。这也是由欧盟,英国和新加坡发布的详细指南的背景,所有人都采取基于风险的方法,并帮助定义AI的特定风险和必要的治理结构。

基于此,未来通用框架可以帮助专业人士快速共享概念,遵守准则并标准化实践。巴塞尔催生了金融风险管理者和专业风险协会,还创建了一个新的C级职位,即首席风险官(CRO)。且银行首席风险官独立于其他高管,通常直接向首席执行官或董事会报告。

相比之下,GDPR推动了数据隐私的发展。它要求拥有250名以上员工的组织必须具有数据保护官(DPO)。与此同时,这引起了国际隐私专业人员协会的新兴趣,首席隐私和数据官(CPO和CDO)亦在增加。

中国软件网认为,随着更广泛的AI法规的到来,将围绕着它形成一波专业AI风险经理和全球专业社区的浪潮,DPO是AI管理的第一次迭代。一种新技术的发展,必然带来边界管理的问题,也将催生各种新职业、新行业。

对于初创公司而言,既要保持创新,有需要保证技术安全,而专业AI风险管理职业的出现也将为建立数据隐私和AI审计的初创公司带来福音。