原标题:智能治理追踪人工智能监管政策新进展:以美国《人工智能风险管理框架》为例
美国国家标准与技术研究院(NIST)于1月发布了《人工智能风险管理框架》(AI RMF)(以下简称《框架》)1.0版,可供相关组织设计和管理的可信赖和负责任的人工智能,旨在指导机构组织在开发和部署人工智能系统时降低安全风险,避免产生偏见和其他亿博电竞负面后果,提高人工智能可信度。2月15日,美国布鲁金斯学会技术创新中心特聘客座研究员卡梅伦·克里(Cameron Kerry)于该机构官网发文表示,《框架》代表了美国人工智能政策领域的新进展,有助于丰富当前正在进行的关于人工智能发展与政策的国际讨论。
NIST隶属于美国商务部,主要从事物理、生物和工程方面的基础和应用研究,以及测量技术和测试方法方面的研究,并提供标准制定、标准参考数据及有关服务。随着科学技术在经济和社会中发挥的作用越来越大,NIST在政府、科学技术、商业等交叉领域中的作用日益增强。《框架》的形成主要是响应美国《国家人工智能倡议法》(National Artificial Intelligence Initiative Act)的要求,并遵循了NIST此前发布的信息风险管理和治理框架模板,其中包括2014年的《网络安全框架》与2020年的《隐私框架》。
人工智能作为一种通用技术,涵盖了广泛的技术、数据源和各类应用,其广度给信息技术风险管理带来了独特的挑战。因此,《框架》在其风险管理方法中引入了“社会技术”维度,涵盖了“社会动态和人类行为”,涉及广泛的参与者和利益相关者。与此同时,人工智能的发展引发了人们对其带来的风险与收益的广泛讨论、对人工智能训练数据和输出偏差的担忧以及对什么是可靠和值得信赖的人工智能的思考。为此,《框架》提供了应对以上问题的两个视角。
但是,《框架》作为“1.0版本”,并非人工智能风险管理的最后版本,反映了人工智能标准制定的早期阶段,仅包括了对国际标准化组织(ISO)、国际电工委员会(IEC)等国际标准机构的标准,以及经济合作与发展组织(OECD)指导方针的少量参考。该机构预计会在2028年之前进行全面、正式的审查,可能会产生2.0版本。这种迭代方法可以帮助《框架》适应人工智能技术的变化,并随时作出调整。《框架》文件中有关可信任人工智能的特征,也有待进一步了解。从目前来看,《框架》的核心功能及其项下的子类别就像路线图,展示了通往可信任人工智能道路上的步骤,但具体还要取决于应用《框架》的组织机构能否从这些路线中拼凑出自己的道路。
《框架》建立在《网络安全框架》与《隐私框架》的基础上。《网络安全框架》的关键目标是塑造和促进网络安全领域标准与实践的发展,该框架已被绝大多数美国公司应用,包括美国证券交易委员会在内的各种机构将《网络安全框架》作为受监管行业健全网络安全实践的基准。然而,《隐私框架》并没有产生与《网络安全框架》相同的影响。当《隐私框架》发布时,欧盟的《通用数据保护条例》(General Data Protection Regulation)和《加州消费者隐私法案》(California Consumer Privacy Act)都已经生效,引发了许多美国公司制定隐私设计和合规计划。这种较为完善的环境限制了《隐私框架》在隐私和数据保护标准、实践和流程领域发挥作用的空间。
欧盟和加拿大都在对人工智能进行立法,新加坡为可信赖的人工智能制定了自愿测试框架,经合组织的一个工作组建立了可信赖的人工智能工具包。《框架》发布之前,美国于2022年10月发布了《人工智能权利法案蓝图》(以下简称《蓝图》),这是一套保护个人免受伤害和歧视的原则,并配有相关技术方案亿博电竞,确定了人工智能系统影响这些原则的具体方式,以及应对不利影响的一般步骤。而《框架》提供了在各种组织中实施《蓝图》原则的工具。
与欧盟的人工智能立法相比,《框架》不具有法律效力,从性质上来讲是非强制性的指导性文件,供设计、开发、部署、使用人工智能系统的机构组织自愿使用。此类框架比约束性法律更容易在应用中实现更新迭代,但需要依靠软法机制来发挥其影响力,无法确保一定会被采用。在欧盟拟议的人工智能法案下,人工智能系统属于高风险类别,需要接受全面评估,其中涉及人工智能定义的范围、通用人工智能的应对等,已经成为欧盟立法辩论的症结所在,而且具有法律约束力的框架往往对措辞的准确性要求较高,同时不容易提供定制方案。总的来看,无论是欧盟的“硬”监管,还是美国的“软”治理,各国政府和社会都刚刚开始理解人工智能,其监管仍然处于摸索阶段,未来还有很长的一段路要走。
《南方治理评论》始创于2013年,CNKI来源集刊,原名《广州公共管理评论》,由广州大学和广州市社会科学界联合会主管、广州大学南方治理研究院和广州市智慧治理研究中心主办、社会科学文献出版社出版的连续性学术辑刊。
《南方治理评论》秉持“培育公共精神,直面转型中国,诠释社会热点,扩展学术深度,贴近重大需求,服务国家治理”,追求“本土化、专业化智能新闻、个性化、国际化”,崇尚原创研究、微观研究和深度研究的学术精神,试图在中国繁杂的地方语境下运用本土话语体系着力解读地方性知识和日常性逻辑。
《南方治理评论》认为,作为以学术为毕生事业的研究者来说,我们应该告别那种脱离现实生活玄虚的致思方式,以关注现实、关怀民生的学术伦理和脚踏实地、开拓创新的学术精神立足公共生活、直面中国现实问题,从而确立中国地方治理本土化研究的问题意识、研究旨趣和学术路向。
《南方治理评论》主要设置有“学术一线”、“数字治理”、“健康治理”、“灾害治理”、“南国讲堂”、“伶仃书评”、“回归访谈”等栏目。
广州大学南方治理研究院始创于2019年,广东省高校特色新型智库,广东省亿博电竞决策咨询研究基地。研究院主要研究领域包括珠三角政府治理、粤港澳大湾区社会治理、珠江流域生态治理亿博电竞、泛珠三角健康治理亿博电竞、南中国海安全治理等五大方面,致力于建设成为“经世致用、咨政育人”的地方高校特色智库。