业务安全知识库

业务安全知识库  /  详情

美国:人工智能安全和安保新标准

作者 美国白宫网站 发布于 2023-11-06

今天(美国当地时间2023年10月30日),拜登总统发布了一项具有里程碑意义的行政令,以确保美国在人工智能(AI)的发展前景和管理其风险方面处于领先地位。该行政令确立了人工智能安全和安保的新标准,保护美国人的隐私,促进公平和公民权利,维护消费者和工人利益,促进创新和竞争,推动美国在全球的领导地位,等等。

作为拜登-哈里斯政府负责任创新综合战略的一部分,该行政令建立在总统之前采取的行动基础之上,包括促使 15 家领先公司自愿承诺推动安全、可靠和可信的人工智能发展的工作。

undefined

人工智能安全(Safety)和安保(Security)新标准

随着人工智能能力的增长,它对美国人的安全和安保也产生了影响。通过这项行政令,总统指示采取有史以来最广泛的行动,保护美国人免受人工智能系统潜在风险的影响:

要求最强大的人工智能系统的开发者与美国政府分享其安全测试结果和其他重要信息。根据《国防生产法》,该命令将要求开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司在训练模型时必须通知联邦政府,并且必须共享所有红队安全测试的结果。这些措施将确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。

制定标准、工具和测试,帮助确保人工智能系统安全、可靠和可信。美国国家标准与技术研究院将为广泛的红队测试制定严格的标准,以确保在公开发布前的安全性。国土安全部将把这些标准应用于关键基础设施部门,并成立人工智能安全和安保委员会。能源部和国土安全部还将应对人工智能系统对关键基础设施的威胁,以及化学、生物、辐射、核和网络安全风险。这些行动加在一起,是有史以来任何政府为推进人工智能安全领域所采取的最重大的行动。

通过制定强有力的生物合成筛选新标准,防范利用人工智能设计危险生物材料的风险。资助生命科学项目的机构将把这些标准作为联邦资助的条件之一,从而形成强大的激励机制,确保进行适当的筛选,并管理可能因人工智能而恶化的风险。

通过建立检测人工智能生成内容和认证官方内容的标准和最佳实践,保护美国人免受人工智能带来的欺诈和欺骗。商务部将制定内容认证和水印指南,明确标注人工智能生成的内容。联邦机构将使用这些工具,让美国人很容易知道他们从政府收到的通信是真实的,并为私营部门和世界各国政府树立榜样。

在拜登-哈里斯政府正在进行的 "人工智能网络挑战"(AI Cyber Challenge)的基础上,建立一个先进的网络安全计划,开发人工智能工具来查找和修复关键软件中的漏洞。这些努力将共同利用人工智能可能改变游戏规则的网络能力,使软件和网络更加安全。

下令由国家安全委员会和白宫办公厅主任制定一份国家安全备忘录,指导有关人工智能和安全的进一步行动。该文件将确保美国军方和情报界在执行任务时安全、合乎道德和有效地使用人工智能,并将指导采取行动,打击对手在军事上使用人工智能。

保护美国人的隐私

如果没有保障措施,人工智能会进一步威胁美国人的隐私。人工智能不仅能更容易地提取、识别和利用个人数据,还能提高这样做的动机,因为公司使用数据来训练人工智能系统。为了更好地保护美国人的隐私,包括免受人工智能带来的风险,总统呼吁国会通过两党数据隐私立法,以保护所有美国人,尤其是儿童,并指示采取以下行动:

保护美国人的隐私,联邦应优先支持加快开发和使用保护隐私的技术,包括使用尖端人工智能的技术,以及让人工智能系统在训练的同时保护训练数据隐私的技术。

加强隐私保护研究和技术,如保护个人隐私的加密工具,为研究协调网络提供资金,以推动快速突破和发展。国家科学基金会还将与该网络合作,推动联邦机构采用前沿的隐私保护技术。

评估各机构如何收集和使用商业可用信息--包括他们从数据经纪人那里获得的信息--并加强对联邦机构的隐私指导,以考虑到人工智能的风险。这项工作将特别关注包含个人身份信息的商业可用信息。

为联邦机构制定指导方针,以评估隐私保护技术的有效性,包括在人工智能系统中使用的技术。这些指导方针将推动各机构保护美国人数据的工作。

促进公平和公民权利

不负责任地使用人工智能可能会导致并加深司法、医疗保健和住房领域的歧视、偏见和其他弊端。拜登-哈里斯政府已经采取行动,发布了《人工智能权利法案蓝图》,并发布行政命令,指示各机构打击算法歧视,同时执行现有授权以保护人们的权利和安全。为确保人工智能促进公平和公民权利,总统指示采取以下额外行动:

为房东、联邦福利计划和联邦承包商提供明确指导,防止人工智能算法被用于加剧歧视。

通过培训、技术援助以及司法部和联邦民权办公室之间就调查和起诉与人工智能有关的侵犯民权行为的最佳做法进行协调,解决算法歧视问题。

通过制定在判刑、假释和缓刑、审前释放和拘留、风险评估、监视、犯罪预测和预测性警务以及法医分析中使用人工智能的最佳实践,确保整个刑事司法系统的公平性。

支持消费者、患者和学生

人工智能能为消费者带来实实在在的好处--例如,它能让产品变得更好、更便宜、更普及。但是,人工智能也会增加伤害、误导或以其他方式损害美国人的风险。为了保护消费者,同时确保人工智能能让美国人生活得更好,总统指示采取以下行动:

推动人工智能在医疗保健领域的负责任使用,开发负担得起的救命药物。卫生与公众服务部还将制定一项安全计划,接收涉及人工智能的伤害或不安全医疗行为的报告,并采取行动予以补救。

通过创造资源来支持教育工作者部署人工智能教育工具,如学校中的个性化辅导,从而发挥人工智能改变教育的潜力。

支持劳动者

人工智能正在改变美国的工作和工作场所,既带来了提高生产率的希望,也带来了工作场所监控增加、偏见和工作流失的危险。为了降低这些风险,支持工人集体谈判的能力,并投资于所有人都能获得的劳动力培训和发展,总统指示采取以下行动:

制定原则和最佳实践,通过解决工作转移、劳动标准、工作场所公平、健康和安全以及数据收集等问题,减少人工智能对工人的伤害,最大限度地提高人工智能对工人的益处。这些原则和最佳做法将为工人提供指导,防止雇主对工人的补偿不足、对求职申请的评估不公或影响工人的组织能力,从而使工人受益。

编写一份关于人工智能对劳动力市场潜在影响的报告,研究并确定加强联邦对面临劳动力中断(包括来自人工智能的中断)的工人的支持的方案。

促进创新和竞争

美国在人工智能创新方面已经处于领先地位--去年在美国首次融资的人工智能初创企业数量超过了其后的七个国家的总和。该行政令通过以下行动确保我们继续在创新和竞争方面处于领先地位:

通过 "国家人工智能研究资源"(National AI Research Resource)的试点,在全美范围内推动人工智能研究--该工具将为人工智能研究人员和学生提供获取关键人工智能资源和数据的途径,并扩大对医疗保健和气候变化等重要领域人工智能研究的拨款。

促进公平、开放和有竞争力的人工智能生态系统,为小型开发者和企业家提供获得技术援助和资源的机会,帮助小型企业将人工智能突破商业化,并鼓励联邦贸易委员会行使其权力。

利用现有授权,通过现代化和简化签证标准、面试和审查,扩大在关键领域拥有专业知识的高技能移民和非移民在美国学习、居留和工作的能力。

提升美国在海外的领导力

人工智能的挑战和机遇是全球性的。拜登-哈里斯政府将继续与其他国家合作,支持在全球范围内安全、可靠地部署和使用人工智能。为此,总统指示采取以下行动:

扩大双边、多边和多方利益相关者的参与,就人工智能开展合作。国务院将与商务部合作,牵头建立强有力的国际框架,以利用人工智能的益处,管理其风险并确保安全。此外,本周,哈里斯副总统将在英国首相苏纳克(Rishi Sunak)主持的英国人工智能安全峰会上发表演讲。

与国际合作伙伴和标准组织一起加快制定和实施重要的人工智能标准,确保技术安全、可靠、可信和可互操作。

在国外促进安全、负责任和权利确认的人工智能开发和部署,以解决全球挑战,如推进可持续发展和减轻关键基础设施面临的危险。

确保政府负责任地有效使用人工智能

人工智能可以帮助政府为美国人民提供更好的成果。它可以扩大各机构的监管、治理和福利发放能力,还可以降低成本并提高政府系统的安全性。然而,使用人工智能也可能带来风险,如歧视和不安全的决策。为确保政府负责任地部署人工智能并使联邦人工智能基础设施现代化,总统指示采取以下行动:

发布各机构使用人工智能的指南,包括保护权利和安全的明确标准,改善人工智能采购,加强人工智能部署。

通过更快、更高效的合同签订,帮助各机构更快、更便宜、更有效地获得指定的人工智能产品和服务。

加快人工智能专业人才的快速招聘,作为由人事管理办公室、美国数字服务部、美国数字军团和总统创新奖学金领导的全政府人工智能人才激增计划的一部分。各机构将为相关领域的各级员工提供人工智能培训。

当我们在国内推进这一议程时,政府将与国外的盟友和伙伴合作,建立一个强有力的国际框架来管理人工智能的发展和使用。在过去的几个月里,政府已经就人工智能治理框架进行了广泛磋商--与澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行了接触。今天采取的行动是对日本领导七国集团广岛进程、英国人工智能安全峰会、印度作为人工智能全球伙伴关系主席国所发挥的领导作用以及联合国正在进行的讨论的支持和补充。

拜登总统今天指示的行动是美国在安全、可靠和值得信赖的人工智能方面向前迈出的重要一步。还需要采取更多的行动,政府将继续与国会合作,寻求两党立法,以帮助美国在负责任的创新方面处于领先地位。

有关拜登-哈里斯政府推进人工智能工作的更多信息,以及加入联邦人工智能队伍的机会,请访问 AI.gov。

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123