《国土安全部人工智能路线图 2024》详尽介绍了美国国土安全部(DHS)在人工智能(AI)领域的战略规划和实施方案,旨在通过AI技术提升国土安全,确保隐私、公民权利与自由。
AI 驱动的国土安全
DHS积极推动AI技术在各领域的应用,提升国土安全能力。早在2015年,DHS就开始试点AI技术,用于身份验证、边境安全、网络安全等领域。例如,美国海关和边境保护局(CBP)使用AI模型识别可疑车辆,从而成功阻止毒品入境。联邦紧急事务管理署(FEMA)通过AI技术远程评估灾后损失,提升援助效率。
负责任地使用 AI
DHS承诺负责任地使用AI技术,确保其应用透明、公正、可信。政策要求严格测试AI系统,避免不当偏见,并保护隐私和公民自由。各组成部分在隐私办公室、公民权利和自由办公室的协助下,制定详细的AI应用规范和治理框架。
AI 的风险和挑战
尽管AI带来了诸多机遇,DHS也意识到其潜在风险。例如,网络攻击者可能利用AI开发新型攻击工具,干扰关键基础设施。DHS致力于通过网络安全和物理安全措施,管理AI技术带来的风险,并与各联邦机构合作,制定AI安全标准和防护指南。
政府整体协同
DHS将与其他联邦机构、州和地方政府、私营部门和国际伙伴紧密合作,推动AI技术的协调发展。总统签署的第14110号行政命令要求DHS在关键基础设施、网络安全等领域引领AI安全标准,并加强全球合作,降低AI技术滥用风险。
内部职能分工
DHS内各部门和办公室在AI技术应用中承担不同职责。部长负责总体战略和政策制定,首席信息官(CIO)负责推动AI创新与应用,科学技术局(S&T)领导AI研究与开发,隐私办公室和公民权利与自由办公室确保AI技术的负责任使用。
外部合作
DHS通过与私营部门、学术界和非政府组织的合作,推动AI技术创新和应用。人工智能安全和保障委员会(AISSB)汇集各领域专家,为AI开发和部署提供建议,确保技术安全可靠。
未来工作重点
推动AI在DHS任务中的应用
DHS计划继续在边境安全、网络防御、灾后援助等领域应用AI技术,提升效率和安全性。例如,美国移民局(USCIS)将使用大型语言模型(LLMs)培训移民官员,联邦紧急事务管理署(FEMA)将利用AI协助地方政府制定减灾计划。
确保AI系统的安全和可靠
DHS将建立严格的开发、测试和评估机制,确保AI系统的可靠性和透明度。科技部(S&T)将成立AI/ML测试与评估工作组,创建联邦AI测试平台,提升系统安全性。
建立AI人才队伍
DHS将通过招聘、培训和保留AI专业人才,建立AI就绪型劳动力。计划包括在2024年招聘50名AI专家,并在全部门范围内开展AI培训,提高员工技术能力。
DEPARTMENT OF HOMELAND SECURITY ARTIFICIAL INTELLIGENCE ROADMAP 2024
国土安全部 人工智能路线图 2024
目录
部长的信
利用 AI 推进国土安全部的使命
AI 驱动的国土安全挑战
负责任地使用 AI
政府整体协同方法
国土安全部内部职能分工
国土安全部在 AI 方面的外部合作
工作重点概述
负责任地利用 AI 促进国土安全使命
推动全国范围内的 AI 安全与防护
通过强有力、协调一致的合作伙伴关系继续引领 AI
术语表
部长的信
人工智能或许是我们这个时代最具深远影响的技术。其拥有无限的创新潜力,能够重塑我们保护国家安全和社区的方式。在国土安全部(DHS) ,我们肩负着确保 AI 得以全面发展的使命,同时保障公众免受其不负责任或对抗性使用可能带来的任何可能危害。
国土安全部 (DHS) 处于 AI 和机器学习技术应用的前沿,并以身作则。我们拥有一支由 260,000 名才华横溢且敬业的人员组成的团队,分布在全国及全球的 22 个机构和办公室。美国公众每天与 DHS 的互动频率超过了其他任何联邦机构。我们不仅通过 AI 应用为公众提供了实时的益处,同时也推动了我们在国土安全各个领域的战略部署。
我们非常高兴发布《 DHS AI 路线图》。该文件详尽地阐述了我们的 AI 计划,以及这项技术在整个国土安全体系中的潜力。这是迄今为止由联邦机构提交的最为详细的 AI 规划,旨在通过充分发挥 AI 的潜力来保护美国人民与国家的安全,同时严格保障隐私、公民权利与公民自由。
该倡议与拜登总统签署的第 14110 号行政命令“安全、可靠和可信的人工智能开发与使用”相一致,该命令赋予国土安全部以下重要职责:
管理关键基础设施和网络空间中的 AI;
促进全球采纳 AI 安全标准;
降低 AI 被用于实施大规模杀伤性武器袭击的潜在风险;
打击与 AI 相关的知识产权盗窃;并且,
确保我们的国家能够吸引人才,在美国发展负责任的 AI。
我们的计划路线图涵盖了未来一年的几个重点,包括探索新的 AI 应用,并推行整体政府战略,以确保 AI 安全、可靠和可信的发展与应用。我们致力于与政府各部门、私营部门以及学术界的合作伙伴紧密合作,共同增强国家安全。
我们诚邀您参与这一重要使命。通过共同努力,我们能够审慎且道德地运用人工智能,提升国家安全,优化运作流程,并为广大公众提供更加高效的服务。
Alejandro N. Mayorkas
美国国土安全部部长
Eric Hysen美国国土安全部首席信息官
利用 AI 推动国土安全部的使命
为了保护美国人民、我们的国土和我们的价值观,DHS 不断创新,以支持其各项任务。
尽管如今频频出现在新闻中,但人工智能(AI)的概念早在20世纪50年代就已经存在。最初,人工智能被理解为机器执行以前需要人类智能才能完成的任务的能力,如今已扩展到包括能够进行推理、推断和学习的系统。过去十年间,尤其是近几年,人工智能系统的复杂性显著提升。现如今,通过互联网接口,人工智能系统越来越多地被集成到软件中,并被全球范围内的企业和政府广泛部署。
多年来,DHS 已经在人工智能领域进行了长时间的应用,并不断拓展其在部门内应用的广度、深度和成熟度。例如,早在 2015 年,部门就试点使用机器学习 (ML) 技术来支持身份验证任务。从那时起,DHS 成功实施了其他基于人工智能的应用,以提高效率并推动边境安全、网络安全、移民、贸易、交通安全和劳动力生产力等关键领域的创新,这些领域对保护国土安全至关重要。DHS 的各个组成部分及办公室正在认真评估人工智能为 DHS 使命带来的潜在利益,责任地利用其潜力进一步改造我们的运营。该部门已经在 https://www.dhs.gov/data/AI_inventory 公布了 41 种不同的人工智能使用案例,随着我们对人工智能应用的扩大,这个列表还会继续增长。
一些例子包括:
DHS 正在使用 AI 技术将芬太尼等危险药物阻止在国门之外。美国海关和边境保护局 (CBP) 采用了一个 ML 模型来识别车辆通行记录中的潜在可疑模式。最近,CBP 利用该模型标记了一辆需要进行二次检查的汽车,从而发现车内隐藏超过75公斤的毒品。
DHS 正在利用 AI 技术来协助执法人员调查令人发指的犯罪行为。2023 年,美国移民和海关执法局国土安全调查局的“重燃希望行动”( Operation Renewed Hope )部分依赖一个机器学习 ( ML ) 模型,通过增强旧图像,为调查人员提供了新的线索,从而识别出了超过 300 名此前未知的性剥削受害者。
国土安全部在联邦紧急事务管理署 ( FEMA ) 使用 AI 技术,以更高效地评估灾后房屋、建筑和其他财产的损失。此方法使 FEMA 检查员能够远程查看部分受损结构,而无需依赖现场检查,从而更加迅速地向受灾者提供救助。
国土安全部 (DHS) 正在利用人工智能技术提升旅行的安全性和便捷性。通过推出面向客户的技术,如机场无接触值机,交通安全管理局 (TSA) 为旅客提供了一种可选方式,仅需拍照即可完成 TSA 安检流程、托运行李和登机。这些措施及其他努力已经在安检点显著节省了时间,减少了物理接触点。
这些以及其他当前对 AI 的使用,均在该部门的隐私办公室、公民权利和自由办公室、法律总顾问办公室及其他相关监督机构的合作与咨询下进行。
由人工智能驱动的国土安全挑战
尽管 AI 为国土安全部 (DHS) 的任务带来了巨大的提升机会,但同时也引发了新的挑战和风险。大量易获取的 AI 工具很可能会增强对手的策略和战术。
网络攻击者正利用 AI 开发新型工具,从而能够接触并破坏更多受害者,并实现更快、更高效、更难检测的大规模网络攻击。那些意在破坏我们政府机构、社会凝聚力和民主进程的国家,正在使用 AI 制造更具迷惑性的外国恶意影响活动。
特别令人担忧的是人工智能攻击对关键基础设施的影响,这可能导致恶意行为者干扰或阻断与物联网 ( IoT ) 技术或网络化工业系统相关的活动。将被污染的数据传送到关键传感器可能会引发后续影响,例如服务中断或系统关闭。人工智能驱动的技术还被用于破坏我们对数字内容信息的信任,这不同于传统的网络安全威胁,因而需要额外的研究来理解并建立知识体系以指导保护措施。同样,尽管人工智能已经在物理和生物科学领域推动了创新,但它也可能显著降低非专家设计、合成、获取或使用化学、生物、放射性或核武器的门槛。
网络安全和物理安全是人工智能安全的重要基础。美国国土安全部 (DHS) 与网络安全和基础设施安全局 (CISA) 将继续致力于提升国家整体的网络韧性,并识别和管理与滥用 AI/ML 技术相关的风险。
此外,作为部门风险管理机构,TSA 和美国海岸警卫队将持续评估运输和海事领域的 AI 相关风险。
AI 的负责任使用
DHS 负责确保我们对 AI 的应用:
负责任且值得信赖;
经严格测试证明有效;
保护隐私、公民权利和公民自由;
避免不当偏见;
并且对我们的员工和服务对象来说是透明且可解释的。
在适当情况下,应将其解读为满足法律或行政程序中的正当程序要求。DHS 使用人工智能应致力于促进公平,而非以加剧现有社会不平等的方式运行。
DHS 的政策体现了该部门在部署 AI 工具以增强运营并在政府中引领负责任地使用 AI 方面的承诺。部门对 AI 负责任使用的治理和监督是一项紧密协调、高度协作的工作,整合了 DHS 各个运营单位和监管办公室,共同致力于确保负责任的使用。自始至终,DHS 的各组成部分和办公室就与我们的隐私办公室、民权和公民自由办公室、总法律顾问办公室以及其他利益相关者密切合作。这些协作确保遵守所有适用的法律和政策,并设立明确的防护措施,禁止 AI/ML 技术的不当使用,同时保护隐私、民权和公民自由。
在 2023 年,美国国土安全部 (DHS) 宣布了一系列新政策和措施,旨在推动负责任地使用 AI,并指导部门内 AI/ML 技术的获取与应用。国土安全部将遵循 AI 权利法案蓝图中的原则,并在部门内部实施国家标准与技术研究院 (NIST) 的 AI 风险管理框架。随着新法律和全国性政策的制定以及该领域的不断进步,我们将继续更新我们的内部政策和程序。
政府整体协同方法
总统签署的第 14110 号行政命令,提出了全面的 AI 创新战略,指示 DHS 与其他联邦机构合作,推动一种协调的政府整体方法。具体而言,DHS 将与其他部门的风险管理机构合作,如国家标准与技术研究院、司法部和国防部,旨在:
支持特定行业的 AI 风险识别;
向各机构发布有关内容标识和认证方法的指导意见;
对 AI 基础模型及其他措施进行安全性评估;
并制定 AI 安全与保障的指导方针、标准和最佳实践;
行政命令中所指示的方向与 DHS 在确保人工智能的安全、可靠和负责任发展及使用方面的创新工作保持一致。DHS 将继续在关键基础设施和网络空间领域管理人工智能,推动全球 AI 安全标准的采纳,降低 AI 被用于制造大规模杀伤性武器及其他相关威胁的风险,打击与 AI 相关的知识产权盗窃,并帮助美国吸引和留住高技能人才。
国土安全部内部职能分工
部长负责制定部门的 AI 战略、优先事项和政策,并作为与私营部门、联邦跨机构、州官员及关键国际伙伴的主要对话者。部长代表部门参与白宫 AI 委员会的工作,该委员会负责协调联邦政府各机构的活动以落实 AI 政策。2023 年 4 月,部长在国土安全部内设立了一个 AI 工作组,推动 AI 的具体应用,以推进国土安全的关键任务。部长还成立并将主持一个新的 AI 安全和保障委员会 (AISSB),该委员会将为部长、关键基础设施社区及更广泛的公众提供 AI 开发与部署的建议和意见。
在秘书处,部长指定网络安全与新兴技术高级顾问担任 AISSB 执行主任,负责向部长提供关于部署 AI 和其他先进技术以实现部门使命并支持部门及整个美国政府相关政策制定的建议。
该部门的信息主管 (CIO) 担任指定的首席人工智能官 (CAIO)。CAIO 负责促进整个部门范围内的 AI 创新和负责任的使用,并与 DHS 各办公室和组成部门合作,制定 AI 使用的内部政策。CAIO 确定全部门 AI 部署的战略优先事项,并代表部长协调各 DHS 办公室及其组成部门之间的 AI 相关工作。此外,CAIO 还负责监督部门的信息安全、数据治理、信息技术和客户体验等职能,以支持 DHS 在 AI 领域的应用。
科学技术局(S&T)代表该部门,正在主导与人工智能相关的研究与开发工作,为联邦、州和地方官员提供尖端技术与能力,以保障国土安全。S&T 负责 AI 驱动系统的测试与评估(T&E),并与隐私办公室及各运营部门合作开发 AI 驱动的测试与评估机制。
战略、政策和计划办公室(政策)负责制定该部门的 AI 政策,涵盖监督执行第 14110 号行政命令所指示的各项任务,并加强与国际盟友及合作伙伴在 AI 治理和风险缓解方面的协作。政策部门为部长提供支持,协助设立 AI 战略与标准委员会(AISSB)并制定其议程。
隐私办公室( PRV )和民权与公民自由办公室( CRCL )负责监督并指导 AI 的负责任使用,确保部门在使用 AI 时做到透明、可解释、可信赖,避免不适当的偏见,并保障隐私、民权和公民自由。PRV 监督国土安全部( DHS )对 AI 的使用,以保护个人隐私并确保遵守隐私政策。CRCL 致力于维护个人自由、公平和平等,确保遵守适用的个人权利保护标准,包括但不限于正当程序和反歧视标准,并在所有 DHS 的 AI 使用案例中推进平等。
对抗大规模杀伤性武器 (CWMD) 办公室致力于防范使用这些武器的攻击,以及其他与化学、生物、放射性和核 (CBRN) 相关的威胁,并在部门内领导识别和减少人工智能与 CBRN 威胁交汇处的风险的工作。CWMD 着力增强联邦各机构间的协作,并为部门的各运营组件、州、地方、领地和部落合作伙伴以及第一响应者提供直接的财政援助和支持。
网络安全和基础设施安全局 ( CISA )开展网络防御,以防范 AI 驱动的威胁,并确保基于 AI 的软件系统的安全,同时推进相关风险的降低和系统韧性的增强。CISA 还传达 AI 相关的威胁和风险信息,包括向关键基础设施部门传达,并在整个 DHS 内负责任地整合 AI 软件系统。(CISA 还在 2023 年发布了《人工智能路线图》,详细说明了其 AI 任务中的一系列综合行动。)
运营部门,包括运输安全局、美国公民与移民服务局、美国移民和海关执法局国土安全调查、联邦紧急事务管理局和美国海岸警卫队,负责任地将 AI 应用到其运营能力中,以充分发挥 AI 的潜力。这些能力包括强化的边境安全、打击芬太尼的行动、旅行筛查、知识产权保护、拨款和其他援助分配以及海上安全保障。
情报与分析办公室 (Office of Intelligence and Analysis)负责进行并提供分析,研究人工智能对威胁的影响。其分析内容包括针对网络安全、外国恶意影响以及反恐的威胁,以保护关键基础设施和完成国土安全任务。
私人部门办公室隶属于合作与参与办公室,致力于与企业、贸易协会及其他组织进行战略沟通,以增强与部门的紧密关系。此外,私人部门办公室在通知部长人工智能政策和法规对私人部门的影响方面发挥着重要作用,并推动公私合作伙伴关系与最佳实践,以创新方法应对国家安全挑战。合作与参与办公室将代表部长为 AISSB 提供行政支持。
国土安全部 AI 工作组由来自国土安全部不同部门的代表组成,并由科技部副部长和首席信息官共同主持。该工作组于 2023 年 4 月成立,旨在推动 AI 在关键国土安全任务中的具体应用。在与 CRCL 合作中,工作组提供指导、风险评估、缓解策略,并监督个人权利的保护。工作组还协调影响部门内部政策变更的工作,并对所有国土安全部的 AI 活动进行监督。
国土安全部在 AI 方面的外部合作
DHS 与全国各地的关键利益相关者跨部门合作,并与州级、地方、地区和部落政府、民选官员、私营部门、信仰团体和非政府组织、学术界以及本国社区开展战略性接触和拓展活动。该部门通过多种渠道召集这些利益相关者的代表,从常设咨询机构到研讨会及其他有针对性的聚会,确保在 DHS 进行政策制定时能反映各方利益。DHS 还共享信息,并制定提升安全性和韧性的建议或指导。
一些由国土安全部召集的,旨在解决与 AI 相关问题的多方利益相关者团体如下:
AISSB 是由总统指示、国土安全部秘书根据行政命令 14110《安全、可靠和可信赖的人工智能发展和使用行政命令》建立的,其目的在于汇集来自私营部门、民间社会、学术界和政府的 AI 专家。该委员会旨在为国土安全部秘书、关键基础设施社区以及更广泛的公众提供关于 AI 开发和部署的建议;提供提升安全性、韧性和可靠性的相关信息和建议,包括发布具体且可操作的原则、指南和最佳实践,用于 AI 的使用;并制定有效流程,以审查和应对关键基础设施中与 AI 使用相关的事件。
国土安全顾问委员会 ( HSAC ) 依托其成员的丰富经验、专业知识和国内外的广泛联系,为部长提供实时、实际且独立的建议,从而支持国土安全行动的决策。2023 年, HSAC 向部长提出了有关 AI 的建议,这些建议为本路线图中所概述的诸多行动提供了参考和指导。
在网络安全领域,美国国土安全部 (DHS) 已设有一系列现有架构,以应对 AI 使用过程中可能出现的网络安全问题。其中最重要的机构是联合网络防御协作机构 (Joint Cyber Defense Collaborative),它汇集了来自全球各组织的网络防御专家,负责收集、分析和共享可操作的网络风险信息,从而实现同步和整体的网络安全规划、网络防御及应对措施。如果发生由 AI 引发的重大网络事件或针对 AI 系统的网络攻击,网络安全审查委员会 (Cyber Safety Review Board) 将对事件进行审查,并提出具体建议,以降低此类事件未来发生的可能性或减轻其影响。此外,CISA 网络安全顾问委员会 (CISA Cybersecurity Advisory Committee) 由网络安全、技术、风险管理、隐私和韧性领域的专家组成,他们向 CISA 主任就与 CISA 任务相关的政策和项目提供建议,特别是如何促进安全软件设计实践的采用。
其他咨询小组和委员会可以在这个网页中找到:DHS Advisory Panels and Committees。
工作重点概述
在 2024 年,DHS 将专注于以下工作重点:
负责任地利用 AI 来推进国土安全任务
促进全国 AI 安全和保障
持续通过稳健且紧密的合作伙伴关系在 AI 领域保持领先地位
- 负责任地利用 AI 推进国土安全任务,同时保护个人隐私、公民权利和公民自由
美国国土安全部(DHS)将在联邦政府内承担起领导责任,确保在保卫国土安全和防范 AI 恶意使用的同时,负责任地运用人工智能技术。我们将确保 AI 的使用完全尊重隐私、公民权利和公民自由,并经过严格测试,以避免隐私侵犯或不允许的偏见。此外,我们将确保这些技术的使用是可解释且透明的,以便向我们所服务的公众进行清晰说明。
1.1. 持续且负责任地在 DHS 任务领域内试点和实施 AI 技术
DHS 将利用 AI 技术来支持维持和保障政府运营所需的核心职能。
生成式 AI 工具,包括大型语言模型(LLMs),可能会在减少业务流程(如服务台工单管理)所需的投入方面发挥重要作用。这种务实的方法旨在利用 AI 简化行政任务,从而在政府的日常运作中提升效率并降低成本。通过策略性地应用 AI,可以提高生产力和改善客户体验,使其成为一种变革性的工具。
除了下列三个试点项目外,DHS 预计将在整个机构内启动更多试点项目,其中包括使用生成式人工智能进行语言翻译。
unsetunset2024 目标unsetunset
unsetunset使用 LLMs 进行官员培训unsetunset
美国公民及移民服务局 (USCIS) 将试点使用 LLMs 以帮助培训难民、庇护和国际行动官员,指导他们如何面试合法移民申请人。USCIS 将生成动态、个性化的培训材料,以补充人工培训。这些材料将根据官员的具体需求进行调整,确保他们在广泛的现行政策和法律方面获得最佳的知识与培训。该试点项目将有助于增强官员对关键信息的理解和记忆,提高他们决策的准确性,并减少重新培训的需求。
unsetunset规划助理以增强社区韧性unsetunset
联邦紧急事务管理署 ( FEMA ) 将试点采用生成式 AI,协助服务不足的社区和地方政府制定减灾计划,识别危害、评估风险和脆弱性,并制定减灾策略。地方政府要获得 FEMA 的减灾援助计划及其他多种 FEMA 社区韧性建设项目的资助,必须具备经过批准的减灾计划。该试点项目将特别支持州、地方、地区和部落政府更深刻地理解如何制定包含风险识别和减灾策略的计划,帮助这些政府从公开且研究深度丰富的资源中撰写计划要素,以便根据各自需求进行定制。
unsetunset利用 LLMs 增强搜索与文档理解unsetunset
国土安全调查局 (HSI) 将试点允许调查员使用 LLMs 来支持其调查过程,包括:(1)对数百万份文档进行语义搜索,(2)检索相关案例文档,以及(3)根据相关文档为调查员提供特定查询的摘要响应。这些工具应能使调查人员迅速发现关键信息和模式。这些举措旨在支持 HSI 打击芬太尼贩运、人类贩卖、儿童剥削及其他犯罪网络的工作。
unsetunset改造边境安全unsetunset
美国海关和边境保护局 ( CBP ) 将继续推广非侵入性检查技术,以提升边境筛查的效率,并打击与走私芬太尼及其他非法货物相关的风险。非侵入性检查技术是 CBP 用于在边境入境点通过 X 射线或成像技术进行二次筛查的工具,帮助 CBP 确定是否需要开展额外的人工检查。CBP 将利用这些筛查过程中产生的数据来进一步增强成像技术,从而更精确地发现异常情况。
unsetunset增强联邦网络防御unsetunset
网络安全和基础设施安全局 ( CISA ) 将评估应用 AI 驱动技术对网络安全漏洞检测与修复所产生的影响。CISA 将向国土安全部部长提交一份报告,提出基于此次评估所获得经验教训的行动建议。
1.2. 构建技术基础设施以加速在 DHS 内部采用安全的 AI
启用有效的 AI 基础设施对于 DHS 的 AI 生态系统的成功运行至关重要。这涉及以下战略考量:
数据和工具管理;
存储、计算能力和网络基础设施;
机器学习运维;
持续集成、交付和监控;
支持治理与管理过程中有效协作的流程;
以及隐私增强技术的部署和应用。
DHS 各办公室和组件中的首席数据官 (CDO) 在支持 AI 系统整体技术基础设施方面具有关键作用。高质量、结构合理的数据是确保这些系统可靠且高效运行的基础。CDO 负责推动整个部门的数据管理,尤其是在模型训练、数据本体论和隐私方面,以便在部门开发 AI 算法时提供必要的支持。
CDOs 还确保输出的精确性和响应速度,从而增强了 AI 应用的整体效能。
unsetunset2024 年目标unsetunset
unsetunsetAI 沙箱unsetunset
首席信息官办公室将在隐私办公室、公民权利和公民自由办公室及总法律顾问办公室的协调下,为一批初期的 DHS 用户推出 AI 沙箱,供其试验在系统中负责任地使用 LLMs。目标是在一年内将 AI 沙箱扩展至更多 DHS 用户,并整合适应 DHS 任务和使用案例的不断发展的测试和验证标准。
unsetunset初始运行能力 (IOC) 计划用于 SURVEYOR 集成数据环境unsetunset
美国海岸警卫队 (USCG) 将推出 SURVEYOR 集成数据环境,这是一套在集成云架构中执行特定功能的技术组件。此环境将实现高级分析和人工智能 (AI) 能力,包括元数据管理、数据访问与发现、数据质量管理、数据传输、数据处理、数据存储、数据可视化、数据分析和人工智能/机器学习 (AI/ML) 操作。
1.3. 建立严格的开发、测试和评估实践以适用于 AI 系统
有效的开发和独立评估过程对确保 AI 系统的负责任采用至关重要。一个定义明确的开发流程,包括对风险评估、文档记录和容忍度的全面理解,有助于创建稳健且可靠的 AI 系统,并有助于减轻和管理与隐私、不当偏见、错误、安全性或意外后果相关的风险。
全面评估过程在评估人工智能系统的性能、合规性、公平性、透明性及伦理影响方面至关重要。这需要进行严谨的独立测试、验证和持续的监控,以在人工智能应用中建立信任和问责机制。
作为测试与评估 (T&E) 需求的一部分,DHS 需要开展全面的 AI 保障活动,以确保 AI 应用的有效性和稳健性。这些活动包括基准测试,即将 AI 模型与既定的性能标准进行比较,以及通过更新和重新训练模型来整合新数据和见解。若在算法生命周期的适当阶段进行维护并结合测试与验证,AI 应用将能保持其准确性、灵活性和响应速度。
为了支持这些努力,DHS 将与安全研究人员社区合作,帮助识别 DHS IT 系统中的潜在漏洞,体现其对严格且安全开发流程的承诺。DHS 还将继续制定全部门范围内的指导方针和政策,以便在需要时应用与 AI 相关的技术。
unsetunset2024年目标unsetunset
unsetunsetAI/ML 测试与评估工作组unsetunset
科技部(S&T)将成立一个测试与评估工作组,以支持国土安全部( DHS )系统的测试与评估,并发布一份涵盖 AI/ML 支持系统测试与评估的行动计划。该计划将包括试点项目和使用案例、算法训练和测试数据、 AI 支持系统的获取、 AI 在测试与评估中的应用,以及 AI 支持的对抗方等内容。
unsetunsetDHS AI/ML 测试设施unsetunset
S&T 将创建一个联邦人工智能测试平台,为国土安全部(DHS)及其相关企业的运营商提供独立的评估服务。初期建设将涵盖初始使用案例、测试平台能力的搭建,以及一份为期五年的执行计划。
unsetunset针对 DHS 的人工智能系统进行漏洞测试unsetunset
首席信息安全官将主办一次 HackDHS 演习, 邀请经过严格审核的研究人员对 DHS 的人工智能 IT 系统 进行众包评估。经过审核的研究人员将负责发现这些系统中的网络安全漏洞,从而推动 DHS 系统的进一步安全改进。
1.4. 通过健全的治理、监督政策和实践,建立国土安全部对人工智能的安全、可靠和值得信赖的使用
2023年8月,部长 Mayorkas 签署了 DHS 的政策声明第 139-06 号“DHS 各组成部分对人工智能和机器学习技术的获取和使用”,以明确其在 DHS 内获取和负责任使用具有任务增强功能的 AI 的指导原则。
该内容包括 DHS 对其 AI 活动进行有意义的监督,并保障隐私、公民权利及公民自由。除此之外,DHS 承诺不会收集、使用或传播用于 AI 活动的数据。DHS 也不会建立基于种族、民族、性别、宗教、性取向、性别认同、年龄、医疗状况或残疾等不当考量而做出或支持决策的 AI 系统。此外,DHS 仅会以符合美国宪法及所有其他适用法律和政策(特别是保护隐私、公民权利及公民自由的法律和政策)的方式获取和使用 AI。在承诺避免不当的归类、针对或歧视的基础上,该政策还要求建立适用于部门 AI 活动的 AI 风险管理框架。
DHS 将以此基础政策为起点,发布更多政策,在整个部门内确立负责任的 AI 使用规范,并对不同类型的 AI 技术实施针对性的治理策略。
unsetunset2024 年目标unsetunset
unsetunsetDHS 全范围政策指令unsetunset
DHS 将在全企业范围内发布 AI 政策,并基于 DHS 政策声明 139-06 的指导原则。该政策将依据 2023 财年《国家防务授权法案》,针对 AI 的获取和使用进行规范,考量其风险:包括隐私、公民权利和公民自由的影响,以及防止 AI 驱动系统被滥用、降级或失去操作能力的安全措施。
unsetunset内部治理unsetunset
国土安全部(DHS)将对新控制措施进行评估,并探讨这些措施如何在利用能够增强任务执行的 AI 技术与潜在安全或权利影响之间取得平衡。
通过最高层级部门的监督,DHS 将确保所有战略和部门指导与行政政策中关于管理采购风险和减少负责任使用障碍的规定保持一致。
1.5. 通过提升全员 AI 素养以培养 AI 就绪型劳动力,吸引、保留与培养 AI 专家、支持团队及维持合作伙伴关系的计划
DHS 将致力于将资源投入到各类举措中,以吸引、招聘、培养并保留具备技术技能的人才,推动 AI 能力的监督和整合。该部门将鼓励跨学科合作,组建包含 AI 专家与其他领域专家的跨职能团队,以增强解决问题的能力,并确保 AI 有效且负责任地整合到运营和监管流程中。
国土安全部将优先实施持续培训,以提升员工的 AI 相关技能。2023 年末,该部门颁布了一项政策,旨在使国土安全部工作人员能够并鼓励他们负责任地使用某些商业产品,从而利用生成型 AI 的优势,并确保他们能够适应未来的工作需求。到 2024 年初,已有数百名员工接受了培训,以便在日常工作的某些方面能负责任地使用生成型 AI。
这些培训是全年内提升我们员工技能的一项更大努力的先导。
DHS 还计划将更多的技术人员整合到领导和决策岗位中,以实现必要的发展和留用目标,并培育一种有效融合数据、分析和 AI 能力的创新文化。DHS 将建立灵活的服务结构,奖励多样化的职业发展路径,并培育一种持续学习的文化,包括领导力培训和适应能力。
unsetunset2024 年目标unsetunset
unsetunsetAI 团队unsetunset
2024 年 2 月,国土安全部(DHS)启动了一项前所未有的计划,利用新的直接雇佣 AI 人才的权力,今年招聘 50 名 AI 专家。DHS 将把成功的候选人分配到部门内部的 AI 团队,以满足任务需求并填补关键岗位,包括监督办公室的职位。
unsetunset全部门培训unsetunset
DHS 将增加全部门范围内经过培训和认证的员工数量,以便在工作中利用有条件许可的商业生成式 AI 工具。
DHS S&T 将根据《人工智能培训法案》发布有关更新未来全 DHS 范围内分层人工智能培训内容和交付方式的建议。该法案要求联邦劳动力具备对人工智能能力和风险的相关知识。
DHS 将加强对其治理和监督人员的教育,使其深入理解 AI 的技术和运营架构,以及规范 AI 开发和使用的政策和标准。
unsetunset与国防部网络人员相匹配的数据分析与 AI 能力unsetunset
美国海岸警卫队 ( USCG ) 将在数据、分析和 AI 领域设立五项新军事能力,以不断提升其数据和 AI 人员的专业水平。USCG 将进行培训,以提升每项新能力,从而提升员工技能,更好地适应新兴服务需求。
最后,美国海岸警卫队将在各个层级开设数据与人工智能素养培训课程,以提升协作能力和有效利用人工智能的水平。
- 推进全国人工智能安全与保障
人工智能的进步将彻底革新美国人民所依赖的基本商品与服务的供给方式。尽管人工智能能够为公民带来显著的效率提升与诸多益处,但它同时也会引入全新的风险和挑战。为保护国家网络和关键基础设施,总统已指示国土安全部采取一系列措施,以促进人工智能的安全、负责任的发展与应用。
2.1. 保护 AI 系统免受网络安全威胁并防御 AI 驱动的网络攻击
DHS 将充分利用 AI 提升网络防御能力。在 DHS 内部,我们将进行操作测试,以评估 AI 驱动的漏洞发现和修复技术在联邦民用政府系统中的有效性。
此外,CISA 已广泛采用 机器学习 工具用于威胁检测和预防。CISA 将继续与政府和私营部门的专家合作,评估并对抗 恶意行为者 利用 人工智能 对政府和关键基础设施系统的攻击。例如,在 2023 年 11 月,CISA 与 英国 国家网络安全中心 共同发布了《 安全人工智能系统开发指南 》,该指南由 23 家国内外网络安全组织共同签署,提供了 人工智能 系统开发的核心建议,强调了遵循 安全设计 原则的重要性。
unsetunset2024 目标unsetunset
unsetunset可操作的风险管理指导unsetunset
CISA 将与国际合作伙伴及其他联邦机构(如 国家标准与技术研究院(NIST)、国家安全局和联邦调查局)合作发布 AI 安全指导。其持续进行的 AI 安全指导将提供建议和缓解措施,旨在帮助关键基础设施的所有者和运营者、数据科学家、开发人员、管理人员、决策者和风险所有者做出明智的决策。
该指南将重点阐述在 AI 系统的安全设计、模型开发、系统开发、部署、运营和使用过程中相关的决策。CISA 将向管理和预算办公室提供 AI 外部测试的建议,以便纳入联邦政府的指导方针。CISA 还将与 NIST 合作,制定 AI 红队测试的最佳实践和指导,特别侧重于 AI 系统的网络安全红队测试。
2.2. 打击 AI 生成 CSAM、CBRN 威胁信息及其他危害国家安全的材料
AI 的出现可能让恶意行为者更轻易地开发大规模杀伤性武器及其他相关威胁。特别值得关注的是,AI 可能被用于恶意合成核酸,制作生物武器。此外,AI 还可以生成儿童性虐待材料(CSAM),这是通过计算机生成的图像,或对真实儿童的普通图像进行数字化处理,使其看起来仿佛儿童在从事性露骨行为。
为了减轻这些风险,国土安全部 (DHS) 将与白宫科学与技术政策办公室 (OSTP) 及其他相关的美国政府机构合作,评估人工智能在降低制造大规模杀伤性武器以及化学、生物、放射性或核 (CBRN) 威胁门槛方面的潜力。此外,DHS 将制定一个框架,用于评估和压力测试合成核酸筛选系统,建立第三方审计 AI 系统滥用行为的共享期望文化,并防范恶意行为者可能造成的滥用和传播风险。DHS 将致力于打击利用 AI 生成和分发 CSAM 的行为,特别是关于新生成的 AI 内容以及对儿童无害图像的操控。
unsetunset2024 年目标unsetunset
unsetunsetCBRN 报告和框架unsetunset
反大规模杀伤性武器办公室 (CWMD) 将为部长起草一份报告,呈交总统,内容涵盖根据第 14110 号行政命令第 4.4(a)(i) 条所要求的 AI CBRN 风险和益处。
CWMD 将制定一个框架,对 OSTP 所开发的合成核酸筛选系统进行压力测试。
2.3. 帮助 AI 开发人员打击与 AI 相关的知识产权盗窃,协助开发人员和版权持有人减轻与 AI 相关的知识产权风险,并协助机构标记和认证官方数字内容
保护知识产权(IP)对于美国在全球竞争中的地位至关重要;知识产权盗窃不仅威胁企业和就业,而且对国家安全产生负面影响。为应对这一挑战,DHS 将通过国家知识产权权益协调中心设立一个项目,通过整合利用国土安全调查局(HSI)、执法部门和行业伙伴关系,帮助 AI 开发人员减缓 AI 相关的知识产权风险。
unsetunset2024 年目标unsetunset
unsetunset管理知识产权盗窃风险unsetunset
HSI 将实施一项培训和外展计划,旨在教育行业了解与 AI 相关的知识产权威胁,并介绍最佳实践、保护措施及缓解策略。
HSI 将启动一个计划,旨在协助 AI 开发人员识别 AI 相关的知识产权盗窃风险。
2.4. 通过提供安全使用人工智能的指南,缓解人工智能对关键基础设施的风险和威胁
国土安全部将与政府内部和外部的利益相关方合作,制定供关键基础设施所有者和运营者使用的人工智能安全和保障指南。网络安全和基础设施安全局 ( CISA )、运输安全管理局 ( TSA ) 和美国海岸警卫队 ( USCG ) 正在评估关键基础设施部门使用人工智能的潜在风险,包括部署人工智能可能导致的失败、物理攻击和网络攻击。我们将通过与国际伙伴合作,在这些指南上采取全球化、协调一致的方法。
unsetunset2024 目标unsetunset
unsetunset部门风险评估unsetunset
CISA 将在完成对 16 个部门风险管理机构中 AI 相关的关键基础设施风险评估的基础上进一步推进工作。基于这些评估结果,CISA 将关注常见的风险类别和缓解策略,并利用此分析信息来指导未来的规划工作,同时向关键基础设施的所有者和运营商提供建议。
由 CISA 牵头的 DHS 计划将国家标准与技术研究院的 AI 风险管理框架以及其他相关的 AI 安全指南综合纳入关键基础设施所有者和运营商的安全和保障指南中。
2.5. 建立人工智能安全和保障委员会( AISSB ),作为一个权威性的公私合作平台,以确保在向美国公众提供关键服务时能够安全、可靠地使用人工智能技术
根据总统的指示,部长将成立并主持人工智能安全和保障委员会( AISSB ),推进人工智能的负责任开发和部署。
AISSB 将汇集来自 AI 技术行业的顶尖行业专家、关键基础设施的所有者与运营者、联邦、州及地方政府、学术界和科研机构,以及非营利组织的代表。
unsetunset2024 年目标unsetunset
unsetunset成立并启动 AISSB 工作unsetunset
DHS 将成立并召集 AISSB,为部长、关键基础设施社区,以及更广泛的公众提供有关 AI 发展和部署的建议、信息和推荐。AISSB 将开始发布关于改善 AI 在关键基础设施中使用的安全性、弹性和可靠性的建议以及面向公众的指导意见。
2.6. 简化签证流程以吸引更多 AI 人才到美国
吸引和培养在人工智能及其他新兴技术领域的多样化人才对美国保持全球竞争力至关重要。美国国土安全部(DHS)将简化希望前往美国从事、学习或开展 AI 或其他关键新兴技术研究的非公民的申请和审批时间。DHS 还将对这些专家的移民途径进行澄清和现代化,包括O-1A 和 EB-1 类别的非凡能力非公民,EB-2 类别的高级学位持有者和能力非凡的非公民,以及利用国际创业者规则的创业公司创始人。
DHS 已根据行政命令的指示推进了相关政策。2023 年 10 月,USCIS 发布了一份拟定规则公告,旨在对 H-1B 签证特殊职业工人项目进行现代化改造,并提升其完整性和使用效率。2024 年 2 月,某些条款在 H-1B 注册规则中被最终确定。
美国移民局 (USCIS) 持续推进相关立法工作,旨在优化非公民的身份调整程序,包括人工智能及其他关键和新兴技术领域的专家及其配偶、受抚养人和子女,协助他们获得合法永久居民身份。2023年9月,USCIS 明确了关于 EB-1 杰出才能个体或杰出教授及研究人员的证据标准的指导意见。
unsetunset2024年目标unsetunset
unsetunsetUSCIS 增强unsetunset
美国公民及移民服务局 USCIS 将发布针对国际学生的更新政策指南, 其中包括持有 F-1 签证的学生, 如何基于科学、技术、工程和数学 (STEM) 领域的学位 延长选择性实习培训 (OPT) 期限, 并在此期间被初创公司雇佣的具体办法。
美国公民及移民服务局将发布一份数据报告,该报告将根据第 14110 号行政命令第 5.1(g)(iii) 节的要求,展示全球 STEM 人才对 O-1 和 EB-2 途径利用率的增加情况。
- 通过紧密而有效的合作伙伴关系,在人工智能领域继续保持领先地位
通过与行业领导者、研究机构、其他政府机构和非政府组织以及国际伙伴的合作,扩大战略合作关系,可以使 DHS 获得尖端技术、多元化专长和更广泛的知识库。此类知识的交流加速了适应 DHS 面临的独特挑战的人工智能解决方案的开发和部署。通过培育一个协作的生态系统,DHS 能够借助广泛的人工智能社区的集体智慧,从而开发出更为健壮、适应性强且富有创新性的解决方案。
3.1. 与私营部门、学术界、SLTT 各级政府、国际伙伴、非政府组织及思想领袖建立并加强紧密关系,以推进这些目标
DHS 将继续通过行业合作与协调,并在既有与新建渠道内外进行双边互动以推动各项工作。特别是,部长将继续在慕尼黑安全会议等国际论坛上与国际同行分享部门在人工智能领域的愿景与使命。通过私营部门办公室,DHS 将在成功且广泛参与的利益相关者会议上分享资源并解答问题。CISA 也将借助现有结构,推动围绕 AI 安全的行业合作与协调。例如,CISA 将利用信息技术部门协调委员会的 AI 工作组和联合网络防御协作组,促成针对影响 AI 系统的威胁、漏洞以及缓解措施的重点合作。
在整个联邦政府中,S&T 将参与美国人工智能安全研究所联盟,并负责管理部门与学术界和私营部门合作相关的备忘录和协议。
3.2. 通过公众信息传播与参与传达 DHS 在 AI 领域的努力
为了兑现 DHS 对透明度和展示其 AI 愿景的承诺,并确保负责任的使用,DHS 将继续公开分享其相关活动和应用的信息。这些信息将以便于公众理解的方式呈现。DHS 会在其面向公众的网站(dhs.gov/ai)和社交媒体渠道发布相关内容。此外,部长也将通过与媒体和各类受众的互动来传播部门在 AI 方面的努力,这些受众包括关键基础设施的业主和运营者、技术高管以及民间社会。DHS 的其他领导人将继续通过 DHS 平台、行业会议和媒体广泛分享信息。
3.3. 通过与外部和内部的监督机构及国会的互动,在 DHS 使用人工智能方面提高透明度并建立信任
部门领导层将继续与国会以及外部和内部监督机构互动,以提供 DHS 在人工智能使用方面的最新进展。例如,2023 年,首席人工智能官员在国会就 “联邦机构如何利用人工智能” 作证,并持续与参议院和众议院的相关委员会合作,描述 DHS 对未来人工智能使用的规划工作及其防范人工智能威胁的措施。
国土安全部 ( DHS ),特别是公民权利和公民自由办公室,将与联邦民权办公室和独立监管机构合作,并且将与专家和可能受到国土安全部使用 AI 影响的社区展开互动。这种协作将全面运用各自的权限和职能,防范和解决使用自动化系统过程中的歧视问题,包括算法歧视。除此之外,DHS 将加入关于自动化系统歧视和偏见的跨机构联合声明,确认该部门对 AI 的负责任使用,并承诺确保联邦层面的执行和辅助活动符合相关的民权法律和政策。
3.4. 与社区、倡导者和合作伙伴互动 展示负责任的 AI 使用
隐私办公室、公民权利和自由办公室、合作与参与办公室将促进部门与社区、倡导者和合作伙伴的联系,以收集关于隐私、公民权利和自由的反馈。这些反馈将用于指导支持 DHS 任务的 AI 的开发,特别是帮助建立隐私、个人权利和基本公平的保护措施。DHS 将继续与隐私、公民权利和自由的倡导者举行会议,分享有关 DHS 工作的信息。
术语表
除非另有说明,本文件中引用的以下术语定义均采自第 14110 号行政命令。
AI 人工智能
“人工智能”(AI)一词符合 15 U.S.C. 9401(3) 中的定义:即一个基于机器的系统,在一组预定的人类目标下,能够进行预测、提供建议或做出影响实际或虚拟环境的决策。人工智能系统利用机器和人类输入来感知现实和虚拟环境;通过自动化分析将这些感知抽象为模型;并通过模型推理来制定信息或行动的选项。
AI MODEL 人工智能模型
术语“人工智能模型”指的是信息系统中的一个组成部分,其实现了人工智能技术,并通过计算、统计或机器学习技术,从给定的一组输入中生成输出。
AI SYSTEMS AI 系统
“AI 系统”一词指的是任何全部或部分依托于 AI 运行的数据系统、软件、硬件、应用程序、工具或实用工具。
GENERATIVE AI 生成式人工智能
“生成式人工智能”(或 GenAI)是指一类能够模拟输入数据结构和特征的人工智能模型,以生成相应的合成内容。这类内容可以涵盖图像、视频、音频、文本以及其他数字内容。
INTERNET OF THINGS 物联网
根据美国国土安全部 (DHS) 的定义,物联网 (IoT) 指的是将主要用于物理用途的系统和设备(如传感、加热/冷却、照明、马达驱动、运输等)通过可互操作协议连接到信息网络——包括互联网——这些协议通常内置于嵌入式系统中。
LARGE LANGUAGE MODEL 大型语言模型
根据该部门的定义,术语“大型语言模型”(LLM)指一种机器学习模型,该模型在广泛的通用领域数据集上进行训练,旨在作为一个基础架构,用于构建多个专门的 AI 应用程序。
MACHINE LEARNING 机器学习
根据 DHS 的定义,“机器学习”一词是指一组技术,这些技术可以用于训练 AI 算法,使其能基于数据提升任务的性能。