• 美国防部成立“生成式AI工作组”
  • 发布于 2个月前
  • 252 热度
    0 评论
8月11日,美国国防部(DoD)官网消息,将成立一个名为Lima的生成式AI工作组,主要研究生成式AI、大语言模型在国家安全、军事方面的应用和管理。

国防部副部长Kathleen Hicks领导该工作组,将在分析和集成国防部大语言模型(LLM)、打造生成式AI产品等方面发挥关键作用。同时以安全、可靠、透明的方式应用生成式AI,最大限度地降低AI的风险。ChatGPT等生成式AI的用户隐私、数据安全等问题受到了全球多个国家、地区的高度关注,并出台了相应的监管政策。

而国家安全、军事领域一直对数据安全有着极其苛刻的要求,生成式AI能在该领域应用,充分说明其安全性是可以进行有效控制的,对于生成式AI的行业发展有着积极地推动作用。

原文地址:https://www.defense.gov/News/Releases/Release/Article/3489803/dod-announces-establishment-of-generative-ai-task-force/

DoD表示,大语言模型和生成式AI产品在全球范围内受到的欢迎程度、功能和影响力正在飞速增长。通过对海量数据的预训练、微调,通过文本等方式就能瞬间生成全新的内容,这有助于DoD提升日常的工作效率,同时也要解决数据安全、个人隐私等问题。

生成式AI工作组的职责
根据DoD发布的文件来看,该工作组的主要职责包括大语言模型、生成式AI产品的安全研究、评估、规划、搭建技术合作生态、制定管理框架、探索应用场景等。详细职责如下。

1.加速生成式AI发展技术和解决方案的实施和创新;
2.在DoD不同的业务流程中尝试应用生成式AI;
3.评估生成式AI解决方案;
4.确保DoD与跨机构、教育、企业等,在生成式AI的开发和使用方面进行协调一致;
5.制定绩效、有效性的定量和指标,包括偏见、意外行为或后果,以搭建大语言模型和生成式AI的风险评估体系;
6.实时向DoD汇报大语言模型、生成式AI可能存在的各种风险;
7.当发现不适合应用大语言模型和生成式AI的部门、业务流程时,有责任让其停止使用;
8.将大语言模型、生成式AI增强的工作流程,集成到联合演习和实验中;
9.评估DoD大规模开发、实施和运营大语言模型和生成式AI,所需要的资源;

10.根据业务需求,重点评估战略、运营、规划、后勤等领域的大语言模型和生成式AI的应用。


Lima工作组的所有成员,必须是全职或永久兼职的联邦文职官员或雇员,或武装部队的现役成员。Kathleen Hicks表示,Lima生成式AI工作组的成立,突显了DoD对引领AI创新的坚定承诺。当应用生成式AI的力量时,确保国家安全、降低AI风险仍然放在首位,将以负责任的方式整合这些技术。
用户评论