美国商务部报告支持“开放式”人工智能模型

今天，美国商务部发布了一份支持“开放式”生成式人工智能模型，如Meta的Llama 3.1的报告，但建议政府开发“新能力”来监测这些模型的潜在风险。

这份报告是由商务部国家电信和信息管理局（NTIA）撰写的，发现开放式模型扩大了生成式人工智能对小公司、研究人员、非营利组织和个人开发者的可用性。因此，报告建议政府不应该限制对开放模型的访问，至少在调查是否限制可能会损害市场之前不应该这样做。

该观点与FTC委员会主席Lina Khan最近的评论一致，她认为开放式模型可以让更多小玩家将他们的创意带入市场，并在此过程中促进健康的竞争。

“最大和最强大的人工智能系统的开放性将影响这些革命性工具的竞争、创新和风险，”商务部助理部长、通信和信息NTIA管理员Alan Davidson在一份声明中补充道。“NTIA的报告认识到开放式人工智能系统的重要性，并呼吁对最大的人工智能模型模型权重的广泛可用性的风险进行更积极的监测。政府在支持人工智能发展的同时，扮演着理解和解决新风险的能力构建的关键角色。”

这份报告出台之际，国内外监管机构正在考虑对希望发布开放式模型的公司施加限制或实施新要求的规则。

加利福尼亚州即将通过SB 1047，该法案要求任何使用超过10²⁶FLOP的计算能力训练模型的公司加强网络安全，开发一种在其控制范围内“关闭”模型副本的方法。在海外，欧盟最近为其AI法规下的公司制定了符合期限，该法规围绕版权、透明度和AI应用实施了新规定。

Meta表示，欧盟的AI政策将阻止其在将来发布一些开放模型。一些初创公司和大型科技公司提出反对加利福尼亚州的法律，他们声称这个法律太繁琐了。

NTIA的模型治理理念并非完全放任。

在报告中，NTIA呼吁政府开展一个不断收集开放模型风险和益处证据、评估这些证据并根据这些评估采取行动（包括在需要时对模型可用性施加某些限制）的计划。具体而言，报告建议政府研究各种人工智能模型的安全性，支持风险缓解研究，并制定“风险特定”指标的阈值，以示可能需要改变政策。

这些措施和其他措施将与总统乔·拜登关于人工智能的行政命令保持一致，美国商务部部长吉娜·雷蒙多指出了这一点，该命令要求政府机构和公司制定新的标准，围绕人工智能的创建、部署和使用。

“拜登-哈里斯政府正在尽一切努力最大限度地实现人工智能的承诺，同时最小化风险，”雷蒙多在一份新闻稿中说道。“今天的报告提供了一份负责任的人工智能创新和美国领导力的路线图，通过拥抱开放性并建议美国政府如何准备以及适应未来可能面临的挑战。”