美国人工智能安全研究所面临解散风险

美国人工智能安全研究所 (AI Safety Institute，AISI) 是一家研究 AI 系统风险的联邦政府机构，于 2023 年 11 月根据拜登政府的 AI 行政命令成立。

AISI 在 NIST 下运作，NIST 是美国商务部的一个机构，负责制定各类技术部署的指导方针。不过，尽管 AISI 有预算、有主任，并且与英国同行英国 AI 安全研究所建立了研究伙伴关系，但只要拜登的行政命令被废除，AISI 就可能被解散。

Americans for Responsible Innovation 高级传播总监 Chris MacKenzie 向 TechCrunch 表示：“如果另一位总统上任并废除 AI 行政命令，他们就会解散 AISI。而特朗普已承诺废除 AI 行政命令。因此，无论谁入主白宫，国会的正式授权都将确保 AISI 能否继续存在。”

除了确保 AISI 的未来之外，授权该办公室还可以让国会为其计划提供更稳定、更长期的资金。AISI 目前的预算约为 1000 万美元——考虑到硅谷主要 AI 实验室的集中度，这个数字相对较小。

MacKenzie说：“国会拨款委员会倾向于给予国会正式授权的实体更高的预算优先权，因为他们认为这些实体得到了广泛的支持，并将长期存在，而不仅仅是某个政府的一次性优先事项。”

由 60 多家公司、非营利组织和大学组成的联盟在一封公开信中呼吁美国国会在今年年底前颁布法律，将 AISI 编入法典。签名者包括 OpenAI 和 Anthropic，这两家公司都已与 AISI签署协议，在 AI 研究、测试和评估方面展开合作。微软、谷歌、亚马逊和 IBM 等科技巨头也签署了该信函。