美国政府近日通过委托Gladstone AI公司进行深入调查，发布了一份关于人工智能（AI）带来的国家安全风险的重要报告，标题为提升先进人工智能安全与保障的行动计划。

这份报告基于与超过200名来自不同领域的专家，包括政府官员、大规模毁灭性武器专家、顶尖人工智能公司高层主管及网络安全研究人员等一年多的访谈，揭示了人工智能快速发展背后潜藏的“灾难性”风险。

报告指出，若不加以严格控制，最先进的人工智能系统可能对人类种族构成灭绝级的威胁。 为了应对这一巨大挑战，报告建议美国政府采取一系列前所未有的措施，包括限制 AI 模型训练时使用的计算能力，并要求处于行业前沿的 AI 公司在训练和部署新模型时需取得政府许可。

 此外，还建议成立一个全新联邦 AI 机构，负责设定和管理这些门槛，以及严格限制AI芯片的生产和出口。

这份由美国国务院于2022年11月委托编撰的报告，目的在于了解是否应将AI纳入其监控范围，同时强调所提建议并不反映美国国务院或美国政府的观点。 随着 AI 技术的快速发展，以及新工具如 ChatGPT 的推出，全球对 AI 潜在威胁的关注不断升温。

报告中还提到，许多AI安全工作人员对其公司高层所追求的错误激励机制表示担忧，认为这可能会加剧AI带来的风险。 因此，报告建议美国政府考虑立法禁止开源先进 AI 模型的"权重"，以防止其被灾难性地武器化或失去控制。

尽管这些建议可能面临政治上的困难，但鉴于 AI 潜在的风险如此之大，报告的作者，包括前国防部官员，强调慎重行事变得尤为重要。 他们希望通过提出这些建议，能够在享受 AI 技术带来的巨大好处的同时，避免可能的灾难性后果。