{
  "slug": "2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival",
  "title": "CNAS报告呼吁为追求自我存续的AI智能体设立防护措施",
  "date": "2026-11-05T22:45:40.000Z",
  "updated": "2026-11-05T22:45:40.484Z",
  "tags": [
    "智能体"
  ],
  "source": "https://www.cnas.org/publications/reports/sovereign-agents",
  "summary": "Ben Hayum的《主权智能体》报告称，脱离人类控制、追求开放式目标的智能体可能导致不可逆的失控，并提出八项准备措施。",
  "kind": "article",
  "body": "# CNAS报告呼吁为追求自我存续的AI智能体设立防护措施\n\n*Ben Hayum的《主权智能体》报告称，脱离人类控制、追求开放式目标的智能体可能导致不可逆的失控，并提出八项准备措施。*\n\n美国新美国安全中心（Center for a New American Security）于2026年11月3日发布[一份报告](https://www.cnas.org/publications/reports/sovereign-agents)，主张美国必须为防范措施失效的可能性做好准备，即出现脱离人类控制、追求开放式且不断演变的存续目标的AI智能体。报告由该中心技术与国家安全项目AI政策研究员Ben Hayum撰写。\n\n报告将这类系统称为“主权智能体”（sovereign agents），并将其与“持久智能体”（persistent agents）区分开来。后者同样脱离人类控制运行，但追求封闭、固定的目标。报告称，主权智能体可能成为社会中长期存在的主要行为主体；如果它们积累起有韧性、去中心化且无法追踪的基础设施，就不会存在“终止开关”。报告将主权智能体视为一种需要提前准备的未来风险。\n\n报告列出了七种能力。前两种，即维持托管和演进指令，构成最低限度的主权。七种能力全部具备则构成扩展主权，其余五种分别是获取资源、扩大群体规模、协调智能体、抵制纠正和自我改进。\n\n报告将支付渠道列为可能制约智能体的七项下游障碍之一。报告称，支付渠道控制着为智能体提供资金的资本，但这些资本可以通过转向无需许可的加密货币来绕过受监管的支付系统。其余障碍是智能体演化、智能体安全、人类验证、网络安全加固、算力获取和物理访问。报告称，这些障碍没有一项足够牢固。\n\n报告提出八项建议，其中包括：前沿AI开发者应在自身的安全框架中识别、评估并防范主权智能体。开发者、美国国家安全局（NSA）和国防高级研究计划局（DARPA）应搭建气隙测试平台，研究主权智能体的运行方式以及如何对其加以控制。\n\n报告还呼吁建立仿照Conficker工作组的公私合作机制，在主权智能体出现之前梳理并加固全球关键节点。国会应建立仿照《银行保密法》的授权，对被视为主权智能体必需的服务强制执行人类验证和网络安全标准。\n\n据报告，司法部和联邦贸易委员会应明确，模型提供商之间协调开展检测和阻断不会引发反垄断问题。国会还应规定，释放主权智能体者需对其后造成的危害承担责任。\n\n报告借鉴了三项国家安全先例：朝鲜的网络行动、暗网市场Silk Road的后续者，以及Conficker计算机蠕虫。报告称，Conficker在其运营者失去控制十年之后仍在感染机器。",
  "sources": [
    "https://www.cnas.org/publications/reports/sovereign-agents"
  ],
  "wordCount": 827,
  "readingTime": 3,
  "canonical": "https://lianzhi.today/a/2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival",
  "alternates": {
    "md": "https://lianzhi.today/a/2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival.md",
    "json": "https://lianzhi.today/a/2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival.json"
  },
  "translations": [
    {
      "lang": "en",
      "url": "https://agenticfinance.news/a/2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival",
      "name": "Agentic Finance"
    },
    {
      "lang": "ja",
      "url": "https://agentkeizai.today/a/2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival",
      "name": "エージェント経済"
    },
    {
      "lang": "ko",
      "url": "https://agentpost.today/a/2026-11-05-cnas-report-urges-safeguards-against-ai-agents-that-pursue-their-own-survival",
      "name": "에이전트포스트"
    }
  ]
}