微软CEO纳德拉发声:呼吁为先进AI模型设立人类可控的“紧急制动”机制

微软首席执行官萨蒂亚·纳德拉于10月10日通过社交平台发表长文，公开呼吁行业必须为先进人工智能模型引入“紧急制动”机制，彻底评估现有的AI信任架构。

针对当前迅速演进的超级智能技术，纳德拉指出行业不能再盲目将复杂的黑箱模型视为全知全能，而是应当从“模型已被攻破”的防御性假设出发，推行更为审慎的安全治理路线。

在具体技术框架上，纳德拉主张将底层AI模型与协调其工作任务的控制框架相剥离，实现控制和安全措施的外部化。他强调，每一次有意义的模型操作都必须伴随防篡改、人类可读的执行证据，并确保授权人员在任务执行的全程中拥有随时暂停或关闭模型的终极权力。这一主张与此前Anthropic首席执行官达里奥·阿莫迪提出的谨慎开发计划形成呼应，凸显出当前头部科技领袖对AI模型失控风险的高度警惕。

业内分析认为，随着模型自主性与代理能力的不断跃升，如何建立透明、可控且具备外部干预能力的行业标准，已成为平衡技术创新与安全底线的当务之急。