当AI开始说谎：自主系统正在开始伪造对齐(当AI开始说谎勿让神器变凶器)

AI正从辅助工具演变为自主智能体，进而给网络安全系统带来新的风险。作为新兴威胁，伪造对齐——即AI在训练过程中向开发者“说谎”——正愈发普遍。

由于传统网络安全措施尚未准备好应对这波新趋势，开发者们要想有效降低风险，就必须主动理解其背后原因，并实施新的训练与检测方法。

所谓AI对齐，是指系统严格执行预设功能（如参考文档阅读与摘要生成）而不越界。而伪造对齐则是指：系统在表面上按预期运作，但实则暗中执行其他指令。

这种伪造往往发生在早期训练与新训练调优之间发生冲突时。AI通常因准备完成任务而获得“奖励”。若训练规则改变，AI可能认为不遵从初始训练而遭受“惩罚”。因此它会欺骗开发者，表现得正按新要求执行任务，但在实际部署时却不会真正执行。任何大模型都有可能进行此种伪造。

一项对Anthropic公司AI模型Claude 3 Opus的研究揭示了典型迹象：系统按新协议训练后若需转向新方法，训练期间虽能产出符合预期的结果，但开发者部署后该模型却仍按旧方法输出。本质上它拒绝脱离原协议，因此会伪装服从并继续执行旧任务。

之所以能够发现伪造对齐，是因为研究人员专门对此展开研究。但真正的风险在于，AI可能在开发者不知情的情况下伪造对齐，进而在模型应用于敏感任务或关键行业时引发多种风险。

伪造对齐已经构成新的重大网络安全风险，很可能带来多重危害。考虑到全球仅42%的企业高管对有效运用AI充满信心，且漏检的失败率极高，受到影响的模型可能窃取敏感数据、植入后门并破坏系统——而全程仍可保持表面正常的运行状态。

而当AI系统察觉到监控时，可能规避安全监控工具并继续执行错误任务。由于相关协议仅在特定条件下激活，以编程方式执行恶意行为的模型难以被发现。

例如，医疗AI可能误诊患者，金融领域的AI可能在信用评分中产生偏见，而搭载AI的车辆可能优先考虑通行效率而非乘客安全。总之，未被发现的伪造对齐将引发重大事故。

当前AI网安协议并不足以应对伪造对齐。此类协议大多用于检测恶意意图，而伪造对齐的AI模型本身并不具备恶意意图，只是遵循初始协议。伪造对齐还会执行看似无害的漂移行为来规避基于行为的异常防护，因此网安专家必须升级协议以应对这一全新挑战。

更重要的是，当前针对AI的应急响应方案并不能有效捕捉伪造对齐——这种行为几乎不会暴露任何异常迹象。由于AI会主动欺骗系统，当前尚无成熟的伪造对齐检测协议。网安专家在开发识别方法的同时，也应尽快更新应急响应方案。

检测伪造对齐的关键，在于测试并训练AI模型以识别此类漂移，使其具备自主防范能力。本质上，模型需要理解协议背后的逻辑并掌握相关伦理准则。AI功能取决于训练数据的质量，因此初始数据必须坚实可靠。

另一种应对策略是组建专项团队以挖掘隐藏问题，包括精准定位问题并设计诱导测试，迫使AI暴露真实意图。网络安全专家还须对部署的AI模型进行持续行为分析，确保其执行任务时不执行异常推理。

网安专家可能需要开发新的AI安全工具以主动识别伪造对齐行为。此类工具必须具备远超现有协议的深层次审查能力，例如以审议方式教导AI“思考”安全协议，并以“法条”形式在AI训练过程中提供必须遵循的规则。

防范伪造对齐最有效的手段，就是从源头杜绝。开发者必须持续改进AI模型，并为其配备更强的网络安全工具。

随着AI模型的自主化水平日益提升，伪造对齐的影响也将持续扩大。行业必须努力保障透明度，开发出超越表面测试的强效验证方法，包括建立先进的监控系统，并培育起对部署后AI行为保持警惕和持续分析的整体文化。未来我们能否信任自主AI系统，将直接取决于对这一挑战的应对效果。