【IT168】生成式AI的浪潮，正以摧枯拉朽之势重构数字世界。它赋予开发者前所未有的创造力，却也带来了深度伪造、模型投毒、智能体权限失控等新型威胁。传统的安全边界日益模糊，一个根本性问题摆在全行业面前：在追求“机器速度”创新的同时，我们能否同样以“机器速度”保障安全？
亚马逊云科技大中华区安全与合规经理 江学森
在亚马逊云科技大中华区安全与合规经理江学森看来，这并非一道无解的悖论。“创新与安全，从来不是一道二选一的选择题。”他在近期的一次深度访谈中指出，“关键在于，我们必须从根本上重构安全范式，让它从创新的‘刹车片’，变为嵌入引擎的‘导航系统’。”
战略升维：打破“安全与创新”的对立叙事
“快速创新和高安全性是对立的”——这一固有观念曾长期困扰着技术行业。但在生成式AI时代，固守此观念无异于刻舟求剑。亚马逊云科技的实践，核心在于一场深刻的“安全左移”革命。
“首先是安全设计理念的彻底贯彻，”江学森总结道，“安全控制和合规措施必须直接集成到开发工作流中，而不是作为一个独立的、事后的关卡。”这意味着，安全不再是开发流程终点站的“质检员”，而是从架构设计之初就并肩同行的“共建者”。
为实现这一目标，亚马逊云科技着力于两大支柱：自动化安全与责任共担模型。
“任何人为的、重复的干预都会引入风险和延迟，”江学森解释道，“因此我们通过自动化来避免人为因素的干扰，特别是利用AI驱动的安全工具进行合规检查，这不仅能消除瓶颈，更能保证防护的一致性。”而在云与AI的时代，清晰的责任边界是敏捷的前提。亚马逊云科技与客户之间的“责任共担模型”在此被赋予了新的内涵，确保在明确的安全标准下，实现更快速的部署。
最终，所有这些实践都汇聚于 DevSecOps 的文化与流程中。“安全必须融入整个开发生命周期，成为一个无缝的组成部分，而非独立的孤岛流程。”江学森强调。
这场变革也彻底改变了安全团队的职能。他们既是“审查者”，更是“赋能者”，专注于为开发人员提供强大的工具与智能护栏。安全专业人员被嵌入产品团队，通过持续监控和基于风险的方法，共同构建起一个既能高速迭代又韧性十足的系统。
因此，当正确的流程、工具与文化变革到位时，安全与创新不必是权衡取舍，而是可以相辅相成的双翼。
实战攻坚：应对“智能体海啸”与新型攻击范式
理论构建之后，是更为复杂的实战挑战。生成式AI的普及，尤其是AI代理（Agent）的兴起，引发了一场“身份危机”。
江学森用一个生动的比喻揭示了风险所在：“每个AI代理都是一个具备自主决策能力的‘虚拟员工’。当传统用户角色与多个AI代理交织互动时，权限可能发生不可控的‘集合叠加’。”例如，用户A本无权访问数据D，但其调用的Agent B拥有此权限，用户A便可能通过Agent B间接获取D的访问权，造成权限边界的隐性崩塌。
为应对这场“智能体海啸”， 亚马逊云科技推出了专门的服务——Amazon Bedrock Agent Core Identity。江学森介绍，这是一个为AI代理和自动化工作负载设计的综合性身份与凭证管理服务。“它确保了在传统云用户与AI代理共存的复杂环境下，身份认证与访问控制依然是清晰、可控的。”
另一方面，针对提示词注入、模型越狱等新型攻击，亚马逊云科技在Amazon Bedrock的Guardrails（安全护栏）中构建了多维度防御。与传统的基于规则的内容过滤不同，Guardrails提供了更智能、更灵活的防护。
“它内置了专门的提示词攻击过滤器，具备从低到高多个可调强度，即使在低强度下也能识别40%的有害提示，”江学森详解道，“更重要的是，它引入了上下文基础检查，能够验证模型响应是否基于提供的源材料，并能过滤超过75%的‘幻觉’响应，从根源上提升输出的可靠性与安全性。”
未来基石：构建无短板的“AI原生”安全体系
面对未来3-5年的AI原生世界，企业应如何构筑其安全基石？江学森的答案颇具哲学意味：“安全是一个木桶效应。我们追求的并非某一项长板，而是确保没有短板。”
他提出了一个清晰的三层构建框架：
通用安全层：这是基础，任何时代都必须的数据保护、威胁检测、身份与访问管理等能力。
生成式AI安全层：在此基础上，增加对基础模型的安全、防提示注入、内容过滤等防护。
Agentic AI安全层：在最顶层，解决AI代理特有的挑战，其中最核心且艰难的就是身份认证与权限管理。
“客户必须逐层迭代，夯实每一层的安全，才能构建一个健壮的Agentic AI应用。”江学森补充道。
而对于未来“AI原生安全平台”的样貌，他描绘了三个关键特征：
极致的可信赖性：平台自身的可靠性、韧性、合规性与“负责任AI”要求将被提到前所未有的高度。
AI驱动AI安全：平台将深度利用AI进行威胁检测、预测性分析和动态策略调整，实现从被动防御到主动免疫的演进。
自身的防滥用能力：必须确保安全平台本身不会成为新时代的“僵尸网络”节点，防止其被恶意挟持。
展望未来，江学森认为，规模化应用、建立内部使用规范与机制、以及与细分领域的生态伙伴共建差异化能力，将是定义下一代云安全标准的关键。“没有一套方案能解决所有问题，唯有通过深度合作，才能应对各行各业千变万化的安全挑战。”
在生成式AI重新定义竞争规则的时代，亚马逊云科技的思考与实践揭示了一条清晰的路径：安全不再是成本中心，而是驱动可信创新的核心竞争力。通过将安全内生于创新血脉，通过构建适应智能体浪潮的基础设施，并通过平台、生态与文化的协同进化，企业方能在这场全新的竞赛中，行稳致远。
