随着 AI Agent 能力的不断增强，它们正在承担越来越复杂的任务——从浏览网页、检索信息到代表用户执行操作。然而，这些强大能力也带来了新的安全风险：提示词注入攻击（Prompt Injection）正成为 AI 系统面临的最严峻挑战之一。 OpenAI 最新发布的安全博客深入探讨了这一问题的演变，并提出了一套基于"社会工程学"视角的防御框架。提示词注入攻击的演变 早期的提示词注入攻击相对简单直接。攻击者可能在网页中插入恶意指令。然而，随着模型智能水平的提升，现实中的提示词注入攻击正在向更复杂的形态演进——它们越来越像社会工程学攻击。新的防御范式 OpenAI 提出了一个关键认知转变：与其追求完美识别所有恶意输入，不如设计系统使得即使操纵成功，其影响也能被控制在可接受范围内。Safe URL 机制 针对诱导助手泄露秘密信息的攻击，OpenAI 开发了 Safe URL 机制：检测可疑传输、向用户展示信息并请求确认、必要时阻断传输。给开发者的建议

• 采用"人类代理"思维
• 分层防御
• 最小权限原则
• 关键操作需用户确认

原文来源：OpenAI Security Blog