12 lines
330 B
Markdown
12 lines
330 B
Markdown
# Prompt Injection
|
|
|
|
防护采用多层策略：
|
|
|
|
1. 外部内容标记为不可信数据。
|
|
2. 工具调用不由文本指令直接决定权限。
|
|
3. Tool Permission 独立于 LLM 输出。
|
|
4. 高风险操作要求额外确认或策略。
|
|
5. 对工具结果进行来源和内容分类。
|
|
|
|
LLM Guard 等组件只是其中一层。
|