AWS Bedrock 防护栏在单个被阻止请求中检测到多个策略违规
编辑AWS Bedrock 防护栏在单个被阻止请求中检测到多个策略违规
编辑识别单个请求中 AWS Bedrock 防护栏的多个违规行为，导致阻止操作，从而增加了恶意企图的可能性。多个违规行为意味着用户可能有意尝试绕过安全控制、访问敏感信息或可能利用系统中的漏洞。
规则类型: esql
规则索引: 无
严重程度: 低
风险评分: 21
每隔: 10 分钟
搜索索引自: now-60m (日期数学格式，另请参见 额外回溯时间)
每次执行的最大告警数: 100
参考:
标签:
- 领域: LLM
- 数据源: AWS Bedrock
- 数据源: AWS S3
- 资源: 调查指南
- 用例: 策略违规
- Mitre Atlas: T0051
- Mitre Atlas: T0054
版本: 3
规则作者:
- Elastic
规则许可证: Elastic License v2
调查指南
编辑分类和分析
调查 Amazon Bedrock 防护栏在单个被阻止请求中出现的多个策略违规。
Amazon Bedrock 防护栏是 Amazon Bedrock 中的一组功能，旨在帮助企业为其生成式 AI 应用程序应用强大的安全和隐私控制。
它使用户能够设置指南和过滤器来管理内容质量、相关性和对负责任 AI 实践的遵守情况。
通过防护栏，组织可以定义“拒绝主题”以防止模型生成关于特定、不希望出现主题的内容，并且可以为有害内容类别（包括仇恨言论、暴力或冒犯性语言）设定阈值。
可能的调查步骤
- 识别导致多个策略违规的用户帐户和用户请求，以及该帐户是否应该执行此类操作。
- 调查可能表明潜在暴力破解攻击的用户活动。
- 调查过去 48 小时内与用户帐户关联的其他告警。
- 考虑一天中的时间。如果用户是人类（而不是程序或脚本），活动是否发生在正常时间段内？
- 检查过去 24 小时内帐户的提示和回复。
- 如果您怀疑帐户已被泄露，请通过跟踪过去 24 小时内帐户对 Amazon Bedrock 模型的访问、生成的提示以及对提示的回复来确定可能已泄露的资产范围。
误报分析
- 验证导致多个策略违规的用户帐户，该帐户未在 Amazon Bedrock 防护栏中测试任何新的模型部署或更新的合规性策略。
响应和补救
- 根据分类结果启动事件响应流程。
- 在调查和响应期间禁用或限制帐户。
- 确定事件的可能影响并相应地进行优先级排序；以下操作可以帮助您获得上下文
- 识别帐户在云环境中的角色。
- 确定攻击者是否正在横向移动并泄露其他 Amazon Bedrock 服务。
- 识别与此活动相关的任何监管或法律后果。
- 审查分配给这些请求背后的涉嫌用户组或角色的权限，以确保它们已获授权并预期可以访问 bedrock，并确保遵循最小权限原则。
- 确定攻击者滥用的初始载体，并采取措施防止通过相同载体再次感染。
- 利用事件响应数据，更新日志记录和审计策略以提高平均检测时间 (MTTD) 和平均响应时间 (MTTR)。
设置
编辑设置
此规则要求在 AWS Bedrock 中配置防护栏。有关更多信息，请参阅 AWS Bedrock 文档
https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-create.html
规则查询
编辑from logs-aws_bedrock.invocation-* | where gen_ai.policy.action == "BLOCKED" | eval policy_violations = mv_count(gen_ai.policy.name) | where policy_violations > 1 | keep gen_ai.policy.action, policy_violations, user.id, gen_ai.request.model.id, cloud.account.id, user.id | stats total_unique_request_violations = count(*) by policy_violations, user.id, gen_ai.request.model.id, cloud.account.id | sort total_unique_request_violations desc