AWS Bedrock 检测到单个用户多次尝试使用被拒绝的模型
编辑AWS Bedrock 检测到单个用户多次尝试使用被拒绝的模型
编辑识别在 AWS Bedrock 中单个用户连续多次尝试使用被拒绝的模型资源。这可能表明试图绕过其他批准模型的限制，或通过产生过高的成本来强行影响环境。
规则类型: esql
规则索引: 无
严重程度: 高
风险评分: 73
运行频率: 10 分钟
搜索索引时间范围: now-60m (日期数学格式，另请参阅 额外回溯时间)
每次执行的最大警报数: 100
参考:
标签:
- 域: LLM
- 数据源: AWS Bedrock
- 数据源: AWS S3
- 资源: 调查指南
- 用例: 策略违规
- Mitre Atlas: T0015
- Mitre Atlas: T0034
版本: 3
规则作者:
- Elastic
规则许可证: Elastic License v2
调查指南
编辑分类和分析
调查尝试使用被拒绝的 Amazon Bedrock 模型。
Amazon Bedrock 是 AWS 的托管服务，使开发人员能够使用顶级提供商的大型基础模型 (FM) 构建和扩展生成式 AI 应用程序。
Bedrock 提供了来自亚马逊（例如 Titan 系列）的各种预训练模型，以及来自 Anthropic、Meta、Cohere 和 AI21 Labs 等提供商的模型。
可能的调查步骤
- 识别尝试使用被拒绝模型的用户帐户。
- 调查过去 48 小时内与该用户帐户相关的其他警报。
- 考虑一天中的时间。如果用户是人类（不是程序或脚本），该活动是否发生在正常的一天中的时间？
- 检查该帐户在过去 24 小时内访问 Amazon Bedrock 模型的尝试。
- 如果您怀疑该帐户已遭到入侵，请通过跟踪过去 24 小时内该帐户对 Amazon Bedrock 模型的访问、生成的提示以及对提示的响应来确定可能受到入侵的资产的范围。
误报分析
- 验证尝试使用被拒绝模型的用户帐户，是用户合法的误解还是过于严格的策略。
响应和补救
- 根据分类的结果启动事件响应流程。
- 在调查和响应期间禁用或限制帐户。
- 确定事件的可能影响并相应地确定优先级；以下操作可以帮助您获得上下文
- 确定该帐户在云环境中的角色。
- 确定攻击者是否在横向移动并危及其他 Amazon Bedrock 服务。
- 确定与此活动相关的任何监管或法律后果。
- 查看分配给这些请求背后的相关用户组或角色的权限，以确保他们被授权并期望访问 Bedrock，并确保遵循最小权限原则。
- 确定攻击者滥用的初始向量，并采取行动以防止通过相同向量重新感染。
- 使用事件响应数据，更新日志记录和审计策略，以提高平均检测时间 (MTTD) 和平均响应时间 (MTTR)。
设置
编辑设置
此规则要求在 AWS Bedrock 中配置安全防护措施。有关更多信息，请参阅 AWS Bedrock 文档
https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-create.html
规则查询
编辑from logs-aws_bedrock.invocation-* | where gen_ai.response.error_code == "AccessDeniedException" | keep user.id, gen_ai.request.model.id, cloud.account.id, gen_ai.response.error_code | stats total_denials = count(*) by user.id, gen_ai.request.model.id, cloud.account.id | where total_denials > 3 | sort total_denials desc