AWS Bedrock 检测到单个用户引发的多个验证异常错误
编辑AWS Bedrock 检测到单个用户引发的多个验证异常错误
编辑识别 AWS Bedrock 中的多个验证异常错误。当您在基础模型上运行 InvokeModel 或 InvokeModelWithResponseStream API 时，如果使用了不正确的推理参数或相应的值，则会发生验证错误。当您将一个模型的推理参数用于不具有相同 API 参数的模型时，也会发生这些错误。这可能表明试图绕过其他批准模型的限制，或通过产生过高的成本来强制影响环境。
规则类型: esql
规则索引: 无
严重性: 高
风险评分: 73
运行频率: 10 分钟
搜索索引起始时间: now-60m (日期数学格式，另请参阅 附加回溯时间)
每次执行的最大警报数: 100
参考:
标签:
- 领域：LLM
- 数据源：AWS
- 数据源：AWS Bedrock
- 数据源：AWS S3
- 用例：策略违规
- Mitre Atlas: T0015
- Mitre Atlas: T0034
- Mitre Atlas: T0046
版本: 3
规则作者:
- Elastic
规则许可: Elastic License v2
调查指南
编辑分类和分析
调查 Amazon Bedrock 模型验证异常错误。
Amazon Bedrock 是 AWS 的托管服务，使开发人员能够使用顶级提供商的大型基础模型 (FM) 构建和扩展生成式 AI 应用程序。
Bedrock 提供来自 Amazon（例如 Titan 系列）以及来自 Anthropic、Meta、Cohere 和 AI21 Labs 等提供商的各种预训练模型。
可能的调查步骤
- 确定在访问 Amazon Bedrock 模型时导致验证错误的用户帐户。
- 调查过去 48 小时内与用户帐户相关的其他警报。
- 考虑一天中的时间。如果用户是人类（而不是程序或脚本），则活动是否发生在正常时间？
- 检查该帐户在过去 24 小时内访问 Amazon Bedrock 模型的尝试。
- 如果您怀疑该帐户已被入侵，请通过跟踪过去 24 小时内该帐户对 Amazon Bedrock 模型的访问、生成的提示和对提示的响应来确定可能受损的资产范围。
误报分析
- 验证导致验证错误的用户帐户是否是对用户访问 bedrock 模型的不理解造成的合法误解。
响应和补救
- 根据分类结果启动事件响应流程。
- 在调查和响应期间禁用或限制该帐户。
- 确定事件的可能影响并相应地确定优先级；以下操作可以帮助您获取上下文
- 确定帐户在云环境中的角色。
- 确定攻击者是否在横向移动并危及其他 Amazon Bedrock 服务。
- 确定与此活动相关的任何监管或法律影响。
- 确定对资源计费是否有任何影响。
- 审查这些请求背后的相关用户组或角色分配的权限，以确保他们被授权并期望访问 bedrock，并确保遵循最小权限原则。
- 确定攻击者滥用的初始向量，并采取行动防止通过相同的向量再次感染。
- 使用事件响应数据，更新日志记录和审计策略，以提高平均检测时间 (MTTD) 和平均响应时间 (MTTR)。
规则查询
编辑from logs-aws_bedrock.invocation-* // truncate the timestamp to a 1-minute window | eval target_time_window = DATE_TRUNC(1 minutes, @timestamp) | where gen_ai.response.error_code == "ValidationException" | keep user.id, gen_ai.request.model.id, cloud.account.id, gen_ai.response.error_code, target_time_window // count the number of users causing validation errors within a 1 minute window | stats total_denials = count(*) by target_time_window, user.id, cloud.account.id | where total_denials > 3