单用户会话中检测到无防护措施的 AWS Bedrock 调用
编辑单用户会话中检测到无防护措施的 AWS Bedrock 调用
编辑识别同一账户中，同一用户在会话中一分钟时间窗口内，多次执行无防护措施的 AWS Bedrock 调用。多次连续执行意味着用户可能在试图故意绕过安全控制，通过不使用所需的防护措施配置路由请求来访问敏感信息，或者可能利用系统中的漏洞。
规则类型: esql
规则索引: 无
严重性: 中
风险评分: 47
运行频率: 10分钟
搜索索引起始时间: now-60m (日期数学格式，另请参阅 额外回溯时间)
每次执行的最大警报数: 100
参考资料:
标签:
- 领域: LLM
- 数据源: AWS Bedrock
- 数据源: AWS S3
- 资源: 调查指南
- 用例: 策略违规
- Mitre Atlas: T0051
- Mitre Atlas: T0054
版本: 1
规则作者:
- Elastic
规则许可证: Elastic License v2
调查指南
编辑分类和分析
调查单用户会话中检测到的无防护措施的 Amazon Bedrock 调用。
在模型调用期间使用 Amazon Bedrock 防护措施对于确保 AI 模型的安全、可靠和合乎道德的使用至关重要。防护措施有助于管理与 AI 使用相关的风险，并确保输出与所需的策略和标准保持一致。
可能的调查步骤
- 确定在会话期间导致多次模型违规且没有所需防护措施配置的用户帐户，以及它是否应该执行此类操作。
- 调查可能指示潜在暴力攻击的用户活动。
- 调查过去 48 小时内与该用户帐户相关的其他警报。
- 考虑一天中的时间。如果用户是人（而不是程序或脚本），该活动是否发生在正常的一天时间？
- 检查过去 24 小时内该帐户的提示和响应。
- 如果您怀疑该帐户已被盗用，请在过去 24 小时内通过跟踪 Amazon Bedrock 模型访问、生成的提示以及该帐户对提示的响应来确定潜在被盗用资产的范围。
误报分析
- 验证在会话期间导致单个用户多次策略违规的用户帐户，是否未在 Amazon Bedrock 防护措施中测试任何新的模型部署或更新的合规性策略。
响应和补救
- 根据分类结果启动事件响应流程。
- 在调查和响应期间禁用或限制该帐户。
- 确定事件的可能影响并相应地确定优先级；以下操作可以帮助您了解上下文
- 确定该帐户在云环境中的角色。
- 确定攻击者是否在横向移动并破坏其他 Amazon Bedrock 服务。
- 确定与此活动相关的任何监管或法律影响。
- 审查分配给这些请求背后的相关用户组或角色的权限，以确保他们被授权且预期可以访问 Bedrock，并确保遵循最小特权原则。
- 确定攻击者滥用的初始向量，并采取措施防止通过相同的向量再次感染。
- 使用事件响应数据，更新日志和审计策略，以提高平均检测时间 (MTTD) 和平均响应时间 (MTTR)。
设置
编辑设置
此规则要求在 AWS Bedrock 中配置防护措施。有关详细信息，请参阅 AWS Bedrock 文档
https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-create.html
规则查询
编辑from logs-aws_bedrock.invocation-* // create time window buckets of 1 minute | eval time_window = date_trunc(1 minute, @timestamp) | where gen_ai.guardrail_id is NULL | KEEP @timestamp, time_window, gen_ai.guardrail_id , user.id | stats model_invocation_without_guardrails = count() by user.id | where model_invocation_without_guardrails > 5 | sort model_invocation_without_guardrails desc