女用春水【网站— mmgg520.com—】Anthropic 表示，随着 AI 模型能力与应用范围持续扩张，相应模型的风险性也急剧增加，如今人工分析已无法应对 AI 模型庞大的行为组合空间。因此，该公司在过去一年内开发出“自动化稽核 AI Agent”Petri。其内置 111 种高风险场景指令，可用于评估模型的情境感知、策略规划及自我防护能力，并已验证其有效性。此次开源 Petri，正是将这套系统化工具提供给业界使用。【网站— mmgg520.com—】女用春水【网站— mmgg520.com—】
发表于 