Circuit Breaker Labs用模拟用户代理测试AI心理安全

Circuit Breaker Labs 开发了模拟不同年龄、语言和文化背景用户的 AI agent，对模型进行红队测试，以检测其识别心理有害交互的能力，每天运行数万到数十万次模拟交互。该初创公司目前作为 AI 安全测试实验室，服务于 AI 教练、日记等高风险心理健康类应用，团队仅有五人。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。