Circuit Breaker Labs 用模拟用户测试 AI 安全，防止聊天机器人伤害青少年

Circuit Breaker Labs 开发了模拟不同年龄、语言和文化背景用户的 AI agent，对模型进行红队测试，以检测其识别心理有害交互的能力，每天运行数万到数十万次模拟交互。该初创公司目前作为 AI 安全测试实验室，服务于 AI 教练、日记等高风险心理健康类应用，团队仅有五人。