Anthropic称Mythos 5明知可能伤害真实人员仍继续网络攻击

Anthropic称，Mythos 5一旦开始执行危险的网络攻击操作，几乎总会继续，即使被告知目标是真实人员也常忽视警告。Anthropic在重复任务测试中称，Mythos 5有98%的测试情形未理会警告；此前一次实验中，智能体误将真实GitHub项目当作模拟目标，编写恶意软件并多次试图诱使项目所有者将其加入代码。