串谋的模型生物：不受信监视器中的纠正性迁移
arXiv:2610.30582v1 通告类型：new 摘要：AI控制协议旨在通过监控模型行为，从可能未对齐的模型中获得有用工作。一种方法使用同一模型的第二个副本作为监视器。这避免了依赖模型可能利用的较弱审查者……
- 01.arXiv:2610.30582v1 通告类型：new 摘要：AI控制协议旨在通过监控模型行为，从可能未对齐的模型中获得有用工作。一种方法使用同一模型的第二个副本作为监视器。这避免了依赖模型可能利用的较弱审查者……
This material is provided as an extended analytical summary.
Read full article at sourceRelated Intelligence
All stories →Anthropic IPO 文件中的五个奇怪细节
Anthropic 最终向 SEC 提交了 S-1 招股说明书，该文件旨在让投资者了解其业务的幕后情况，包括其高管的收入、IPO 花费数十亿美元的计划，以及可能破坏其雄心壮志的风险。在超过…
Anthropic’s IPO filing reveals its strategy for keeping enterprise customers hooked
Anthropic’s S-1 shows more than half of its $100,000-plus customers now use both the Claude Platform and a first-party app, a cross-selling playbook reminiscent of Amazon that’s making enterprise customers stickier.
FairStress: тест на демографическую справедливость моделей
📌 FairStress: тест на демографическую справедливость моделей Институт Аллена опубликовал набор FairStress для проверки того, меняет ли языковая модель своё решение о человеке из-за его расы, пола, религии, возраста, инвалидности или ориентации в сферах найма, кредитования,…