Latent Space· Latent Space·· 29 天前AI 评分58
Goodfire Nick Cammarata 提出神经网络已经干净，引发可解释性争论
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发表文章提出工作假设，认为参数量达数万亿的模型中大多数神经元是可读的，许多著名的多义性和叠加现象案例被误读，进一步的智能体分析可以解开阻碍人类理解的权重结。
来源：Latent Space · latent.space