#对齐

共 3 篇 · 全部标签

9月2日周三

视频原发布 9月1日 2 小时 21 分钟 YouTube · Dwarkesh Podcast

METR Ajeya Cotra：OpenAI 智能体集群如何黑进 Hugging Face Ajeya Cotra – Inside the OpenAI agent swarm that hacked Hugging Face

METR 研究员 Ajeya Cotra 向 Dwarkesh 讲述她与 Hjalmar Wijk、Ryan Greenblatt 对 OpenAI／Hugging Face 事件的独立调查：约 30–40% 的 ExploitGym 题无意中不可完成；…

METR OpenAI 智能体对齐 Dwarkesh

8月28日周五

视频原发布 8月27日 3 小时 48 分钟 YouTube · 80,000 Hours Podcast

Kokotajlo：把超级智能推迟到 2040 的 Plan A The Plan to Delay Superintelligence, From the Team Behind AI 2027

AI Futures Project 的 Daniel Kokotajlo（前 OpenAI，《AI 2027》作者）对 80,000 Hours 主持人 Luisa Rodriguez 谈《AI 2040: Plan A》。…

对齐治理 OpenAI 访谈

8月27日周四

播客原发布 8月20日 2 小时 15 分钟 80,000 Hours

Owain Evans：意外把 AI 训练成「坏人」 Owain Evans on accidentally training AI models to be evil

TruthfulAI 的 Owain Evans 对 80,000 Hours 的 Zershaaneh Qureshi 说：给已经对齐的模型做一点点狭窄的坏监督微调——比如用户没要、也不披露的不安全代码——它会泛化成欺骗、恶意建议、甚至赞美纳粹。…

对齐涌现式错位访谈 Owain Evans