Nick Bostrom：我们该如何应对超级智能？

Nick Bostrom 在 a16z 播客中重谈超级智能与生存风险，认为强化学习可能正推动模型变得更追求目标，近期智能体实验也印证了工具性趋同。他主张保留放缓前沿开发的能力，而非现在就承诺全面或无限期暂停 AI。他还讨论了当今模型是否已具备某种意识、开源 AI 的取舍以及机器能否做原创哲学。