文章概述

本文是加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）在《卫报》发表的观点文章。文章聚焦一封由1367名前沿AI实验室（如OpenAI、Anthropic、Google Deepmind）研究人员和工程师签署的公开信，该信警告AI能力发展可能迅速失控，呼吁国际社会合作“为前沿AI发展设定节奏”。罗素分析了信中专家们的个人陈述，提炼出三大主题：协调以避免军备竞赛、缺乏控制超级智能的可靠计划、以及专家们真实的恐惧。他批评AI公司安全文化不足，并引用Anthropic一位研究员的“询问超级智能如何控制它”的计划，认为其成功率仅50%。文章以最有力的签署声明“想想我们所爱的一切”作结，强调AI风险的紧迫性。