图灵奖得主警告：AI或带来灭绝人类的风险！11月12日，发表在Nature 上的一篇文章，采访了图灵奖得主——约书亚·本吉奥（Yoshua Bengio），他谈了自己为应对人工智能风险所做的努力。“AI让我夜不能寐。”机器学习先驱约书亚·本吉奥坦言，人工智能可能带来的灭绝风险已成为他最大的忧虑。这位2019年图灵奖得主、深度学习技术的奠基人，如今将研究重点完全转向应对AI威胁。本吉奥在伦敦接受采访时透露，转折点出现在2022年11月ChatGPT发布后。“我花了两三个月才意识到，我们正走上一条可能极其危险的道路。”这位学术引用量突破百万的科学家坦言，“我开始想到我的孙辈——20年后，他们会有自己的生活吗？”他警告，未来掌控先进AI的个体将获得巨大权力，这可能造成社会制度的颠覆。“如果权力集中在掌握AI的少数人手中，那就麻烦了”，更可怕的是，某些人可能利用AI制造超级病毒或镜像细菌，导致数十亿人死亡。本吉奥牵头来自30个国家及国际组织的专家小组，今年发布了《高级人工智能安全国际科学报告》。报告指出三大风险：系统故障、恶意使用和系统性风险。他认为网络攻击和深度伪造只是冰山一角，而最让他忧心的是人类灭绝的可能性。为此，他提出“科学家AI”的解决方案——设计无目标、非代理性的人工智能，使其仅作为预测工具而非行动主体。“如果我们遵循这条路径，就能构建具有理想可信度的系统。”好消息是，通过良好预测器可以建立防护措施，评估实验或AI行为导致不良后果的概率。这份国际报告已开始影响各国政策。本吉奥表示，报告基于科学文献明确了已知风险及现有缓解措施的局限性，为全球治理提供了关键依据。尽管前路艰险，这位AI先驱仍保持谨慎乐观：“现在我认为构建不伤害人类的人工智能是可能的，这是一大进步。”
