菲尔兹奖得主警告人工智能可能导致“全人类灭绝事件”，并加入OpenAI

多伦多大学的数论学家雅各布·齐默尔曼最近获得了菲尔兹奖，他宣布将加入OpenAI，致力于人工智能安全研究。在接受采访时，他将人工智能描述为一项极具变革性的技术，并呼吁大幅增加对人工智能安全的投入。他认为数学家可以做出重大贡献，因为当前人工智能的运行是经验性的，对其系统工作原理的保证很少。齐默尔曼还撰写了一篇关于所谓“全灭事件”的论文，这些情境中人工智能可能导致人类灭绝，这一观点在专家中存在争议。他表示恐慌并非恰当的反应，但必须诚实地考虑风险，并且他确信人工智能很快将在数学研究方面超越人类。前DeepMind首席执行官德米斯·哈萨比斯也评论了近期人工智能在数学领域的进展，认为这是进步，但尚非如DeepMind的AlphaGo“第37步”那样的根本性突破。他说，要实现这样的突破，人工智能需要解决诸如千禧年大奖难题这样的根本性问题，而OpenAI的新模型Astra迄今尚未做到。哈萨比斯补充说，他看不到这种情况不会发生的理由。