AI巨头们联合发出警告:《AI危险声明》指出AI可能影响全球经济稳定

全球 AI领导人签署公开信，强调人工智能的危险和可能对人类造成的巨大伤害。
在这封公开信中，全球 AI领导人呼吁商业决策者公开讨论人工智能带来的最大风险，以减轻人工智能对人类生存的威胁。

信中表示：“减轻人工智能灭绝的风险是全球优先事项，与其他全人类社会规模的危险一样。”
该公开信的参与人包括 AI领域名人 Geoffrey Hinton、 Sam Altman、 Dario Amodei和 Demis Hassabis。
微软首席技术官KevinScott发表了一份公开信，他呼吁业内正视 AI的风险，避免被 ChatGPT等 AI技术的狂热浪潮冲昏了头脑。
此前， Geoffrey Hinton就已经辞去了在谷歌长达十余年的 AI开发工作，并公开讨论 AI所带来的危害。
他认为，计算机模型不如大脑，因此他一直改进计算机模型，以让 AI更多地了解并接近大脑。
但现在GPT-4等模型的性能让他惊觉，计算机模型可能比大脑更擅长学习。

“我意识到，我们不能像我们想象的那样控制它。”Geoffrey Hinton说：“现在我明白了，计算机模型可能比大脑更擅长学习。”
这让我感到非常可怕。如果它继续发展，它将成为一个非常可怕的东西。
一旦它能进行常识性推理，它就会变得非常可怕。”
“在我看来， ChatGPT已经能进行常识性推理了。所以这并不是一个奇怪的想法：如果它继续发展下去，它可能会操纵我们做坏事。”
“数字智能不能像人类智能一样控制；它们可能会设定与人类目标相冲突的目标；这导致非人类智能在与人类交互中占据优势。”