加拿大蒙特利尔大学的Yoshua Bengio、Meta的Yann LeCun以及被誉为AI之父的Geoffrey Hinton，均是人工智能领域的重要人物。Hinton近日在接受BBC Newsnight采访时表示，AI很快将超越人类智能，并对AI发展的安全性提出了严重担忧。他强调，这不仅是他的个人看法，而是该领域众多领导者的共识。
Hinton在采访中指出：“几乎所有我认识的AI专家都相信，AI终将超越人类智能，问题只是时间而已。”他还提到，Yann LeCun认为超级智能AI不会带来问题。Hinton在2023年辞去谷歌的职位，并表示对自己一生的工作感到后悔，同时警告人们要警惕这项技术带来的潜在风险。在BBC的采访中，他进一步重申了这一观点。
“鉴于专家意见的分歧，我认为在AI的发展和监管上必须保持谨慎。”Hinton说道。“我认为AI失控的可能性存在，而且这个可能性很大，不只是百分之一，要远远高于这个数值。我们尚不清楚AI是否会变得不受控制并试图接管人类。”
Hinton特别担心AI在军事领域的应用。据报道，以色列国防军使用AI系统在加沙地带选择空袭目标，这种军事应用让他深感忧虑。他告诫各国政府加强对这一领域的监管，尤其是对于AI可以自主决定杀人的情况。
作为普遍基本收入的支持者，Hinton还担心AI将接管大量单调工作。他指出，虽然这会提高生产力，但财富的增长将不平等地流向富人，而不是那些工作被替代的人。
尽管Hinton并不认为AI会完全接管人类，但他相信AI最终将比我们更聪明。他还指出，以利润为驱动的公司并不是技术安全发展的最值得信赖的管理者。
最近，OpenAI的一名前安全工作人员对该公司负责任地开发超级智能AI的能力失去了信心，这也表明Hinton的担忧并非孤立的声音。随着AI技术的快速发展，确保其安全和可控性将成为全球的重要课题。
