图灵奖得主约瑟夫·希发基思：现阶段AI应用仍有局限性

　　在中国发展高层论坛2024年年会“人工智能发展与治理”专题研讨会上，Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思表示，虽然人工智能技术已取得显著进步，并迎来了生成式AI，但现阶段的AI应用仍主要局限于弱智能水平，以问答类应用为主，缺乏能够达到人类智能水平的技术和规则。

　　希发基思表示，人工智能的关键是要明智地使用它，通过规范来预防风险。在他看来，有两种主要风险，一种是技术风险，人工智能需要满足安全性要求；另一种是人工智能给人类带来的风险，人类可能因机器自动化而失去工作，人工智能也可能被人类用于深度伪造，需要从社会制度、法律两个层面解决这些问题。

　　此外，还有两种风险，一个是怎么在选择和性能之间取得平衡，如果我们不能确保系统是以公正、中立的方式使用可靠信息，则不要将决策权交给系统。另一个是性能的提升是否与人类控制的缺失相平衡。

　　对于世界各国对人工智能的监管，希发基思认为，全球政府和机构都表示人工智能需要监管，但对监管的对象和范围、使用人工智能涉及的风险、如何在实践中实现这一目标，并没有达成共识。他指出，欧盟拥有完整的监管规定，特别是《人工智能法案》和《数字服务法案》，可以实现可靠、关键地监管；而美国的法规则更为宽松，更多基于人工智能商业参与者的自愿承诺。对于如何建立全球人工智能监管框架，希发基思认为，应当通过权力的平衡，更多强调监管的国家联合起来。（经济日报记者 孙昌岳）