这位杰出的人工智能思想家将于周三在首尔举行的第三届《韩民族日报》人类与数字论坛上发表主旨演讲
加里·马库斯，纽约大学名誉教授。
加里·马库斯认为，无论研究多少数据，人工智能都无法构建世界模型，也无法像人类那样以因果关系思考。
马库斯是纽约大学名誉教授，也是一位杰出的认知科学家，他根据人类和机器认知之间的差异对人工智能提出了批判性观点。他的新书《驯服硅谷》即将由麻省理工学院出版社出版。
马库斯将于本周三在第三届《韩民族日报》人类与数字论坛上发表主旨演讲，重点强调人类独有的认知能力，并参与“超越‘更强大的人工智能’走向‘更人性化的人工智能’”这一主题的讨论。
马库斯出席周三的论坛并发表演讲之前，《韩民族日报》通过电子邮件对他进行了采访。
韩民族日报：人工智能通过深度学习取得了飞速的进步，但是以深度学习为主导的人工智能存在哪些局限性？
Marcus：就我们所知，深度学习在可靠性、真实性和推理方面存在很大问题；它经常“产生幻觉”，永远无法真正可靠。除此之外，它还是一个难以解释和调试的“黑匣子”，并且严重依赖于大量数据。最后，它容易受到多种偏见的影响。所有这些问题都存在了很长时间，但尚未得到解决。
《韩民族日报》：您一方面批评人们对人工智能的期望过高，另一方面又在2023年上半年签署了一封公开信，呼吁暂停开发GPT4之后的人工智能。既然您认为开发人工智能将会非常困难且需要很长时间，为什么还要主张暂停开发呢？
马库斯：这是一个常见的误解。这封信实际上并没有呼吁暂停所有人工智能，只是要求暂停一个特定的项目（GPT-5 类型的模型），该项目存在已知风险，且没有明确的应对这些风险的方法。这封信实际上呼吁对人工智能进行更多的研究——而不是更少的研究——但要更加注重安全性和可靠性。
《韩民族日报》：随着人工智能的发展，测量和评估的问题也随之产生。有人认为，目前的基准测试不能充分评估人工智能。评估人工智能应该采用什么样的标准，例如图灵测试？
马库斯：图灵测试不是一个很好的测试；十年来我一直在主张我们应该用它代替它。但基准测试很难，部分原因是当前的模型需要对大量数据进行训练，而这些数据并未公开。因此，从外部很难知道哪些是记忆，哪些是真正的理解。除非公司对其数据集更加透明，否则基准测试仍将很困难。
《韩民族日报》：目前，人们正在努力开发“体质人工智能”或“超协同人工智能”，让人工智能能够像人类一样识别等级价值体系，或避免偏离人类的意图。您认为这些尝试会有效吗？
马库斯：由于法学硕士不是系统思考者，对世界没有坚定的概念理解，因此我怀疑这些方法能否成功。在某些情况下，它们可能有效，但当测试项目与训练数据存在细微但重要的差异时，它们很可能会面临失败的常见问题。更好的数据本身并不能修复固有的缺陷方法。
加里·马库斯，纽约大学名誉教授。
《韩民族日报》：您在书籍和论文中，通过人工智能在不理解含义和背景的情况下给出错误答案的例子，强调了人工智能的脆弱性及其与人类智能的差异。然而，这些情况一经报道就会得到纠正。鉴于技术进步和数据的指数级增长速度，有人认为这只是时间问题。
马库斯：现实情况是，在过去的 14 个月里，并没有取得重大进展。从 2020 年到 2023 年，可以说取得了指数级增长，但现在我们显然进入了收益递减期，尽管许多公司投入了数十亿美元，并汇聚了该领域的许多优秀人才，但没有什么比 GPT-4 更好。
尽管做出了这些努力来纠正，但错误答案仍然不断出现；这就像一场大型打地鼠游戏，一个错误刚被纠正，另一个错误又出现了。
韩民族日报：您认为人类智能的哪些特征是人工智能难以匹敌的？
马库斯：到目前为止，还没有机器像人类一样能够灵活应对新情况，也没有机器像人类一样能够理解时间、空间和因果关系等基本概念。
《韩民族日报》：您在《重启人工智能》中强调了人类对因果关系的认知能力，并引用了 Judea Pearl 的观点，即对因果关系的清晰理解是人类认知的核心。人类的因果和抽象思维并不完美，但会通过学习和发现新事实不断发展。为什么机器不能以类似的方式进化呢？
马库斯：我当然认为可以制造出具有因果理解能力的机器，但我不认为它们可能仅仅通过堆积更多数据就能出现。当然，尽管数据量大得令人难以置信，但到目前为止它们还没有出现。例如，就在昨天，我问 Grok 是否可以将铝箔放入微波炉，它警告说在这种情况下会发生电弧。然后我问，如果你没有打开微波炉，是否可以将铝箔放入微波炉；它再次警告会产生电弧，表明它完全缺乏对正在发生的事情的因果理解。微波炉没有电，没有电弧；但人工智能没有明白这一点。它只是吐出了与当时情况无关的文本。
《韩民族日报》：您在畅销书《克鲁格》中指出，人类不喜欢理性认知，而经常依赖捷径。人类的认知如此脆弱，而人工智能是否太聪明以至于无法利用人类的认知？
马库斯：人工智能目前还不是很智能，但它仍然可以利用人类的轻信；ELIZA 早在 1965 年就做到了这一点。
《韩民族日报》：您说，人类通过语言理解彼此的意图，构建世界模型，但人工智能无法创建世界模型。但是，很多人不是曾经生活过并且开始生活，没有世界模型，或者即使世界模型不合理，他们也生活得很顺利吗？
马库斯：人类并不总是拥有完美的模型，但我从未见过一个（正常、未受损害的）人类缺乏这些模型。如果不能实时构建和更新世界模型，那么没有人能够理解电影。
《韩民族日报》：您指出人工智能将带来社会两极分化，制造深度伪造视频将不再需要花钱。社会需要什么样的社会和技术努力？
马库斯：我们需要立即要求对所有人工智能生成的内容进行标记，并惩罚那些大规模传播虚假信息的人。我们还需要开发新技术来检测和标记虚假信息。
具本权 人类与数字研究实验室主任
如有疑问或意见请发送至 [english@hani.co.kr]
本文采摘于网络，不代表本站立场，转载联系作者并注明出处：https://www.fwsgw.com/a/yingxiao/199838.html