计算领域专家对 ChatGPT AI 技术的创造性与事实性提出严厉批评

Google 互联网布道者 Vint Cerf 在 TechSurge 峰会上发表演讲。

谷歌的互联网布道者并没有完全放弃 ChatGPT 和谷歌自己的竞争 Bard 背后的人工智能技术，称为大型语言模型。但是，周一在 Celesta Capital 的 TechSurge 峰会上发表讲话时，他确实警告了一种技术的伦理问题，即使在基于事实材料的基础上进行培训，这种技术也可能产生看似合理但不正确的信息。

他说，如果一位高管试图让他将 ChatGPT 应用于某些业务问题，他的回应将是称之为蛇油，指的是 1800 年代庸医销售的假药。ChatGPT 的另一个隐喻涉及厨房用具。

“这就像一个沙拉射手——你知道生菜是如何到处都是的，”瑟夫说。“到处都是事实，它把它们混在一起，因为它不知道更好的东西。”

Cerf 分享了 2004 年图灵奖，这是计算领域的最高奖项，以表彰其帮助开发称为 TCP/IP 的互联网基础，该技术通过将数据分解成小的、单独寻址的数据包来将数据从一台计算机传送到另一台计算机，这些数据包可以采用不同的路径从源到另一端目的地。他不是 AI 研究人员，但他是一名计算工程师，他希望看到他的同事改进 AI 的缺点。

OpenAI 的 ChatGPT 和 Google 的 Bard 等竞争对手有潜力通过回答问题、起草电子邮件、总结演示文稿和执行许多其他任务来显着改变我们的在线生活。微软已经开始将 OpenAI 的语言技术构建到其 Bing 搜索引擎中，以对谷歌构成重大挑战，但它使用自己的网络索引，试图通过权威、值得信赖的文档来“打磨”OpenAI 的幻想。

瑟夫说，他惊讶地发现 ChatGPT 可以根据事实编造虚假信息。“我问它，‘给我写一本 Vint Cerf 的传记。’它出了很多问题，”瑟夫说。就在那时，他了解了该技术的内部运作方式——它使用从大量训练数据中发现的统计模式来构建其响应。

“它知道如何将语法上可能正确的句子串在一起，”但它并不真正了解它在说什么，瑟夫说。“我们离我们想要的自我意识还有很长的路要走。”

OpenAI 在 2 月初推出了每月 20 美元的计划来使用 ChatGPT，它已经清楚该技术的缺点，但旨在通过“持续迭代”来改进它。

“ChatGPT 有时会写出看似合理但不正确或荒谬的答案。解决这个问题具有挑战性，”AI 研究实验室在 11 月推出 ChatGPT 时表示。

瑟夫也希望取得进步。“像我这样的工程师应该负责设法找到一种方法来驯服其中的一些技术，这样它们就不太可能造成麻烦，”他说。

Cerf 的评论与会议上另一位图灵奖获得者、芯片设计先驱和前斯坦福大学校长 John Hennessy 的评论形成鲜明对比，后者对 AI 的评估更为乐观。

编者注：CNET 正在使用 AI 引擎创建一些个人理财解释器，这些解释器由我们的编辑进行编辑和事实检查。有关更多信息，请参阅这篇文章。