解决幻觉问题 | Google Bard最新推出核查功能

7月前浏览1553

1 引言

早期的GPT完全基于已有的训练模型，因而给出的回答看似流畅，但实际上内容错误百出，即出现所谓的幻觉(hallucinations)，以前有多篇文章讨论过这个问题，大语言模型无法分辨出哪些是事实，哪些不是事实。为了克服这一致命缺陷，后来发展的模型加入了联网功能，能够根据网上的"事实性资料"给出相对正确的回答，例如Bingchat, GPT-4的Web Browsing插件，浏览器插件WebChatGPT以及Perplexity等。

刚刚发布的Google Bard新版本增加了类似的功能，即Google按钮，如下图所示。在Bard回答完问题之后，点击下方的Google按钮可以使用Google搜索来评估Bard的回答内容，从而提高回答的可信度。

本文对这个新功能进行了测试。

2 核查回答

首先向Bard提出了一个问题："Look for the tailings dam stability simulation on YT and then give me a summary based on the findings.(在YT上查找尾矿坝稳定性模拟，然后根据结果给我一个总结)，Bard给出了一个简要的回答。

接着按"核查回答"的Google按钮，Bard把回答的部分内容高亮了，如上图所示，有两种颜色的高亮部分，前3个句子呈绿色，后两个句子呈橙色，其含义如下图所示。

(1) 第一个高亮的句子是"Tailings dam stability simulation is a numerical method used to predict the behavior of a tailings dam under various loading conditions.(尾矿坝稳定性模拟是一种用于预测尾矿坝在各种载荷条件下行为的数值方法)"，用鼠标点击这个句子后，出现一个弹窗：

点击这个链接，便会打开页面，这篇论文为"(2008) Stability of tailings dams under static and seismic loading".

(2) 第二个高亮句子是"Numerical modeling can be used to assess the stability of tailings dams under various loading conditions, including static and dynamic loads(数值模拟可用于评估尾矿坝在各种载荷条件下的稳定性，包括静态和动态载荷)."，点击后出现的弹窗内容与第一个句子相同。

(3) 第三个句子为"Another video I watched, titled "Rocscience Webinar - Analysis and Design of Tailings Dams using Numerical Methods", discussed the use of numerical modeling to design and analyze tailings dams(另一个视频标题为 "Rocscience 网络研讨会 - 使用数值方法分析和设计尾矿坝"，讨论了使用数值模型来设计和分析尾矿坝). "，点击后出现的弹窗内容如下所示，这个链接是Rocscience的一个网络会议通知。

(4) 第四个和第五个句子为"The video covered a variety of topics, including the modeling of unsaturated groundwater flow, transient boundary conditions, and multi-year climatic effects. The video also discussed the calibration of complex 2D and 3D models with 1D analysis and Soilvision Soils database inputs(该视频涵盖了各种主题，包括非饱和地下水流模拟、瞬态边界条件和多年气候影响。该视频还讨论了通过 1D 分析和 Soilvision 土数据库输入来校准复杂的 2D 和 3D 模型).", 点击后出现如下提示。