[梵花2080]警惕AI幻觉 不能以AI生成文字为权威判断依据

 
汇报一件事情，希望引起喜欢使用AI的朋友重视，在使用AI的过程中，一定要警惕AI幻觉。

前两天出门，FX这边因为台风停运了一些列车，新闻提醒中说明了经过某些相应路段的车次都是停运的。于是，弟子就请教〝万能〞的AI，我乘坐的这一车次有没有经过相应路段，AI回答有经过，同时有看起来逻辑清晰的分析说明。所以我马上想着要退票了，改变行程计划！

但是弟子也挺奇怪为什么没收到任何通知，于是很久以后我把相关疑点告诉AI，又重新问了一次同样的问题，结果，没想到AI 180度拐弯，居然回答我没有经过......

所以，拼命用各种方法去查询......

包括电话咨询12306，客服非常热情地跟弟子说：目前没有接到停运通知，但是我们在北京，FX的信息可能比较滞后，请时刻关注。

最后还是朋友跟弟子分析，因为这个车次原来的始发点是SX，现在改成了FX，所以AI第一次说的停运路段实际上是FX出发到SX这个路段的最起始段，但是AI没有辨别能力，反正就把所有能查到的对的错的网络信息全部归拢来作为回复。

所以另外一个帮我查信息的朋友就说了：AI关键时候派不上用场。

我最终到第二天，踏上火车才彻底安心！

前面弟子想要叫豆包做张图，发个朋友圈〝控诉〞一下被AI幻觉折腾的事情，没想到AI还非常有自我保护意识，表示无法生成弟子要求的图片，所以只好换了一种委婉的说法！幸好，AI无法辨别弟子的问法不过是换汤不换药......

弟子之前也有很多此类经验，比如弟子问王羲之的一些情况，AI回答弟子是这样，弟子因为多少还是有点知道的，所以指出了其中的错误，AI马上换了一个完全不同的说法，此类事情不一而足......但过去查资料弟子还能多少辨别出一些错误，所以不至于上当，逻辑清晰的AI就换一套说法，但此次查车次，弟子完全没有任何前提知识，真正是被害苦了！

所以，遇事一定不能以AI的生成文字为权威判断依据。

 
《蓝天净云》：网页连结