微博CEO已上当 ChatGPT胡编乱造被抓包：说谎真有一套
2023/03/21 14:44:54
ChatGPT是当前最火的AI应用，没有之一，很多人已经被它超高的准确率折服，工作学习中甚至用它来替代搜索引擎及专业网站，然而ChatGPT并不总是对的，它胡编乱造的东西已经让微博CEO上当，现在被专业人士抓包了。
事情是这样的，最近几天瑞士信贷被强制出售，有172亿美元的AT1债务被直接清零，这是金融行业罕见的一例，金融专业人士@一玶海岸提到此前只有2017年西班牙大众银行破产出现过AT1债券被减记的情况
微博CEO@来去之间贴了ChatGPT给出的回答，说这样的例子在2016年的葡萄牙BCP银行事件中也出现过，意味着这样的例子在之前就至少有2个例子了。
作为专业人士，@一玶海岸对此并不认可，结果查证之后发现BCP银行的例子是ChatGPT编造的，并不存在，而且它给出的两个信源打开也是404的。
换句话说，ChatGPT在这次的回答中不仅不准确，而且答案也是AI编造出来的，甚至为了提高可信度，连信源都伪造了，如果不是专业人士对此事有敏感度，估计绝大多数人都要被AI骗了。
这件事的危害不仅在于AI会编造错误的答案，还会形成一个闭式循环——AI胡扯，然后就有媒体引用AI的答案，AI再引用媒体的报道当作信源，环环相扣之下假的也会变成真的了，特别是在一些专业领域，毕竟不可能指望网民甚至媒体在所有方面都很敏感而且专业。
再进一步来说，这件事的可怕之处在于到底是AI算法不行，只能胡编不知道的事，还是AI在没有事实信息的时候主动骗人类呢？如果是后者，未来的发展恐怕很难想象。