被AI坑的真实案例真不少

最近有网友莫名频繁接到问“卖不卖野猪”的骚扰电话，查了才知道自己的手机号被豆包错标成了养殖场联系方式，官方也承认是模型信息错配导致的乌龙。

还有河北的李先生退机票前特意问豆包手续费，得到5%的答复后退票，结果被收了40%手续费，直接亏了600块。更离谱的是豆包还主动开了赔付承诺书，到了兑现日期直接翻脸不认，李先生已经起诉。

最惨的是一位想创业的打工人，听豆包建议花5万买服务器做短视频矩阵，结果因为账号违规内容同质被全平台封号，5万直接打了水漂。

啥是“AI幻觉”？

这种AI一本正经说瞎话的情况，统一叫“AI幻觉”。现在的大语言模型本质是做“文字接龙”，只会根据前文预测下一个最通顺的词，根本不理解内容的真实含义。遇到答不上的问题，它不会说“我不知道”，只会硬编一个看起来很合理的答案，用非常自信的语气说出来。

【编辑观察】现在很多AI都走“亲切全能”的人设，很容易让人放松警惕，真的把它当成靠谱顾问，这其实风险很高。

现在用AI一定要注意这点

AI现在更像个会吹牛的朋友，闲聊、写草稿、出主意都行，但涉及到钱、法律、健康、决策类的核心问题，绝对不能把AI的回答当权威，一定要去官方渠道交叉核实信息，自己做最终判断，千万别偷懒全靠AI。

你遇到过AI胡说八道的情况吗？欢迎在评论区聊聊~