课程: 生成式人工智能：财务与会计

免费学习该课程！

今天就开通帐号，24,700 门业界名师课程任您挑！

警惕AI的幻觉:财务人的使用风险

传说中的iPhone Edition将回归类似iPhone 4设计

课程: 生成式人工智能：财务与会计

开始一个月试用 购买团队方案

警惕AI的幻觉:财务人的使用风险

“ 百度 从小时候就喜欢旧体诗词，受到很深的熏陶，常常沉醉于古典诗词所蕴含的真善美之中，因此，我对真善美的对立面，假丑恶就很敏感，对于暴力、无来由的杀戮就很厌恶，因而，我觉得关注假丑恶与喜爱真善美并不矛盾，有比较才有鉴别，见过假丑恶，特别是见过以真善美面貌出现的假丑恶才能的真善美有深刻的认识和理解。

欢迎来到第八课。 你是不是也有这样的体验？ 当第一次使用AI，它的回答惊艳到了你， 觉得“哇，原来 AI 已经能做到这种程度了”。 但没过多久， 你发现它偶尔也会一本正经地胡说八道， 甚至把你带进沟里。 这就是我们今天要聊的重点， 幻觉，Hallucination。 这节课我们分三部分来聊。 第一， AI 出现幻觉的原因，问题到底出在哪？ 第二，在财务场景中， 它最容易在哪些环节出错？ 第三，作为财务人， 我们该如何识别这些问题， 并建立起自己的使用防火墙？ 首先，AI 为什么会胡说八道呢？ 我们都知道， 大语言模型的本质不是数据库。 它不是知道答案， 而是通过概率、预测， 来生成可能最合适的下一句话。 换句话说， 它不是像我们一样 在逻辑中推理出一个答案。 它是在语言中 生成一个看起来像答案的句子。 当你问一个它没有见过的问题， 或者用很模糊的方式表达， 它就有可能凭感觉、凑结构、编逻辑， 甚至瞎猜。 这就叫做幻觉。 AI 相信自己说的是真的，但其实是错的。 而且它还非常自信，写得头头是道， 让你不容易察觉。 比如，你让它解释一条复杂的会计准则。 它可能编一个听起来很像的逻辑。 或者你问它， 今年 A 股的平均市盈率是多少？ 它可能给你一个看似合理、 但实际根本不存在的数据来源。 更危险的是，当你说“你错了”时， 它还可能一本正经地道歉， 然后继续编另一个答案， 逻辑依然是不对的。 这就是我们说的， AI 不是故意欺骗你， 而是它的工作方式注定了， 看起来像对的东西，未必真的对。 知道了原因， 让我们来看看在财务工作中， AI 最容易在哪些地方犯错。 第一个重灾区是引用数据或法规时张冠李戴。 比如你问， “中国会计准则下资产减值怎么处理？” 它可能会混用 IFRS 表述， 或者编一个不存在的条款编号。 第二个常见问题是总结报表趋势时搞错方向。 比如你贴上两期的利润表， 它在自动总结时 可能会搞错是同比还是环比， 或者把负增长误说成增长。 第三个问题是写分析报告时 自动脑补不存在的结论。 你可能只是让它总结财务趋势， 它却加上一句， “预计明年该公司，将维持高增长态势。” 这个预测听上去像真的， 但完全是它自己想出来的， 背后并没有数据支持。 还有一种情况是错解字段和术语， 尤其在多张报表之间交叉使用， 比如把营业利润和净利润混为一谈；…

内容