“大模型有可能‘一本正經地胡說八道’。如果不和行業專業數據庫或者一些專業應用插件進行對接，這可能會導致它們提供過時或者不專業的答案。”科大訊飛研究院副院長、金融科技事業部CTO趙乾在第七屆金融科技與金融安全峰會上曾表示，科大訊飛已經推出一些技術方案，讓大模型揚長避短。
AI幻覺源自本身
“現在不同研究工作對AI幻覺的分類各不相同。”張民介紹，總體而言，AI幻覺可以分為內在幻覺和外在幻覺兩類。
據悉，內在幻覺即是同輸入信息不一致的幻覺內容，包括同用戶輸入的問題或指令不一致，或是同對話歷史上下文信息相矛盾，如AI模型會在同一個對話過程中，針對用戶同一個問題的不同提問方式，給出自相矛盾的回復。外在幻覺則是同世界知識不一致或是通過已有信息無法驗證的內容，例如AI模型針對用戶提出的事實性問題給出錯誤回答，或編造無法驗證的內容。
近期，騰訊AI Lab聯合國內外多家學術機構發布了一篇面向大模型幻覺工作的綜述。該綜述認為，AI幻覺集中在大模型缺乏相關知識、記憶錯誤知識、大模型無法準確估計自身能力邊界等場景。
“從技術原理上看，AI幻覺多由於AI對知識的記憶不足、理解能力不足、訓練方式固有的弊端及模型本身技術的局限性導致。”張民坦言，AI幻覺會造成知識偏見與誤解，甚至有時會導致安全風險、倫理和道德問題。
AI幻覺尚難消除
儘管AI幻覺短期內難以完全消除，但業界正試圖通過技術改進和監管評估來緩解其影響，以保障人工智能技術的安全可靠應用。
“現階段AI幻覺難以完全被消除，但卻可以試著緩解。”張民介紹，在預訓練、微調強化學習、推理生成等階段中運用適當的技術手段，有望緩解AI幻覺現象。
|
