據介紹，在預訓練方面，需增加知識密集的數據、高質量數據的選取和過濾；微調強化學習過程中，選擇模型知識邊界內的訓練數據極為重要；推理生成過程中，可以採用檢索外部知識的辦法使得模型生成結果有證據可循。此外，改進解碼搜索算法也是一種可行的方案。
騰訊AI Lab聯合國內外多家學術機構發布的綜述亦表明了同樣觀點，並認為諸如多智能體交互、指令設計、人在回路、分析模型內部狀態等技術也可成為緩解AI幻覺的方式。
值得一提的是，哈爾濱工業大學（深圳）自研的立知文本大模型和九天多模態大模型，對於上述緩解AI幻覺的方式均有深入探索，並取得了顯著效果。
“這對於開發一個真實可信的AI大模型是十分有必要的。”張民介紹，“我們嘗試通過視覺信息增強語言模型的能力，降低語言模型的外部幻覺問題；通過多個大模型智能體進行獨立思考和分析，經由多智能體之間的討論、博弈和合作，增強回復的客觀性，減少AI幻覺。”
張民表示，破解AI幻覺將提高AI系統的實用性、可信度和可應用性，這對人工智能技術的未來發展和社會的發展都有積極影響。同時，更可靠的AI系統可以更廣泛地應用於各個領域，這將促進技術進步的速度，帶來更多的創新。未來，破解AI幻覺需要進一步在算法、數據、透明度和監管等多個方面採取措施，以確保AI系統的決策更加準確可靠。 |
