|
| 圖為2023年11月2日，在英國布萊奇利園，一名參會者經過首屆人工智能安全峰會的宣傳展板。（圖源：新華社） |
中評社北京7月17日電／新聞分析｜警惕人工智能時代的“智能體風險”
來源：新華社
一群證券交易機器人通過高頻買賣合約在納斯達克等證券交易所短暫地抹去了1萬億美元價值，世界衛生組織使用的聊天機器人提供了過時的藥品審核信息，美國一位資深律師沒能判斷出自己向法庭提供的歷史案例文書竟然均由ChatGPT憑空捏造……這些真實發生的案例表明，智能體帶來的安全隱患不容小覷。
智能體進入批量化生產時代
智能體是人工智能（AI）領域中的一個重要概念，是指能夠自主感知環境、做出決策並執行行動的智能實體，它可以是一個程序、一個系統或是一個機器人。
智能體的核心是人工智能算法，包括機器學習、深度學習、強化學習、神經網絡等技術。通過這些算法，智能體可以從大量數據中學習並改進自身的性能，不斷優化自己的決策和行為。智能體還可根據環境變化做出靈活的調整，適應不同的場景和任務。
學界認為，智能體一般具有以下三大特質：
第一，可根據目標獨立採取行動，即自主決策。智能體可以被賦予一個高級別甚至模糊的目標，並獨立採取行動實現該目標。
第二，可與外部世界互動，自如地使用不同的軟件工具。比如基於GPT－4的智能體AutoGPT，可以自主地在網絡上搜索相關信息，並根據用戶的需求自動編寫代碼和管理業務。
第三，可無限期地運行。美國哈佛大學法學院教授喬納森·齊特雷恩近期在美國《大西洋》雜誌發表的《是時候控制AI智能體》一文指出，智能體允許人類操作員“設置後便不再操心”。還有專家認為，智能體具備可進化性，能夠在工作進程中通過反饋逐步自我優化，比如學習新技能和優化技能組合。
|
