如何平衡AI應用與治理
2025-03-27 15:09:19 來源:法治日報·法治周末
《法治周末》記者 仇飛
“可進人數37人,已進人數113人”,3月26日上午10時45分,剛到博鰲亞洲論壇2025年年會“AI:如何做到應用與治理的平衡推進”分論壇的開會時間,會場門口的顯示屏已顯示“超載”狀態。
AI有多熱?從參會人員對這場在博鰲展開的AI大討論的關注度中,可見一斑。
分論壇上,與會嘉賓圍繞如何全面科學地評估AI給人類帶來的潛在影響和風險、如何實現AI的全球治理等話題進行探討。
安全和發展可以并行不悖
“過去一年人工智能取得了巨大進展,規模化發展雖有所放緩,但推理階段的創新成為新的重點。”清華大學智能產業研究院院長張亞勤認為,DeepSeek的出現帶來了震撼性的創新,“AI正從信息智能向物理智能(如無人駕駛、機器人)演進,并進一步邁向生物智能(如腦機接口、生物體大模型)”。
例如,無人駕駛技術的發展,百度在武漢的蘿卜快跑項目,展示了AI在具身智能領域的巨大潛力。
中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅則認為,DeepSeek在小數據、小算力條件下實現了更高的智能表現,其關鍵在于采用了類似人腦丘腦的“路由機制”優化算力分配,而非整體更新所有神經網絡權重。這種機制雖非完全模仿人腦,但在計算進化上與生物演化異曲同工。未來人工智能的發展不僅要在行為層面達到類人水平,還將在計算機制上受到自然演化規律的啟發,不僅學習機制,甚至發育機制都會成為借鑒對象。
對于AI發展與安全的關系,在張亞勤看來,生成式AI通過智能體加速發展,但智能體的不可控性帶來了更大的安全風險。
曾毅則認為,過去的討論認為人工智能的發展速度超前,而安全護欄建設滯后,導致風險。經過探索,科學家們找到了提升安全性的技術方案,提升AI模型的安全能力對問題求解能力的影響微乎其微,“說明安全與發展可以并行不悖”。
AI 治理的路徑選擇
解決AI安全與發展的問題,迫切需要在AI治理的路徑上做出選擇。
中國社科院大學教授、國務院原副秘書長江小涓認為,AI治理的進展有限,從阿瑟馬人工智能原則提出至今,許多治理原則只是停留在討論層面,缺乏落地執行,實踐才是最大挑戰。
“DeepSeek的出現打破了AI行業的壟斷,從寡頭控制變為真正的市場競爭,使AI從技術能力轉向產業能力。”江小涓強調,在競爭市場中,市場機制能夠自發解決許多問題,不必過度依賴高層政策或原則性討論。
芬蘭前總理埃斯科·阿霍則從歷史和技術發展的角度,提出需要通過國際合作和標準制定來實現AI的均衡發展。他認為,AI治理需要多方利益相關者的參與,包括企業、政府和科學家,共同形成專家組或委員會。
曾毅建議,應發揮聯合國等國際組織的核心作用,通過全球合作來推動AI技術的公平應用。
VIVO首席安全官魯京輝則提出,AI治理需要形成共識,但僅靠共識是不夠的,還需考慮地緣政治等因素。他強調,企業需要一種動態、敏捷的治理模式來平衡發展與安全。