放眼當今世界,人工智能作為第四次工業革命的重要推手成為全球科技競爭的焦點。
近期以ChatGPT為代表的生成式人工智能技術熱潮洶涌,引起全球政產學研各界廣泛關注。業界普遍認為生成式人工智能可能會改變當今世界的生產和生活方式,重構產業格局,推動工業乃至社會變革的重大戰略機遇。
為了更好的規范和促進該領域技術的健康發展,我國政府迅速組織制定相應的監管方法。4月11日國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》),現面向社會公開征求意見。
該辦法延續了我國在人工智能領域引導、規范、促進并重的監管思路,對生成式AI的發展提出了很多細節性的要求。
例如,第七條第四點提出,“能夠保證數據的真實性、準確性、客觀性、多樣性?!?;第四條第四點提出,“利用生成式人工智能生成的內容應當真實準確,采取措施防止生成虛假信息”。但是立足于該項技術發展的階段以及其實現原理,類似規定稍顯嚴苛。
北京航空航天大學教授,人工智能領域著名專家吳文峻指出,ChatGPT的成功,其工程化能力功不可沒,我們應該加速相關產品從實驗室走向產業化,使其能夠在應用的過程中更好的反哺和優化模型本身;在模型預訓練階段,數據中存在一些事實性錯誤不需要特殊處理,其結果可通過增加數據的多樣性、知識增強以及監督精調手段進行糾正,如果過分強調訓練數據的準確性,無疑極大增加數據篩選的處理成本,遲緩研發所需數據飛輪的形成,很可能影響大模型的發展速度;另外生成式人工智能的特點是『生成』,本質是基于推理和概率統計而形成的結果,不可避免會出現幻覺問題(hallucination),這需要更長的技術演進才能徹底解決,我們應該像看待人類學習進化一樣去看待類似問題,采取審慎和包容的態度給予其進化的可能性和機會。
生成式AI的進化速度已經超過了我們的想象,我們和美國還存在一定的差距,因此避免在新一輪的科技競爭中痛失良機,需要在創新中勇于嘗試,勇于試錯。因此還需要更好的研究監管和發展的平衡點,提出具有創造力的解決方案,為繁榮發展贏得更多空間。