隨著人工智能能力快速提升,美國人工智能業界近期圍繞如何監管前沿模型的爭論持續升溫。一些人工智能企業提出了加強監管的主張,引發業界對監管可能導致美國人工智能發展主導權由少數企業或機構掌握的擔憂。
美國Anthropic公司首席執行官達里奧·阿莫代伊、谷歌旗下「深層思維」公司首席執行官德米斯·哈薩比斯和開放人工智能研究中心(OpenAI)首席執行官薩姆·奧爾特曼近期分別提出了各自企業對於如何監管前沿人工智能模型的設想。
美國阿克西奧斯新聞網站將三人的共同主張概括為:對最先進模型實施第三方測試,建立監管或標準體系,並對可能帶來重大網絡、生物安全等風險的模型設置更嚴格約束。
不過,關於「由誰監管」,三人的主張存在差異。阿莫代伊建議由美國政府設立一個類似美國聯邦航空局的聯邦人工智能監管機構。如果模型構成重大災難性風險,政府有權阻止或限制其部署。
哈薩比斯則提出建立一個接受美國政府監督的行業自主監管機構。該機構有權對前沿人工智能模型進行審查,並協調整個行業發展進程。他認為,初期可實行自願評估,後續再轉向具有約束力的市場準入規則。
奧爾特曼主張由美國牽頭成立一個「人工智能版本」的國際原子能機構,對國家、企業和安全標準進行認證,並以能否獲得前沿人工智能模型和相關市場準入作為施壓各方遵守相應規則的手段。
然而,這些企業提出的監管設想引發美國輿論質疑。阿克西奧斯新聞網站在文章中指出,面對潛在的監管體系,OpenAI、谷歌和Anthropic都擁有應對複雜認證制度所需的律師、安全團隊、政府關係和技術人員,相比初創企業和開放模型開發者具有明顯優勢。批評者擔心,原本旨在確保人工智能安全的制度可能變為幾家主要人工智能企業強化自身優勢的工具。
美國總統科學技術顧問委員會聯合主席戴維·薩克斯近日在社交媒體上發文說,如果政府機構與少數人工智能企業共同掌握模型發佈的「把關權」,可能導致人工智能發展的主導權掌握在少數人手中,不利於美國人工智能產業的發展。在他看來,Anthropic方面希望借助加強監管實現限制開源模型的目的,可能導致的結果是,當其他國家擁有更多選擇時,美國卻淪為一個充斥著昂貴閉源模型的「孤島」。◇







