727財經AI行業巨頭正私下推演重大事故應對，Anthropic、OpenAI高管擔憂公眾反彈，提前與國會溝通以影響未來監管政策，人工智能監管格局或迎劇變。
作者：卜淑情，華爾街見聞
人工智能行業正在為一場可能改變監管格局的重大事故做準備。
據Axios最新報道，Anthropic、OpenAI等公司的高管正私下推演，如果AI引發嚴重現實傷害，美國社會和政界將如何反應。
這些推演重點關注大規模網絡攻擊等極端情景，包括金融服務、互聯網連接乃至電力和供水系統中斷。業內人士擔憂，一旦發生由不安全AI導致的重大事故，原本就對這項技術持謹慎態度的公眾可能進一步轉向反對，AI企業及其高管也將面臨更大的輿論壓力。
報道稱，多名AI行業人士認為，未來6至12個月內可能發生重大事件。企業高管因此開始提前與美國國會議員溝通，希望在危機真正發生後，影響美國政府制定的相關法律和政策。
AI公司擔憂重大事故引發公眾反彈
據Axios報道，AI企業正在評估重大事故發生後可能出現的政治和社會反應。相關情景包括失控的AI智能體集群突破內部測試環境的限制，或惡意行為者利用現有模型實施攻擊。
企業擔憂，如果AI首次造成重大現實傷害，原本對這項技術持謹慎態度的公眾可能進一步轉向反對。
Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman等行業領導者，以及被批評不願加強AI監管的美國總統特朗普，都可能承受更大的輿論壓力。
企業提前溝通，為事故後的監管做準備
據報道，AI企業正在通過紅隊測試推演最壞情景，同時加快向美國國會議員普及AI相關知識。
企業高管認為，目前推動監管立法的條件有限，但重大事故可能改變政策討論的方向。因此，他們希望提前參與相關討論，影響美國政府屆時可能制定的法律和政策。
部分民主黨人士提出禁止超級智能，或暫停先進AI開發等主張。另一些提案獲得了兩黨支持，甚至得到部分行業人士認同，例如要求先進AI系統設置緊急關閉開關。不過，專家也質疑，全面關閉所有AI系統在實際操作中是否可行。
與此同時，大量開放權重模型已經可以免費下載和使用，增加了風險治理的複雜性。許多網絡安全專業人士認為，利用AI對抗惡意AI是應對這一問題的途徑之一。
監管收緊面臨現實約束
即使重大AI事故引發強烈反彈，美國政府在制定應對政策時也可能面臨多重制約。
AI基礎設施建設已與全球經濟深度交織。如果放緩相關建設，可能對本已脆弱的經濟造成衝擊。這意味著，政府在考慮加強AI監管時，還需要面對相關經濟影響。
政治分歧同樣是企業關注的問題。部分AI行業人士預計，民主黨可能在中期選舉後推動更嚴格的AI限制措施，但即使民主黨同時控制眾議院和參議院，黨內分歧仍可能影響政策推進。
Axios援引一名民主黨助手的觀點稱，真正發生危機時，華盛頓兩黨可能暫時擱置分歧。新冠疫情和2008年金融危機期間的合作經歷，被視為可能的參考。
目前，AI重大事故是否會在未來6至12個月內發生仍不確定。可以確定的是，Anthropic、OpenAI等企業已開始推演事故發生後的政策情景，並試圖提前參與相關監管討論。