這次立法的主要目的是，通過追究開發者的責任，防止大型 AI 系統造成重大人員傷亡或重大經濟損失。
然而，這個看似理所當然的立法，卻在 AI 領域掀起一場激烈的對決，各路 AI 大神們紛紛加入正反兩方，可說是神仙打架一般的精彩。
究竟 SB 1047 暗藏著什麼不為人知的秘密？或許，這正是 AI 世界的一次命運轉折點，值得我們一起關注。
想每天收到最新AI新聞、與同好交流AI新知？快加入 [傑瑞AI讀書會] ～
法案主要內容
SB 1047 要求那些超過特定規模和訓練成本的 AI 模型開發者實施安全協議，包括設置「緊急停止」功能和進行年度審查。
該法案針對的是訓練成本超過 1 億美元且使用大量計算資源的模型，其中包括 OpenAI 的 GPT-4。
法案主要內容如下：
- 責任追究：開發者（即開發模型的公司）需對其AI模型的安全性承擔責任。如果發生AI安全事件，開發者必須在了解事件後72小時內向監管機構報告。
- 安全協議：法案要求開發者實施足夠的安全協議，以防止模型被濫用，導致嚴重後果。開發者需向新設立的監管機構提交年度認證，評估其模型的潛在風險和安全協議的有效性。
- 罰款機制：對於未遵守規定的開發者，SB 1047允許加州總檢察長提起民事訴訟。首次違規的罰款可高達1000萬美元，後續違規則可達到3000萬美元。
- 監管機構：法案原計劃創建一個名為「前沿模型部門」（Frontier Model Division，FMD）的監管機構，但後續修訂已取消該機構的設立，改為由現有政府部門負責執行相關規定。
- 法律標準調整：法案將開發者履行承諾的法律標準從「合理保證」調整為「合理謹慎」，這意味著開發者需要採取的預防措施應符合一般理性人的標準。
支持者怎麼看
SB 1047 法案的支持者，認為能夠提高 AI 系統的安全性，防止潛在災難，並促進行業的健康發展與創新。
目前支持 SB 1047 的人包括：
- 人工智慧安全中心主任 Dan Hendrycks：他表示SB 1047符合加州乃至美國產業的長期利益，認為重大安全事故是進一步發展的最大障礙。
- 前 OpenAI 員工 Daniel Kokotajlo：他在今年稍早辭職後，對外控訴 OpenAI 違反公司內部的安全指引，並語重心長表示「高端的 AI 可能促成人類的滅絕」。他也認為，批評者關於 AI 進步會停滯的說法不太可能發生。
- 知名軟體 Notion 創始人 Simon Last：他認為在缺乏聯邦級 AI 法律的情況下，加州作為科技中心有責任推動相關法規，以提升安全性並便利中小企業的 AI 產品開發。
- 人工智慧安全行動基金中心的高級政策顧問 Nathan Calvin：他強調 SB 1047 的目標是提高 AI 安全性，同時允許生態系統創新。
- 加州參議員 Scott Wiener： 作為法案發起者，他主張該法案對確保 AI 創新與公共安全並行至關重要。他強調，該法案僅針對最大型的 AI 開發者，並要求他們進行已經承諾執行的安全測試。
此外，有「AI教父」之稱的 Geoffrey Hinton、圖靈獎得主 Yoshua Bengio，哈佛大學法學院教授 Lawrence Lessig，以及廣受歡迎的 AI 教科書《人工智慧：現代方法》作者 Stuart Russell 也聯名致信加州立法機構，強力支持 SB 1047 法案。
他們對 AI 風險深感擔憂，認為該法案是有效監管 AI 技術的最低要求，並警告取消法案基本措施將是歷史性錯誤，未來可能帶來更大風險。
反對者的聲音
儘管 SB 1047 獲得一些支持，但也面臨來自科技界的強烈反對。批評者認為，法案可能會抑制創新，並對開發者施加過多的法律責任。
反對者包括知名的風險投資家、AI 研究人員及科技公司高層。以下是反對該法案的主要人物和團體：
- a16z（Andreessen Horowitz）：這家風險投資公司對 SB 1047 提出了強烈反對，認為該法案設立的任意門檻可能會對新創公司造成負擔，並抑制創新。他們的首席法務官向參議員 Wiener 提交了一封信，表達對該法案可能對 AI 生態系統造成寒蟬效應的擔憂。
- 李飛飛：作為知名的 AI 研究員及 AI 新創公司 World Labs 的聯合創辦人，李飛飛批評該法案可能損害 AI 生態系統。她強調，這項立法可能會引發重大的意外後果，進而抑制創新。
- 吳恩達：另一位具影響力的 AI 學者，吳恩達在一次公開活動中將該法案稱為對開源的「攻擊」，並指出這可能會為開源 AI 模型帶來風險，因為這些模型更容易被誤用。
- Yann LeCun：Meta 的首席 AI 科學家 LeCun 表示，SB 1047 會阻礙研究工作，並且基於對 AI 存在風險的錯誤認知。
- Jeremy Nixon：AI 新創公司 Omniscience 的 CEO Nixon 警告說，該法案可能會壓垮新創生態系統，並主張應該把責任歸咎於不法分子，而不是懲罰那些負責任地開發技術的 AI 開發者。
- 美國國會議員 Ro Khanna：Khanna 公開反對 SB 1047，認為該法案可能無效，並且對個別企業家和小型企業有懲罰性，最終損害加州的創新精神。
- 美國眾議院前議長 Nancy Pelosi：這位眾議院名譽議長也表示反對，認為該法案雖然初衷良好但了解不足。她指出，其他加州領導人也對其可能對創新產生負面影響表示擔憂。前眾議院議長裴洛西也表示該法案「弊大於利」，並指出許多立法者對技術的理解不足。
目前進程
SB 1047目前已通過加州眾議院的關鍵委員會，接下來將提交加州議會進行最終表決。
如果獲得通過，將由加州州長在今年八月底之前，決定是否簽署成為法律。
想每天收到最新AI新聞、與同好交流AI新知？快加入 [傑瑞AI讀書會] ～
