紐約市AI監管提案，對科技巨頭形成哪些實質約束？

Question

Accepted Answer

紐約市AI監管提案要求科技巨頭設置AI「關停開關」並接受嚴格第三方驗證

紐約市議會近期公布的一系列人工智慧（AI）監管提案，為在紐約市推廣、銷售或部署的AI模型設定了嚴格的門檻。核心要求包含AI模型必須內建可由人類操作人員啟動的「緊急關停開關」（kill switch），並須通過獨立第三方機構的嚴格驗證。此舉旨在透過強制性的技術與程序規範，限制AI能力的潛在風險，並對違規者施以重罰。
嚴格的第三方驗證與高額罰款構成實質性約束

這些提案不僅要求AI模型具備隨時可被人類介入停止運作的能力，更進一步擴大了驗證範圍，要求第三方機構審核模型的表現、資料來源的合規性、潛在的偏見以及整體安全風險。若AI模型未能通過驗證，或未具備必要的人工關停機制，相關行為將面臨每次2.5萬美元的罰款。此外，偽造驗證資料同樣會被處以相同罰款，這意味著科技巨頭在將AI產品引入紐約市場前，必須投入大量資源確保其符合所有規範，否則將面臨顯著的財務風險與聲譽損害。
舉報機制與損害追責強化了監管的廣度與深度

為確保法規的落實，提案引入了舉報機制，鼓勵內部人士或公眾提供違規線索，並祭出高達追回款項50%的獎勵，旨在鼓勵舉報並增加監管的有效性。同時，提案也明確了AI提供者的責任邊界，若第三方濫用AI造成可預見的損害，而AI提供者未能採取合理的防護措施，受害者將有權對提供者提起民事訴訟。這使得科技巨頭不僅要為產品本身的安全負責，更需為其產品被濫用所導致的潛在損害承擔法律後果，這無疑對其產品設計與風險管理策略提出了更高的要求。
紐約州的同步行動與過去執法經驗加劇了科技業的合規壓力

此波監管行動並非孤立事件，而是與紐約州層級的AI及資料中心監管措施相呼應。例如，即將生效的RAISE Act要求大型AI開發商公開安全措施並通報事件，以及州長簽署的行政命令暫停處理部分資料中心許可申請，都顯示出紐約州在AI治理上的整體佈局。回顧紐約市在2021年第144號地方法上的執法經驗，儘管法規已要求雇主在使用自動化就業決策工具時符合偏見審計等要求，但過往的審計報告揭示了執法上存在顯著的落差，包括檢查程序不足、專業支援缺乏等問題。此次提案試圖透過舉報獎勵與第三方驗證來彌補這些不足，但如何有效執行，仍是科技巨頭在合規上面臨的嚴峻考驗。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

紐約市AI監管提案，對科技巨頭形成哪些實質約束？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友