外媒報道，人工智能(AI)初創企業Anthropic，近日私下向美國國會議員推介一項監管AI安全的法案。草案規定，政府只能在個別情況下，才可阻止AI模型發布或使用，包括AI模型構成可預見的緊迫風險、可能造成超過10億美元損失，或導致50人以上死傷。相關風險必須源自研發生物武器、模型規避開發者的控制，或是網絡攻擊。
法案提出，由獨立評估機構負責定期評估AI實驗室，若認定某間公司開發的前沿模型存在迫切風險，必須在完成評估後的72小時內，向美國商務部通報。商務部認定模型存在風險後，可提請法官下令停用模型。
Anthropic發言人指，法案將賦予政府能力，阻止或遏制最強大模型的危險部署，亦反映出公司「先進AI框架」所提出的建議。