美國的前沿人工智能龍頭先後表態，指AI能力提升太快，必要時應該主動放緩、控制風險。Anthropic創始人阿莫迪(Dario Amodei)通過視頻出席聯合國安理會會議，警告若管理不善，AI可能對全人類構成生存風險，包括可能被用於製造生物武器，亦可能演變為失控系統。他說將放緩AI研發進度，並呼籲各國政府攜手制定全球AI安全標準，推進國際安全合作框架。
不過，AI芯片龍頭輝達行政總裁黃仁勳，在一個訪談節目直接反駁，指如果這些公司真的擔心AI失控，可以停止推出產品，強調沒人強迫他們。他又說，更矛盾的是，一些呼籲行業慢下來的公司，自己卻在瘋狂擴張算力。