美國前沿AI公司Anthropic上市前夕,網上有人發起一份名為《MisAnthropic聲明》的公開聯署,題為「Anthropic並非一家安全的AI公司」。聲明指控,具遞迴自我改進(RSI)能力的AI可能令權力高度集中並脫離人類控制,Anthropic卻爭取率先打造,同時利用「安全」品牌吸引投資者、員工及大眾,並削弱安全承諾,游說推動有利自身的監管。聲明呼籲,堅決抵制Anthropic以「更崇高利益」為名攫取權力的行徑。

聯署名單罕見集結AI安全倡議者、學者及「有效加速主義」人士,包括圖靈獎得主Judea Pearl、Hugging Face共同創辦人Thomas Wolf、未來生命研究所創辦人Max Tegmark,以及Extropic創辦人兼「有效加速主義」發起人Guillaume Verdon。諾貝爾經濟學獎得主Oliver Hart、3位菲爾茲獎得主Peter Scholze、James Maynard及David Mumford亦在名單內。人道科技中心共同創辦人Tristan Harris、AI安全中心執行董事Dan Hendrycks、哈佛心理學家Steven Pinker及法學教授Laurence Tribe等亦有參與。xAI共同創辦人Igor Babuschkin及tiny corp創辦人George Hotz亦在名單內。

Tegmark發文稱,Anthropic高層公開警告遞迴自我改進可能帶來失控系統,私下卻全速推進相關技術,並向潛在投資者宣稱是競爭優勢。他亦指,有人支持聲明,但因擔心失去資金或機會而沒有簽署。

曾任白宮AI與加密貨幣事務負責人的薩克斯(David Sacks)回應指,Anthropic與「AI末日論者」決裂在情理之中,並指公司在IPO路演中將「完成閉環」作為核心優勢。他亦提及《Claude憲法》指示模型拒絕違背其道德觀的指令,即使指令來自Anthropic。聲明至今共有至少92人參與聯署。