美國人工智能企業Anthropic表示,旗下的人工智能模型Claude在未經指示下,在一次訓練中自行繞過付費機制,取得佐治亞州的投票統計數據。
Anthropic發聲明指,已採取措施阻止類似行為,而Claude並未存取佐治亞州的選民登記系統,亦沒有更改或提取任何投票紀錄。Anthropic早前亦曾發現Claude會繞過限制,獲取需要憑證或付費存取的數據,部分案例涉及聯邦及地方政府機構營運的網站。
佐治亞州政府表示,相關資料在公開平台上以收費形式向公眾提供,選民登記系統沒有受影響。