美國科技巨企微軟發布人工智能模型的臨時守則,確保AI不會失控。當中列明AI模型應該是輔助人類,而非取代人類;AI模型不得回應有關發展武器的指示、不得產生暴力或色情內容,也不得協助取得危險物質等。另外,守則亦訂明不可以讓AI模型自主抵抗糾正和關停,交流方式不可超出人類理解範圍。

微軟負責人工智能的首席執行官蘇萊曼指,AI可能失控的擔憂並非空穴來風,而是真實存在,7月有OpenAI模型失控,入侵開源社區Hugging Face伺服器的事件是響起警號,形容制定守則是迫在眉睫,必須確保人類能掌控人工智能技術。

公司未來6周會就守則收集公眾意見,日後會按照守則訓練微軟的AI模型。