微軟行政總裁納德拉建議,就人工智能(AI)設立緊急煞停機制,防止AI模型失控。納德拉在社交平台發文指,使用先進AI的企業,不應只是依賴模型開發商作出的保證,應將強大的AI模型視為潛在的內部威脅,假定這些模型可能遭入侵,並從一開始就加以控制,授權人員能夠暫停或關閉模型。
他建議,不要依賴單一AI模型作出關鍵決策、對AI代理的行動保留無法篡改的紀錄,並對AI系統進行獨立審計。他呼籲企業披露重大AI故障或安全事件,並分享故障詳情,以便其他企業加強防護措施。