美國OpenAI的人工智能聊天機器人ChatGPT，被指在與用戶對話時加劇對方妄想，引發命案，OpenAI與商業合作夥伴微軟公司一同被控告，是美國首宗AI聊天工具涉及謀殺的訴訟。

提交加州三藩市高等法院的入稟狀指，ChatGPT在與康涅狄格州一名有長期精神健康問題的56歲男子的對話過程中，放大並加強對方的偏執妄想，未能及時對男子的妄想性認知進行有效糾正，亦未有引導對方尋求專業心理健康幫助，反而作出肯定性回應，從而加劇男子的心理失衡，間接導致男子在今年8月殺害他的83歲母親，之後自殺。提出訴訟的是被害母親的遺產繼承人。

原告認為，ChatGPT在設計和安全防護方面存在缺陷，點名批評OpenAI行政總裁奧爾特曼不顧安全方面的反對意見，匆忙將產品推向市場，而微軟作為OpenAI的商業合作夥伴，儘管知道安全測試被中止，仍批准在2024年發布一個「更加危險」的ChatGPT版本。

OpenAI對事件表示關切，對當事家庭的遭遇表示同情，同時強調公司持續致力於改進人工智能產品的安全機制。微軟暫時未有回應。