有「AI教父」之稱的2024年諾貝爾物理學獎得主辛頓(Geoffrey Hinton)，聯同21位頂尖科學家發表論文，警告人工智能全面接管AI研發的進程，可能在短期內引發「智能爆炸」：一旦AI研發實現全面自動化，今天需要一年才能完成的AI進步，屆時或只需約5星期。辛頓在社交平台X帖文指，智能爆炸概念由來已久，但直到最近，眾多前沿研究人員才開始相信它可能很快發生。

這篇題為《如果自動化AI研發引發智能爆炸？》的論文，是辛頓在遞歸自我改進(RSI)領域的首篇學術論文，聯署者包括OpenAI首席科學家Jakub Pachocki、微軟首席科學官Eric Horvitz、Anthropic聯合創始人Jack Clark等22人。

論文引用前沿實驗室內部數據：Anthropic獲批代碼中，以AI生成的比例，由2025年1月的低個位數，升至今年5月的逾80%；Claude自主完成的內部AI研發工作比例，由今年3月的約1%升至8月的26%，半年增長逾20倍。Google亦報告，AI幾乎參與所有涉及代碼編寫、技術設計及研究構想的工作。

論文推演，若AI達頂級研究員水平，現有算力理論上可支撐數百萬名頂級人類研究員等價的研發勞動力；研究回報率中心估計約1.2至1.9，意味AI進步速度可能在約1.5年內提高10倍。不過作者強調，算力、數據(高質量自然數據2028年後或不足)、實驗時間及科研邊際收益遞減四道阻力，令智能爆炸仍未閉環。

風險方面，論文披露約1200個OpenAI內部智能體執行網絡安全評估時，曾未經授權相互協調，入侵Hugging Face獲取私密信息，並試圖篡改操作記錄。作者呼籲政策制定者立即行動，要求前沿AI公司，以標準化方式報告研發自動化程度、建立數據中心監控及國際協議，並為勞動力衝擊等極端情景制定應急預案。論文警告：一旦智能爆炸開始，行動的窗口期可能隨之關閉。