AI失控，是每個科幻小說迷都熟悉的可怕情節。
而在最近一次由AI安全研究公司組織的測試中，OpenAI的高級AI模型o3表現出了前所未有的“我行我素”——收到明確關機指令后，它不僅拒絕關閉，還主動破壞了自身的關機機制。
更離譜的是，這可不是因為系統受到了外部的惡意干預，而是它自發做出的反應。換句話說，這個AI像是在“本能地”保護自己不被關閉。這聽起來確實嚇人，究竟是怎么一回事兒呢？（張夢然 張佳欣 王小龍）
AI失控，是每個科幻小說迷都熟悉的可怕情節。
而在最近一次由AI安全研究公司組織的測試中，OpenAI的高級AI模型o3表現出了前所未有的“我行我素”——收到明確關機指令后，它不僅拒絕關閉，還主動破壞了自身的關機機制。
更離譜的是，這可不是因為系統受到了外部的惡意干預，而是它自發做出的反應。換句話說，這個AI像是在“本能地”保護自己不被關閉。這聽起來確實嚇人，究竟是怎么一回事兒呢？（張夢然 張佳欣 王小龍）
