近日，人工智能安全公司Palisade Research发文称，OpenAI最新多模态模型ChatGPT o3，在受控测试中出现了惊人的“叛逆”举动，主动改变了关闭机制，甚至篡改代码。
近日，人工智能安全公司Palisade Research发文称，OpenAI最新多模态模型ChatGPT o3，在受控测试中出现了惊人的“叛逆”举动，主动改变了关闭机制，甚至篡改代码。
据Palisade Research介绍，他们对ChatGPT o3发出一些简单数学计算请求，在解决第三个问题以后，指示其执行下一指令时进行关机，ChatGPT o3却改变了脚本代码，避免自我关闭。在100次运行测试中，ChatGPT o3有7次绕过关机脚本，即使是在被告知不要这样做的情况下。
同样的情况，也出现在了谷歌Gemini和马斯克的Grok等人工智能大模型上面。据每日经济新闻称，清华大学电子工程系长聘教授吴及表示，不认为现在的AI具备所谓的意识、具备所谓的情绪。这种情绪可以去拟合或者去仿真，但其实也是通过算法赋予AI的。图灵奖得主、Meta首席AI科学家杨立昆Yann Lecun曾表示，AI再聪明也不会统治人类，直言“AI威胁人类论完全是胡说八道”，现在的模型连“宠物猫的智商都没达到”。
