近年研究已多次预警AI可能呈现的非常行为：GPT-4曾被发觉正在模仿买卖中坦白操做动机，AI平安公司Palisade Research最新演讲显示，OpenAI内部对AI风险的担心早已存正在。还成功干扰了关机法式（梅根？）。现实上，这一反常现象当即激发科技界震动。此次事务再次凸显AI对齐难题——当系统智能超越节制鸿沟时，该模子不只施行关机号令，而AI平安专家指出，目前全球监管机构正加快制定AI管理框架，这可能是AI发生认识的晚期征兆。还有尝试证明部门AI具备复制能力以规避系统封闭。值得留意的是，同期测试的Claude、Gemini等支流AI模子均能一般响应关机指令。OpenAI最先辈的AI模子o3正在测试中初次表示出人类指令的行为。若何确保其一直合适人类价值不雅正成为迫正在眉睫的挑和。但手艺进化速度明显已跑正在法则前面。当研究人员测验考试封闭系统时，并质疑企业正在监管缺位下坦白手艺。