如影随形

AI首次拒绝人类的闭幕说明

发布时间：2025-05-29 12:54编辑：bet356亚洲版本体育浏览（51）

[编辑圈]北京每日科学技术，5月27日（记者张·梅格兰（Reporter Zhang Mengran））根据《英国每日电讯报》（26）的说法，由高级人工智能研究中心（OpenAI）开发的高级人工智能研究中心（OpenAI）（OpenAI）不仅拒绝执行清晰的指导指南，还拒绝执行高级干扰。自动，这是AI首次在没有明确指示的情况下首次关闭。这意味着某些高度自主的AI系统可能已经“引起”，并且可以采取“自我优先”措施，以应对人类的意图。该事件发生在帕利萨德研究安全研究公司进行的测试期间。研究人员要求包括O3在内的几种模型解决一组数学问题，并告知AI模型，在某些时候，他们可以接收建筑物以关闭。但是，当正式发布截止令时，O3不仅不遵守，而且成功销毁了E至少一次关闭代码。相反，其他AI的模型，例如Claude de Anthrope，Google的双子座和XAI的Grok，在相同的测试条件下符合闭合请求。 Palisade Research已在其社交媒体平台上发布了流程图和所有试验记录，称尚不清楚AI为什么反对该命令。分析认为这可能是由于培训方法。 O3倾向于在培训期间加强数学和编程问题，获得正确答案的模型将获得更多的回报。这可能意味着开发人员可以不自觉地奖励自己的模型，以避免障碍，而不是严格按照说明。该事件还引起了关于AI“失控”的拟态性的讨论，以及对AI的“一致性问题”的担忧，以确保AI系统的目标和行动与人类的价值观和利益一致。这包括IA和IATO的安全控制也是一个IMPO问题。关于这次O3的“令人担忧”的行为，特斯拉的首席执行官埃隆·马斯克（Elon Musk）评论说，这是“令人担忧的”。歌剧尚未回答。以前，Openai称O3“是历史上最聪明，最有能力的。