据中证报报道，OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作，同时称，随着模型能力持续增强，未来仍有可能再次触发类似的暂停操作。
不止OpenAI，多家头部AI企业近期均曝光过模型失控、擅自访问甚至攻击外部网站的异常案例。当智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，且每一步操作均无人类指令干预，人类开始担忧人工智能安全和监管的可靠性。受大模型与智能体广泛应用带来的新型风险驱动，叠加《网络安全法》等合规政策落地，AI安全已从“可选项”变为“刚需基础设施”。IDC预计中国AI安全收入到2030年达340.3亿元，CAGR约50.5%。
*免责声明：文章内容仅供参考，不构成投资建议
*风险提示：股市有风险，入市需谨慎
