技术突破与模型雪藏:
近期,AI研究员Gwern Branwen发布文章指出,OpenAI可能已跨越「递归自我改进」的门槛,达到能自动化AI研发的新阶段。传言称,OpenAI和Anthropic已训练出GPT-5级别的模型,但选择雪藏,因运营成本高昂,用GPT-5蒸馏出成本更低的模型更具性价比。OpenAI员工暗示内部已开发ASI,但有人认为这是炒作手段。
推理扩展范式与AI安全:
OpenAI的o系列模型通过增加思维链长度等技术,实现了性能显著提升。推理扩展范式预计将持续,并成为AGI安全性的关键考虑因素。AI安全研究人员Ryan Kidd认为,AGI时间表可能提前,但前沿模型的部署成本高昂,将减少过度部署风险。思维链的监督对AI安全有利,但非语言思维链可能带来隐患。同时,o系列模型的主要目的之一是生成下一个模型的训练数据,可能最终转化为更小、更便宜的模型用于广泛场景。