更新时间:2025-01-17 19:11:30
传言与暗示:
AI研究员Gwern Branwen发布文章指出,OpenAI或已达到「递归自我改进」的门槛,暗示其o4或o5模型能自动化AI研发。有传言称,OpenAI和Anthropic已训练出GPT-5级别的模型,但因运营成本高昂而选择「雪藏」,转而利用GPT-5蒸馏出更经济的模型。OpenAI员工近期的推文和暗示,引发外界对其是否已开发ASI的猜测。
模型性能与安全影响:
OpenAI的o系列模型,如o1和o3,通过增加思维链(CoT)长度等技术,实现了性能显著提升。在Codeforces、FrontierMath等多个平台上取得了优异成绩。推理扩展范式预计将持续,并成为AGI安全性的关键考虑因素。AI安全研究人员Ryan Kidd博士认为,AGI时间表可能因推理扩展而略微提前,但对部署问题的担忧较小。同时,监督思维链对AI安全性有利,但非语言CoT的应用可能带来隐患。