首页 资讯 正文

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

体育正文 196 0

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

当地时间6月6日,苹果机器学习研究中心发表论文《思考的幻象:通过(tōngguò)问题复杂性的视角理解推理模型的优势(yōushì)与局限》。论文作者包括(bāokuò)谷歌大脑联合创始人Samy Bengio(图灵奖得主(dézhǔ)Yoshua Bengio的弟弟)。

该论文认为,现有的推理模型(tuīlǐmóxíng)看似会“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象(huànxiàng)”。

论文发布后引发AI圈热议,被部分观点解读为(wèi)“苹果否定(fǒudìng)所有大模型的推理(tuīlǐ)能力”。也有研究人员提出反驳,认为苹果的测试方法存在问题。AI研究者Lisan al Gaib在复现(fùxiàn)论文中的汉诺塔测试后发现,模型根本不是因为推理能力不佳而失败(shībài),而是因为输出token限制。

图片来源:论文《思考的幻象:通过问题复杂性(fùzáxìng)的视角理解推理模型的优势(yōushì)与局限》

苹果“炮轰”AI推理模型:所谓(suǒwèi)的思考只是一种“幻象”

论文指出,OpenAI、Anthropic、谷歌和DeepSeek等(děng)公司纷纷推出带有“链式(liànshì)思考”(Chain-of-Thought,CoT)能力的模型,并声称它们更接近“类人(lèirén)思维(sīwéi)”。

然而,该论文认为,现有的(de)推理模型看似会“思考”,但其实并没有稳定、可理解(lǐjiě)的思维过程,所谓的推理思考只是一种“幻象”

苹果团队认为(rènwéi),在(zài)实验设计(shíyànshèjì)上,现有评估主要集中在既定的数学和编码基准上,通过判断模型最终答案是否正确来评估其能力,这种方式可能存在数据污染,即模型在训练时可能见过类似题目。此外,这些评估大都缺乏对(duì)“思考过程质量”的分析。

为此,苹果团队(tuánduì)设计了四类谜题环境,包括汉诺塔、跳棋交换(jiāohuàn)、过河问题和积木世界,通过精确控制谜题难度,来(lái)测试推理模型的推理能力

图片来源:《思考(sīkǎo)的幻象:通过(tōngguò)问题复杂性的视角理解推理模型的优势与局限》

推理模型并未(bìngwèi)解决模型能力瓶颈

实验结果显示,面对低(dī)复杂度任务,非推理模型(tuīlǐmóxíng)比(bǐ)与之对应的推理模型更准确高效。当问题复杂度适度增加,推理模型优势显现,性能超过非推理模型。

当问题难度超过一定临界点时,两类模型性能均(jūn)严重下降,准确率为零(líng)。这表明,推理模型并没有实际性地解决模型的能力瓶颈。

图片来源:《思考的(de)幻象:通过问题复杂性(fùzáxìng)的视角理解推理模型的优势与局限》

面对难题(nántí),直接“躺平”

同时,研究还发现,随着问题复杂度(fùzádù)的增加,推理模型在初期(chūqī)会(huì)投入更多的思考token。然而,当问题难度达到某个临界点时,模型推理能力就会发生崩溃,思考不增反降。

这表明(biǎomíng),推理模型(tuīlǐmóxíng)似乎存在一个内在的(de)“缩放限制”。当它预感到问题过于困难无法解决时,即便有充足的计算预算(token limit),它也会选择“躺平”,减少思考的努力。

过度思考(sīkǎo),连“抄作业”都不会

此外(cǐwài),研究人员(rényuán)不仅关注最终答案,还分析了推理痕迹——即给出答案之前生成的逐步“思考”过程。他们发现,在简单的问题中,模型往往在早期(zǎoqī)就找到了正确的解决方案,但随后(suíhòu)继续进行不必要的思考

在(zài)中等复杂度的问题中,模型往往在推理过程中走(zǒu)错路径,最终在“思考”的后期才找到正确的答案。但在高复杂度的问题中,准确度为零,推理变得混乱或不连贯(bùliánguàn)。

更令人担忧的(de)是,在汉诺塔(hànnuòtǎ)任务中,研究人员直接在提示词中提供了完整(wánzhěng)的解题算法,要求模型仅仅是“执行”这个算法。但模型的表现没有任何改善,依然在相同的复杂度上崩溃。

苹果论文引争议(zhēngyì):测试设计存在缺陷?

苹果此次发布的(de)论文在AI圈引发了不小的争议。

AI研究者Lisan al Gaib在复现(fùxiàn)论文中的汉诺塔测试后发现,模型根本不是因为(yīnwèi)推理能力不佳而失败,而是因为输出(shūchū)token限制

也就是说,不是模型不会解答(jiědá),而是无法输出如此多的内容。

GitHub软件工程师Sean Goedecke称,存在复杂性(fùzáxìng)阈值(yùzhí)并不意味着推理模型“实际上并不推理”

Sean表示,即使没有推理到第十一步,但前十步仍是(shì)在推理。“根据我自己测试的结果,模型很早就决定数百个算法步骤太多了,根本无法(gēnběnwúfǎ)尝试,因此(yīncǐ)它们干脆不开始。”

Sean举了一个例子,“有多少人能坐下来正确地算出一千步汉诺塔?有很多(hěnduō)人能做(zuò)到,但也有很多做不到。那么,那些算不出答案的人就没有推理能力吗(ma)?当然有!他们只是(zhǐshì)没有足够的认真和耐心去手动完成一千次算法的迭代。”

著名AI越狱提示词专家Plenny the Liberator直言(zhíyán),如果我是苹果CEO,看到我的团队(tuánduì)发表一篇只专注于记录当前方法局限性的论文,我会当场解雇所有(suǒyǒu)参与者。

AI博主henry表示,“苹果作为世界上最富有的公司,拥有(yōngyǒu)无与伦比的优势,全力押注(yāzhù)人工智能,许下无数承诺,但被所有人瞬间超越。赛程已进行两年,却(què)一无所获,于是写(xiě)了这篇论文说这一切都是不重要的。”

WWDC在即,苹果(píngguǒ)“酸了”?

图片来源(láiyuán):苹果官网截图

部分观点认为,苹果发布(fābù)质疑(zhìyí)推理模型能力的论文是“吃不到葡萄说葡萄酸”。

北京时间6月10日凌晨1点,苹果年度开发者大会(WWDC 2025)即将拉开帷幕。然而,外界普遍认为(pǔbiànrènwéi),这次活动(huódòng)在AI方面的进展可能有限,备受期待的Siri升级也将继续(jìxù)缺席。

据外媒报道,此次WWDC上苹果(píngguǒ)在AI方面的更新不会带来太多惊喜。科技记者马克·古尔曼发文透露,苹果今年WWDC中关于AI的内容预计会比较(bǐjiào)少(shǎo),甚至可能“令人失望”

在去年(qùnián)WWDC上发布苹果智能(Apple Intelligence)时,苹果曾高调(gāodiào)宣布对语音助手Siri进行“彻底重构”,新Siri应该更聪明、更懂用户、能够理解并执行复杂任务。然而(ránér),一年过去,Siri的(de)升级却迟迟未见实质性进展。

据多位前苹果员工透露(tòulù),苹果AI领域的进展不顺,部分原因在于公司内部领导(lǐngdǎo)风格的差异和组织间的协作问题

另一方面,苹果在(zài)AI领域的(de)探索(tànsuǒ),也(yě)受到了技术路线选择和隐私政策带来(dàilái)的双重影响。苹果一直以来引以为傲的“隐私至上”原则,在AI时代给(gěi)其带来了一些新的负担。一位熟悉苹果AI和软件开发工作的人表示:“在苹果公司开发AI的过程中,做任何事情都可能遇到很多‘不’,你必须与负责隐私的部门反复沟通协调才能推进工作。”

上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~