本屆 NeurIPS 投稿量 21,575 篇，最終接收 5290 篇，錄用率僅 24.52%。

以下為今年最受矚目的成果全解析。

最佳論文獎(jiǎng)（4 篇）

第一篇來(lái)自斯坦福大學(xué)《Artificial Hivemind：The Open-Ended Homogeneity of Language Models (and Beyond)》。

研究團(tuán)隊(duì)推出 Infinity-Chat——一個(gè)覆蓋 26K 條開(kāi)放式真實(shí)查詢的全新大規(guī)模數(shù)據(jù)集，并首次構(gòu)建 LLM 開(kāi)放式任務(wù)的分類體系。通過(guò)在不同模型上進(jìn)行系統(tǒng)性評(píng)估，作者揭示了兩個(gè)關(guān)鍵現(xiàn)象：

1. 模型內(nèi)重復(fù)（intra-model repetition）：同一模型不斷生成類似回答

2. 模型間趨同（inter-model homogeneity）：不同模型之間輸出高度相似

這被作者形象地稱為 “人工蜂群思維”（Artificial Hivemind）——一種在開(kāi)放式生成任務(wù)中普遍存在的模式坍縮效應(yīng)。

論文不僅提出了數(shù)據(jù)集與評(píng)測(cè)框架，更直接對(duì)齊了現(xiàn)代 LLM 在“多樣性”“價(jià)值多元”“社會(huì)影響”上的核心問(wèn)題，被評(píng)審認(rèn)為是“對(duì)真實(shí)世界 AI 行為的全新基礎(chǔ)性理解”。

論文地址：https://openreview.net/pdf?id=saDOrrnNTz

第二篇來(lái)自阿里通義千問(wèn)和愛(ài)丁堡大學(xué)學(xué)者合作的《Gated Attention for Large Language Models》。

阿里團(tuán)隊(duì)的這篇論文首次系統(tǒng)性證明了門控機(jī)制在注意力中的關(guān)鍵作用，并被直接應(yīng)用于最新的 Qwen3-Next 模型。

核心貢獻(xiàn)包括：

• 證明門控提升性能的來(lái)源：增強(qiáng)非線性 + 提供輸入相關(guān)的稀疏性

• 消除 Attention Sink、Massive Activation 等模型頑疾

• 顯著提升 訓(xùn)練穩(wěn)定性，減少 Loss Spike

• 大幅增強(qiáng) 長(zhǎng)度外推（long-context extrapolation）能力

論文地址：https://openreview.net/forum?id=1b7whO4SfY

第三篇來(lái)自普林斯頓和華沙理工大學(xué)的《1000 Layer Networks for Self-Supervised RL》。

強(qiáng)化學(xué)習(xí)（RL）常被認(rèn)為無(wú)法有效訓(xùn)練超深網(wǎng)絡(luò)，而該論文直接把深度拉到了 1024 層，并在多個(gè)任務(wù)上實(shí)現(xiàn) 2×–50× 的性能提升。

論文證明，增加深度不僅提高成功率，甚至?xí)�根本�?/span>改變智能體探索行為。這項(xiàng)工作打破了長(zhǎng)期存在的“RL 不適合深度網(wǎng)絡(luò)”的隱性假設(shè)，有望成為未來(lái) RL 規(guī)�；�的關(guān)鍵范式。

論文地址：https://openreview.net/pdf?id=s0JVsx3bx1

第四篇來(lái)自巴黎文理研究大學(xué)、博科尼大學(xué)的《Why Diffusion Models Don’t Memorize》。

為什么在大規(guī)模訓(xùn)練下依舊能保持良好泛化？這篇論文給出了一個(gè)強(qiáng)有力的理論解釋。

首先，模型存在兩個(gè)關(guān)鍵時(shí)間點(diǎn)：

1. t_g：開(kāi)始生成高質(zhì)量樣本

2. t_m：開(kāi)始過(guò)擬合、記憶化

t_m 隨數(shù)據(jù)規(guī)模增長(zhǎng)而線性延后，t_g 基本不變。因此存在一個(gè)隨著數(shù)據(jù)變大而擴(kuò)大的安全區(qū)間。這一機(jī)制構(gòu)成了一種隱式動(dòng)態(tài)正則化。

論文地址：https://openreview.net/pdf?id=BSZqpqgqM0

最佳論文亞軍（3 篇）

第一篇是來(lái)自清華大學(xué)和上海交大的論文《Does RL Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?》。

這篇論文推翻了行業(yè)共識(shí)，那就是RLVR（帶可驗(yàn)證獎(jiǎng)勵(lì)的 RL）并不能真正讓模型獲得新推理能力。該結(jié)果挑戰(zhàn)了過(guò)去兩年 LLM 提升推理的一大主流路線。

論文地址：https://openreview.net/pdf?id=4OsgYD7em5

第二篇是來(lái)自肯特州立大學(xué)和普渡大學(xué)的《Optimal Mistake Bounds for Transductive Online Learning》。

該論文解決了 30 年理論難題，給出了傳導(dǎo)式在線學(xué)習(xí)最優(yōu)錯(cuò)誤上界：下界 Ω(√d)和上界 O(√d)。

兩者完全匹配，構(gòu)成 tight 結(jié)果。這項(xiàng)成果被視為教科書(shū)級(jí)的理論突破。

論文地址：https://openreview.net/pdf?id=EoebmBe9fG

第三篇來(lái)自麻省理工學(xué)院的《Superposition Yields Robust Neural Scaling》。

研究團(tuán)隊(duì)提出，表征疊加（superposition）是神經(jīng)網(wǎng)絡(luò)縮放定律的根本來(lái)源。

這項(xiàng)工作從機(jī)制層面解釋了為何模型在變大時(shí)損失能以冪律下降，是理解 scaling law 的關(guān)鍵一環(huán)。

論文地址：https://openreview.net/pdf?id=knPz7gtjPW

時(shí)間檢驗(yàn)獎(jiǎng)

獲得時(shí)間檢驗(yàn)獎(jiǎng)的論文是《Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks》。作者有任少卿、何愷明、Ross Girshick、孫劍。

十年前，這篇論文實(shí)現(xiàn)了極高精度與接近實(shí)時(shí)（5 FPS）檢測(cè)的統(tǒng)一，使神經(jīng)網(wǎng)絡(luò)目標(biāo)檢測(cè)模型得以真正部署到真實(shí)世界應(yīng)用中。

截至目前論文已被引用 超 56,700 次，其框架仍在眾多任務(wù)中派生演化。

論文地址：https://arxiv.org/pdf/1506.01497

Sejnowski-Hinton 獎(jiǎng)

獲獎(jiǎng)?wù)撐臑?2016 年發(fā)布的《Random synaptic feedback weights support error backpropagation for deep learning》 ，作者為 Timothy Lillicrap、Daniel Cownden、Douglas Tweed 和 Colin Akerman。

這篇論文提出極具影響的反饋對(duì)齊（Feedback Alignment）機(jī)制，證明神經(jīng)網(wǎng)絡(luò)無(wú)需精確對(duì)稱的反饋權(quán)重，也能逼近反向傳播，從而依靠局部學(xué)習(xí)規(guī)則實(shí)現(xiàn)有效訓(xùn)練。

這一機(jī)制催生了生物可行學(xué)習(xí)（biologically plausible learning）相關(guān)的大量研究。

值得一提的是，該獎(jiǎng)項(xiàng)本身也蘊(yùn)含一段學(xué)術(shù)界傳奇故事——Hinton 與 Sejnowski 的 40 年友情與諾獎(jiǎng)獎(jiǎng)金分享的承諾，最終促成了這一獎(jiǎng)項(xiàng)的設(shè)立。

論文地址：https://www.nature.com/articles/ncomms13276

參考資料：

https://mp.weixin.qq.com/s/4Jb_jiLQwrs7GK9V7NOjAg

https://blog.neurips.cc/author/mengyeren/

https://blog.neurips.cc/2025/11/26/announcing-the-2025-sejnowski-hinton-prize/