新模型可以通過驗(yàn)證器-生成器循環(huán)進(jìn)行自驗(yàn)證推理，代表自主數(shù)學(xué)發(fā)展取得重大飛躍。

邵智宏為此篇論文一作，也是之前提出 GRPO 的 DeepSeekMath 7B 一作。

自驗(yàn)證模型

實(shí)驗(yàn)表明，正確的答案并不能保證推理過程的正確性。此外，許多數(shù)學(xué)任務(wù)需要嚴(yán)謹(jǐn)?shù)闹鸩酵茖?dǎo)，這使得最終答案獎(jiǎng)勵(lì)不再適用。

為了突破深度推理的極限，DeepSeek 認(rèn)為有必要驗(yàn)證數(shù)學(xué)推理的全面性和嚴(yán)謹(jǐn)性。自驗(yàn)證對(duì)于擴(kuò)展測(cè)試時(shí)間計(jì)算能力尤為重要，特別是對(duì)于那些尚無已知解決方案的開放性問題。

為了實(shí)現(xiàn)可自驗(yàn)證的數(shù)學(xué)推理，團(tuán)隊(duì)研究了如何訓(xùn)練一個(gè)基于大型語言模型的定理證明驗(yàn)證器，再以驗(yàn)證器為獎(jiǎng)勵(lì)模型訓(xùn)練一個(gè)證明生成器，并激勵(lì)生成器在最終定稿前盡可能多地識(shí)別和解決自身證明中的問題。

為了在生成器性能提升的同時(shí)保持生成與驗(yàn)證之間的差距，DeepSeek 團(tuán)隊(duì)提出擴(kuò)展驗(yàn)證計(jì)算能力，以自動(dòng)標(biāo)記新的難以驗(yàn)證的證明，從而創(chuàng)建訓(xùn)練數(shù)據(jù)以進(jìn)一步改進(jìn)驗(yàn)證器。

DeepSeekMath-V2 展現(xiàn)了強(qiáng)大的定理證明能力，在 IMO 2025 和 CMO 2024 上取得了金牌水平的成績(jī)，并在 Putnam 2024 上取得了接近完美的 118/120 分（測(cè)試時(shí)間計(jì)算量已擴(kuò)展）。

這些結(jié)果表明，可自我驗(yàn)證的數(shù)學(xué)推理是一個(gè)可行的研究方向，可能有助于開發(fā)更強(qiáng)大的數(shù)學(xué)人工智能系統(tǒng)。

驗(yàn)證方法

團(tuán)隊(duì)還引入了元驗(yàn)證：這是一個(gè)輔助評(píng)估過程，用于評(píng)估驗(yàn)證者識(shí)別出的問題是否確實(shí)存在，以及這些問題是否根據(jù)評(píng)估標(biāo)準(zhǔn)在邏輯上證明了預(yù)測(cè)的證明分?jǐn)?shù)。

該元驗(yàn)證器會(huì)生成一份分析中發(fā)現(xiàn)問題的摘要，并給出一個(gè)質(zhì)量評(píng)分，用于衡量驗(yàn)證器分析的準(zhǔn)確性和合理性。

利用訓(xùn)練好的元驗(yàn)證器 ??，研究人員通過將元驗(yàn)證反饋整合到獎(jiǎng)勵(lì)函數(shù)中來增強(qiáng)驗(yàn)證器的訓(xùn)練。

證明驗(yàn)證器和生成器形成了一個(gè)協(xié)同循環(huán)：驗(yàn)證器改進(jìn)生成器，而隨著生成器的改進(jìn)，它會(huì)生成新的證明，從而挑戰(zhàn)驗(yàn)證器當(dāng)前的性能。

為了提高標(biāo)注效率，研究人員對(duì)每個(gè)證明生成多個(gè)驗(yàn)證器分析，以便發(fā)現(xiàn)潛在問題供人工審核。

通過人工智能輔助標(biāo)注過程，團(tuán)隊(duì)發(fā)現(xiàn)了兩個(gè)事實(shí)：

1. 擴(kuò)大驗(yàn)證器樣本規(guī)模可以提高發(fā)現(xiàn)有缺陷證明中真正問題的概率；

2. 審查驗(yàn)證者發(fā)現(xiàn)的問題實(shí)際上就是元驗(yàn)證，對(duì)于語言學(xué)習(xí)來說，掌握元驗(yàn)證也更節(jié)省樣本成本。

這兩個(gè)發(fā)現(xiàn)使得進(jìn)一步提高自動(dòng)化程度成為可能。

實(shí)驗(yàn)結(jié)果

在所有 CNML 級(jí)別問題類別（代數(shù)、幾何、數(shù)論、組合數(shù)學(xué)和不等式）中，DeepSeekMath-V2 的性能始終優(yōu)于 GPT-5-Thinking-High 和 Gemini 2.5-Pro ，展現(xiàn)了其在各個(gè)領(lǐng)域卓越的定理證明能力。

通過對(duì) IMO 2024 短名單題目進(jìn)行順序精煉，模型可以提升證明質(zhì)量的過程。每個(gè)題目有 32 個(gè)獨(dú)立的精煉線程。用戶自行選出的最佳證明的驗(yàn)證得分顯著高于線程平均水平，這表明生成器能夠準(zhǔn)確評(píng)估證明質(zhì)量。

自驗(yàn)證能夠有效地指導(dǎo)迭代改進(jìn)。生成器能夠區(qū)分高質(zhì)量證明和有缺陷的證明，并利用這種自我感知能力系統(tǒng)地改進(jìn)其數(shù)學(xué)推理能力。

模型解決了 IMO 2025 的 6 道題中的 5 道，以及 CMO 2024 的 4 道題，并在另一道題上獲得了部分分?jǐn)?shù)，在這兩項(xiàng)頂尖高中數(shù)學(xué)競(jìng)賽中均取得了金牌成績(jī)。

在 Putnam 2024（頂尖的本科生數(shù)學(xué)競(jìng)賽）中，模型完全解決了 12 道題中的 11 道，剩余的 1 道題也僅有少量錯(cuò)誤，最終得分 118/120，超過了人類最高分 90 分。

模型的方法在基礎(chǔ)數(shù)據(jù)集上優(yōu)于 DeepMind 的 DeepThink（IMO 金牌得主），在高級(jí)數(shù)據(jù)集上也保持競(jìng)爭(zhēng)力，同時(shí)顯著優(yōu)于所有其他基線模型。但是，IMO 級(jí)別最難的問題仍然具有挑戰(zhàn)性。

值得注意的是，對(duì)于尚未完全解決的問題，生成器通常能夠識(shí)別出其證明中存在的真實(shí)問題，而完全解決的問題則通過了全部 64 次驗(yàn)證嘗試。這表明基于 LLM 的驗(yàn)證器能夠自動(dòng)評(píng)估以前被認(rèn)為難以驗(yàn)證的證明。

參考資料：

https://github.com/deepseek-ai/DeepSeek-Math-V2/blob/main/DeepSeekMath_V2.pdf