Ling-1T上線后，螞蟻再接再厲，推出全球首個開源的萬億參數(shù)思考模型 Ring-1T�；� Ling 2.0 架構(gòu)構(gòu)建，通過純自然語言推理，可達(dá)到 IMO 銀牌的推理能力。
早在 9 月 30 日，螞蟻就已放出 Ring-1T-preview 版本。該版本模型擁有出色的自然語言推理能力，一推出便在多項榜單上嶄露頭角。
此次發(fā)布主要披露了 Ring-1T 完整的訓(xùn)練流程，包括繼續(xù)通過大規(guī)�？沈炞C獎勵強(qiáng)化學(xué)習(xí)（RLVR）進(jìn)一步增強(qiáng)推理能力，并結(jié)合人類反饋強(qiáng)化學(xué)習(xí)（RLHF）提升通用表現(xiàn)，模型整體能力更均衡。
螞蟻官方表示，他們的目標(biāo)是進(jìn)一步釋放 Ring-1T 的推理潛力并提高長上下文下的對齊和效率。
出色的推理能力
Ring-1T 采用 Ling 2.0 架構(gòu)，并在 Ling-1T-base 基礎(chǔ)模型上進(jìn)行訓(xùn)練。該模型包含 1 萬億個總參數(shù)，其中 500 億個激活參數(shù)，支持高達(dá) 128K 個 token 的上下文窗口。
螞蟻還借助自主研發(fā)的 icepop 強(qiáng)化學(xué)習(xí)穩(wěn)定化方法和高效的強(qiáng)化學(xué)習(xí)系統(tǒng) ASystem，實現(xiàn)了 MoE 架構(gòu)強(qiáng)化學(xué)習(xí)的平滑擴(kuò)展——從數(shù)百億（Ring-mini-2.0）到數(shù)千億（Ring-flash-2.0）再到數(shù)萬億（Ring-1T）的參數(shù)規(guī)模，顯著提升了模型的深度推理和自然語言推理能力。
為了評估 Ring-1T 的深度推理能力，螞蟻選取了具有代表性的開源思維模型，如 Deepseek-V3.1-Terminus-Thinking、Qwen-235B-A22B-Thinking-2507、Gemini-2.5-Pro 和 GPT-5-Thinking 作為基準(zhǔn)測試。
首先，相比此前開源的預(yù)覽版，Ring-1T 在各項任務(wù)上展現(xiàn)出更加均衡的性能。此外，Ring-1T 在數(shù)學(xué)競賽 （AIME 25、HMMT 25）、 代碼生成 （LiveCodeBench、CodeForce）、 邏輯推理 （ARC-AGI-1）等高難度推理基準(zhǔn)測試中均取得了開源領(lǐng)域領(lǐng)先的性能。
在綜合任務(wù)（Arena-Hard-v2.0）、 醫(yī)療保健 （HealthBench）和創(chuàng)意寫作 （Creative Writing v3） 等測試中，Ring-1T 也展現(xiàn)出強(qiáng)勁的競爭力。
為了更客觀地分析 Ring-1T 的深度推理能力，團(tuán)隊還使用了今年 7 月舉辦的 IMO 2025（國際數(shù)學(xué)奧林匹克）和最近結(jié)束的 ICPC 2025 世界總決賽（國際大學(xué)生程序設(shè)計競賽世界總決賽）進(jìn)行了測試。
在 IMO 2025 的測試中，Ring-1T 一次性解決了問題 1、3、4 和 5，可達(dá)到 IMO 銀牌水平。在第三次嘗試中，它還對一個關(guān)于幾何證明的問題給出了近乎完美的答案。
問題 6 最具有挑戰(zhàn)性，IMO 2025 中沒有一位 AI 選手能夠正確解答。Ring-1T 給出了與 Gemini 2.5 Pro 相同的答案——“4048”（正確答案為 2112）。研究人員表示，通過持續(xù)優(yōu)化，Ring-1T 未來有潛力在 IMO 中一次性達(dá)到金牌水平。
在允許模型直接求解三次問題的測試中，團(tuán)隊分別對比了 GPT-5-Thinking、Gemini-2.5-Pro 和 Ring-1T 的解題能力。結(jié)果表明，Ring-1T 在國際頂級編程比賽中也表現(xiàn)出色。
全新的強(qiáng)化學(xué)習(xí)框架
隨著序列長度和訓(xùn)練步長的增加，訓(xùn)練引擎和推理引擎之間運(yùn)算符實現(xiàn)的差異會變得越來越明顯，尤其是在長序列生成和訓(xùn)練周期延長的情況下。
團(tuán)隊提出了 Icepop 算法，通過掩蔽雙向截斷技術(shù)校正分布，有效縮小了訓(xùn)練階段和推理階段之間的差距，從而“冷卻”了迅速擴(kuò)大的訓(xùn)練-推理差異。
為了保障萬億參數(shù)基礎(chǔ)模型的強(qiáng)化學(xué)習(xí)訓(xùn)練穩(wěn)定高效，團(tuán)隊還自主研發(fā)了高性能強(qiáng)化學(xué)習(xí)系統(tǒng)——ASystem。ASystem 采用 SingleController+SPMD 架構(gòu)，對內(nèi)存管理和權(quán)重交換挑戰(zhàn)進(jìn)行了精心優(yōu)化，可實現(xiàn)秒級零冗余的模型權(quán)重交換。
對于強(qiáng)化學(xué)習(xí)訓(xùn)練框架，研究團(tuán)隊基于大規(guī)模無服務(wù)器沙箱技術(shù)構(gòu)建了混合獎勵系統(tǒng)。該系統(tǒng)支持超過 10 種編程語言的執(zhí)行環(huán)境，并處理高達(dá) 10K/s 的請求吞吐量。系統(tǒng)目前已經(jīng)開源。
然而，Ring-1T 也有不少局限性。當(dāng)前版本存在身份識別偏差、語言混合、重復(fù)生成等問題。此外，由于其注意力機(jī)制仍沿用 Ling 2.0 的 GQA 方法，在長上下文場景下的推理效率仍有提升空間。
研究人員表示，Ring-1T 的訓(xùn)練仍在進(jìn)行中，將在未來的版本中繼續(xù)優(yōu)化這些問題。
參考資料：
https://huggingface.co/inclusionAI/Ring-1T
分享
