久久精品av,在线观看国产精品日韩av ,日本韩国高清

您當前的位置：創業 >

解決傳統架構記憶瓶頸 MiniMax發布新一代模型

2025-01-16 10:47:16 來源：新京報分享

1月15日，“AI六小虎”之一的MiniMax發布并開源了新一代01系列模型，包含基礎語言大模型MiniMax-Text-01和視覺多模態大模型MiniMax-VL-01。該系列模型使用多項突破性創新，以大規模應用線性注意力機制打破了Transformer傳統架構的記憶瓶頸。

未來，AI智能體有望成為最重要的產品形態，由于智能體處理的任務變得越來越復雜，涉及的數據量也越來越大，單個智能體的記憶以及多個智能體協作間的上下文都會變得越來越長。因此，長上下文能力與多模態處理能力的提升至關重要。

技術上，MiniMax-01系列模型首次將線性注意力機制擴展到商用模型的級別，受益于此次架構創新，該系列模型在處理長輸入的時候具有非常高的效率，接近線性復雜度。從規模效應、結構設計、訓練優化和推理優化等層面綜合考慮，MiniMax選擇模型參數量為4560億，其中每次激活459億，能夠高效處理400萬token的上下文，將有效替代Transformer傳統架構并開啟超長文本輸入時代。相較于Gemini等一眾全球頂級模型，MiniMax-01隨著輸入長度變長，性能衰減最慢。

值得注意的是，MiniMax還開源了Text-01模型、VL-01模型的完整權重，以便于更多開發者做有價值、突破性的研究。MiniMax方面表示，“我們認為這有可能啟發更多長上下文的研究和應用，從而更快促進Agent時代的到來，二是開源也能促使我們努力做更多創新，更高質量地開展后續的模型研發工作。”

關鍵詞：

>>返回頻道首頁

返回本網站首頁

[責任編輯：ruirui]

絲巾變色、火柴變玫瑰年貨節期間淘寶魔術道具銷量大增174%(2025-01-16)
解決傳統架構記憶瓶頸 MiniMax發布新一代模型(2025-01-16)
深瞳丨AI為藥物研發按下“快進鍵”(2025-01-16)
食用大量加工紅肉增加患癡呆癥風險(2025-01-16)
巖山科技：位列胡潤AI企業榜第7名(2025-01-16)
絲巾變色、火柴變玫瑰年貨節期間淘寶魔術道具銷量大增174%(2025-01-16)
解決傳統架構記憶瓶頸 MiniMax發布新一代模型(2025-01-16)
深瞳丨AI為藥物研發按下“快進鍵”(2025-01-16)
食用大量加工紅肉增加患癡呆癥風險(2025-01-16)
巖山科技：位列胡潤AI企業榜第7名(2025-01-16)
展位即將售罄！生物發酵系列展熱度狂飆，蓄勢待發！(2025-01-16)
上海城市經濟規模突破5萬億元(2025-01-16)
透視廣東經濟新答卷:14萬億元從何而來(2025-01-16)
江蘇文旅如何“接住”春晚流量(2025-01-16)
安徽外貿再進位，底氣和動力何在？(2025-01-16)
人口出生率下降幼兒園空置？代表委員建議這樣轉型(2025-01-16)
廣東首批外國人“證卡合一”實體卡發放(2025-01-16)
讓更多“浙里好成果”聯動資本走進企業(2025-01-16)
川渝一盤棋打造增長極(2025-01-16)
上海設立百億基金推動前沿領域成果轉化(2025-01-16)
來自遼沈大地的振興發展觀察:連續7個季度趕超的背后(2025-01-16)
開挖直徑達16.15米！“廈金號”盾構機在江蘇南通下線(2025-01-16)
今年廣西首趟中越年貨班列出發啦！載滿年味奔赴越南(2025-01-16)
廈門港迎來新年首條外貿新航線 “一帶一路”航線達96條(2025-01-16)
預計今天全社會跨區域人員流動量超1.6億人次(2025-01-16)
4.27億噸！三門峽盆地油氣調查取得重大突破(2025-01-16)
春運第二天民航預計發送旅客218萬人次(2025-01-16)
春運首日上海對外客運到發量101.8萬人次(2025-01-16)
9萬余名青年志愿者上崗開啟春運“暖冬行動”(2025-01-16)
1月20日起全國實施手機、智能手表等補貼細則來啦(2025-01-16)
2024年我國三大糧食作物化肥利用率達42.6%(2025-01-16)
全國首個！這一特醫食品實驗室有望造福“糖友”(2025-01-16)
田間地頭，奮斗腳步不停歇——臘月多地農業生產一線見聞(2025-01-16)
專家提醒：“三九”時節應警惕“冬病”高發(2025-01-16)
2024年全國優良水質斷面比例首次超過90%(2025-01-16)

熱點排行