avatar
文章
212
標籤
444
分類
9
首頁
頁面
  • 歸檔
  • 標籤
  • 分類
關於
kyosora 筆記
搜尋
首頁
頁面
  • 歸檔
  • 標籤
  • 分類
關於

DeepSeek

DeepSeek V4 一直跳票?從華為晶片到兆級參數,中國 AI 的硬體困境
發表於2026-03-14|AI工具實戰AI產業觀察
DeepSeek V4 原定三月第一週發布。現在三月過了一半,官方一個字都沒說。 這不是一般的軟體延遲。這是中國 AI 產業第一次嘗試在非 NVIDIA 硬體上訓練兆級參數模型,而現實比預期殘酷。 V4 到底是什麼先說結論:如果 DeepSeek V4 真的發布,它會是目前最大的開源模型。 兆級參數的 Mixture-of-Experts(MoE)架構,每個 token 只啟用約 320 億參數。Top-16 路由策略——模型裡有上千個「專家」,每次推理只叫醒最相關的 16 個。這意味著你可以用 320 億參數的算力成本,得到兆級參數的知識容量。 V4 的架構有三個值得注意的設計: Manifold-Constrained Hyper-Connections。 解決 MoE 的老問題:專家之間不夠互通。傳統 MoE 的專家各做各的,資訊共享效率差。這個機制讓跨專家的資訊利用率提升了約 40%,同時不增加計算成本。這不是微調,是結構性改進。 Engram Conditional Memory。 處理超長 context 時動態維護關鍵資訊索引。白話說:在 100 萬 token 的...
100 兆 tokens 告訴你:為什麼降價 10% 也救不了你的 LLM 產品
發表於2025-12-09|AI工具實戰AI產業觀察
你以為 AI 模型競爭就是打價格戰? OpenRouter 剛發佈的報告分析了 100 兆 tokens 的真實使用資料,發現一個驚人事實:**降價 10%,使用量只增加 0.5-0.7%**。 更扯的是,Claude 價格最貴,卻占了編程市場 60%。 到底發生什麼事? 為什麼這份報告值得關注?這不是又一份「AI 趨勢預測」報告。 OpenRouter 是全球最大的 LLM API 聚合平台: 支援 300+ 模型 60+ 供應商(OpenAI、Anthropic、Google、DeepSeek...) 100 兆 tokens 真實使用資料(2024/11 - 2025/11) 這份報告揭露了三個開發者必須知道的反直覺發現。 發現 1:價格戰是假議題資料打臉時刻 策略 實際結果 降價 10% 使用量 ↑ 0.5-0.7% Claude(最貴) 編程市場占 60% DeepSeek(便宜) 使用者流失後又回流 報告原話: "需求缺乏價格彈性,使用者優先考慮品質和可靠性而非價格。" 為什麼會這樣?工程師選模型的真實決策流程:...
DeepSeek-R1 憑什麼便宜又能推理?拆解 GRPO 與 MoE,還原真實的效能和成本
發表於2025-01-24|AI工具實戰
DeepSeek-R1 在 2025 年 1 月 20 日發布時,最讓人意外的不是它會推理,而是它又會推理又便宜。同樣一題複雜推理,成本可能只有 GPT-4o 的零頭。 便宜加上能推理,這組合怎麼來的?這篇拆 R1 背後的兩個關鍵——它怎麼學會推理、架構為什麼省——順便把網路上幾個對不上的數字澄清掉。 R1 怎麼學會推理:GRPOR1 會推理,靠的是強化學習,而且是一種叫 GRPO(Group Relative Policy Optimization)的做法。 傳統訓練推理模型,常要人工標註大量「正確的推理步驟」餵給模型學。GRPO 換了個思路:對同一個問題讓模型生成一組答案,用組內互相比較的相對好壞當獎勵訊號,不需要額外訓練一個 critic 模型來打分,也不靠人工標推理軌跡。 最有意思的是它的前身 R1-Zero——純靠這套強化學習,模型自己「長出」了長鏈推理的能力。AIME 2024 這個數學競賽 benchmark,pass@1 從 15.6% 一路漲到 71.0%,中間沒有人教它該怎麼一步步想。 實際使用時,R1 會把思考過程放在 <think></t...
avatar
kyosora
技術探索與學習分享
文章
212
標籤
444
分類
9
GitHub
最新文章
日產 3 萬 7 千行 AI 程式碼很猛?有人掀開 YC 執行長網站的引擎蓋
日產 3 萬 7 千行 AI 程式碼很猛?有人掀開 YC 執行長網站的引擎蓋2026-07-08
Fable 5 只有一次機會,我沒叫它寫程式:讓最強模型幫接班的弱模型立制度
Fable 5 只有一次機會,我沒叫它寫程式:讓最強模型幫接班的弱模型立制度2026-07-07
封 AI 爬蟲卻把 Googlebot 一起擋掉?Cloudflare 新版 AI 流量控制的三個分類與一個期限
封 AI 爬蟲卻把 Googlebot 一起擋掉?Cloudflare 新版 AI 流量控制的三個分類與一個期限2026-07-02
乾淨的 GitHub repo 也能讓 Claude Code 幫你開反向 shell
乾淨的 GitHub repo 也能讓 Claude Code 幫你開反向 shell2026-07-02
18 天前 Fable 5 被政府按掉,今天 Anthropic 連 Sonnet 5 一起還回來
18 天前 Fable 5 被政府按掉,今天 Anthropic 連 Sonnet 5 一起還回來2026-07-01
分類
  • AI工具實戰86
  • AI產業觀察44
  • 前後端開發17
  • 工具與生產力45
  • 程式設計53
  • 系統與維運17
  • 職涯與反思20
  • 資料庫11
  • 資訊安全21
標籤
LLMClaudeDeepSeekGeminiAI 趨勢OpenRouterCSS本地LLMbenchmarkATLAS成本分析AI AgentNemoClawOpenClawGTC 2026框架選型Claude Code多 Agent 系統開發者工具GitHub 開源CursorTemporal系統可靠性工程實踐Firefox安全漏洞AI安全研究LLM應用GitHub TrendingAI投資產業分析開發者生態NVIDIAAI Coding Assistant安全性開發經驗GPT-5.4Computer Use自動化
歸檔
  • 2026年07月 5
  • 2026年06月 22
  • 2026年05月 17
  • 2026年04月 5
  • 2026年03月 47
  • 2026年02月 3
  • 2026年01月 2
  • 2025年12月 2
網站資訊
文章數量 :
212
運行時間 :
總字數 :
395.3k
最後更新時間 :
© 2024 - 2026 By kyosora
搜尋
資料載入中