2025 年 2 月 16 日，DeepSeek 提出了一種名為「原生稀疏注意力」（NSA）
Natively trainable Sparse Attention 的新型注意力機制，目的是解決長傳統注意力機制運算量過大的問題。NSA 透過結合分層式 Token 壓縮與硬體加速設計，達成既能有效處理長文本，又不會顯著增加運算負擔的目標。其核心創新點在於演算法與硬體協同優化，保持甚至超越完整注意力模型的性能。實驗證明，NSA 在多項基準測試中表現出色，並且在解碼、前向傳播和反向傳播階段都顯著加速。
只要輸入 5 秒的聲音樣本，就可以體驗到 TTS 的聲音轉換，俗稱 “變聲”。而僅需要 1 分鐘的語音訓練數據，就可以微調模型，提升語音的相似度。GPT-SoVITS 目前支持英語、日語、韓語、粵語和中文。提供的 Web 工具令 TTS 操作相當方便，甚至提供歌曲與伴奏分離、自動語音訓練、中文自動語音識別(ASR)和文本標注，協助初學者創建訓練數據集和 GPT / SoVITS 模型。
阿里巴巴推出影片框架 Animate Anyone 2。這是一種新的角色圖像影片框架，能夠解決目前無法在影片中的角色與環境之間建立合理關聯。Animate Anyone 2 由輸入的影片中提取環境訊息，通過一種與形狀無關的遮罩策略來更好地描述角色與環境之間的關係，從而提高物件互動的真實性，最終能夠產生高品質的替換角色影片。
KTransformers 透過先進的核心優化技術來增強 Transformers 的體驗。KTransformers 特別為硬件資源有限的本地部署，並支援異構運算，例如量化模型的 GPU/CPU 卸載，令到不同的架構處理器可以協同工作。KTransformers 亦提供了一個 YAML 範本來呼叫特殊的優化指令。结果可以令 RTX 4090 本地運行 DeepSeek-R1、V3 的 671 B 满血版，以 24 Gig VRam 最高推理速度仍達到 14 tokens/s。當然，你亦需要保証足夠 D Ram。
DeepSeek-VL2 使用 MoE 混合專家 Mixture-of-Experts 的視覺語言模型，主要在於提升多模態理解能力。DeepSeek-VL2 在視覺問答、光學字元識別、文件理解和視覺基礎等方面表現出色。模型包含三個版本：Tiny、Small 和 Base，並提供了模型下載、Gradio web 介面範例。
這影片教你如何使用 DeepSeek AI 和 Crawl4AI 驅動網頁爬蟲，甚至無需編寫任何程式，就能輕鬆地從任何網站收集結構化數據。影片同時亦展示了一個實際案例，講解點樣為公司尋找潛在客戶，包括地址、企業名稱和聯絡方式等資訊，然後將數據匯入試算表進行整理和分析。
Transformer Lab 是個免費的開源 LLM 工作平台，方便進行微調、評估、匯出和測試，並支援唔同的推理引擎和平台。Transformer Lab 適用於擁有 GPU 或 TPU 的電腦，亦支援 MLX 的 M 系列的蘋果電腦。主要功能包括下載開源模型、智能聊天、計算嵌入、創建和下載訓練數據集、微調和訓練 LLM、以及使用 R A G 與文件互動。
Sonic 不單將音訊對應到嘴型，而是更全面理解音訊的內容和情感，進而產生更自然、更加生動的人像動畫。可以配合 ComfyUI_Sonic 使用。項目亦包括 Realtalk 即時同逼真的音訊驅動人臉生成技術。新增 frame number 選項，可以控制輸出影片的長度。亦可基於音頻長度。
分詞對訓練模型相當重要。簡單來說，就是將一段文本分割成很多單詞或者子單詞， 這些單詞或者子單詞將會通過一個表格被認知為名詞，專有名詞，或是助語詞之類，也就是將文章的詞彙轉為有意義的關建數值。這個 HuggingFace 的介紹包含了 CoLab 嘅筆記，你可以直接試用不同的分詞技術。
