whisper.cpp v.1.6.2 源碼: Speech To Text 輕量級模型

輕量級的模型實現可以輕鬆地將其整合到不同的平台和應用程式中

可以在非常短時間內將音訊轉錄為文字…

如何在 Mac 上安裝 Whisper，一款令人驚嘆的 OpenAI 語音轉文字辨識系統

---

進楷優化

更快、更小的 Whisper：深入研究量化和 Torch 編譯

本文透過批次加速，增強基於 PyTorch 的 Whisper 模型性能。透過利用透過轉換器、實現靜態快取以及利用torch.compile，顯著加快模型的推理速度。此外，使用HQQ將 Whisper 模型量化為 4 位，以最小的降級保持轉錄質量，正如字錯誤率 (WER) 基準評估的那樣。

---

微調前後

---

RAGMeUp 資料集上進行 RAG

(英)在任何資料集上應用 LLM 功能的通用rag框架

可以在 CPU 上運行，但在使用預設指令模型時最好在任何具有至少 16GB vRAM 的 GPU 上運行

---

ChatTTS 對話場景設計的文本轉語音模型

(英)支持英文和中文兩種語言。最大的模型使用了10萬小時以上的中英文數據進行訓練

[laugh]和[uv_break], [lbreak]作為字級別的控制單元

chatTTS语音合成，效果真实如人类，开源免费！Windows、MacOS本地使用教程，附Windows整合包，Colab一键运行脚本。

---

Llama中文社區，所有代碼更新適配Llama3

GitHub – LlamaFamily/Llama-Chinese: Llama中文社區

Llama中文社區，Llama3在線體驗和微調模型已開放，實時匯總最新Llama3學習資料，已將所有代碼更新適配Llama3，構建最好的中文Llama大模型，完全開源可商用

---

Omost 可控 Text2Image

(英)Stable DIffusion 加上 LLM 令出圖隨心所欲

Omost = Almost AI Image Generation from lllyasviel

---

安裝 Hugging Face Transformers on Apple M1

(英)在配備 M1 晶片的 MacBook 上安裝 Hugging Face Transformer 的方法。

Along with Tensorflow and Tokenizers Package

---

Mistral 釋出首個程序(code)模型

Codestral: Hello, World!

Empowering developers and democratising coding with Mistral AI.

---

RAGapp – 整合 Agentic RAG 的最簡單方法

(英)GitHub – The easiest way to use Agentic RAG in any enterprise

The easiest way to use Agentic RAG in any enterprise – ragapp/ragapp

---

Vertex AI Agent Builder 企業級的生成式 AI

Vertex AI Agent Builder

建構、測試、部署及監控企業級的生成式 AI 虛擬服務專員和應用程式

使用自然語言或程式碼優先的方法建立 AI 虛擬服務專員。運用一系列的選項，輕鬆連結虛擬服務專員與企業資料。Vertex AI Agent Builder 是 Vertex AI Search and Conversation 的擴充及品牌重塑版本。

First Look at Vertex AI Agent Builder | Google's AI Agent Playbook

---

Verba: 超簡易本機 RAG chatbot

(英) 結合Llama3 做百分百的本機 RAG

Retrieval Augmented Generation (RAG) chatbot powered by Weaviate – weaviate/Verba

Golden RAGtriever 是一款開源應用程序，旨在為開箱即用的檢索增強生成 (RAG) 提供端到端、簡化且用戶友好的介面。只需幾個簡單的步驟，即可在本地透過 HuggingFace 和 Ollama 或透過 OpenAI、Cohere 和 Google 等 LLM 供應商探索您的資料集並輕鬆提取見解。

Open Source RAG running LLMs locally with Ollama

Verba: This Easy-to-Install RAG Chatbot is better than ChatGPT (works w/ Ollama, OpenAI, Gemini)

---