訓練自己的大模型知識庫｜ 零成本 – YouTube

手把手教大家如何去訓練自己的大模型知識庫(rag)，並且通過llama+langchain+faiss搭建一套基於大模型的問答系統 (Google colab)

教你如何训练自己的大模型知识库｜ huggingface | llama ｜langchain ｜faiss | 零成本 ｜ google colab

---

使用 Llama3 做 Embedding

Get Embeddings From Llama3

---

Ollama 擁有 OpenAI 兼容 API 測試

Finally Ollama has an OpenAI compatible API

---

人工智慧遊樂場 | 並排比較頂級人工智慧模型

(英) GPT-4o，Mistral 至 Llama3 的即時比較

Chat and compare OpenAI GPT, Anthropic Claude, Google Gemini, Llama, Mistral, and more.

---

Meta Chameleon – 多模態開源模型

(英)Meta 的 FAIR 團隊公開 Chameleon 模型於研究用

Chameleon 的成功在於其完全基於 Token 的架構。模型將會同時學習圖像和文字，進行聯合推理，這對於分開編碼器的模型來說，令推理更接近 Reasoning 的要求，儘管存在一些限制。

---

Florence-2 (Microsoft)開源模型 – 影像識別

(英)輕量級視覺語言模型

模型在字幕、物件偵測、接地和分割等任務中展示了強大的零樣本和微調功能。

繼 Meta 推出多模態 open source 模型，Microsoft 也不甘後人，推出影像識別 Open source Florence-2 模型

儘管尺寸很小，但它所取得的結果與大許多倍的模型（如 Kosmos-2）相當。該模型的優勢不在於複雜的架構，而在於大規模的 FLD-5B 資料集，其中包含 1.26 億張影像和 54 億個綜合視覺註釋。

---

MoA : 合拼多模型

(英)MoA 允許您將多個小型模型（稱為「代理人」）组合成一個更強大的模型。

透過採用每層包含多個 LLM 代理程式的分層架構，MoA 僅使用開源模型，在 AlpacaEval 2.0 上的得分為 65.1%，顯著優於 GPT-4 Omni 的 57.5%！

---

用 ORPO 微調 Llama3

(英)使用 ORPO 和 TRL 函式庫對新的 Llama 3 8B 模型進行微調。

程式碼已放在 Google Colab 和 GitHub 上。

---

LLM Analytics 可視化用量監察工具

GitHub – labmlai/inspectus: LLM Analytics

法學碩士分析。透過在 GitHub 上建立帳戶來為 labmlai/inspectus 開發做出貢獻。

Inspectus 是一款適用於大型語言模型的多功能視覺化工具。它透過易於使用的 Python API 在 Jupyter 中流暢運行。 Inspectus 提供多種視圖，提供語言模型行為的不同見解。

---

建構一個能夠傾聽和觀察世界的人工智慧助手（逐步教學）(英)

Building an AI assistant that listens and sees the world (Step by step tutorial)

---