從底部納瓦伊布科迪利 - ForkLog

# 從深處的Vibe編碼

從深層GitHub啟動開源AI模型的指南

在AI的發展中，出現了一個方向，即去中心化和開源代碼使人們能夠超越流行的商業解決方案。本地LLM允許私密地處理數據，靈活地根據自己的任務調整系統，並自主控制使用環境。同時，運行此類模型需要了解基本工具——從存儲庫和模型權重到雲端環境和技術規格。

在ForkLog的新文章中，我們將介紹如何零成本開始接觸自主AI模型，初學者應使用哪些資源，以及開源解決方案的開發者提供了什麼。

初次接觸

對於開源AI模型的開發者來說，有兩個主要平台——GitHub和Hugging Face。前者傳統上用於發布源代碼、文檔和安裝腳本，後者已成為模型權重、數據集和現成機器學習解決方案的全球中心。Hugging Face上發布了數十萬個訓練好的神經網絡，從適用於智能手機的微型語言模型、替代性媒體內容生成器，到面向科學家和愛好者的專業算法。

社群活躍度指標有助於選擇所需的模型。在GitHub上，它們以星星數量（stars）、更新頻率（commits）和問題解決速度（issues）來呈現。另外，檢查產品的來源和存儲庫的真實性也很重要。流行的開源套件經常成為網絡詐騙者的誘餌，他們以知名AI工具的名義傳播惡意代碼。

接觸本地AI模型的下一步是實際試用它們的功能。對於沒有強大硬體的用戶，有免費和條件免費的雲端平台。

最流行的解決方案是Google Colab —— 一種雲端環境，可直接從瀏覽器訪問圖形處理器（GPU）。免費訂閱允許在配備Nvidia Tesla T4加速器的系統上工作，平均時長兩到四小時，取決於負載。替代方案包括Kaggle Notebooks和Hugging Face Spaces。後者允許通過Gradio或Streamlit等現成的網絡界面與模型互動。

此外，在使用聯邦解決方案時，還應考慮法律方面。許多熱門項目採用經典授權條款，如MIT或Apache 2.0，允許將其用於商業目的，且限制極少。但也存在特定做法。Meta以其自己的Llama 3.1 Community License發布旗艦模型，該授權要求如果服務的每月用戶超過7億，則需獲得特殊許可。嚴格的Copyleft授權，如GNU General Public License，也存在，要求公開所有衍生產品的代碼。

我個人的ChatGPT替代品

從眾多通用自主LLM（類似ChatGPT或Gemini）中選擇所需模型時，基於盲測和性能指標（如Open LLM Leaderboard和Chatbot Arena）的獨立排名會有所幫助。

開源LLM儀表板。來源：llm-stats。

該領域的黃金標準是Meta開發的Llama模型系列和阿里的Qwen。這些模型在長上下文方面表現良好，能處理多步驟查詢，適合Vibe編碼和程式設計任務。得益於開源框架Ollama，它們的安裝只需一條命令。

在為撰寫本文進行的測試中，qwen3.5:2b模型成功在一台沒有獨立顯卡、配備Core i7、8GB RAM和SSD的筆記本電腦上運行，同時關閉了即時通訊軟體和瀏覽器等重量級應用程式。

來源：Ollama。

「2b」代表20億個參數。數值越高，神經網路能捕捉的複雜關聯就越多。例如，2b模型能學習基本語法和簡單指令，而122b模型則能記住量子物理學的事實、法律文件的細微差別，並學會提前十步規劃任務。每個參數都會佔用硬碟和（最重要的是）記憶體的物理空間。2b模型使用了約4-5GB RAM，是這台機器能運行的最大模型。同時，對於最簡單的查詢「你好！」，模型生成了將近三分鐘。

截圖：ForkLog。

模型的大致分級：

• 0.5b-2b。速度快，可在舊款筆記本和智能手機上運行。適合簡單任務（命令路由、基本摘要、短代碼自動補全）。在複雜查詢上容易產生幻覺；
• 3b-4b。速度與品質的平衡。適合移動設備、智能家居和自動化任務。例如，可要求聊天機器人調暗房間燈光、打開空調或升起道閘；
• 7b-9b。需要約6-8GB可用記憶體。具有上下文理解和深度邏輯的強大模型，適合程式設計和處理大型文本。

在最近關於Web3 Vibe編碼的研究中，Vladimir Slipers發現，對於MacBook Air 16GB RAM級別的機器，qwen2.5-coder:7b、qwen3:8b、llama3.2:3b、deepseek-r1:8b適用。更強大的模型則需要投資配備高端顯卡的強勁PC，或部署在租用伺服器上。

私密數據處理、3D列印與用戶保護

與開源AI模型互動的方式取決於用戶的熟練程度和硬體配置。有些項目打包成方便的安裝程式（.EXE檔案）或開箱即用的行動應用程式。其他的則是廢棄的GitHub存儲庫，安裝過程變成與過時庫衝突的數小時搏鬥。

當今的應用AI模型遠不止用於文字生成。即使粗略分析生態系統，也能找出數十種針對特定任務的專業工具。

影片與3D處理：

• CogVideoX。智譜AI的開源模型，用於根據文字描述生成影片。能創建逼真的短片，擁有開放權重，可在Jupyter或Colab等環境中部署，前提是有足夠的視訊記憶體；
• DepthCrafter。從影片中提取景深資訊的工具。對VFX和3D建模專業人士有用。它允許為動態場景的每個幀創建高精度深度圖；
• TRELLIS (Morfx 3D)。先進的3D資產生成系統。該項目允許從圖像或文字查詢創建高品質三維模型，並針對遊戲引擎使用進行優化。

使用Morfx 3D模型的Web版本將火車照片轉換為可處理和3D列印的物體。截圖：ForkLog。

音訊與辨識：

• CosyVoice。支援語音克隆的多語言語音合成模型。能生成逼真的音軌，保留原始說話者的語調和情感色彩；
• Whisper-WebGPU。OpenAI語音辨識模型的實現，重寫為使用WebGPU API直接在瀏覽器中運行。這意味著音訊轉錄在本地進行，無需將音訊檔案傳輸到第三方伺服器，確保完全私密；
• BirdNET-Analyzer。康乃爾大學的神經網路，用於通過鳥鳴識別鳥類物種。與流行的Merlin Bird ID應用程式（部分功能依賴雲端處理）不同，BirdNET-Analyzer完全在本地控制分析過程，可用於大量處理數GB的野外錄音。

來源：BirdNET。

程式設計與用戶保護：

• Screenshot-to-Code。將網頁或行動應用截圖轉換為乾淨HTML、Tailwind或React代碼的工具。雖然該項目常與付費API（Claude、GPT-4）配合使用，但其架構允許連接開源多模態模型；
• MinerU/Magic-PDF。從PDF文檔中精確提取結構化數據的項目。模型能識別文字、數學公式和表格，將複雜排版轉換為Markdown格式；
• Fawkes。對圖像進行肉眼不可見的修改，干擾人臉辨識系統識別個人。通過.EXE檔案本地加載到PC，可用於社交媒體頭像；
• Nightshade。「毒化」圖片的像素，以擾亂AI公司的訓練算法（若未經許可）。例如，對於「狗」的查詢，模型會生成貓的圖像。

美國總統唐納德·川普使用Fawkes前的肖像。來源：美國國會圖書館。 經過Fawkes算法處理後。截圖：ForkLog。

與庫的搏鬥與首次成功

在安裝了具有清晰UI/UX的AI模型後，需要弄清楚在雲端免費部署一個重量級存儲庫有多容易。

初創公司Black Forest Labs的FLUX.1是領先的圖像生成模型之一，與企業級Midjourney和Nano Banana競爭。在擁有必要硬體的情況下，該軟體可以離線自主運行，並允許繞過審查。

測試中使用了最輕量的免費版本FLUX.1 Schnell。為方便與開源解決方案互動，開發者創建了Ollama等目標框架。對於圖像生成，ComfyUI和Forge等圖形界面很受歡迎。

在嘗試安裝Forge的實現——cagliostro-forge-colab——時，花費了整整一次Google Colab的GPU訪問會話。問題在於經典的新手錯誤——Python版本、雲端環境和模型本身不匹配。使用免費版Gemini 3 Flash進行了四小時的Vibe編碼，但未能成功。

最終，不得不放棄安裝框架，直接部署FLUX.1，但改到另一天的下一個免費會話。

實際上，免費的Google Colab更適合在週末使用：此時平台通常會提供更長的訪問時間。

模型佔用了約34GB的雲端SSD磁碟空間。但所有相關的安裝過程最終使用了約86GB。

Google Colab雲端機器使用的資源。截圖：ForkLog。

最初階段，FLUX.1 Schnell模型缺乏Nvidia Tesla T4加速器的視訊記憶體。未經調整的配置達到了GPU限制，直到透過一系列簡單的程式碼實驗，Gemini 3 Flash幫助進行了修改，採用了分步載入和記憶體清理。結果，在生成的過程中，從可用的16GB視訊記憶體中使用了約3GB。

截圖：ForkLog。

創建一張圖片的過程耗時約七分鐘。考慮到這是開源模型的免費版本，結果令人驚喜。

使用FLUX.1 Schnell生成的圖片。來源：ForkLog。當嘗試多次生成搖滾歌手瑪麗蓮·曼森（Marilyn Manson）的維多利亞風格形象時，FLUX.1 Schnell可能未能識別對特定人物的指涉，只再現了通用的視覺模板。

使用FLUX.1 Schnell根據「畫出維多利亞風格的瑪麗蓮·曼森」提示詞生成的表演者圖像。來源：ForkLog。

複雜而驚人的

開源神經網路早已不僅用於文字和圖像生成，還用於更狹窄和不尋常的任務。AI架構的非標準應用的一個突出例子是GameNGen模型，它能夠即時重現經典射擊遊戲DOOM的遊戲過程。

來源：GameNGen/Github。GameNGen並非傳統意義上模擬遊戲，而是逐幀生成影片：模型預測用戶操作（如移動或射擊）後下一幀應有的樣子。因此，敵人、物體和場景變化並非由引擎「計算」，而是以最可能的結果視覺再現。

在自主系統中，Voyager項目脫穎而出——一個用於Minecraft的AI代理。它自主探索遊戲世界、收集資源並持續自我學習。

學術界也積極將開源AI應用於自身需求，例如使用算法解讀歷史。因此，特拉維夫大學和慕尼黑大學的研究人員訓練了Akkademia模型，直接將古代阿卡德楔形文字翻譯成英語。它能夠處理數千塊受損的泥板，將考古學家的工作效率提升數十倍。

MinD-Vis項目同樣有趣。該系統分析功能性MRI數據，並嘗試重建受試者在掃描時觀察到的圖像。也就是說，根據腦活動模式生成人所見的解釋。

此類倡議證明，人工智慧已成為認知和建模現實的通用工具。從封閉的企業API向開源代碼的轉變，正在塑造全新的技術發展典範。如今，任何研究人員、開發者或愛好者都能部署基礎設施，而就在幾年前，這還需要對伺服器農場進行數百萬美元的投資。

生態系統的發展不可避免地伴隨著用戶體驗的改善：直觀的界面和自動化部署環境取代了複雜的腳本。使用Ollama和Forge等工具表明，隱私、無審查和高性能可以在一個軟體解決方案中和諧共存。今日AI產業的未來在很大程度上取決於開源生態系統能保持多強、多可擴展和獨立。