Jambo

從網頁對話到 coding agent共 9 篇

  1. 01離開網頁對話讓 agent 直接讀取電腦上的檔案，不必再複製貼上。
  2. 02LLM 與 agent 的運作原理Agent 為何會遺忘與編造，以及如何檢查它的結論。
  3. 03寫 prompt 與選模型指令怎麼寫、模型怎麼選，決定結果與用量。
  4. 04CSV、TeX 與 Markdown把 Excel 與 PDF 換成 LLM 讀得準的純文字。
  5. 05規範檔與 skill把每次對話都要重講的話寫成規範檔與 skill。
  6. 06版本控制以提交取代 final_v2，改壞了可以退回。
  7. 07整理專案讓專案換個人、換個地方、換個時間仍能執行。
  8. 08高效計算跑一整天的 code，先量測，再向量化與平行化。
  9. 09遷移至 VS Code把編輯器、agent 與 Git 面板放進同一個視窗。

NVIDIA邊緣運算探索：解鎖AI視覺與大模型的無限潛能共 30 篇

  1. 01多領域賦能，邊緣運算引領行業智慧化轉型邊緣運算的優勢、類型與挑戰，以及臺灣在邊緣 AI 晶片的位置。
  2. 02為什麼我選擇NVIDIA Jetson作為邊緣開發設備從創客比賽的經驗談起，說明選擇 Jetson 的理由。
  3. 03如何選擇一款適合的NVIDIA Jetson開發套件依預算、效能與應用場景，挑出合適的 Jetson 開發套件。
  4. 04我主要使用的設備：Jetson Orin NANO開發套件開箱開箱 Jetson Orin Nano 開發套件，認識各個介面。
  5. 05如何在NVIDIA Jetson Orin NANO上把系統刷到SSD上？以 SDK Manager 將 JetPack 系統安裝到 NVMe SSD。
  6. 06Jetson開發者必裝的一個實用工具安裝 jetson-stats，以 jtop 監看 CPU、GPU、功耗與溫度。
  7. 07我主要的使用設備：NVIDIA Jetson AGX Orin開發套件開箱Jetson AGX Orin 的定位、規格比較與開箱。
  8. 08Jetson AI Lab實戰啟航：寫在最前面為何以 Jetson Orin Nano 學 AI 應用，以及後續實作的安排。
  9. 09Jetson AI Lab實戰啟航：環境配置設定 Docker runtime 並安裝 jetson-containers 環境。
  10. 10Jetson AI Lab實戰啟航3-TGW智能助手以 text-generation-webui 在 Jetson 上建置本地對話助手。
  11. 11Jetson AI Lab實戰啟航4-SDW文生圖以 stable-diffusion-webui 在 Jetson 上由提示詞生成圖片。
  12. 12從火災檢測到智慧監控：Jetson Orin與生成式AI的完美搭配以 Metropolis 微服務與 VILA 模型，在 Jetson Orin 上檢測火災。
  13. 13使用 NVIDIA NIM 和 Microsoft Phi-3-Vision 進行高效 OCR 識別：從食品包裝到多領域應用的實踐指南以 NVIDIA NIM 呼叫 Phi-3-Vision，辨識食品包裝上的文字。
  14. 14Jetson AI Lab實戰啟航6-Ollama的Webui智慧助手以 Open WebUI 為 Ollama 加上區域網路可用的網頁介面。
  15. 15Jetson AI Lab 實戰啟航7-執行 RAG 功能的 Jetson Copilot以 Jetson Copilot 讓本地 LLM 依自己的文件回答。
  16. 16Jetson AI Lab實戰啟航8-多模態搜圖的NanoDB以 NanoDB 在本機用文字或圖片搜尋圖片。
  17. 17Jetson AI Lab實戰啟航9-建立EffectiveViT測試環境在 Jetson 上建立 EfficientViT 的測試環境。
  18. 18Jetson AI Lab實戰啟航10-OWL-ViT應用以 OWL-ViT 依文字提示偵測物件，省去人工標註。
  19. 19Jetson AI Lab實戰啟航11-SAM2應用以 SAM2 分割圖片與影片中的物件。
  20. 20Jetson AI Lab實戰啟航12-NanoLLM開發平台(1)：Python API接口說明NanoLLM 的 Python API 有哪幾類，各自提供什麼。
  21. 21Jetson AI Lab實戰啟航13-NanoLLM開發平台(2)：語音對話助手以 NanoLLM 的 web_chat 搭建支援中文的語音對話助手。
  22. 22Jetson AI Lab實戰啟航14-NanoLLM開發平台(3)：多模態語音助理將語音助理的模型換成 VLM，使其能看圖回答。
  23. 23Jetson AI Lab實戰啟航16-NanoLLM開發平台(4)：視覺分析助手以 NanoLLM 的影片 API 與 VILA 分析影片與攝影機畫面。
  24. 24Jetson AI Lab實戰啟航17-NanoLLM開發平台(5)：視覺資料庫分析助手以 video_query 在瀏覽器中對影片畫面提問並查詢資料庫。
  25. 25Jetson AI Lab實戰啟航18-NanoLLM開發平臺(6)：AI Agent功能啟動 Agent Studio，認識 NanoLLM 內建的 agent 與 plugin。
  26. 26Jetson AI Lab實戰啟航5-Ollama指令模式的智能助手以 Ollama 在終端機下載並執行本地 LLM。
  27. 27Jetson AI Lab實戰啟航19-NanoLLM開發平臺(7)：Plugins解析NanoLLM 的 plugin 格式、基礎類型與原始碼解析。
  28. 28Jetson AI Lab實戰啟航20-NanoLLM開發平台(8)：創建Agent在 Agent Studio 中連接 plugin，組出分析影片的 agent。
  29. 29Jetson AI Lab實戰啟航21-強大的DeepStream 7DeepStream 7 的新功能，以及在 Jetson 上的安裝。
  30. 30Jetson AI Lab實戰啟航22-體驗DeepStream 7-零售分析應用以 DeepStream 7、Kafka 與預訓練模型建置零售分析應用。