我在我的原有AI 智能助理應用上,又外加了一個外掛的本地知識庫模組..
它能分區置放不同性質文件, 這樣的好處是, 可以不用將整個文件送AI分析, 對於某些敏感性較高的企業文件,比如說設計文件等, 可以有比較高的資訊安全.避免將公司內部重要資料流出.
它的應用原理, 是將本地資料做向量切片,置入本地資料庫中. 本地embedding使用本地ollama即可,或者當然你也能用API使用外部的embedding. 我在此例是用本地OLLAMA. 當你送出搜尋詞時, 再使用embedding做向量,然后和DB中的向量資料做比對, 將最接近的做為檢索結果, 分析的方法也做了智能檢索,我總共做了三種不同的檢索方法, 傳統搜尋引擎的偏向精準查詢, 另外有依語義來做模糊檢索, 這比較適合AI的應用. 其實這種方式和傳統search engine還是有比較大的不同的,
下表大致說明了與搜索引擎的不同點
AI的生成式的知識庫, 主要著重在問題的解決.
以下是我的一些AI知識庫的示範使用影片