本來寫了兩篇,現在濃縮成一篇, 也儘量避免敏感的資料出現!!
測試目的:嘗試使用AI本地大模型,掛載本地知識庫, 以避免企業資料公開在網上.
測試標的: 將網路交換器的端口用途紀錄文件, 與交換器的設定備份文件整合為一個CSV檔案, 供本地大模型檢索使用
使用工具: chrome 瀏覽器中的擴充套件page assistant
該工具可以依不同交談區掛載不同RAG知識庫及本地大模型以及不同的提示詞.
以下便是我掛載的本地大模型列表, 本次使用1.7B 千問3, 很小的一個算力大模型..因為缺乏GPU環境,有待添購..
原來網管所維護的EXCEL如下範例, 各個工作表維護一台switch的資料
switch的備份設定就沒必要看了吧..大概就如下面這般, 我是截取了interface的部份..大概如下的設定
interface GigabitEthernet1/0/39
port link-type trunk
port trunk permit vlan all
#
interface GigabitEthernet1/0/40
#
interface GigabitEthernet1/0/41
#
interface GigabitEthernet1/0/42
#
interface GigabitEthernet1/0/43
#
interface GigabitEthernet1/0/44
#
interface GigabitEthernet1/0/45
#
interface GigabitEthernet1/0/46
#
interface GigabitEthernet1/0/47
#
然後它們兩者被整合成一份CSV格式的檔案如下, 紅框的四個欄位即是由設定檔取出的資訊
然後將此CSV檔案丟入知識庫.. 知識庫大概長這樣, 它可以分成不同知識庫,供你問答時選擇, 這是之前單純測試用途文檔的查詢..
然後便要求AI本地大模型基於知識庫做檢索, 若檢索不到就回答找不到資料,以下便是本地AI問與答的截圖
所以未來只要做個問答,我便可得知在95.100這台SWITCH的10号埠口, 它是誰在用, 在用設備使用的IP地址, 它被規劃的VLAN型態是TRUNK PORT, 允許通過的VLAN ID是那些, 狀態是否啟動?是否做了port channel等等信息就能很快清楚得知, 否則目前應該是要兩邊查看的.. 當然這只是我的一個測試本地AI的場景, 可以透過此框架, 針對公司內部的相關非結構性資料做好疏理, 就能用上這AI的功能加以好好利用.個人是不建議大家把公司資料, 尤其是產品設計研發啦, 公司策略發展等資料, 全都公開在網上丟給AI去查詢建議等等, 最好是自己企業內本地建一個為佳.
以下是我DIY的自製的AI小助理回答的..
