← 返回卷宗
編程筆記

Github Copilot的免費替代方案

FauxPilot

對於visual studio code來說,一般可以考慮的是FauxPilot插件配合FauxPilot服務,然而FauxPilot插件安裝後其實並不好用。

更好解決方案是自己安裝FauxPilot服務後,然後安裝gitlab的插件,並修改其中代碼助手的地址,這樣便能進行對AI輔助寫代碼。

為了避免配置環境過於麻煩,可直接安裝百度的飛槳的paddleNLP,然後直接一行代碼運行其中的代碼輔助服務,它其實依舊是FauxPilot,但由於安裝比較便利,可直接讓它在後臺運行,並且能夠支持3.5 億、60 億和160億不同參數的模型。其中3.5億模型約需要佔用3.5G顯存,而60億模型需要13G顯存,160 億的模型沒有計算。

有條件的話,可以考慮採用Deepspeed,使用ZeRO,一般8G顯存的顯卡加載60億模型應當也不成問題,如果有塊3090的話,那麼加載160億也不是問題。

本文由 三符道長 撰於 2022年12月13日。轉載請註明出處。