亚洲欧洲精品专线,国内少妇毛片视频,日本一区二区三区高清无卡,香蕉久久久久久AV综合网成人

Alpaca Electron羊駝AI本地GUI

業(yè)界 作者:望岳 2023-05-31 02:05:47

Alpaca Electron 旨在成為與 Alpaca 羊駝 AI 模型聊天的最簡單方式,無需任何命令行或編譯。

功能 + 待辦事項

  • 在您的計算機上本地運行,除下載模型外不需要互聯(lián)網(wǎng)連接

  • 緊湊高效,因為它使用 llama.cpp 作為后端(也支持 Alpaca & Vicuna)

  • 在 CPU 上運行,任何人都可以在沒有昂貴顯卡的情況下運行它

  • 不需要外部依賴,一切都包含在安裝程序中

  • 從流行的聊天 AI “借來” 的 UI

  • 支持 Windows、MacOS 和 Linux(未經(jīng)測試)

  • Docker 化

  • 上下文記憶

  • 聊天記錄?未完成

  • 與穩(wěn)定擴散整合?未完成

  • 用于 Web 訪問的 DuckDuckGo 集成?未完成

  • GPU 加速(cuBLAS 和 openBLAS)未完成

快速入門指南

下載一個 Alpaca 模型(推薦 7B native)并將其放在計算機上容易找到的地方。

注意此存儲庫中不會提供下載鏈接。

從發(fā)布頁面部分下載最新的安裝程序。

打開安裝程序并等待它安裝。

安裝完成后,它會詢問模型的有效路徑?,F(xiàn)在,轉(zhuǎn)到放置模型的位置,按住 Shift 鍵,右鍵單擊文件,然后單擊 “復(fù)制為路徑”。然后,將其粘貼到該對話框中并單擊?Confirm。

程序會自動重啟?,F(xiàn)在您可以開始聊天了!

注意該程序還將接受任何其他 4 位量化的 .bin 模型文件。如果您能找到其他 .bin Alpaca 模型文件,您可以使用它們代替快速入門指南中推薦的文件來試驗不同的模型。一如既往,小心您從互聯(lián)網(wǎng)上下載的內(nèi)容。

故障排除

通用

如果在將路徑粘貼到模型文件時出現(xiàn) “無效文件路徑” 錯誤,則可能是其中存在某種拼寫錯誤。嘗試再次復(fù)制路徑或使用文件選擇器。

如果您收到 “無法加載模型” 的錯誤消息,則您的模型可能已損壞或不兼容。嘗試再次下載模型。

如果您遇到此處未列出的其他問題或問題,請在本頁頂部的 “問題” 選項卡中創(chuàng)建問題。詳細(xì)描述發(fā)生了什么,并附上屏幕截圖。

windows

如果模型已加載到 RAM 但文本生成似乎沒有開始,請檢查您的 CPU 是否與?AVX2?指令集兼容。如果它不支持 AVX2,Alpaca Electron 將使用 AVX 代替,這會慢很多,請耐心等待。

如果您收到一條錯誤消息 “vcruntime140_1.dll is missing” 或什么都沒有發(fā)生并且模型未加載到 RAM 中,請嘗試安裝?Microsoft Visual C++ Redistributable?。

蘋果系統(tǒng)

如果您收到一條錯誤消息 “無法打開應(yīng)用程序,因為它來自身份不明的開發(fā)人員。”,請轉(zhuǎn)到 “應(yīng)用程序” 文件夾。然后,按住控制鍵并單擊該應(yīng)用程序。然后單擊 “打開”,然后在出現(xiàn)警告時單擊 “打開”。您的首選項將被保存,MacOS 將允許您從現(xiàn)在開始正常打開應(yīng)用程序。

如果上述方法不起作用,請嘗試在終端中運行以下命令:xattr -cr /Applications/Alpaca\ Electron.app/

Linux

您可以從發(fā)布頁面下載預(yù)構(gòu)建的應(yīng)用程序(打包為 tar.gz),解壓縮并執(zhí)行它,./"alpaca electron"?或者自己構(gòu)建應(yīng)用程序。

如果您想自己構(gòu)建應(yīng)用程序:

克隆存儲庫:

git clone https://github.com/ItsPi3141/alpaca-electron.git

將當(dāng)前目錄更改為 alpaca-electron:

cd alpaca-electron

安裝特定于應(yīng)用程序的依賴項:

npm install --save-dev

構(gòu)建應(yīng)用程序:

npm run linux-x64

將當(dāng)前目錄更改為構(gòu)建目標(biāo):

cd release-builds/'Alpaca Electron-linux-x64'

運行應(yīng)用程序./'Alpaca Electron'

docker 組成

您可以使用 docker compose 運行此電子應(yīng)用程序。因此,您需要完成以下步驟:

克隆存儲庫:

git clone https://github.com/ItsPi3141/alpaca-electron.git

將當(dāng)前目錄更改為 alpaca-electron:

cd alpaca-electron

構(gòu)建容器鏡像:

docker compose build

運行應(yīng)用程序容器:

docker compose up -d

如果沒有窗口打開運行?docker compose up(沒有 -d)。如果出現(xiàn)類似在您的 docker 主機上?Authorization required, but no authorization protocol specified?運行的錯誤。xhost local:root


關(guān)注公眾號:拾黑(shiheibook)了解更多

友情鏈接:

關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級服務(wù)市場:https://www.ijiandao.com/
安全、綠色軟件下載就上極速下載站:https://www.yaorank.com/

公眾號 關(guān)注網(wǎng)絡(luò)尖刀微信公眾號
隨時掌握互聯(lián)網(wǎng)精彩
贊助鏈接