開源模型 PrivateGPT 上線,可本地搭建、避免信息外泄
IT之家 6 月 25 日消息,三星、摩根大通、蘋果和亞馬遜等公司已明令要求,由于擔(dān)心公司機(jī)密信息外泄,禁止員工使用 ChatGPT。
開發(fā)者 Iván Martínez Toro 近日推出了 PrivateGPT 開源模型,允許用戶在沒有互聯(lián)網(wǎng)連接的情況下,根據(jù)自己的文檔提出問題。
PrivateGPT 開源模型可以在家用設(shè)備上本地運行,運行前需要下載名為 gpt4all 的開源大語言模型 (LLM)。
然后,指示用戶將其所有相關(guān)文件放入一個目錄中,以便模型引入所有數(shù)據(jù)。
訓(xùn)練 LLM 后,用戶可以向模型提出任何問題,它將使用提供的文檔作為上下文進(jìn)行回答。
PrivateGPT 可以攝取超過 58000 個單詞,目前需要大量的本地計算資源(推薦使用高端 CPU)來設(shè)置。
Toro 表示當(dāng)前 PrivateGPT 處于概念驗證(PoC)階段,至少證明可以完全在本地創(chuàng)建類似于 ChatGPT 的大模型,可以預(yù)見這種 PoC 轉(zhuǎn)換為實際產(chǎn)品之后的潛力,可以讓公司訪問個性化、安全和私密的 ChatGPT 來提高生產(chǎn)力。
本文僅代表作者觀點,版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請在文中注明來源及作者名字。
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com