Letta
Letta是一個(gè)開源框架,專注于構(gòu)建具有高級(jí)推理能力和透明長(zhǎng)期記憶的有狀態(tài)大型語言模型(LLM)應(yīng)用。它由加州大學(xué)伯克利分校的Sky Computing Lab孵化,由博士生Sarah Wooders和Charles Packer創(chuàng)立。Letta的前身是MemGPT,該項(xiàng)目在發(fā)布前便因熱度而被廣泛關(guān)注。Letta旨在解決大語言模型(LLM)在多輪對(duì)話和文檔分析中的上下文窗口限制問題,通過虛擬上下文管理,使模型能夠記住并學(xué)習(xí),即使在上下文窗口填滿后也不遺忘。
Letta開源項(xiàng)目官網(wǎng)入口網(wǎng)址:https://github.com/letta-ai/letta

核心亮點(diǎn):
- 狀態(tài)化記憶:支持分層記憶塊,Agent 可以修改、刪除、檢索自己的記憶
- 多 Agent 協(xié)作:不同 Agent 能共享記憶塊,形成復(fù)雜的協(xié)作網(wǎng)絡(luò)
- 背景代理:提供 sleep-time agent,在后臺(tái)自動(dòng)維護(hù)和更新記憶
- 文件系統(tǒng)接入:可直接訪問外部文件夾,處理 PDF、TXT、JSON 等資料
- 模型兼容性強(qiáng):支持 OpenAI、Anthropic、Ollama 以及本地模型,隨時(shí)切換
- ?部署靈活:既有 Cloud 服務(wù),也能本地自托管,還提供桌面版 UI
Letta是一個(gè)開源框架,支持多種部署環(huán)境,包括Docker和pip安裝,推薦使用Docker進(jìn)行生產(chǎn)環(huán)境部署。它提供CLI工具、API服務(wù)器、ADE(代理開發(fā)環(huán)境)等,支持用戶創(chuàng)建、部署和管理代理。Letta支持多種模型提供商,如OpenAI、Anthropic等,并且支持多種數(shù)據(jù)庫后端,如PostgreSQL。
Letta強(qiáng)調(diào)開源和透明性,鼓勵(lì)社區(qū)參與和貢獻(xiàn),提供多種貢獻(xiàn)途徑,包括提問、報(bào)告問題、探索路線圖及參加社區(qū)活動(dòng)。Letta還獲得了1000萬美元的種子投資,估值達(dá)7000萬美元,投資方包括Felicis、Jeff Dean、Hugging Face等知名投資人。
Letta的愿景是推動(dòng)AI記憶管理的發(fā)展,使代理記憶和推理透明化,構(gòu)建開放平臺(tái),使開發(fā)者能夠透明、可控地開發(fā)狀態(tài)化AI應(yīng)用。
相關(guān)導(dǎo)航
