大型語言模型 (LLM) 界面模板
提示管理和令牌追蹤的界面
一個生產就緒的 LLM 界面後端 在 Back4app,允許提示管理和令牌使用追蹤。包括 ER 圖、數據字典、JSON 結構、API 遊樂場,以及一個快速啟動的 AI 代理 提示。
主要要點
此模板提供無縫的 LLM 介面,以管理提示和追蹤令牌使用情況,讓您的團隊專注於用戶體驗和性能。
- 提示管理能力 — 有效地結構和管理提示,以確保最佳性能。
- 令牌使用追蹤 — 利用內建的追蹤功能監控不同模型的令牌消耗。
- 與多個模型整合 — 輕鬆將各種大型語言模型整合到您的應用程式中。
- 即時查詢 — 實現 Live Queries 以獲得提示使用情況和令牌統計的動態更新。
- 跨平台適應性 — 通過單一的 REST 和 GraphQL API 服務所有互動的移動和網頁客戶端。
什麼是 LLM 介面模板?
Back4app 是一個後端即服務(BaaS),用於加速產品交付。LLM 介面模板是一個預先構建的架構,用於管理提示、令牌使用和模型互動。連接您首選的前端(React,Flutter,Next.js 等等),加快您的開發流程。
最佳適用於:
概覽
有效的 LLM 介面需要強大的提示管理、代幣追踪以及與多個模型的無縫整合。
此模板概述了用戶、提示、代幣和整合模型,並具有內置的追踪和管理功能,以便團隊可以 Swift 地實現 LLM 介面。
核心 LLM 介面功能
此中心中的每個技術卡片都利用相同的 LLM 接口後端架構,包括用戶、提示、令牌和整合模型。
用戶管理
用戶類別管理用戶名、電子郵件、密碼和角色。
提示管理
提示類別存儲內容、元數據和使用歷史。
令牌跟踪
令牌類別監控使用統計和計數。
模型整合
整合類別與各種 LLM 建立連接。
為什麼選擇用 Back4app 建立您的 LLM 介面後端?
Back4app 提供提示管理和代幣追蹤的基礎設施,讓您的團隊能夠專注於用戶互動和模型性能。
- •提示和代幣管理: 利用結構化類別管理提示和代幣,以簡化管理流程。
- •內建追蹤功能: 輕鬆監控代幣使用情況,並獲得模型性能的洞察。
- •即時功能: 使用 Live Queries 進行提示更新,同時 REST 和 GraphQL API 提供全面訪問。
快速開發和迭代您的 LLM 介面功能,使用同一後端解決方案跨平台。
核心優勢
一個 LLM 接口後端,能夠快速迭代而不妥協安全性或效率。
快速的 LLM 整合
從現有的提示和令牌追踪架構開始,而不是從頭開始建立。
穩定的追踪系統
利用內建的追踪功能監控提示使用情況並優化模型性能。
全面的訪問控制
通過高級權限設置來管理用戶對提示和令牌的訪問。
可擴展的模型整合
與多個 LLM 連接,快速更換模型而不改變現有設置。
數據完整性管理
有效處理提示和令牌數據,以達到最佳性能和用戶體驗。
AI增強開發工作流程
使用AI工具快速生成後端構架和整合策略。
技術棧
此 LLM 界面後端範本中的所有內容。
ER 圖
適用於 LLM 接口後端架構的實體關係模型。
詳細說明用戶、提示、令牌使用情況和模型集成的架構。
查看圖表來源
erDiagram
User ||--o{ Prompt : "creator"
Model ||--o{ TokenUsageLog : "model"
User ||--o{ TokenUsageLog : "user"
User {
String objectId PK
String username
String email
String password
String role
Date createdAt
Date updatedAt
}
Prompt {
String objectId PK
String text
Pointer creator FK
Date createdAt
Date updatedAt
}
Model {
String objectId PK
String name
String version
String description
Date createdAt
Date updatedAt
}
TokenUsageLog {
String objectId PK
Pointer user FK
Pointer model FK
Number tokensUsed
Date timestamp
Date createdAt
Date updatedAt
}
整合流程
用於身份驗證、提示管理、令牌追蹤和模型互動的典型運行時流程。
查看圖表來源
sequenceDiagram
participant User
participant App as Large Language Model (LLM) Interface App
participant Back4app as Back4app Cloud
User->>App: Login
App->>Back4app: POST /login
Back4app-->>App: Session token
User->>App: Submit prompt
App->>Back4app: POST /classes/Prompt
Back4app-->>App: Prompt details
User->>App: View token usage
App->>Back4app: GET /classes/TokenUsageLog
Back4app-->>App: Token usage details
App->>Back4app: Log token usage
Back4app-->>App: TokenUsageLog objectId數據字典
LLM介面架構中每個類別的完整字段級參考。
| 字段 | 類型 | 描述 | 必填 |
|---|---|---|---|
| objectId | String | Auto-generated unique identifier | 自動 |
| username | String | User login name | |
| String | User email address | ||
| password | String | Hashed password (write-only) | |
| role | String | Role of the user (e.g., admin, client) | |
| createdAt | Date | Auto-generated creation timestamp | 自動 |
| updatedAt | Date | Auto-generated last-update timestamp | 自動 |
7 欄位在 User
安全性與權限
ACL 和 CLP 策略如何保護用戶、提示、令牌及整合。
用戶擁有的個人資料控制
只有用戶可以更新或刪除他們的個人資料;其他人無法修改用戶內容。
提示和令牌的完整性
只有擁有者可以創建或刪除他們的提示和令牌。使用雲端代碼進行驗證。
範圍讀取訪問
將提示和令牌的讀取限制為相關用戶(例如,用戶僅能看到自己的提示和令牌統計)。
架構 (JSON)
準備好複製到 Back4app 的原始 JSON 架構定義或用作實施參考。
{
"classes": [
{
"className": "User",
"fields": {
"objectId": {
"type": "String",
"required": false
},
"username": {
"type": "String",
"required": true
},
"email": {
"type": "String",
"required": true
},
"password": {
"type": "String",
"required": true
},
"role": {
"type": "String",
"required": true
},
"createdAt": {
"type": "Date",
"required": false
},
"updatedAt": {
"type": "Date",
"required": false
}
}
},
{
"className": "Prompt",
"fields": {
"objectId": {
"type": "String",
"required": false
},
"text": {
"type": "String",
"required": true
},
"creator": {
"type": "Pointer",
"required": true,
"targetClass": "User"
},
"createdAt": {
"type": "Date",
"required": false
},
"updatedAt": {
"type": "Date",
"required": false
}
}
},
{
"className": "Model",
"fields": {
"objectId": {
"type": "String",
"required": false
},
"name": {
"type": "String",
"required": true
},
"version": {
"type": "String",
"required": true
},
"description": {
"type": "String",
"required": false
},
"createdAt": {
"type": "Date",
"required": false
},
"updatedAt": {
"type": "Date",
"required": false
}
}
},
{
"className": "TokenUsageLog",
"fields": {
"objectId": {
"type": "String",
"required": false
},
"user": {
"type": "Pointer",
"required": true,
"targetClass": "User"
},
"model": {
"type": "Pointer",
"required": true,
"targetClass": "Model"
},
"tokensUsed": {
"type": "Number",
"required": true
},
"timestamp": {
"type": "Date",
"required": true
},
"createdAt": {
"type": "Date",
"required": false
},
"updatedAt": {
"type": "Date",
"required": false
}
}
}
]
}用 AI 代理構建
利用 Back4app AI 代理根據此模板構建功能性 LLM 應用程序,涵蓋前端、後端、身份驗證以及提示和令牌流程。
在 Back4app 上創建一個 LLM 介面後端,具備這個確切的架構和行為。 架構: 1. 用戶(使用 Back4app 內建功能):用戶名、電子郵件、密碼;objectId、createdAt、updatedAt(系統)。 2. 提示:內容(字串,必填)、元數據(對象,選填);objectId、createdAt、updatedAt(系統)。 3. 令牌:使用次數(數字,必填)、時間戳(日期,必填);objectId、createdAt、updatedAt(系統)。 4. 集成:模型(字串,必填)、設置(對象,選填);objectId、createdAt、updatedAt(系統)。 安全性: - 只有用戶可以更新/刪除他們的個人資料。只有所有者可以創建/刪除他們的提示和令牌。使用雲端代碼進行驗證。 授權: - 註冊、登錄、登出。 行為: - 列出提示,跟蹤令牌使用,管理集成。 交付: - 帶有架構、ACL、CLP 的 Back4app 應用程序;用於用戶資料、提示、令牌和集成的前端。
按下面的按鈕以預填此模板提示打開代理。
這是沒有技術後綴的基本提示。您可以在後面調整生成的前端堆棧。
API 操場
測試 REST 和 GraphQL 端點是否符合 LLM 介面架構。響應使用模擬數據,並不需要 Back4app 帳戶。
使用與此模板相同的架構。
選擇您的技術
展開每個卡片以獲取整合步驟、狀態模式、數據模型範例和離線說明。
Flutter LLM 介面後端
React LLM 介面後端
React 原生 LLM 介面後端
Next.js LLM 介面後端
JavaScript LLM 介面後端
Android LLM 介面後端
iOS LLM 介面後端
Vue LLM 介面後端
Angular LLM 介面後端
GraphQL LLM 介面後端
REST API LLM 介面後端
PHP LLM 介面後端
.NET LLM 介面後端
您每種技術獲得的東西
每個堆疊都使用相同的 LLM 接口後端架構和 API 合約。
為 llm 接口 預建的提示管理
輕鬆管理和自訂您的 LLM 互動提示。
為 llm 接口 的標記使用追蹤
監控和分析標記消耗以優化性能。
為 llm 接口 提供無縫模型整合
連接各種 LLM 模型以增強您的應用程序。
REST/GraphQL API 供 llm 接口 使用
通過靈活的 API 訪問您的數據和功能。
針對 llm 接口 的可擴展架構
調整和擴展架構以適應您的特定需求。
針對 llm 接口 的實時互動日誌記錄
實時跟踪互動以改善用戶體驗。
Llm 介面框架比較
評估所有支持技術的設置速度、SDK 風格和 AI 能力。
| 框架 | 設置時間 | Llm 介面好處 | SDK 類型 | AI 支援 |
|---|---|---|---|---|
| 約 5 分鐘 | 在移動和網頁上具有 llm 介面的單一代碼庫。 | Typed SDK | 完整 | |
| 少於 5 分鐘 | 快速的網頁儀表板,用於 llm 介面。 | Typed SDK | 完整 | |
| 約 3–7 分鐘 | 跨平台移動應用程式,用於 llm 介面。 | Typed SDK | 完整 | |
| 快速 (5 分鐘) 安裝 | 伺服器渲染的網頁應用程式,用於 llm 介面。 | Typed SDK | 完整 | |
| 不到 5 分鐘 | 輕量級網頁整合,用於 llm 介面。 | Typed SDK | 完整 | |
| 約 5 分鐘 | 原生 Android 應用程式,用於 llm 介面。 | Typed SDK | 完整 | |
| 少於5分鐘 | 原生iOS應用程式用於LLM介面。 | Typed SDK | 完整 | |
| 約3–7分鐘 | React式網頁UI用於LLM介面。 | Typed SDK | 完整 | |
| 快速(5分鐘)設置 | 企業網頁應用程式,用於 llm 接口。 | Typed SDK | 完整 | |
| 約 2 分鐘 | 靈活的 GraphQL API,用於 llm 接口。 | GraphQL API | 完整 | |
| 少於 2 分鐘 | REST API 集成,用於 llm 接口。 | REST API | 完整 | |
| ~3–5 分鐘 | 伺服器端 PHP 後端,適用於 llm 接口。 | REST API | 完整 | |
| ~3–7 分鐘 | .NET 後端,適用於 llm 接口。 | Typed SDK | 完整 |
設置時間表示從項目初始化到使用該模板架構的第一次提示或標記查詢的預期持續時間。
常見問題
關於使用此模板構建LLM介面後端的常見問題。