LLM 接口
與 AI 代理一起構建
LLM 界面後端

大型語言模型 (LLM) 界面模板
提示管理和令牌追蹤的界面

一個生產就緒的 LLM 界面後端 在 Back4app,允許提示管理和令牌使用追蹤。包括 ER 圖、數據字典、JSON 結構、API 遊樂場,以及一個快速啟動的 AI 代理 提示。

主要要點

此模板提供無縫的 LLM 介面,以管理提示和追蹤令牌使用情況,讓您的團隊專注於用戶體驗和性能。

  1. 提示管理能力有效地結構和管理提示,以確保最佳性能。
  2. 令牌使用追蹤利用內建的追蹤功能監控不同模型的令牌消耗。
  3. 與多個模型整合輕鬆將各種大型語言模型整合到您的應用程式中。
  4. 即時查詢實現 Live Queries 以獲得提示使用情況和令牌統計的動態更新。
  5. 跨平台適應性通過單一的 REST 和 GraphQL API 服務所有互動的移動和網頁客戶端。

什麼是 LLM 介面模板?

Back4app 是一個後端即服務(BaaS),用於加速產品交付。LLM 介面模板是一個預先構建的架構,用於管理提示、令牌使用和模型互動。連接您首選的前端(React,Flutter,Next.js 等等),加快您的開發流程。

最佳適用於:

LLM 介面應用程序提示管理系統代幣追踪解決方案AI驅動的應用程式MVP推出尋求 BaaS 以快速開發的團隊

概覽

有效的 LLM 介面需要強大的提示管理、代幣追踪以及與多個模型的無縫整合。

此模板概述了用戶、提示、代幣和整合模型,並具有內置的追踪和管理功能,以便團隊可以 Swift 地實現 LLM 介面。

核心 LLM 介面功能

此中心中的每個技術卡片都利用相同的 LLM 接口後端架構,包括用戶、提示、令牌和整合模型。

用戶管理

用戶類別管理用戶名、電子郵件、密碼和角色。

提示管理

提示類別存儲內容、元數據和使用歷史。

令牌跟踪

令牌類別監控使用統計和計數。

模型整合

整合類別與各種 LLM 建立連接。

為什麼選擇用 Back4app 建立您的 LLM 介面後端?

Back4app 提供提示管理和代幣追蹤的基礎設施,讓您的團隊能夠專注於用戶互動和模型性能。

  • 提示和代幣管理: 利用結構化類別管理提示和代幣,以簡化管理流程。
  • 內建追蹤功能: 輕鬆監控代幣使用情況,並獲得模型性能的洞察。
  • 即時功能: 使用 Live Queries 進行提示更新,同時 REST 和 GraphQL API 提供全面訪問。

快速開發和迭代您的 LLM 介面功能,使用同一後端解決方案跨平台。

核心優勢

一個 LLM 接口後端,能夠快速迭代而不妥協安全性或效率。

快速的 LLM 整合

從現有的提示和令牌追踪架構開始,而不是從頭開始建立。

穩定的追踪系統

利用內建的追踪功能監控提示使用情況並優化模型性能。

全面的訪問控制

通過高級權限設置來管理用戶對提示和令牌的訪問。

可擴展的模型整合

與多個 LLM 連接,快速更換模型而不改變現有設置。

數據完整性管理

有效處理提示和令牌數據,以達到最佳性能和用戶體驗。

AI增強開發工作流程

使用AI工具快速生成後端構架和整合策略。

準備好發布您的LLM介面應用嗎?

讓Back4app AI代理構建您的LLM介面後端,並從一個提示中生成提示管理和令牌追蹤能力。

免費開始 — 每月50個AI代理提示,無需信用卡

技術棧

此 LLM 界面後端範本中的所有內容。

前端
13+ 技術
後端
Back4app
數據庫
MongoDB
身份驗證
內建身份驗證 + 會話
API
REST 和 GraphQL
實時
Live Queries

ER 圖

適用於 LLM 接口後端架構的實體關係模型。

查看圖表來源
Mermaid
erDiagram
    User ||--o{ Prompt : "creator"
    Model ||--o{ TokenUsageLog : "model"
    User ||--o{ TokenUsageLog : "user"

    User {
        String objectId PK
        String username
        String email
        String password
        String role
        Date createdAt
        Date updatedAt
    }

    Prompt {
        String objectId PK
        String text
        Pointer creator FK
        Date createdAt
        Date updatedAt
    }

    Model {
        String objectId PK
        String name
        String version
        String description
        Date createdAt
        Date updatedAt
    }

    TokenUsageLog {
        String objectId PK
        Pointer user FK
        Pointer model FK
        Number tokensUsed
        Date timestamp
        Date createdAt
        Date updatedAt
    }

整合流程

用於身份驗證、提示管理、令牌追蹤和模型互動的典型運行時流程。

查看圖表來源
Mermaid
sequenceDiagram
  participant User
  participant App as Large Language Model (LLM) Interface App
  participant Back4app as Back4app Cloud

  User->>App: Login
  App->>Back4app: POST /login
  Back4app-->>App: Session token

  User->>App: Submit prompt
  App->>Back4app: POST /classes/Prompt
  Back4app-->>App: Prompt details

  User->>App: View token usage
  App->>Back4app: GET /classes/TokenUsageLog
  Back4app-->>App: Token usage details

  App->>Back4app: Log token usage
  Back4app-->>App: TokenUsageLog objectId

數據字典

LLM介面架構中每個類別的完整字段級參考。

字段類型描述必填
objectIdStringAuto-generated unique identifier自動
usernameStringUser login name
emailStringUser email address
passwordStringHashed password (write-only)
roleStringRole of the user (e.g., admin, client)
createdAtDateAuto-generated creation timestamp自動
updatedAtDateAuto-generated last-update timestamp自動

7 欄位在 User

安全性與權限

ACL 和 CLP 策略如何保護用戶、提示、令牌及整合。

用戶擁有的個人資料控制

只有用戶可以更新或刪除他們的個人資料;其他人無法修改用戶內容。

提示和令牌的完整性

只有擁有者可以創建或刪除他們的提示和令牌。使用雲端代碼進行驗證。

範圍讀取訪問

將提示和令牌的讀取限制為相關用戶(例如,用戶僅能看到自己的提示和令牌統計)。

架構 (JSON)

準備好複製到 Back4app 的原始 JSON 架構定義或用作實施參考。

JSON
{
  "classes": [
    {
      "className": "User",
      "fields": {
        "objectId": {
          "type": "String",
          "required": false
        },
        "username": {
          "type": "String",
          "required": true
        },
        "email": {
          "type": "String",
          "required": true
        },
        "password": {
          "type": "String",
          "required": true
        },
        "role": {
          "type": "String",
          "required": true
        },
        "createdAt": {
          "type": "Date",
          "required": false
        },
        "updatedAt": {
          "type": "Date",
          "required": false
        }
      }
    },
    {
      "className": "Prompt",
      "fields": {
        "objectId": {
          "type": "String",
          "required": false
        },
        "text": {
          "type": "String",
          "required": true
        },
        "creator": {
          "type": "Pointer",
          "required": true,
          "targetClass": "User"
        },
        "createdAt": {
          "type": "Date",
          "required": false
        },
        "updatedAt": {
          "type": "Date",
          "required": false
        }
      }
    },
    {
      "className": "Model",
      "fields": {
        "objectId": {
          "type": "String",
          "required": false
        },
        "name": {
          "type": "String",
          "required": true
        },
        "version": {
          "type": "String",
          "required": true
        },
        "description": {
          "type": "String",
          "required": false
        },
        "createdAt": {
          "type": "Date",
          "required": false
        },
        "updatedAt": {
          "type": "Date",
          "required": false
        }
      }
    },
    {
      "className": "TokenUsageLog",
      "fields": {
        "objectId": {
          "type": "String",
          "required": false
        },
        "user": {
          "type": "Pointer",
          "required": true,
          "targetClass": "User"
        },
        "model": {
          "type": "Pointer",
          "required": true,
          "targetClass": "Model"
        },
        "tokensUsed": {
          "type": "Number",
          "required": true
        },
        "timestamp": {
          "type": "Date",
          "required": true
        },
        "createdAt": {
          "type": "Date",
          "required": false
        },
        "updatedAt": {
          "type": "Date",
          "required": false
        }
      }
    }
  ]
}

用 AI 代理構建

利用 Back4app AI 代理根據此模板構建功能性 LLM 應用程序,涵蓋前端、後端、身份驗證以及提示和令牌流程。

Back4app AI 代理
準備好構建
在 Back4app 上創建一個 LLM 介面後端,具備這個確切的架構和行為。

架構:
1. 用戶(使用 Back4app 內建功能):用戶名、電子郵件、密碼;objectId、createdAt、updatedAt(系統)。
2. 提示:內容(字串,必填)、元數據(對象,選填);objectId、createdAt、updatedAt(系統)。
3. 令牌:使用次數(數字,必填)、時間戳(日期,必填);objectId、createdAt、updatedAt(系統)。
4. 集成:模型(字串,必填)、設置(對象,選填);objectId、createdAt、updatedAt(系統)。

安全性:
- 只有用戶可以更新/刪除他們的個人資料。只有所有者可以創建/刪除他們的提示和令牌。使用雲端代碼進行驗證。

授權:
- 註冊、登錄、登出。

行為:
- 列出提示,跟蹤令牌使用,管理集成。

交付:
- 帶有架構、ACL、CLP 的 Back4app 應用程序;用於用戶資料、提示、令牌和集成的前端。

按下面的按鈕以預填此模板提示打開代理。

這是沒有技術後綴的基本提示。您可以在後面調整生成的前端堆棧。

幾分鐘內部署每月 50 條免費提示無需信用卡

API 操場

測試 REST 和 GraphQL 端點是否符合 LLM 介面架構。響應使用模擬數據,並不需要 Back4app 帳戶。

載入遊樂場…

使用與此模板相同的架構。

選擇您的技術

展開每個卡片以獲取整合步驟、狀態模式、數據模型範例和離線說明。

Flutter LLM 介面後端

React LLM 介面後端

React 原生 LLM 介面後端

Next.js LLM 介面後端

JavaScript LLM 介面後端

Android LLM 介面後端

iOS LLM 介面後端

Vue LLM 介面後端

Angular LLM 介面後端

GraphQL LLM 介面後端

REST API LLM 介面後端

PHP LLM 介面後端

.NET LLM 介面後端

您每種技術獲得的東西

每個堆疊都使用相同的 LLM 接口後端架構和 API 合約。

為 llm 接口 預建的提示管理

輕鬆管理和自訂您的 LLM 互動提示。

為 llm 接口 的標記使用追蹤

監控和分析標記消耗以優化性能。

為 llm 接口 提供無縫模型整合

連接各種 LLM 模型以增強您的應用程序。

REST/GraphQL API 供 llm 接口 使用

通過靈活的 API 訪問您的數據和功能。

針對 llm 接口 的可擴展架構

調整和擴展架構以適應您的特定需求。

針對 llm 接口 的實時互動日誌記錄

實時跟踪互動以改善用戶體驗。

Llm 介面框架比較

評估所有支持技術的設置速度、SDK 風格和 AI 能力。

框架設置時間Llm 介面好處SDK 類型AI 支援
約 5 分鐘在移動和網頁上具有 llm 介面的單一代碼庫。Typed SDK完整
少於 5 分鐘快速的網頁儀表板,用於 llm 介面。Typed SDK完整
約 3–7 分鐘跨平台移動應用程式,用於 llm 介面。Typed SDK完整
快速 (5 分鐘) 安裝伺服器渲染的網頁應用程式,用於 llm 介面。Typed SDK完整
不到 5 分鐘輕量級網頁整合,用於 llm 介面。Typed SDK完整
約 5 分鐘原生 Android 應用程式,用於 llm 介面。Typed SDK完整
少於5分鐘原生iOS應用程式用於LLM介面。Typed SDK完整
約3–7分鐘React式網頁UI用於LLM介面。Typed SDK完整
快速(5分鐘)設置企業網頁應用程式,用於 llm 接口。Typed SDK完整
約 2 分鐘靈活的 GraphQL API,用於 llm 接口。GraphQL API完整
少於 2 分鐘REST API 集成,用於 llm 接口。REST API完整
~3–5 分鐘伺服器端 PHP 後端,適用於 llm 接口。REST API完整
~3–7 分鐘.NET 後端,適用於 llm 接口。Typed SDK完整

設置時間表示從項目初始化到使用該模板架構的第一次提示或標記查詢的預期持續時間。

常見問題

關於使用此模板構建LLM介面後端的常見問題。

什麼是LLM介面後端?
LLM介面模板包括什麼?
為什麼使用Back4app來開發LLM介面應用?
我如何使用Flutter運行提示和令牌的查詢?
我如何在與 Next.js 的 LLM 界面中處理權限?
React 本地應用能否離線緩存提示和令牌?
我如何保護文件和模型的訪問?
在 Android 上顯示提示和令牌的最佳方法是什麼?
提示管理流程的端到端工作原理是什麼?

受到全球開發者的信賴

加入使用 Back4app 模板加速他們 LLM 接口開發的團隊

G2 Users Love Us Badge

準備好構建您的 LLM 介面應用程式了嗎?

順利啟動您的 LLM 介面專案。不需要信用卡。

選擇技術