本文將介紹如何通過云原生API網(wǎng)關(guān)快速接入第三方DeepSeek模型，涵蓋三種AI模型接入場景，幫助高效實現(xiàn)統(tǒng)一接入。
|
場景 |
描述 |
|
已集成模型接入AI網(wǎng)關(guān) |
支持通過選擇已集成的部分大模型供應商及配置API-KEY的方式直接接入使用。 |
|
通用模型方式接入AI網(wǎng)關(guān) |
支持通過配置自定義AI服務地址且滿足OpenAI 接入標準的AI服務。 |
|
AI網(wǎng)關(guān)多模型代理 |
支持通過網(wǎng)關(guān)已集成的部分大模型供應商和配置自定義AI服務地址接入使用。 |
一、已集成模型接入AI網(wǎng)關(guān)
當前，云原生API網(wǎng)關(guān)已集成部分大模型供應商，可以通過選擇供應商并配置API-KEY，輕松實現(xiàn)模型接入。
1、創(chuàng)建AI服務
網(wǎng)關(guān)通過服務發(fā)送請求，創(chuàng)建AI服務的操作步驟如下：
（1）登錄云原生API網(wǎng)關(guān)控制臺。
（2）在左側(cè)導航欄選擇“實例”，并在頂部菜單欄選擇“地域”。
（3）在實例頁面，點擊目標網(wǎng)關(guān)實例名稱。
（4）在左側(cè)導航欄選擇“服務”，并點擊“服務”頁簽。
（5）點擊“創(chuàng)建服務”，在創(chuàng)建服務面板中進行配置：
- 服務來源：選擇AI服務；
- 服務名稱：填寫服務名稱，例如“aliyun-deepseek”；
- 大模型供應商：選擇對應的模型供應商，例如“阿里云百煉”；
- 服務地址（base_url）：使用默認配置，例如“https://dashscope.aliyuncs.com/compatible-model/v1”；
- API-KEY：填寫通過模型供應商獲取的請求憑證API-KEY。
2、創(chuàng)建AI API
接下來，創(chuàng)建AI API，配置AI API的基本信息：
（1）登錄云原生API網(wǎng)關(guān)控制臺。
（2）在左側(cè)導航欄選擇“API”，并在頂部菜單欄選擇“地域”。
（3）在API頁面選擇“AI API”頁簽，點擊“創(chuàng)建AI API”。
在創(chuàng)建AI API面板中，配置基本信息：
- 域名：建議配置域名（使用默認環(huán)境域名下存在限流）；
- 所屬實例：選擇創(chuàng)建的云原生API網(wǎng)關(guān)實例；
- AI請求觀測：開啟；
- 服務模型：選擇單模型服務；
- 服務列表：選擇在上一步創(chuàng)建的阿里云百煉DeepSeek服務；
- 模型名稱：選擇透傳模型。
3、調(diào)試AI API
（1）登錄云原生API網(wǎng)關(guān)控制臺。
（2）在左側(cè)導航欄選擇“API”，并在頂部菜單欄選擇“地域”。
（3）在API頁面選擇“AI API”頁簽，點擊目標創(chuàng)建的AI API名稱，進入API詳情頁面，點擊頁面上的“調(diào)試”按鈕。
（4）設置模型為“deepseek-r1”并與阿里云百煉的DeepSeek進行對話測試。
二、通用模型方式接入AI網(wǎng)關(guān)
如果使用的模型未被云原生API網(wǎng)關(guān)集成，并且支持OpenAI協(xié)議，可以通過配置自定義服務地址接入該模型。
例如可以將通過阿里云人工智能平臺PAI或函數(shù)計算FC等方式部署的DeepSeek服務接入AI網(wǎng)關(guān)。接入過程可以參考“通過AI網(wǎng)關(guān)接入PAI部署模型”的操作。
三、AI網(wǎng)關(guān)多模型代理
在此場景下，云原生API網(wǎng)關(guān)支持同時基于已集成模型和通用模型的方式接入多個模型，提供多模型代理服務，并支持在調(diào)用異常時執(zhí)行Fallback。
1、創(chuàng)建AI服務
可以按照場景一和場景二的步驟分別配置不同的AI服務（例如阿里云百煉、火山引擎和PAI等）。在配置時，還可以選擇配置Fallback，保證在某些模型服務出錯時可以切換到備用模型進行調(diào)用。
2、創(chuàng)建AI API
在創(chuàng)建或編輯AI API時，可以配置多模型服務：
（1）服務模型：選擇“多模型服務（按模型名稱）”。
（2）服務列表：添加多個服務并配置各自的模型名稱匹配規(guī)則。例如：
- 選擇阿里云DeepSeek服務，模型名稱匹配規(guī)則為“deepseek-*”；
- 選擇火山引擎DeepSeek服務，模型名稱匹配規(guī)則為“ep-*”。
（3）Fallback：開啟，并選擇PAI DeepSeek服務作為Fallback服務。
配置示例如下：
- 模型為“deepseek-*”時調(diào)用阿里云DeepSeek；
- 模型為“ep-*”時調(diào)用火山引擎DeepSeek；
- 在其他模型出錯或限流時調(diào)用PAI DeepSeek（按配置的Fallback順序調(diào)用）。
3、調(diào)試AI API
（1）登錄云原生API網(wǎng)關(guān)控制臺。
（2）在左側(cè)導航欄選擇“API”，并在頂部菜單欄選擇“地域”。
（3）在API頁面選擇“AI API”頁簽，點擊目標創(chuàng)建的AI API名稱，進入API詳情頁面，點擊“調(diào)試”按鈕。
輸入模型名稱，如“deepseek-v3”或“ep-20250219155230-28l6f”，并按照規(guī)則響應阿里云百煉或火山引擎的DeepSeek服務。
如果輸入的模型名稱不匹配任何服務，云原生API網(wǎng)關(guān)將自動觸發(fā)Fallback，調(diào)用PAI DeepSeek。
