模型网关 - InsForge Docs

概述

InsForge 为模型网关项目配置了 OpenRouter API 密钥。对于新的 AI 功能，请直接使用该密钥与 OpenRouter 的 OpenAI 兼容 API 一起使用，而不是已弃用的 InsForge AI 代理方法。使用 InsForge 仪表板复制活动的 OpenRouter 密钥，将其存储在 OPENROUTER_API_KEY 中，然后从受信任的服务器端代码调用 OpenRouter。

不要在浏览器包中暴露 OPENROUTER_API_KEY。在 React、Next.js、Vue、Svelte 和类似应用中，将 OpenRouter 调用放在后端路由、服务器操作、函数或其他仅服务器的边界后面。

安装

npm install openai

对于本地脚本，您可能还想要：

npm install dotenv

环境

OPENROUTER_API_KEY=<your-openrouter-api-key>

创建客户端

import OpenAI from 'openai';

export const openai = new OpenAI({
  baseURL: 'https://openrouter.ai/api/v1',
  apiKey: process.env.OPENROUTER_API_KEY,
  defaultHeaders: {
    'HTTP-Referer': 'https://your-app.example',
    'X-Title': 'Your App',
  },
});

HTTP-Referer 和 X-Title 头是可选的 OpenRouter 元数据头。如果您想要 OpenRouter 归属和应用程序排名，请保留它们。

聊天完成

const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o',
  messages: [
    { role: 'system', content: 'You are a concise assistant.' },
    { role: 'user', content: 'What is the capital of France?' },
  ],
});

console.log(completion.choices[0]?.message?.content);

流式传输

const stream = await openai.chat.completions.create({
  model: 'anthropic/claude-3.5-haiku',
  messages: [{ role: 'user', content: 'Write a short product update.' }],
  stream: true,
});

for await (const chunk of stream) {
  const text = chunk.choices[0]?.delta?.content;
  if (text) process.stdout.write(text);
}

工具调用

const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o-mini',
  messages: [{ role: 'user', content: 'Look up order 123 and summarize it.' }],
  tools: [
    {
      type: 'function',
      function: {
        name: 'get_order',
        description: 'Fetch an order by ID',
        parameters: {
          type: 'object',
          properties: {
            orderId: { type: 'string' },
          },
          required: ['orderId'],
        },
      },
    },
  ],
});

console.log(completion.choices[0]?.message?.tool_calls);

图像输入

const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o',
  messages: [
    {
      role: 'user',
      content: [
        { type: 'text', text: 'Describe this image.' },
        {
          type: 'image_url',
          image_url: {
            url: 'https://example.com/photo.jpg',
          },
        },
      ],
    },
  ],
});

console.log(completion.choices[0]?.message?.content);

图像生成

使用支持图像输出的模型并请求图像模式。OpenRouter 支持 OpenAI SDK 类型表面中可能还没有的字段，所以在本地扩展请求和响应类型。

type OpenRouterImageRequest =
  OpenAI.Chat.ChatCompletionCreateParamsNonStreaming & {
    modalities?: Array<'image' | 'text'>;
  };

type OpenRouterImage = {
  type: 'image_url';
  image_url: {
    url: string;
  };
};

type OpenRouterImageMessage = OpenAI.Chat.ChatCompletionMessage & {
  images?: OpenRouterImage[];
};

const request: OpenRouterImageRequest = {
  model: 'google/gemini-2.5-flash-image',
  modalities: ['image', 'text'],
  messages: [
    { role: 'user', content: 'Generate a clean product mockup on a white background.' },
  ],
};

const completion = await openai.chat.completions.create(request);

const message = completion.choices[0]?.message as OpenRouterImageMessage | undefined;
console.log(message?.content);
console.log(message?.images?.[0]?.image_url?.url);

嵌入

const response = await openai.embeddings.create({
  model: 'openai/text-embedding-3-small',
  input: 'Your text here',
});

console.log(response.data[0].embedding);

视频生成

OpenRouter 视频生成直接使用 OpenRouter HTTP 端点。

const response = await fetch('https://openrouter.ai/api/v1/videos', {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.OPENROUTER_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
    model: 'google/veo-3.1',
    prompt: 'A golden retriever playing fetch on a sunny beach.',
  }),
});

if (!response.ok) {
  const body = await response.text();
  throw new Error(`OpenRouter video request failed: ${response.status} ${body}`);
}

const job = await response.json();
console.log(job);

Next.js 路由示例

用您的应用的身份验证提供者或会话验证器替换 verifySessionToken。

// app/api/chat/route.ts
import OpenAI from 'openai';

const openai = new OpenAI({
  baseURL: 'https://openrouter.ai/api/v1',
  apiKey: process.env.OPENROUTER_API_KEY,
});

declare function verifySessionToken(token: string): Promise<boolean>;

export async function POST(request: Request) {
  const authorization = request.headers.get('Authorization');
  const sessionToken = authorization?.startsWith('Bearer ')
    ? authorization.slice('Bearer '.length)
    : undefined;

  if (!sessionToken || !(await verifySessionToken(sessionToken))) {
    return Response.json({ error: 'Unauthorized' }, { status: 401 });
  }

  const body = await request.json().catch(() => ({}));
  const prompt = typeof body.prompt === 'string' ? body.prompt.trim() : '';

  if (!prompt || prompt.length > 4000) {
    return Response.json(
      { error: 'Prompt must be between 1 and 4000 characters.' },
      { status: 400 }
    );
  }

  const completion = await openai.chat.completions.create({
    model: 'openai/gpt-4o-mini',
    messages: [{ role: 'user', content: prompt }],
  });

  return Response.json({
    text: completion.choices[0]?.message?.content ?? '',
  });
}

将 InsForge 数据与 AI 结合使用

使用 InsForge SDK 进行数据库、身份验证、存储、函数和实时操作。直接使用 OpenRouter 进行模型调用。

import { createClient } from '@insforge/sdk';
import OpenAI from 'openai';

const insforge = createClient({
  baseUrl: process.env.INSFORGE_BASE_URL!,
  anonKey: process.env.INSFORGE_ANON_KEY!,
});

const openai = new OpenAI({
  baseURL: 'https://openrouter.ai/api/v1',
  apiKey: process.env.OPENROUTER_API_KEY,
});

const { data: documents } = await insforge.database
  .from('documents')
  .select()
  .limit(5);

const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o-mini',
  messages: [
    {
      role: 'user',
      content: `Summarize these records:\n${JSON.stringify(documents)}`,
    },
  ],
});

console.log(completion.choices[0]?.message?.content);

旧版 InsForge AI 代理

之前的 InsForge AI SDK 方法已弃用：

insforge.ai.chat.completions.create()
insforge.ai.images.generate()
insforge.ai.embeddings.create()

它们映射到仍然存在以实现兼容性的后端代理路由，但新的集成应该直接使用 OpenRouter。直接路径提供了对 OpenRouter 完整和不断发展的 API 表面的访问，无需等待 InsForge SDK 包装器更新。

模型目录

使用 InsForge 仪表板或 OpenRouter 模型目录来选择模型。模型 ID 使用 provider/model 格式，如 openai/gpt-4o、anthropic/claude-3.5-haiku 和 google/gemini-2.5-flash-image。

​概述

​安装

​环境

​创建客户端

​聊天完成

​流式传输

​工具调用

​图像输入

​图像生成

​嵌入

​视频生成

​Next.js 路由示例

​将 InsForge 数据与 AI 结合使用

​旧版 InsForge AI 代理

​模型目录

概述

安装

环境

创建客户端

聊天完成

流式传输

工具调用

图像输入

图像生成

嵌入

视频生成

Next.js 路由示例

将 InsForge 数据与 AI 结合使用

旧版 InsForge AI 代理

模型目录