在LiteLLM中接入AnalyticDB Supabase记录LLM调用

步骤一：创建日志表

登录Supabase Dashboard，在侧边栏单击 SQL Editor ，执行以下DDL。您也可以选择使用MCP Server或CLI完成DDL操作。

• 列名需与下表一致（LiteLLM依赖固定字段写入）。

• 若使用非默认表名，需在应用侧配置自定义表名。

CREATE TABLE
  public.request_logs (
    id BIGINT GENERATED BY DEFAULT AS IDENTITY,
    created_at TIMESTAMP WITH TIME ZONE NULL DEFAULT now(),
    model TEXT NULL DEFAULT ''::TEXT,
    messages JSON NULL DEFAULT '{}'::JSON,
    response JSON NULL DEFAULT '{}'::JSON,
    end_user TEXT NULL DEFAULT ''::TEXT,
    status TEXT NULL DEFAULT ''::TEXT,
    error JSON NULL DEFAULT '{}'::JSON,
    response_time REAL NULL DEFAULT '0'::REAL,
    total_cost REAL NULL,
    additional_details JSON NULL DEFAULT '{}'::JSON,
    litellm_call_id TEXT UNIQUE,
    PRIMARY KEY (id)
  ) TABLESPACE pg_default;

可选优化（按业务量）

• 对created_at、model、end_user建立索引，加速按时间范围、模型、用户查询。

• 数据量较大时，可结合分区、归档策略控制表规模与查询性能。

步骤二：获取Project URL与API Key

若是VPC内使用，请登录云原生数据仓库AnalyticDB PostgreSQL版控制台，在左侧导航栏单击Supabase，然后单击目标Supabase Project进入详情页，在网络信息区域获取内网连接地址。

步骤三：配置IP白名单

AnalyticDB Supabase对API访问通常配合IP白名单使用。若LiteLLM无法写入或HTTPS请求超时，应优先核对白名单。

1. 登录云原生数据仓库AnalyticDB PostgreSQL版控制台，在左侧导航栏单击Supabase。

2. 在目标项目所在行操作列，单击修改白名单，将LiteLLM运行环境的IP加入白名单。

   多副本、多可用区或动态出口场景，需为每个实际出站地址配置白名单，或使用固定NAT或统一出口，避免遗漏。

步骤四：启用LiteLLM回调

1. 设置环境变量。

   export SUPABASE_URL="https://您的 Project URL"
   export SUPABASE_KEY="您的 service_role 密钥"
   export OPENAI_API_KEY="sk-..."   # 或实际使用的模型厂商 Key

2. 配置回调。

   建议同时启用success与failure回调，以便失败请求也落库，支撑错误分析与SLA统计。

   方式一：Python SDK（服务端应用内直连模型）

   在调用litellm.completion（或acompletion等）的同一进程、第一次请求之前设置：

   import litellm
   from litellm import completion
   
   litellm.success_callback = ["supabase"]
   litellm.failure_callback = ["supabase"]
   
   response = completion(
       model="gpt-3.5-turbo",
       messages=[{"role": "user", "content": "Hi"}],
       user="业务侧用户标识",  # 写入表字段 end_user
   )

   方式二：LiteLLM Proxy（litellm --config config.yaml）

   回调写在config.yaml的litellm_settings中，与官方示例proxy_server_config.yaml中success_callback/failure_callback的位置一致。

   litellm_settings:
     success_callback: ["supabase"]
     failure_callback: ["supabase"]

   示例（在现有model_list基础上增加litellm_settings）

   litellm_settings:
     success_callback: ["supabase"]
     failure_callback: ["supabase"]
   
   model_list:
     - model_name: gpt-3.5-turbo
       litellm_params:
         model: gpt-3.5-turbo
         api_key: os.environ/OPENAI_API_KEY

   启动

   litellm --config config.yaml --port 8000

步骤五：验证数据写入

在Supabase Dashboard侧边栏，单击 SQL Editor ，执行以下语句：

SELECT id, created_at, model, end_user, status, total_cost, response_time
FROM public.request_logs
ORDER BY id DESC
LIMIT 20;

若能查询到新产生的记录，说明LiteLLM → AnalyticDB Supabase REST API → Postgres链路正常。

自定义表名

默认写入表request_logs。若使用其它表名，在Python SDK中于调用前执行：

litellm.modify_integration("supabase", {"table_name": "您的表名"})

使用Proxy时，若YAML未提供等价项，需查阅您所用LiteLLM版本是否支持Supabase表名配置，或通过自定义回调或启动脚本注入。无把握时建议先用默认表名request_logs。

终端用户标识（写入end_user）