# 业务代码：地址只写"网关"，格式沿用 OpenAI 那套（大多数网关都兼容）
from openai import OpenAI

client = OpenAI(
    base_url="http://ai-gateway.mycompany.com/v1",  # ← 指向网关，不是 openai.com
    api_key="团队内部发的网关 key",                    # ← 网关自己的 key，不是各大厂的真 key
)
resp = client.chat.completions.create(
    model="fast",          # ← 只写一个"逻辑名字"，具体走哪个模型由网关决定
    messages=[{"role": "user", "content": "帮我总结这段话..."}],
)
print(resp.choices[0].message.content)
# 想把 "fast" 从 GPT 换成 DeepSeek？改网关配置即可，这段代码永远不动

# 网关配置（示意，不同产品字段名不同，理解意思即可）
consumers:                      # 谁能进（各团队的"通行证"）
  - name: team-rag
    key: rag-xxxxx              # 团队 A 的内部 key
  - name: team-support
    key: support-yyyyy          # 团队 B 的内部 key

rate_limit:                     # 限流：每个 key 每分钟最多几次
  team-rag: 60/minute
  team-support: 600/minute      # 客服流量大，配额高些
# 真正的 OPENAI_API_KEY 只存在网关服务器上，谁也拿不到明文

想把这两款网关的源码和 AI 插件吃透?各有一套 20 讲精讲(选学,学完回来继续 Day 62):

# 一个"迷你网关"，只为理解原理（生产别这么写，用 Higress/APISIX）
cache = {}                        # 缓存：问题 → 上次的答案
usage = {}                        # 计量：团队 → 累计 token

def gateway(team, question, real_llm):
    # 1) 鉴权（示意）：不认识的团队直接拒
    if team not in {"team-rag", "team-support"}:
        return "403 拒绝：无效通行证"
    # 2) 缓存：这题上次答过就直接返回，不花钱
    if question in cache:
        print("✅ 命中缓存，秒回、0 花费")
        return cache[question]
    # 3) 没命中 → 真去调大模型
    answer, tokens = real_llm(question)      # real_llm 返回(答案, 用了多少token)
    # 4) 计量：记进这个团队的"水电表"
    usage[team] = usage.get(team, 0) + tokens
    cache[question] = answer                 # 顺手存进缓存
    return answer

# 演示（real_llm 这里用假函数代替真实大模型调用）
fake = lambda q: (f"针对『{q}』的回答", 120)
print(gateway("team-rag", "什么是RAG", fake))   # 第一次：真调，计量 +120
print(gateway("team-rag", "什么是RAG", fake))   # 第二次：命中缓存，0 花费
print(gateway("陌生团队", "hi", fake))          # 被鉴权拦下
print("账单：", usage)                          # {'team-rag': 120}

✋ 动手 10 分钟：跑通"迷你网关"并画出请求路径

① 把 L06 的迷你网关代码复制到 mini_gateway.py 跑一遍,观察:第二次相同问题是不是"命中缓存",最后账单里是不是只统计了真正调用的那次。

② 试着自己加一条限流:给 usage 之外再加个 count 字典,某团队本次会话调用超过 3 次就返回 "429 太频繁，稍后再试"。

count = {}
def check_limit(team, limit=3):
    count[team] = count.get(team, 0) + 1
    return count[team] <= limit          # 超过 limit 返回 False → 该拒绝了
# 在 gateway 开头调用它，False 就 return "429 太频繁，稍后再试"

③ 在纸上画一遍:Agent → 网关(鉴权→限流→缓存→计量→路由) → 大模型 → 原路返回。能默画出来,今天就通关了。