先混个脸熟，后面几讲逐个拆。最常用的三个：

它们都是在调用时以参数形式传进去的。token 这个词后面 L04 会详细讲，现在你只要知道它约等于"字数单位"。

# 用 openai 风格的 SDK 举例（Claude、国产模型接口大同小异）
from openai import OpenAI
client = OpenAI()  # 会自动读环境变量里的 API key

resp = client.chat.completions.create(
    model="gpt-4o-mini",              # 选一个便宜的小模型
    messages=[{"role": "user", "content": "用一句话解释什么是大模型"}],
    temperature=0.2,                  # 旋钮1：低温=稳定、少发挥
    top_p=1.0,                        # 旋钮2：先保持默认（见 L03）
    max_tokens=100,                   # 旋钮3：最多答 100 token 就停
)
print(resp.choices[0].message.content)   # 打印模型答案

回忆 Day 10：模型每一步都在"预测下一个 token"，其实它心里对好几个候选词都有一个概率。温度就是在这个概率上做手脚：

• temperature = 0（或很低）：几乎总是选概率最高的那个词 → 答案稳定、可复现、适合"要标准答案"的活（分类、抽取、写代码）。
• temperature 高（0.8~1.2）：给低概率的词更多出场机会 → 答案多样、有创意，适合写文案、起名、头脑风暴。

• top_p（核采样）：另一种控随机性的方式。top_p=0.9 表示"只在累计概率前 90% 的候选词里挑，剩下 10% 的冷门词直接不考虑"——相当于司机只从最靠谱的几条路里选，不去乱试偏门小路。一般 temperature 和 top_p 只调一个。
• max_tokens：答案最长多少 token（到点就停）。既防止它啰嗦，也是花钱的硬上限（见 L04）。
• stop（停止词）：遇到指定字符串就立刻停。比如设 stop=["\n\n"]，模型写完一段就收手。
• frequency_penalty / presence_penalty：让模型别老重复同一个词/话题（值越大越"换着说"）。写长文防车轱辘话时有用，日常可不管。

token 是什么？模型不是按"一个汉字/一个单词"数数，而是按它自己的切分单位 token。粗略记：英文 1 个 token ≈ 4 个字符 ≈ 0.75 个单词；中文大约 1 个字 ≈ 1~2 个 token。一次调用的花费大致是：

每次响应里通常都带用量统计，学会读它你就能随时算钱：

resp = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "用一句话解释 token"}],
)
u = resp.usage                       # 这次调用的用量对象
print("输入 token:", u.prompt_tokens)      # 你问的部分
print("输出 token:", u.completion_tokens)  # 它答的部分
print("合计 token:", u.total_tokens)

# 假设单价：输入 ¥0.001/千token，输出 ¥0.004/千token（示意，以实际为准）
cost = u.prompt_tokens/1000*0.001 + u.completion_tokens/1000*0.004
print(f"本次约花 ¥{cost:.5f}")

• 首 token 延迟（TTFT, Time To First Token）：从你发请求到冒出第一个字的时间。受网络、模型排队、输入长短影响。
• 生成速度：之后每秒能吐多少 token。输出越长，总时间越长；大模型比小模型慢。

这就解释了 Day 12 为什么要做流式输出：它没让模型变快，但让用户"第一个字"很快就看到，感觉快多了——相当于司机边开边跟你聊，而不是到终点才一次性说话。

1. 贵活便宜活分流：简单任务（分类、格式化）用小模型，难任务（复杂推理）才上大模型——这就是 Day 15「模型路由」要展开的。
2. 精简输入：别把用不到的历史、整篇文档一股脑塞进去。输入直接决定输入费。
3. 设 max_tokens 上限：给输出封顶，既防啰嗦又防"失控烧钱"。
4. 缓存重复问题：同样的输入直接返回上次结果，不再调模型（0 成本、0 延迟）。
5. 低温更省重试：需要稳定结果的活用低温，减少"答歪了要重来"的浪费。

# 一个极简"结果缓存"：同样的问题不再花钱调模型
cache = {}                              # 用字典当缓存：问题 -> 答案

def ask(question):
    if question in cache:               # 命中缓存
        return cache[question]          # 直接返回，0 成本 0 延迟
    resp = client.chat.completions.create(
        model="gpt-4o-mini",            # 简单活用小模型
        messages=[{"role": "user", "content": question}],
        temperature=0.2,                # 要稳定，低温
        max_tokens=200,                 # 封顶，防烧钱
    )
    answer = resp.choices[0].message.content
    cache[question] = answer            # 记下来，下次直接用
    return answer

print(ask("1+1=?"))    # 第一次：真的调模型
print(ask("1+1=?"))    # 第二次：命中缓存，秒回、免费

✋ 动手（约 10 分钟）

目标：亲手感受"温度"和"计费"。把下面代码存成 day13.py 跑一跑（需要你已配好 API key，见 Day 11）。

from openai import OpenAI
client = OpenAI()

# 实验1：同一问题，跑 3 次高温，看答案是不是每次不同
print("=== 高温(创意) ===")
for i in range(3):
    r = client.chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": "给一家咖啡店起个名，只回名字"}],
        temperature=1.0, max_tokens=20,
    )
    print(i, r.choices[0].message.content.strip())

# 实验2：低温跑 2 次，看是不是几乎一样
print("=== 低温(稳定) ===")
for i in range(2):
    r = client.chat.completions.create(
        model="gpt-4o-mini",
        messages=[{"role": "user", "content": "1 到 5 的中文数字，用逗号分隔"}],
        temperature=0, max_tokens=20,
    )
    print(i, r.choices[0].message.content.strip())

# 实验3：读用量、算钱
print("输入token:", r.usage.prompt_tokens, "输出token:", r.usage.completion_tokens)