
Amazon Bedrock 上的 GPT-5.6 快速入门指南
OpenAI GPT-5.6 (Sol / Terra / Luna) 已在 Amazon Bedrock 正式可用。本文用六步带你从零跑通:装环境、发出第一次调用、横比三个层级、扫描六档推理强度、用 prompt caching 把重复输入的成本压到一折,最后让模型调用真实的 MCP工具。全程走你自己的 AWS 账号,不需要 OpenAI API key;所有命令可直接复制,所有数字都是实测结果,不是估算。
Series: OpenAI on Bedrock 中文博客系列 (1 article)
- 1Amazon Bedrock 上的 GPT-5.6 快速入门指南 This article
OpenAI 的 GPT-5.6 有三个层级 —— Sol、Terra、Luna —— 现在可以在 Amazon Bedrock上调用,走你自己的 AWS 账号,不需要 OpenAI 的 API key。
这篇走最短路径:克隆仓库、跑通、看懂输出。全部命令都可以直接复制,所有数字都是真实跑出来的,你在自己账号上应该能得到同一量级的结果。
背景:先搞清两件事
GPT-5.6 已于 2026 年 7 月在 Amazon Bedrock 正式可用。动手前有两件事值得先弄明白。
第一,Sol / Terra / Luna 不是版本号。 数字 5.6 表示代次,Sol、Terra、Luna 表示三个能力档位,而且这三档可以各自独立演进。所以选型时该问的是 "这个任务需要多深的推理",而不是 "哪个更新"。据 OpenAI 公布的评测,Sol 是其至今最强的推理模型,在编码 agent 和安全研究类任务上明显领先前代,同时输出 token 更省;Terra 以更低成本超过上一代;Luna 面向高并发、低延迟。Sol 还多一档
max 推理强度。第二,为什么在 Bedrock 上跑而不是直连 OpenAI。 以下三点均出自 AWS 的 GA 公告(链接见附录):
- 推理在你指定的 AWS 区域内完成,便于满足数据驻留要求
- 每次调用都走你自己的 IAM 策略、在你的 VPC 内,并记入 CloudTrail
- 定价对齐 OpenAI 第一方费率,用量计入你已有的 AWS 承诺
下面开始动手。
你需要什么
- Python 3.10 或更新
- 一个 AWS 账号,凭证配好 (
~/.aws/credentials或AWS_PROFILE)
- 目标区域可用 GPT-5.6,且你的 IAM 身份有调用 Bedrock 的权限
先确认凭证能用。装了 AWS CLI 的话:
aws sts get-caller-identity
能打印出你的账号和身份就行。AWS CLI 不是必需的 —— 示例代码从不调用它,凭证是通过 Python SDK 读的。没装的话,等下一步装完依赖,用这条等效检查:
python -c "import botocore.session as s; print('credentials found' if s.get_session().get_credentials() else 'NO credentials')"
第一步:装环境
git clone https://github.com/hanyun2019/openai-bedrock-samples.gitcd openai-bedrock-samples
python -m venv .venvsource .venv/bin/activate # Windows 用 .venv\Scripts\activatepip install -r requirements.txt
不需要设任何 API key。 这是和直连 OpenAI 最大的区别:代码会用你的 AWS 凭证,在每次请求前自动生成一个短期 Bedrock token。
openai>=2.45.0 是硬要求,因为要用到里面的 BedrockOpenAI 客户端。第二步:第一次调用
python -m src.gpt56.hello
============================================================Tier : terraModel ID : openai.gpt-5.6-terraRegion : us-east-1Usage : in=20 out=36 total=56 reasoning=0============================================================I'm best suited for understanding and generating text, answeringquestions, summarizing and analyzing information, ...============================================================
通了。这里只有一处值得记住:必须用
-m 跑,不能直接跑文件路径。python -m src.gpt56.hello # 对python src/gpt56/hello.py # 报 ImportError
因为示例模块之间用的是相对导入,直接跑文件时 Python 不知道它属于哪个包。
整个项目的核心只有一个文件
src/gpt56/client.py ,它做两件事:校验层级和区域的组合、构造一个会自动续期 token 的客户端。其余模块都 import 它。第三步:三个层级,选哪个
一句话版本:
层级 | 模型 ID | 什么时候用 |
|---|---|---|
Sol | openai.gpt-5.6-sol | 复杂重构、长链推理、安全研究 |
Terra | openai.gpt-5.6-terra | 日常生产。默认从这个开始 |
Luna | openai.gpt-5.6-luna | 分类、摘要、路由等高并发低延迟场景 |
用的题目是这道:

它故意把信息分在两处 —— 顶点式公式里藏着 "最大值在 x=3",而 g(3) 要去表里查。模型必须把两处组合起来,不能靠模式匹配蒙对。答案是 B。
同一道题喂给三个层级:
python -m src.gpt56.compare_tiers
built-in text problem · effort=low · region=us-east-1Correct answer: B (k=3, g(3)=6)==============================================================================tier sec in out reasoning answersol 2.4 133 79 0 Bterra 1.5 133 67 0 Bluna 1.5 133 95 25 B
三个都答对了。这正是要点:简单任务上,贵的层级不会给你更好的答案。 这一次 Terra 还比 Sol 更快、输出更省。层级的差距要到难题上才显出来。
具体数字每次都会飘 (我重跑一次得到 sol 87 / terra 85 out token,快慢也换了位置),不用对着某个数纠结。要看的是结论:**三档都答对,所以这道题选贵的没有收益。**所以选型顺序应该是:先用 Terra 试,不够了再升 Sol,而不是反过来。
一个会直接报错的坑:Sol 只在
us-east-1 和 us-east-2 有,Terra 和 Luna 多一个 us-west-2 。 client.py 会在发请求前就把这个组合拦下来:ValueError: GPT-5.6 sol is not available in us-west-2.Available Regions: us-east-1, us-east-2
第四步:推理强度 effort
GPT-5.6 回答前会先推理。推理花多少力气由
reasoning.effort 控制,六档: none 、 low 、 medium 、 high 、 xhigh 、 max 。这一步换一道代数题:

它只需要一步指数律变换 (相除等于指数相减,于是 3x - y 直接代入),看着很简单,但那 "一步变换" 本身就是推理 —— 这正好用来观察
effort 起不起作用。D 是陷阱:x 和 y 各自确实无法确定,但表达式只依赖 3x - y 这个组合,所以有唯一答案。正确答案是 A。
六档扫一遍:
python -m src.gpt56.effort_sweep terra
Model: openai.gpt-5.6-terra @ us-east-1Correct answer: A 1 run(s) per level
effort sec in out reasoning answernone 3.1 83 79 0 A OKlow 1.2 83 73 0 A OKmedium 2.9 83 115 30 A OKhigh 1.1 83 116 32 A OKxhigh 1.7 83 121 43 A OKmax 1.7 83 126 46 A OK
看两列就够了:
reasoning 列从 0 涨到 46。这就是 effort 在做的事 —— 买思考的量。 in 列恒定 83。 提示词没变,所以输入不变;effort 只影响输出侧。这意味着调高 effort 只增加输出成本。而
sec 列是乱的 (3.1 → 1.2 → 2.9 → 1.1)。别从单次测量里读出 "档位越高越慢" 这种结论 —— 网络抖动就能盖过这点差异,而且按 AWS 文档的说法, bedrock-mantle 端点在吞吐吃紧时可能把请求短暂排队,等在飞的请求完成后再服务。这是它的设计方式 (用调度加队列换更高的初始吞吐上限),不是故障,但会让单次耗时更没有参考价值。reasoning 列在单次运行里也会乱序。 我另一次跑出来是 0, 0, 33, 28, 31, 40 —— high 比 medium 还少。上升是真实趋势,但单次采样盖不住波动。想看清趋势就让每档多跑几次:python -m src.gpt56.effort_sweep terra 3
effort sec in out reasoning accuracy answersnone 1.5 83 80 0 3/3 A, A, Alow 1.3 83 77 0 3/3 A, A, Amedium 1.4 83 103 22 3/3 A, A, Ahigh 1.4 83 111 31 3/3 A, A, Axhigh 1.5 83 117 33 3/3 A, A, Amax 1.6 83 121 49 3/3 A, A, A
取平均后就单调了:
0, 0, 22, 31, 33, 49 。这道题不难,18 次全对,所以这里看的是成本梯度,不是正确率差异。有一件事必须知道:推理 token 按输出 token 计费,而且会占用
max_output_tokens 的额度。如果预算给小了,推理可能把额度吃光,你拿到一个 status="incomplete" 、正文为空的响应。示例代码里默认给到 32000 就是为了避开这个坑。实用建议:从
low 开始。 none 的推理预算是 0,做抽取和格式化没问题,但只要任务需要哪怕一步推断,就用 low 或更高。第五步:省钱 —— prompt caching
如果你要对同一份长文档反复提问 (RAG、文档问答都是这个形状),缓存能省很多。
python -m src.gpt56.prompt_cache
脚本拿《白鲸》(1851,公有领域) 的开头当参考文档,对同一份前缀连问两个不同问题:
Q1: In two sentences, what is the narrator's stated reason for going to sea?Q2: In two sentences, describe the mood of the opening chapter.
一个问事实、一个问氛围,但都只针对这份文档。这正是缓存最划算的形态:文档不变,问题在变。
Reference doc: first 12000 chars of Moby-Dick (public domain)
[call 1 (cache write)] input=3002 cached=0 written=2980 hit_rate=0.0%[call 2 (cache read) ] input=2998 cached=2980 written=0 hit_rate=99.4%
第二次调用 99.4% 的输入命中了缓存。命中部分按未缓存输入价的 10% 计费 (缓存写按 1.25 倍),而且不占 input TPM 配额 —— 这就是省钱的来源,写一次、读多次最划算 (首次运行会从 Project Gutenberg 下载全文,看到几次
IncompleteRead 重试是正常的)最容易踩的坑:缓存前缀必须至少 1024 token。 不够长的话什么都不缓存,而且不报错 ——
cached 就一直是 0。你会以为代码写错了,其实是前缀太短。还有一个会让人愣一下的现象:把上面那条
python -m src.gpt56.prompt_cache 紧接着再跑一次,这次的 call 1 也会显示命中:[call 1 (cache write)] input=3002 cached=2980 written=0 hit_rate=99.3%
标签写着 cache write 却命中了 99.3%,看着矛盾。其实没错 —— 上一次运行写入的缓存还在保留期内 (至少 30 分钟),所以这一次的第一个调用直接读到了它。标签只是描述 "脚本里的第几个调用",不是"这次一定会写缓存"。
第六步 (可选):Function Calling 与 MCP
前五步都是"问一句、答一句"。这一步让模型去调用外部工具,是做 agent 的起点。不做 agent 可以跳过。仓库里有两个版本,协议完全一样,区别只在工具从哪来。
版本一:桩函数,用来看清协议
python -m src.gpt56.tool_calling
Model: openai.gpt-5.6-terra @ us-east-1
-> model requested get_weather({'location': 'Seattle, US', 'unit': 'fahrenheit'}) -> returned {'location': 'Seattle, US', 'temperature': 18, 'condition': 'Partly cloudy'}
Final answer:Seattle is currently **18°F** and **partly cloudy**.
一次完整往返分三步:把工具定义放进
tools= 发出去 → 模型回一个 function_call 告诉你它要调什么、参数是什么 → 你在本地执行,把结果作为 function_call_output 回传,并用 call_id 和那次调用配对。执行工具的始终是你的代码,模型只负责决定调不调、传什么参数。版本二:接真实 MCP Server,拿真实数据
MCP (Model Context Protocol) 是给模型接外部工具的开放协议。这个例子桥接 AWS 官方的文档 MCP Server —— 只读公开文档、不需要额外 AWS 权限。需要先装 uv/uvx ,首次运行会自动下载该 server。
python -m src.gpt56.mcp_tools
Starting MCP server: awslabs.aws-documentation-mcp-server ...MCP offers 5 tools; bridging 2 to the model: ['read_documentation', 'search_documentation']
Model: openai.gpt-5.6-terra @ us-east-1Question: Using the AWS documentation tools, find the model ID and the AWS Regions for GPT-5.6 Sol on Amazon Bedrock. ...
[turn 1] model called MCP tool search_documentation[turn 2] model called MCP tool read_documentation
Final answer (turn 3):The Amazon Bedrock model ID for GPT-5.6 Sol is `openai.gpt-5.6-sol`.It is available for in-Region inference in `us-east-1` (N. Virginia) and `us-east-2` (Ohio).Source: [AWS documentation—GPT-5.6 Sol](https://docs.aws.amazon.com/bedrock/latest/userguide/model-card-openai-gpt-56-sol.html).
模型自己决定了两步:先
search_documentation 搜,再 read_documentation 读具体页面,第 3 轮才给答案 —— 而且答案带官方 URL 引用,内容是真从文档里读出来的,不是编的。代码层面它和版本一的区别只有一处:工具定义不再手写,而是从 MCP 的
list_tools() 翻译成 Responses API 的 function 格式;执行也不再是本地函数,而是转发给 session.call_tool() 。协议部分一字不变。两条实践经验:
- 别把 MCP 的所有工具都塞给模型。 这个 server 提供 5 个工具,示例只放行了 2 个。工具定义会占 input token,也会增加模型选错的概率
- 要设轮数上限。 我第一次把问题问得太宽("支持哪些 reasoning 档位"),模型连搜好几轮还没收敛。把问题问具体、并明确告诉它"拿到这两个事实就别再搜",第 3 轮就结束了
附:常见错误速查
汇总了前面各步都可能撞到的报错,按你看到的错误信息查。
你看到的 | 原因 |
|---|---|
ImportError: attempted relative import... | 直接跑了文件路径,要用 python -m |
ValueError: GPT-5.6 sol is not available in... | Sol 没有 us-west-2 |
status="incomplete" 且正文为空 | 推理吃光了 max_output_tokens,调大它或降 effort |
cached 一直是 0 | 缓存前缀不到 1024 token |
HTTP 429 | 被限流。客户端已设 max_retries=6 自动退避,或把任务摊开跑 |
AccessDeniedException | 权限不足。检查 IAM 是否允许调用 Bedrock,以及有没有 SCP 显式拒绝 |
401 Unauthorized: Signature expired | Bedrock 短期 token 过期(最长 12 小时)。示例代码会自动续期,这个错通常出现在 Codex 场景 |
command not found: aws | 没装 AWS CLI。它是可选的,用上面那条 botocore 检查替代 |
小结
走到这里,你已经在自己的 AWS 账号上跑通了 GPT-5.6:装好环境、发出第一次调用、横向比过三个层级、扫过六档推理强度、用缓存把重复输入的成本压到一折,还让模型调用了真实的外部工具。这些都不是演示,是可以直接搬进项目的代码。
想继续往下走,有两个方向。把 Codex CLI 接到 Bedrock,让编码 agent 的推理也走你自己的账号 —— 这部分和上面的调用方式差别较大,仓库 README 里有完整说明。或者拿第六步那两个例子当骨架,换成你自己的工具去搭 agent。
祝你的 Agentic AI coding 之旅愉快!
附录:参考文档
AWS 官方文档
- GPT-5.6 Sol, Terra, Luna 在 Amazon Bedrock 正式可用 —— GA 公告,开头那段背景的来源。三档的定位、评测数据、推理引擎与安全模型都在这里
- GPT-5.6 Sol 模型卡 —— 模型 ID 与可用区域的权威来源
- Endpoints supported by Amazon Bedrock
—— 讲清
bedrock-mantle与bedrock-runtime两个端点的分工,以及各自的吞吐 与配额模型。本文全程走前者(OpenAI 兼容的 Responses API),AWS 也推荐新应用用它; 后者是InvokeModel/Converse那套原生接口。顺带一句:正因为走的是 mantle, 本文完全不需要 boto3 来做推理调用
- Amazon Bedrock 定价 —— 最新费率。GPT-5.6 Terra 和 Luna 的价格在 2026 年 7 月底调整过,以此页为准
- Bedrock API keys 权限
—— 调 Responses API 需要
bedrock-mantle:CallWithBearerToken这个 action。 注意不是bedrock:CallWithBearerToken,两个名字很像,配错会得到令人困惑的拒绝
- Request access to models
—— 模型访问权限说明。一个容易搞混的点:该页讲的 Marketplace 订阅流程针对的是
有 product ID 的第三方模型,而OpenAI 模型不通过 AWS Marketplace 销售、没有
product ID,所以那套订阅流程和
aws-marketplace:*权限对 GPT-5.6 不适用
OpenAI 官方文档
- Getting Started with OpenAI Models on Amazon Bedrock
—— OpenAI Cookbook 的官方指南。讲了本文没覆盖的进阶能力:结构化输出、JSON mode、
服务端状态管理、加密推理上下文、异步任务、PDF 直传、自定义工具、上下文压缩。
⚠️ 它默认
us-west-2,而 Sol 在该区域不可用,别照抄它的模型和区域配置
- Reasoning models
——
reasoning.effort的官方说明
工具与依赖
- uv / uvx 安装
——
mcp_tools.py需要
- awslabs/mcp —— AWS 官方 MCP Server 集合,本文用的 AWS Documentation MCP Server 出自这里
- Codex on Amazon Bedrock —— 把 Codex 接到 Bedrock
示例素材
- Moby-Dick, Project Gutenberg #2701
——
prompt_cache.py的参考文档,1851 年作品,公有领域
代码
- openai-bedrock-samples —— 本文全部代码
Series: OpenAI on Bedrock 中文博客系列 (1 article)
- 1Amazon Bedrock 上的 GPT-5.6 快速入门指南 This article
Enjoyed reading this content? Let the author know!
Your likes, comments, shares, and saves help creators reach more builders.
Loading recommendations
Loading article