AWS Builder Center
Amazon Bedrock 上的 GPT-5.6 快速入门指南

Amazon Bedrock 上的 GPT-5.6 快速入门指南

OpenAI GPT-5.6 (Sol / Terra / Luna) 已在 Amazon Bedrock 正式可用。本文用六步带你从零跑通:装环境、发出第一次调用、横比三个层级、扫描六档推理强度、用 prompt caching 把重复输入的成本压到一折,最后让模型调用真实的 MCP工具。全程走你自己的 AWS 账号,不需要 OpenAI API key;所有命令可直接复制,所有数字都是实测结果,不是估算。

Series: OpenAI on Bedrock 中文博客系列 (1 article)

  1. 1
    Amazon Bedrock 上的 GPT-5.6 快速入门指南 This article
OpenAI 的 GPT-5.6 有三个层级 —— Sol、Terra、Luna —— 现在可以在 Amazon Bedrock上调用,走你自己的 AWS 账号,不需要 OpenAI 的 API key。
这篇走最短路径:克隆仓库、跑通、看懂输出。全部命令都可以直接复制,所有数字都是真实跑出来的,你在自己账号上应该能得到同一量级的结果。

背景:先搞清两件事

GPT-5.6 已于 2026 年 7 月在 Amazon Bedrock 正式可用。动手前有两件事值得先弄明白。
第一,Sol / Terra / Luna 不是版本号。 数字 5.6 表示代次,Sol、Terra、Luna 表示三个能力档位,而且这三档可以各自独立演进。所以选型时该问的是 "这个任务需要多深的推理",而不是 "哪个更新"。据 OpenAI 公布的评测,Sol 是其至今最强的推理模型,在编码 agent 和安全研究类任务上明显领先前代,同时输出 token 更省;Terra 以更低成本超过上一代;Luna 面向高并发、低延迟。Sol 还多一档  max  推理强度。
第二,为什么在 Bedrock 上跑而不是直连 OpenAI。 以下三点均出自 AWS 的 GA 公告(链接见附录):
  • 推理在你指定的 AWS 区域内完成,便于满足数据驻留要求
  • 每次调用都走你自己的 IAM 策略、在你的 VPC 内,并记入 CloudTrail
  • 定价对齐 OpenAI 第一方费率,用量计入你已有的 AWS 承诺
下面开始动手。

你需要什么

  • Python 3.10 或更新
  • 一个 AWS 账号,凭证配好 ( ~/.aws/credentials  或  AWS_PROFILE )
  • 目标区域可用 GPT-5.6,且你的 IAM 身份有调用 Bedrock 的权限
先确认凭证能用。装了 AWS CLI 的话:
aws sts get-caller-identity

能打印出你的账号和身份就行。AWS CLI 不是必需的 —— 示例代码从不调用它,凭证是通过 Python SDK 读的。没装的话,等下一步装完依赖,用这条等效检查:
python -c "import botocore.session as s; print('credentials found' if s.get_session().get_credentials() else 'NO credentials')"


第一步:装环境

git clone https://github.com/hanyun2019/openai-bedrock-samples.git
cd openai-bedrock-samples

python -m venv .venv
source .venv/bin/activate # Windows 用 .venv\Scripts\activate
pip install -r requirements.txt

不需要设任何 API key。 这是和直连 OpenAI 最大的区别:代码会用你的 AWS 凭证,在每次请求前自动生成一个短期 Bedrock token。 openai>=2.45.0  是硬要求,因为要用到里面的  BedrockOpenAI  客户端。

第二步:第一次调用

python -m src.gpt56.hello

============================================================
Tier : terra
Model ID : openai.gpt-5.6-terra
Region : us-east-1
Usage : in=20 out=36 total=56
reasoning=0
============================================================
I'm best suited for understanding and generating text, answering
questions, summarizing and analyzing information, ...
============================================================

通了。这里只有一处值得记住:必须用  -m  跑,不能直接跑文件路径。
python -m src.gpt56.hello # 对
python src/gpt56/hello.py # 报 ImportError

因为示例模块之间用的是相对导入,直接跑文件时 Python 不知道它属于哪个包。
整个项目的核心只有一个文件  src/gpt56/client.py ,它做两件事:校验层级和区域的组合、构造一个会自动续期 token 的客户端。其余模块都 import 它。

第三步:三个层级,选哪个

一句话版本:
层级
模型 ID
什么时候用
Sol
openai.gpt-5.6-sol
复杂重构、长链推理、安全研究
Terra
openai.gpt-5.6-terra
日常生产。默认从这个开始
Luna
openai.gpt-5.6-luna
分类、摘要、路由等高并发低延迟场景
用的题目是这道:
Compare Tiers Math Question #1

它故意把信息分在两处 —— 顶点式公式里藏着 "最大值在 x=3",而 g(3) 要去表里查。模型必须把两处组合起来,不能靠模式匹配蒙对。答案是 B。
同一道题喂给三个层级:
python -m src.gpt56.compare_tiers

built-in text problem · effort=low · region=us-east-1
Correct answer: B (k=3, g(3)=6)
==============================================================================
tier sec in out reasoning answer
sol 2.4 133 79 0 B
terra 1.5 133 67 0 B
luna 1.5 133 95 25 B

三个都答对了。这正是要点:简单任务上,贵的层级不会给你更好的答案。 这一次 Terra 还比 Sol 更快、输出更省。层级的差距要到难题上才显出来。
具体数字每次都会飘 (我重跑一次得到 sol 87 / terra 85 out token,快慢也换了位置),不用对着某个数纠结。要看的是结论:**三档都答对,所以这道题选贵的没有收益。**所以选型顺序应该是:先用 Terra 试,不够了再升 Sol,而不是反过来。
一个会直接报错的坑:Sol 只在  us-east-1  和  us-east-2  有,Terra 和 Luna 多一个  us-west-2 。 client.py  会在发请求前就把这个组合拦下来:
ValueError: GPT-5.6 sol is not available in us-west-2.
Available Regions: us-east-1, us-east-2


第四步:推理强度 effort

GPT-5.6 回答前会先推理。推理花多少力气由  reasoning.effort  控制,六档: none 、 low 、 medium 、 high 、 xhigh 、 max 。
这一步换一道代数题:
Reasoning Effort with Algebra Question #2

它只需要一步指数律变换 (相除等于指数相减,于是 3x - y 直接代入),看着很简单,但那 "一步变换" 本身就是推理 —— 这正好用来观察  effort  起不起作用。D 是陷阱:x 和 y 各自确实无法确定,但表达式只依赖 3x - y 这个组合,所以有唯一答案。
正确答案是 A。
六档扫一遍:
python -m src.gpt56.effort_sweep terra

Model: openai.gpt-5.6-terra @ us-east-1
Correct answer: A 1 run(s) per level

effort sec in out reasoning answer
none 3.1 83 79 0 A OK
low 1.2 83 73 0 A OK
medium 2.9 83 115 30 A OK
high 1.1 83 116 32 A OK
xhigh 1.7 83 121 43 A OK
max 1.7 83 126 46 A OK

看两列就够了:
 reasoning  列从 0 涨到 46。这就是 effort 在做的事 —— 买思考的量。 in  列恒定 83。 提示词没变,所以输入不变;effort 只影响输出侧。这意味着调高 effort 只增加输出成本。
而  sec  列是乱的 (3.1 → 1.2 → 2.9 → 1.1)。别从单次测量里读出 "档位越高越慢" 这种结论 —— 网络抖动就能盖过这点差异,而且按 AWS 文档的说法, bedrock-mantle  端点在吞吐吃紧时可能把请求短暂排队,等在飞的请求完成后再服务。这是它的设计方式 (用调度加队列换更高的初始吞吐上限),不是故障,但会让单次耗时更没有参考价值。
 reasoning  列在单次运行里也会乱序。 我另一次跑出来是  0, 0, 33, 28, 31, 40  ——  high  比  medium  还少。上升是真实趋势,但单次采样盖不住波动。想看清趋势就让每档多跑几次:
python -m src.gpt56.effort_sweep terra 3

effort sec in out reasoning accuracy answers
none 1.5 83 80 0 3/3 A, A, A
low 1.3 83 77 0 3/3 A, A, A
medium 1.4 83 103 22 3/3 A, A, A
high 1.4 83 111 31 3/3 A, A, A
xhigh 1.5 83 117 33 3/3 A, A, A
max 1.6 83 121 49 3/3 A, A, A

取平均后就单调了: 0, 0, 22, 31, 33, 49 。这道题不难,18 次全对,所以这里看的是成本梯度,不是正确率差异。
有一件事必须知道:推理 token 按输出 token 计费,而且会占用  max_output_tokens  的额度。如果预算给小了,推理可能把额度吃光,你拿到一个  status="incomplete" 、正文为空的响应。示例代码里默认给到 32000 就是为了避开这个坑。
实用建议:从  low  开始。  none  的推理预算是 0,做抽取和格式化没问题,但只要任务需要哪怕一步推断,就用  low  或更高。

第五步:省钱 —— prompt caching

如果你要对同一份长文档反复提问 (RAG、文档问答都是这个形状),缓存能省很多。
python -m src.gpt56.prompt_cache

脚本拿《白鲸》(1851,公有领域) 的开头当参考文档,对同一份前缀连问两个不同问题:
Q1: In two sentences, what is the narrator's stated reason for going to sea?
Q2: In two sentences, describe the mood of the opening chapter.

一个问事实、一个问氛围,但都只针对这份文档。这正是缓存最划算的形态:文档不变,问题在变。
Reference doc: first 12000 chars of Moby-Dick (public domain)

[call 1 (cache write)] input=3002 cached=0 written=2980 hit_rate=0.0%
[call 2 (cache read) ] input=2998 cached=2980 written=0 hit_rate=99.4%

第二次调用 99.4% 的输入命中了缓存。命中部分按未缓存输入价的 10% 计费 (缓存写按 1.25 倍),而且不占 input TPM 配额 —— 这就是省钱的来源,写一次、读多次最划算 (首次运行会从 Project Gutenberg 下载全文,看到几次  IncompleteRead  重试是正常的)
最容易踩的坑:缓存前缀必须至少 1024 token。 不够长的话什么都不缓存,而且不报错 ——  cached  就一直是 0。你会以为代码写错了,其实是前缀太短。
还有一个会让人愣一下的现象:把上面那条  python -m src.gpt56.prompt_cache 紧接着再跑一次,这次的  call 1  也会显示命中:
[call 1 (cache write)] input=3002 cached=2980 written=0 hit_rate=99.3%

标签写着 cache write 却命中了 99.3%,看着矛盾。其实没错 —— 上一次运行写入的缓存还在保留期内 (至少 30 分钟),所以这一次的第一个调用直接读到了它。标签只是描述 "脚本里的第几个调用",不是"这次一定会写缓存"。

第六步 (可选):Function Calling 与 MCP

前五步都是"问一句、答一句"。这一步让模型去调用外部工具,是做 agent 的起点。不做 agent 可以跳过。仓库里有两个版本,协议完全一样,区别只在工具从哪来。
版本一:桩函数,用来看清协议
python -m src.gpt56.tool_calling

Model: openai.gpt-5.6-terra @ us-east-1

-> model requested get_weather({'location': 'Seattle, US', 'unit': 'fahrenheit'}) -> returned {'location': 'Seattle, US', 'temperature': 18, 'condition': 'Partly cloudy'}

Final answer:
Seattle is currently **18°F** and **partly cloudy**.

一次完整往返分三步:把工具定义放进  tools=  发出去 → 模型回一个  function_call 告诉你它要调什么、参数是什么 → 你在本地执行,把结果作为  function_call_output 回传,并用  call_id  和那次调用配对。执行工具的始终是你的代码,模型只负责决定调不调、传什么参数。
版本二:接真实 MCP Server,拿真实数据
MCP (Model Context Protocol) 是给模型接外部工具的开放协议。这个例子桥接 AWS 官方的文档 MCP Server —— 只读公开文档、不需要额外 AWS 权限。需要先装  uv/uvx ,首次运行会自动下载该 server。
python -m src.gpt56.mcp_tools

Starting MCP server: awslabs.aws-documentation-mcp-server ...
MCP offers 5 tools; bridging 2 to the model: ['read_documentation', 'search_documentation']

Model: openai.gpt-5.6-terra @ us-east-1
Question: Using the AWS documentation tools, find the model ID and the AWS Regions for GPT-5.6 Sol on Amazon Bedrock. ...

[turn 1] model called MCP tool search_documentation
[turn 2] model called MCP tool read_documentation

Final answer (turn 3):
The Amazon Bedrock model ID for GPT-5.6 Sol is `openai.gpt-5.6-sol`.
It is available for in-Region inference in `us-east-1` (N. Virginia) and `us-east-2` (Ohio).
Source: [AWS documentation—GPT-5.6 Sol](https://docs.aws.amazon.com/bedrock/latest/userguide/model-card-openai-gpt-56-sol.html).

模型自己决定了两步:先  search_documentation  搜,再  read_documentation  读具体页面,第 3 轮才给答案 —— 而且答案带官方 URL 引用,内容是真从文档里读出来的,不是编的。
代码层面它和版本一的区别只有一处:工具定义不再手写,而是从 MCP 的  list_tools() 翻译成 Responses API 的 function 格式;执行也不再是本地函数,而是转发给 session.call_tool() 。协议部分一字不变。
两条实践经验:
  • 别把 MCP 的所有工具都塞给模型。 这个 server 提供 5 个工具,示例只放行了 2 个。工具定义会占 input token,也会增加模型选错的概率
  • 要设轮数上限。 我第一次把问题问得太宽("支持哪些 reasoning 档位"),模型连搜好几轮还没收敛。把问题问具体、并明确告诉它"拿到这两个事实就别再搜",第 3 轮就结束了

附:常见错误速查

汇总了前面各步都可能撞到的报错,按你看到的错误信息查。
你看到的
原因
ImportError: attempted relative import...
直接跑了文件路径,要用 python -m
ValueError: GPT-5.6 sol is not available in...
Sol 没有 us-west-2
status="incomplete" 且正文为空
推理吃光了 max_output_tokens,调大它或降 effort
cached 一直是 0
缓存前缀不到 1024 token
HTTP 429
被限流。客户端已设 max_retries=6 自动退避,或把任务摊开跑
AccessDeniedException
权限不足。检查 IAM 是否允许调用 Bedrock,以及有没有 SCP 显式拒绝
401 Unauthorized: Signature expired
Bedrock 短期 token 过期(最长 12 小时)。示例代码会自动续期,这个错通常出现在 Codex 场景
command not found: aws
没装 AWS CLI。它是可选的,用上面那条 botocore 检查替代

小结

走到这里,你已经在自己的 AWS 账号上跑通了 GPT-5.6:装好环境、发出第一次调用、横向比过三个层级、扫过六档推理强度、用缓存把重复输入的成本压到一折,还让模型调用了真实的外部工具。这些都不是演示,是可以直接搬进项目的代码。
想继续往下走,有两个方向。把 Codex CLI 接到 Bedrock,让编码 agent 的推理也走你自己的账号 —— 这部分和上面的调用方式差别较大,仓库 README 里有完整说明。或者拿第六步那两个例子当骨架,换成你自己的工具去搭 agent。
祝你的 Agentic AI coding 之旅愉快!



附录:参考文档

AWS 官方文档
  1.  GPT-5.6 Sol, Terra, Luna 在 Amazon Bedrock 正式可用  —— GA 公告,开头那段背景的来源。三档的定位、评测数据、推理引擎与安全模型都在这里
  1.  GPT-5.6 Sol 模型卡  —— 模型 ID 与可用区域的权威来源
  1.  Endpoints supported by Amazon Bedrock  —— 讲清  bedrock-mantle  与  bedrock-runtime  两个端点的分工,以及各自的吞吐 与配额模型。本文全程走前者(OpenAI 兼容的 Responses API),AWS 也推荐新应用用它; 后者是  InvokeModel  /  Converse  那套原生接口。顺带一句:正因为走的是 mantle, 本文完全不需要 boto3 来做推理调用
  1.  Amazon Bedrock 定价  —— 最新费率。GPT-5.6 Terra 和 Luna 的价格在 2026 年 7 月底调整过,以此页为准
  1.  Bedrock API keys 权限  —— 调 Responses API 需要  bedrock-mantle:CallWithBearerToken  这个 action。 注意不是  bedrock:CallWithBearerToken ,两个名字很像,配错会得到令人困惑的拒绝
  1.  Request access to models  —— 模型访问权限说明。一个容易搞混的点:该页讲的 Marketplace 订阅流程针对的是 有 product ID 的第三方模型,而OpenAI 模型不通过 AWS Marketplace 销售、没有 product ID,所以那套订阅流程和  aws-marketplace:*  权限对 GPT-5.6 不适用
OpenAI 官方文档
  1.  Getting Started with OpenAI Models on Amazon Bedrock  —— OpenAI Cookbook 的官方指南。讲了本文没覆盖的进阶能力:结构化输出、JSON mode、 服务端状态管理、加密推理上下文、异步任务、PDF 直传、自定义工具、上下文压缩。 ⚠️ 它默认  us-west-2 ,而 Sol 在该区域不可用,别照抄它的模型和区域配置
  1.  Reasoning models  ——  reasoning.effort  的官方说明
工具与依赖
  1.  uv / uvx 安装  ——  mcp_tools.py  需要
  1.  awslabs/mcp  —— AWS 官方 MCP Server 集合,本文用的 AWS Documentation MCP Server 出自这里
  1.  Codex on Amazon Bedrock  —— 把 Codex 接到 Bedrock
示例素材
  1.  Moby-Dick, Project Gutenberg #2701  ——  prompt_cache.py  的参考文档,1851 年作品,公有领域
代码
  1.  openai-bedrock-samples  —— 本文全部代码

Series: OpenAI on Bedrock 中文博客系列 (1 article)

  1. 1
    Amazon Bedrock 上的 GPT-5.6 快速入门指南 This article
Any opinions in this article are those of the individual author and may not reflect the opinions of AWS.
Enjoyed reading this content? Let the author know!

Your likes, comments, shares, and saves help creators reach more builders.

Loading recommendations

Loading article