Bedrock 是什麼?用 ODM 思維一秒懂
Bedrock 英文原意是「岩盤」——蓋房子時最底層、最穩固的地基。AWS 想表達:這是你蓋 AI 應用的地基。
🏭 網通廠做交換器(你熟的世界)
- 不自己開發晶片,從 Realtek、Broadcom、Marvell 的型錄挑 SoC
- 晶片原廠負責製程、良率、驅動
- 你專注在產品設計、韌體與客戶需求
- 依採購量談價,不用自建晶圓廠
🪨 開發者用 Bedrock(AI 的世界)
- 不自己訓練模型,從 Bedrock 的模型目錄挑 Claude、Nova、GPT、Llama…
- 模型原廠負責訓練、更新、品質
- 你專注在應用邏輯、提示詞與使用者體驗
- 依 Token 用量計費,不用自建 GPU 機房
一句話定義:Amazon Bedrock 是 AWS 的全托管(Fully Managed)生成式 AI 平台——透過同一組 API,直接呼叫 Anthropic、OpenAI、Meta、Mistral、Amazon 自家 Nova 等 17+ 家供應商、上百款「基礎模型」,按用量付費,完全不需要管理任何伺服器或 GPU。
SageMaker 自己部署開源模型,就得自己挑 GPU 機型、管理端點(Endpoint)、處理流量尖峰——Bedrock 把這些全部收走了。
互動:一次 AI 請求的完整旅程
按「下一步」跟著一個請求從你的程式出發,走完整條 Bedrock 管線。每一站都是一個你必須認識的名詞。
看懂 Bedrock 前,必修的 8 個名詞
官方文件裡反覆出現的詞。搞懂這 8 個,文件閱讀速度直接加倍。
Foundation Model (FM)基礎模型
用海量資料預先訓練好的大型 AI 模型,能處理各種任務(對話、摘要、寫程式、看圖)。Bedrock 的「商品」就是一款款 FM。
Inference推論
「使用」模型的動作:你丟輸入進去、模型算出輸出。訓練(Training)是教模型,推論是請模型上工。Bedrock 主要賣的就是推論服務。
Token詞元
模型處理文字的最小單位,大約是一個英文詞片段或 1~2 個中文字。計費就是以 Token 數計算,輸入與輸出分開算價。
Prompt提示詞
你給模型的輸入指令。寫得越清楚,輸出越好。系統提示(System Prompt)則是預先設定模型角色與規則的特殊提示。
Context Window上下文視窗
模型一次能「記住」的內容上限(輸入+輸出加總),以 Token 計。超過就得截斷或分段。
Temperature / Top-p取樣參數
控制輸出「隨機程度」的旋鈕。Temperature 越低越保守穩定,越高越有創意但也越容易亂講。
Model ID模型識別碼
呼叫 API 時指定模型用的字串,格式通常是「供應商.模型名稱-版本」。跨區域推論時前面還會多一個區域前綴。
anthropic.claude-opus-4-7、openai.gpt-5.5、apac.amazon.nova-2-liteMultimodal多模態
模型能同時處理多種資料型態:文字、圖片、音訊、影片。2026 年的 Bedrock 已從純文字平台變成真正的多模態平台。
模型目錄:2026 年你能點的菜
Bedrock 2023 年上線時只有個位數模型家族,2026 年已擴張到 17+ 家供應商、超過 100 款模型。連 OpenAI 的 GPT-5.5 都在 2026 年上架了。
| 家族 | 代表模型 | 擅長 |
|---|---|---|
| Claude(Anthropic) | claude-opus-4-7 / sonnet | 長文推理、程式碼、Agent 工作流;1M 上下文 |
| Nova 2(Amazon 自家) | nova-2-lite / sonic / multimodal-embeddings | 高性價比、語音、多模態嵌入;可用 Nova Forge 客製 |
| GPT(OpenAI) | openai.gpt-5.5 / gpt-5.4 | 2026 年新上架;走 Responses API 與 bedrock-mantle 端點 |
| Llama(Meta) | llama-4-maverick / scout | 開放權重、可自行微調 |
| Stable Image(Stability) | sd3.5-large 等 16 款 | 文生圖 + 去背、擴圖等 13 種編輯原語 |
四種呼叫方式:從滑鼠點點到寫程式
| 方式 | 適合誰 | 說明 |
|---|---|---|
| ① 主控台 Playground | 完全新手 | 登入 AWS Console → Bedrock → Chat/Text Playground,像用 ChatGPT 一樣直接聊,零程式碼。先在這裡玩熟模型再寫程式。 |
| ② Converse API | 寫應用的人(推薦) | Bedrock 的統一對話介面:同一段程式碼,換個 Model ID 就能切換不同供應商的模型,不用改請求格式。新專案首選。 |
| ③ InvokeModel API | 需要模型原生格式的人 | 較底層的呼叫方式,請求內容要照各模型「原生格式」組裝,換模型就要改程式。舊專案常見。 |
| ④ OpenAI 相容端點 | 已有 OpenAI 程式碼的團隊 | 透過 bedrock-mantle 端點,用 OpenAI SDK 與 Responses API 直接打 Bedrock 上的模型,幾乎不用改程式碼。 |
最小可行程式碼(Python + boto3,AWS 官方 SDK):
# pip install boto3;先設定好 AWS 憑證 import boto3 client = boto3.client("bedrock-runtime", region_name="ap-northeast-1") resp = client.converse( modelId="anthropic.claude-sonnet-4-6", messages=[{"role": "user", "content": [{"text": "用一句話解釋什麼是 PoE 交換器"}]}] ) print(resp["output"]["message"]["content"][0]["text"])
bedrock vs bedrock-runtime —— SDK 裡有兩個客戶端:bedrock 是「管理面」(列出模型、開通存取、建立微調任務),bedrock-runtime 是「執行面」(真正送推論請求)。新手常搞混,記住:聊天找 runtime。
Bedrock 牽連到的 AWS 服務,一次認識
Bedrock 從不單獨出現。點開每一張卡,看它是誰、為什麼 Bedrock 需要它。
不只聊天:Bedrock 的六大進階武器
Knowledge Bases知識庫(RAG)
把你的文件丟進去,模型回答時會先「查資料再回答」,這個技術叫 RAG(檢索增強生成)。2026 年推出全托管版:自動連接資料來源、自動解析多種格式(Smart Parsing),還有能多步驟查詢的 Agentic Retriever。
Agents / AgentCore代理人
讓模型不只回答、還能動手做事:查資料庫、呼叫 API、多步驟完成任務。AgentCore 提供代理人需要的執行環境、記憶(Memory)、工具閘道(Gateway)與行動權限管控(Policy,2026/3 正式版)。
Guardrails護欄
內容安全防護層:過濾有害內容、遮蔽個資(PII)、封鎖特定話題、攔截提示詞注入攻擊。可套用在任何模型上,一組護欄全公司共用。
Model Customization模型客製化
用自己的資料調整模型:微調(Fine-tuning)教模型你的領域知識與格式;蒸餾(Distillation)把大模型的能力灌進小模型,省成本。Nova Forge SDK 讓非 ML 工程師也能客製 Nova 模型。
Prompt Caching / Batch省錢雙寶
提示詞快取:重複出現的長系統提示只算一次錢,後續呼叫大幅打折。批次推論(Batch):不急的大量任務排隊處理,單價約打五折。
Cross-Region Inference跨區域推論
用「推論設定檔(Inference Profile)」讓請求自動路由到同地理區內有空的區域,避開流量尖峰。Model ID 前綴代表範圍:us.、eu.、apac.、global.。
錢怎麼算?三種計費模式
隨用隨付 On-Demand
按 Token 計費,輸入與輸出分開算價,用多少付多少,零門檻。不同模型單價差異可達百倍,旗艦模型貴、輕量模型便宜。
批次推論 Batch
把大量請求打包成批次任務,AWS 排隊處理(可能等幾小時),換取約 50% 折扣。
預置吞吐量 Provisioned Throughput
預先包下固定的處理容量(以「模型單位」計),按時數或月/半年約付費,保證效能不排隊。微調後的客製模型必須用這種方式部署。