Amazon Bedrock 模型提煉

概觀

藉助 Amazon Bedrock 模型提煉功能，您可以使用更小、更快、更具成本效益的模型，以提供使用案例特定的準確性，且其準確性能夠與 Amazon Bedrock 中最進階的模型相提並論。 Amazon Bedrock 中的提煉模型比原始模型速度提升高達 500%，成本降低高達 75%，對於 RAG 等使用案例，準確性損失少於 2%。

利用較小規模、更加經濟高效的模型

藉助模型提煉，客戶可以選取希望在其使用案例中達到其準確性的「老師」模型，然後選取其想要微調的「學生」模型。客戶還提供其使用案例的提示。模型提煉可自動化從老師模型產生回應並使用這些回應微調學生模型的程序。然後，學生模型就可以像老師模型一樣運作，以較低的成本取得相似的準確性。

利用專有資料合成最大限度提升提煉模型的效能

對較小規模、經濟高效的模型進行微調以針對特定使用案例實現與較大模型相似的精確性，這是一個反覆運作的程序。為消除取得更理想結果所需的一些反覆運作負擔，模型提煉可能會選擇套用最適合使用案例的不同資料合成方法。例如，Bedrock 可以透過產生類似的提示來擴展訓練資料集，或使用客戶提供的提示回應對來作為黃金範例，進而產生高品質的合成回應。

輕鬆使用生產資料以降低成本

使用傳統微調，客戶需要建立提示和回應。使用模型提煉，客戶只需提供提示，模型提煉即使用該提示來產生綜合回應並微調學生模型。客戶可將我們引導至其調用日誌，也可根據某些中繼資料欄位來篩選日誌。模型提煉可透過調用日誌，同時讀取提示和回應，並跳過模型提煉工作流程中的綜合回應產生，從而不必再次從教師模型產生回應來降低成本。開始使用程式碼範例。