Pengalaman Developer Amazon Bedrock

Amazon Bedrock menjadikan pembuatan dengan berbagai model fondasi (FM) semudah panggilan API. Amazon Bedrock menyediakan akses ke model terkemuka termasuk Jurassic dari AI21 Labs, Claude dari Anthropic, Command and Embed dari Cohere, Llama 2 dari Meta, dan Stable Diffusion dari Stability AI, serta model Amazon Titan kami sendiri. Dengan Amazon Bedrock, Anda dapat memilih FM yang paling sesuai dengan kasus penggunaan dan kebutuhan aplikasi Anda.

Lakukan eksperimen dengan FM yang berbeda menggunakan taman bermain interaktif untuk berbagai modalitas termasuk teks, obrolan, dan gambar. Taman bermain memungkinkan Anda mencoba berbagai model untuk kasus penggunaan Anda guna merasakan kesesuaian model untuk tugas tertentu.

Evaluasi Model di Amazon Bedrock memungkinkan Anda menggunakan evaluasi otomatis dan manusia untuk memilih FM untuk kasus penggunaan tertentu. Evaluasi model otomatis menggunakan set data yang dikurasi dan menyediakan metrik yang telah ditentukan sebelumnya termasuk akurasi, ketahanan, dan toksisitas. Untuk metrik subjektif, Anda dapat menggunakan Amazon Bedrock untuk menyiapkan alur kerja evaluasi manusia dalam beberapa langkah cepat. Dengan evaluasi manusia, Anda dapat membawa set data Anda sendiri dan menentukan metrik kustom, seperti relevansi, gaya, dan keselarasan dengan suara merek. Alur kerja evaluasi manusia dapat menggunakan karyawan Anda sendiri sebagai peninjau atau Anda dapat melibatkan tim yang dikelola oleh AW untuk melakukan evaluasi manusia, tempat AWS mempekerjakan evaluator terampil dan mengelola seluruh alur kerja atas nama Anda. Untuk mempelajari selengkapnya, baca blog.

Dalam beberapa langkah cepat, Amazon Bedrock memungkinkan Anda beralih dari model umum ke model khusus serta disesuaikan untuk bisnis dan kasus penggunaan Anda. Untuk mengadaptasi FM untuk tugas tertentu, Anda dapat menggunakan teknik yang disebut penyempurnaan. Arahkan ke beberapa contoh berlabel di Amazon Simple Storage Service (Amazon S3), dan Amazon Bedrock akan membuat salinan model dasar, melatihnya dengan data Anda, serta membuat model yang telah disempurnakan dan hanya dapat diakses oleh Anda, sehingga Anda mendapatkan respons yang disesuaikan . Penyempurnaan tersedia untuk model Command, Llama 2, Amazon Titan Text Lite and Express, Amazon Titan Image Generator, dan Amazon Titan Multimodal Embeddings. Cara kedua untuk mengadaptasi FM Amazon Titan Text Lite dan Amazon Titan Express di Amazon Bedrock adalah dengan pra-pelatihan lanjutan, teknik yang menggunakan set data Anda yang tidak berlabel untuk menyesuaikan FM untuk domain atau industri Anda. Dengan penyempurnaan dan pra-pelatihan lanjutan, Amazon Bedrock membuat salinan FM dasar privat yang disesuaikan untuk Anda, dan data Anda tidak digunakan untuk melatih model dasar asli. Data Anda yang digunakan untuk menyesuaikan model ditransfer dengan aman melalui Amazon Virtual Private Cloud (Amazon VPC) Anda. Untuk mempelajari selengkapnya, baca blog.

API Converse memberi developer cara yang konsisten untuk menginvokasi model Amazon Bedrock dengan menghilangkan kompleksitas untuk menyesuaikan perbedaan spesifik model seperti parameter inferensi.