Amazon SageMaker AI SSS'leri

Amazon SageMaker AI (eski adıyla Amazon SageMaker), her türlü kullanım örneği için yüksek performanslı ve düşük maliyetli makine öğrenimi (ML) sağlamak üzere geniş bir araç kümesini bir araya getiren, tam olarak yönetilen bir hizmettir. SageMaker AI ile büyük ölçekte ML modelleri oluşturabilir, eğitebilir ve dağıtabilirsiniz. SageMaker; veri, analiz ve yapay zeka için birleşik bir platformdur. Müşterilerin AWS'de kolay ve hızlı bir şekilde uygulama oluşturmaları için yapay zeka destekli yeni bir birleşik geliştirme deneyimi sağlar.

re:Invent 2024'te, desteklenen yetenekler arasında çıkarım uç noktaları, JumpStart, Eğitim, MLFlow, Model Kayıt Defteri, ortak yapay zeka uygulamaları, HyperPod, İşlem Hatları ve diğerleri bulunacak. Eğitimden dağıtıma kadar model geliştirme yolculuğunun tamamını destekleyen mevcut tüm işlevleri, yeni Birleşik Stüdyo'da bir araya getirmeyi amaçlıyoruz.

SageMaker; verilerinizi bulmak, bunlara erişmek ve bunlarla ilgili harekete geçmek için birleşik bir veri ve yapay zeka deneyimi sunarak analiz ve yapay zeka girişimlerini hızlandırır. SageMaker AI, desteklenmeye devam edecektir. Bu nedenle mevcut iş akışlarınızın çalışmaya devam etmesini sağlamak için herhangi bir işlem yapmanız gerekmez. Örneğin, mevcut Amazon SageMaker HyperPod kümelerinizi olduğu gibi kullanmaya devam edebilirsiniz. Bunları yeni SageMaker Birleşik Stüdyosu'nda kullanmak istiyorsanız bu kümeyle bir bağlantı kurun. Tüm mevcut HyperPod yapılandırmalarınız otomatik olarak SageMaker'daki projenize taşınacak ve performans ile maliyet verimliliği aynı kalacaktır. Bununla birlikte, SageMaker Birleşik Stüdyosu deneyimi, tüm araçları tek bir yerde toplayarak üretkenliği artırabilir.

Daha hızlı iş birliği yapmanıza ve oluşturmanıza olanak tanıyan birleşik bir stüdyoyu duyurmaktan memnunuz. SageMaker Birleşik Stüdyosu'ndan verileri keşfedebilir ve sorgulayabilir, yapay zeka modelleri eğitebilir ve üretken yapay zeka uygulamaları oluşturabilirsiniz. Her adımda sizi desteklemek için buradayız. Mevcut projelerinizi 2025'in ilk çeyreğinde birleşik stüdyoya getirmeniz için kullanımı kolay yönergeler sağlayacağız. Herhangi bir sorunuz varsa hesap ekibinize ulaşmaktan çekinmeyin.

SageMaker Stüdyosu, güvenilir ve kolaylaştırılmış bir ML geliştirme deneyimine ihtiyaç duyan müşteriler için mükemmel bir seçim olmaya devam ediyor. Veri ve analiz yeteneklerini keşfetmek isteyen kuruluşlar; yeni birleşik platformun entegre yönetişim, gelişmiş analiz ve üretken yapay zeka özelliklerini çekici bulacaklar. Yeni SageMaker Birleşik Stüdyosu entegre deneyimiyle verileri hazırlayıp entegre edebilir, SQL'yi kullanarak verilere göz atabilir ve birleşik bir katalogla verileri keşfedip yönetebilirsiniz.

Evet. HyperPod, JumpStart, MLFlow, JupyterLab ve İşlem Hatları; yeni SageMaker Birleşik Stüdyosu'nda mevcuttur. Ek olarak çıkarım uç noktaları, Eğitim, Model Kayıt Defteri ve diğer popüler SageMaker yetenekleri de yeni Birleşik Stüdyo'da desteklenmektedir.

Yolculuk 1. Altyapı modellerini (FM'ler) seçin, özelleştirin ve dağıtın:

• Bir veri kümesine göz atın ve seçin
• Bir FM seçin
• Modelleri değerlendirin (otomatik ve insan)
• Özelleştirin, ince ayar yapın: FM fiyatını, performansı ve kaliteyi optimize edin
• Çıkarım için optimize edin ve dağıtın
• FMOPs ve model izleme ile otomatikleştirin

Yolculuk 2. ML modellerini uygun ölçekte oluşturun, eğitin ve dağıtın:

• ML için veri hazırlığını hızlandırın ve ölçeklendirin
• ML modelleri oluşturun
• ML modellerini eğitin ve ayarlayın
• Üretimde dağıtın
• Yönetin ve izleyin
• ML yaşam döngüsünü otomatikleştirin

Yolculuk 3. Bir model seçin, oluşturun ve bir üretken yapay zeka uygulaması dağıtın:

• Bir model seçin ve ince ayar yapın
• Modeli Amazon Bedrock'a içeri aktarın
• Uç noktanızla entegre olan bir üretken yapay zeka uygulaması oluşturun ve dağıtın

Yolculuk 4. Bir model seçin, modeli bir uç noktaya dağıtın ve uç noktayı üretken yapay zeka uygulamalarına bağlayın:

• Bir model seçin
• Modeli bir SageMaker uç noktasına dağıtın
• Uç noktayı, üretken yapay zeka uygulamalarınıza bağlayın

Yeni birleşik geliştirme deneyimi, Stüdyo için kullanıma dayalı bir fiyatlandırma modeline ve tüm temel hizmetler için düz geçiş fiyatlandırmasına sahiptir. Birleşik Stüdyo; meta veri depolama, API talepleri ve yönetişim için ücretlendirir. Daha fazla ayrıntı için Amazon SageMaker fiyatlandırması bölümünü ziyaret edin.

SageMaker, ML yaşam döngüsü boyunca amaca yönelik oluşturulmuş ML yönetim araçları sağlar. Amazon SageMaker Rol Yöneticisi ile yöneticiler minimum yetkileri dakikalar içinde tanımlayabilir. Amazon SageMaker Model Kartları, tasarımdan dağıtıma kadar temel model bilgilerini yakalamayı, almayı ve paylaşmayı kolaylaştırırken Amazon SageMaker Model Panosu, üretim modeli davranışı hakkında tek bir yerden bilgi edinmenizi sağlar. Daha
fazla bilgi için bkz. Amazon SageMaker ile ML Yönetişimi.

SageMaker Rol Yöneticisi ile minimum izinleri dakikalar içinde tanımlayabilirsiniz. Önceden oluşturulmuş IAM politikaları kataloğu ile makine öğrenimi etkinlikleri ve kişilikleri için temel bir dizi yetki sağlar. Temel yetkileri koruyabilir veya özel ihtiyaçlarınıza göre daha fazla özelleştirebilirsiniz. Kendi kendine yönlendirilen birkaç bilgi istemi ile ağ erişim sınırları ve şifreleme anahtarları gibi genel yönetim yapılarını hızlı bir şekilde işleyebilirsiniz. SageMaker Rol Yöneticisi daha sonra IAM politikasını otomatik olarak oluşturacaktır. Oluşturulan rolü ve ilişkili politikaları AWS IAM konsolu aracılığı ile keşfedebilirsiniz. Yetkileri kullanım durumunuza göre daha da uyarlama yapmak için, yönetilen IAM politikanızı SageMaker Rol Yöneticisi ile oluşturduğunuz IAM rolüne ekleyin. AWS ürünlerinde rolü tanımlama ve düzenlemeyi sağlayacak etiketler de ekleyebilirsiniz.

SageMaker Model Kartları, model bilgileri için tek bir doğruluk kaynağı oluşturarak makine öğrenimi yaşam döngüsü boyunca model belgelerini merkezileştirmenizi ve standartlaştırmanızı sağlar. SageMaker Model Kartları, dokümantasyon sürecini hızlandırmak için eğitim ayrıntılarını otomatik olarak doldurur. Modelin amacı ve performans hedefleri gibi detayları de ekleyebilirsiniz. Model değerlendirme sonuçlarını model kartınıza ekleyebilir ve model performansı hakkında önemli bilgiler edinmek için görselleştirmeler sağlayabilirsiniz. SageMaker Model Kartları, PDF formatına dışa aktarılarak başkalarıyla kolayca paylaşılabilir.

SageMaker Model Panosu, dağıtılan modellere ve uç noktalara ilişkin kapsamlı bir genel bakış sunar, böylece size kaynakları ve model davranış ihlallerini tek bir yerden kontrol etme imkanı tanır. SageMaker Model İzleyici ve SageMaker Clarify ile olan entegrasyonu sayesinde; veri kalitesi, model kalitesi, yanılgı ve özellik ilişkilendirme sapması dahil olmak üzere model davranışını dört boyutta izlemenizi sağlar. SageMaker Model Panosu ayrıca eksik ve etkin olmayan model izleme işleri, model kalitesi, veri kalitesi, yanılgı kayması ve özellik ilişkilendirme kayması adına model davranışındaki sapmalar için uyarılar almak ve uyarı oluşturmak üzere entegre bir deneyim sunar. Ayrı ayrı modelleri daha fazla inceleyebilir ve zaman içinde model performansını etkileyen faktörleri analiz edebilirsiniz. Daha sonrasında düzeltme önlemleri almak için makine öğrenimi uygulayıcılarıyla takip edebilirsiniz.

SageMaker JumpStart, makine öğrenimi kullanmaya hızlı ve kolay bir şekilde başlamanızı sağlar. SageMaker JumpStart, en yaygın kullanım durumları için sadece birkaç adımda kolayca dağıtılabilen bir dizi çözüm sunar. Çözümler tamamen özelleştirilebilir ve makine öğrenimi yolculuğunuzu hızlandırabilmeniz için AWS CloudFormation şablonlarının ve referans mimarilerinin kullanımını sergiler. SageMaker JumpStart ayrıca temel modelleri sağlar ve dönüştürücü, nesne algılama ve görüntü sınıflandırma modelleri gibi 150'den fazla popüler açık kaynaklı modelin tek adımlı dağıtımını ve ince ayarını destekler. 

SageMaker JumpStart, tescilli ve herkese açık modeller sağlar. Kullanılabilir altyapı modellerinin listesi için Amazon SageMaker JumpStart'ı Kullanmaya Başlama kısmına bakın.

Temel modellere SageMaker Stüdyo, SageMaker SDK ve AWS Yönetim Konsolu aracılığıyla erişebilirsiniz. Tescilli temel modelleri kullanmaya başlamak için AWS Marketplace'te satış koşullarını kabul etmeniz gerekir.

Hayır. Çıkarım ve eğitim verileriniz, SageMaker JumpStart'ın müşterilere sunduğu temel modeli güncellemek veya eğitmek için kullanılmayacak veya paylaşılmayacaktır.

Hayır. Tescilli modeller müşterilerin, model ağırlıklarını ve komut dosyalarını görüntülemesine izin vermez.

Modeller, SageMaker Stüdyosu'nun kullanılabildiği tüm Bölgelerde keşfedilebilir ancak bir modeli dağıtma yeteneği, gerekli bulut sunucusu türünün model ve bulut sunucusu kullanılabilirliğine göre farklılık gösterir. AWS Bölgesi kullanılabilirliği ve gerekli bulut sunucusu konusuna AWS Pazar Yeri'ndeki model ayrıntıları sayfasından başvurabilirsiniz.

Tescilli modeller için model sağlayıcısı tarafından belirlenen yazılım fiyatlandırması ve kullanılan bulut sunucusuna göre SageMaker altyapı ücretleri açısından ücretlendirilirsiniz. Herkese açık modeller için kullanılan bulut sunucusuna göre SageMaker altyapı ücretleri açısından ücretlendirilirsiniz. Daha fazla bilgi için bkz. Amazon SageMaker Fiyatlandırması ve AWS Marketplace.

AWS'de güvenlik en önemli önceliktir ve SageMaker JumpStart güvenli olacak şekilde tasarlanmıştır. Bu nedenle SageMaker, içeriğinizin nerede depolanacağını belirlemenize, aktarılmakta olan ve bekleyen içeriğinizin güvenliğini sağlamanıza, kullanıcılarınız için hem AWS hizmet ve hem de kaynaklarına erişimi yönetmenize yardımcı olan basitleştirilmiş, güçlü araçlarla içeriğinizin sizin sahiplik ve denetiminiz altında kalmasını sağlar.

1. Müşteri eğitim ve çıkarım bilgilerini AWS Pazar Yeri'nde model satıcılarla paylaşmayız. Benzer şekilde, satıcının model yapıtları (örneğin model ağırlıkları) alıcıyla paylaşılmaz.
2. SageMaker JumpStart, hizmetini geliştirmek için müşteri modellerini, eğitim verilerini veya algoritmaları kullanmaz; müşteri eğitim ve çıkarım verilerini üçüncü taraflarla paylaşmaz.
3. SageMaker JumpStart'ta ML model yapıtları, aktarım sırasında ve beklemedeyken şifrelenir.
4. AWS'nin tamamının çalıştırıldığı küresel altyapının korunmasından AWS Paylaşılan Sorumluluk Modeli kapsamında AWS sorumludur. Bu altyapı üzerinde barındırılan içeriğiniz üzerinde kontrol sağlamak sizin sorumluluğunuzdadır.

Kullanıcılar bir AWS Pazar Yeri veya SageMaker JumpStart modeli kullandıklarında model çıktı kalitesinin sorumluluğunu üstlenir ve bireysel model açıklamasında belirtilen yetenek ve sınırlamaları kabul eder.

SageMaker JumpStart; PyTorch Hub ve TensorFlow Hub'dan önceden eğitilmiş herkese açık 150'den fazla modeli içerir. Görüntü sınıflandırması ve nesne algılama gibi görü görevleri için RESNET, MobileNet ve tek atışta algılama (SSD) gibi modelleri kullanabilirsiniz. Cümle sınıflandırması, metin sınıflandırması ve soru cevaplama gibi metin görevleri için BERT, RoBERTa ve DistilBERT gibi modelleri kullanabilirsiniz.

SageMaker JumpStart ile veri bilimciler ve makine öğrenimi geliştiricileri, not defterleri ve modeller de dahil olmak üzere makine öğrenimi yapıtlarını kuruluşlarında kolayca paylaşabilirler. Yöneticiler, tanımlanmış bir kullanıcı kümesi tarafından erişilebilen bir depo ayarlayabilir. Depoya erişim izni olan tüm kullanıcılar, model ve not defterlerinin yanı sıra SageMaker JumpStart içindeki genel içeriğe göz atabilir, arayabilir ve kullanabilir. Kullanıcılar; modelleri eğitmek, uç noktaları dağıtmak ve SageMaker JumpStart'ta not defterlerini yürütmek için yapıtları seçebilir.

SageMaker JumpStart ile ML uygulamaları oluştururken pazara sunma süresini kısaltabilirsiniz. Kuruluşunuzdaki bir ekip tarafından oluşturulan modeller ve not defterleri, kuruluşunuzdaki diğer ekiplerle sadece birkaç adımda kolayca paylaşılabilir. Dahili bilgi paylaşımı ve varlıkların yeniden kullanımı, kuruluşunuzun üretkenliğini önemli ölçüde artırabilir.

Amazon SageMaker Clarify artık altyapı modeli değerlendirmesini destekliyor. Özel kullanım durumunuz için en iyi altyapı modellerini değerlendirebilir, karşılaştırabilir ve seçebilirsiniz. Soru yanıtlama veya içerik özetleme gibi belirli bir görev için değerlendirmek istediğiniz modeli seçmeniz yeterlidir. Ardından değerlendirme kriterlerini (ör. doğruluk, adalet ve sağlamlık) seçin ve kendi istem veri kümenizi yükleyin veya yerleşik, herkese açık veri kümeleri arasından seçim yapın. Gelişmiş insan muhakemesi gerektiren öznel kriterler veya incelikli içerikler için kendi iş gücünüzden yararlanmayı tercih edebilir, yanıtları incelemek içinse AWS'nin sağladığı yönetilen bir iş gücünü kullanabilirsiniz. Kurulum işlemini tamamladığınızda SageMaker Clarify, değerlendirmelerini çalıştırır ve bir rapor oluşturur. Böylece modelin temel kriterler arasında nasıl performans gösterdiğini kolayca anlayabilirsiniz. Değerlendirme sihirbazını veya açık kaynaklı kitaplığı kullanarak AWS'de barındırılmayan altyapı modellerini SageMaker JumpStart'taki altyapı modellerini değerlendirebilirsiniz.

Evet. Yöneticiler, birden çok AWS hesabı ve kullanıcı sorumlusu üzerinden hangi Amazon SageMaker JumpStart modellerinin kullanıcıları tarafından görülebileceğini ve kullanılabilir olacağını kontrol edebilir. Daha fazla bilgi edinmek için belgelere bakın.

Çıkarım optimizasyonu araç seti, Amazon SageMaker'da gelişmiş (SOTA) maliyet performansı elde etmek için en son çıkarım optimizasyonu tekniklerini uygulamanızı kolaylaştırırken, geliştirici zamanından aylar ölçeğinde tasarruf etmenizi sağlar. SageMaker tarafından sağlanan popüler optimizasyon tekniklerinden oluşan menüden seçim yaparak optimizasyon işlerini önceden çalıştırabilir, performans ve doğruluk ölçümleri bakımından modeli karşılaştırabilir, ardından optimize edilmiş modeli çıkarım için bir SageMaker uç noktasına dağıtabilirsiniz. Araç seti, model optimizasyonunu her yönüyle ele alır. Bu sayede iş hedeflerinize daha fazla odaklanabilirsiniz.

Çıkarım optimizasyonu araç seti, üretici yapay zeka uygulamalarının maliyet performansını ve pazara sunma süresini iyileştirmenize yardımcı olur. Tam olarak yönetilen model optimizasyonu araç seti, kullanımı kolay araçlarla en son optimizasyon tekniklerine erişmenizi sağlar. Araç seti, en son yeniliklere, yeni donanım ve barındırma özelliklerine sürekli olarak uyarlandığından, zaman içinde mevcut en iyi çözüme yükseltilmesi de kolaydır.

Çıkarım optimizasyonu araç seti; Kurgusal Kod Çözme, Niceleme ve Derleme gibi optimizasyon tekniklerini destekler. Modelinize eklemek istediğiniz optimizasyonları birkaç tıklamayla seçebilirsiniz. Amazon SageMaker, donanımı tedarik etme, derin öğrenme container'ını ve optimizasyon işlerinin çalıştırılacağı ilgili ayarlama parametrelerini seçme, ardından optimize edilmiş model yapıtlarını sizin tarafınızdan sağlanan S3 konumuna kaydetme gibi tekdüze ve zor işleri yönetir.

Kurgusal Kod Çözme için SageMaker tarafından sağlanan taslak modeli kullanmaya başlayabilirsiniz. Böylece kendi taslak modellerinizi sıfırdan oluşturmanız, yönlendirme ve sistem düzeyinde optimizasyon talep etmeniz gerekmez. Niceleme sayesinde, kullanmak istediğiniz hassasiyet türünü seçip performans ve doğruluk ödünleşimlerini ölçmek için bir karşılaştırma işi başlatmanız yeterlidir. Amazon SageMaker, performans ve doğruluk arasındaki ödünleşimi kolayca analiz edebileceğiniz kapsamlı bir değerlendirme raporu oluşturur. Derleme sayesinde Amazon SageMaker, en popüler modeller ve yapılandırmaları için uç nokta kurulumu ve ölçeklendirme sırasında derlenmiş model yapıtlarını otomatik olarak getirerek derleme işlerini önceden çalıştırma ihtiyacını ortadan kaldırır ve donanım maliyetlerinden tasarruf etmenizi sağlar.

Amazon SageMaker çıkarım optimizasyonu araç seti, GenAI modellerini optimize etme maliyetini ve süresini azaltmanıza yardımcı olarak iş hedeflerinize odaklanmanıza olanak tanır.

SageMaker Canvas, verilerinizden son derece doğru ML tabanlı tahminler oluşturmanıza olanak tanıyan sezgisel, üzerine gelip tıklanarak kullanılabilen bir arabirime sahip kodsuz bir hizmettir. SageMaker Canvas, sürükle-bırak yöntemiyle kullanılan kullanıcı arabirimi ile çeşitli kaynaklardan gelen verilere erişmenize ve bunları birleştirmenize olanak tanır, manuel temizlemeyi en aza indirmek için verileri otomatik olarak temizler ve hazırlar. SageMaker Canvas, son derece doğru tahmin modelleri bulmak için çeşitli son teknoloji ML algoritmaları uygular ve tahminler yapmak için sezgisel bir arabirim sağlar. Çeşitli iş uygulamalarında çok daha kesin tahminler yapmak için SageMaker Canvas'ı kullanabilir ve modellerinizi, verilerinizi ve raporlarınızı paylaşarak kuruluşunuzdaki veri bilimcileri ve analistlerle kolayca işbirliği yapabilirsiniz. SageMaker Canvas hakkında daha fazla bilgi edinmek için Amazon SageMaker Canvas Hakkında SSS bölümüne bakın.

SageMaker Canvas ile kullanıma göre ödeme yaparsınız. SageMaker Canvas, verilerinizi birden çok kaynaktan etkileşimli olarak almanıza, keşfetmenize ve hazırlamanıza, verilerinizle yüksek hassasiyetli ML modelleri eğitmenize ve tahminler oluşturmanıza olanak tanır. Faturanızı belirleyen iki bileşen vardır. Bunlar, SageMaker Canvas'ın kullanıldığı veya oturum açıldığı süreye göre oturum ücretleri ve modeli oluşturmak için kullanılan veri kümesinin boyutuna göre modeli eğitme ücretleridir. Daha fazla bilgi için Amazon SageMaker Canvas Fiyatlandırması bölümüne bakın.

Amazon SageMaker İşlem Hatları, veri hazırlamadan model dağıtımına kadar tam otomatik makine öğrenimi iş akışları oluşturmanızı sağlar, böylece üretimdeki binlerce makine öğrenimi modeline ölçeklendirebilirsiniz. SageMaker Python SDK ile İşlem Hatları oluşturabilir ve bu işlem hatlarını SageMaker Stüdyo'nun görsel arayüzünden görüntüleyebilir, yürütebilir, denetleyebilirsiniz. SageMaker İşlem Hatları; adımlar arasındaki verileri yönetme, kod tariflerini paketleme ve yürütmelerini düzenlemeyle ilgilenip aylarca sürecek kodlamayı birkaç saate indirir. Bir iş akışı her yürütüldüğünde işlenen verilerin ve alınan eylemlerin eksiksiz bir kaydı tutulur, böylece veri bilimciler ve makine öğrenimi geliştiricileri sorunları hızla ayıklayabilir.

Dağıtım için aday olan tüm modelleri tek bir yerde birleştirmek için SageMaker İşlem Hattınızdaki bir model kayıt adımını kullanabilirsiniz. Daha sonra tarafınızdan veya ekibinizdeki bir kişi tarafından bu modeller SageMaker Stüdyo kullanıcı arabirimi veya Python SDK aracılığıyla SageMaker Model Kayıt Defteri'nde dağıtım için keşfedilebilir, incelenebilir ve onaylanabilir.

Bir SageMaker İşlem Hattı "adımlardan" oluşur. Çeşitli SageMaker özelliklerini (örneğin, eğitim, değerlendirme) veya diğer AWS hizmetlerini (örneğin, EMR, Lambda) çağıran bir iş akışı oluşturmak için yerel olarak desteklenen adım türlerinden herhangi birini seçebilirsiniz. Ayrıca, '@step' python dekoratörünü kullanarak veya tüm python Not Defterlerini İşlem Hattının bileşenleri olarak ekleyerek mevcut ML Python kodunuzu SageMaker İşlem Hattına olduğu gibi taşıyabilirsiniz. Ek ayrıntılar için lütfen SageMaker İşlem Hatları geliştirici kılavuzuna bakın.

SageMaker İşlem Hatları, tüm model bileşenlerini otomatik olarak takip eder ve tüm değişikliklerin denetim izini tutar. Böylece manuel izlemeyi ortadan kaldırır ve uyum hedeflerine ulaşmanıza yardımcı olabilir. SageMaker İşlem Hatları ile verileri, kodları, eğitimli modelleri ve daha fazlasını izleyebilirsiniz.

SageMaker İşlem Hatları için ek ücret alınmaz. Yalnızca temel işlem veya SageMaker İşlem Hatları içinde kullandığınız ayrı AWS hizmetleri için ödeme yaparsınız.

Evet. Kubeflow İşlem Hatları için Amazon SageMaker Bileşenleri, Kubeflow İşlem Hatlarını kullanarak makine öğrenimi iş akışlarınızı tanımlamanızı ve SageMaker'ı kullanarak veri etiketleme, eğitim ve müdahale adımlarını gerçekleştirmenizi sağlayan açık kaynak eklentilerdir. Kubeflow İşlem Hatları, taşınabilir ve ölçeklenebilir tam makine öğrenimi işlem hatları oluşturmanıza ve dağıtmanıza olanak tanıyan bir Kubeflow eklentisidir. Ancak Kubeflow İşlem Hatlarını kullanırken makine öğrenimi operatörü ekiplerinin, bir Kubernetes kümesini CPU ve GPU bulut sunucularıyla yönetmesini ve kullanım oranını her zaman yüksek tutarak operasyonel maliyetleri düşürmesi gerekir. Bir kümenin veri bilimi ekipleri tarafından kullanımını en üst düzeye çıkarmak zor bir iştir ve makine öğrenimi operatörü ekiplerine fazladan operasyonel iş yükü ekler. Makine öğrenimine yönelik olarak optimize edilmiş Kubernetes kümesine alternatif olarak Kubeflow İşlem Hatları için SageMaker Bileşenleri ile, özellikle ML işlerini çalıştıracak Kubernetes kümelerini yapılandırıp yönetmeniz gerekmeden, veri etiketleme, tamamen yönetilen büyük ölçekli hiper parametre ayarlama ve dağıtılmış eğitim işleri gibi güçlü SageMaker özelliklerinin yanı sıra tek tıklamayla güvenli, ölçeklenebilir model dağıtımı ve Amazon Elastic Compute Cloud (Amazon EC2) Spot Bulut Sunucularıyla uygun maliyetli eğitimden yararlanabilirsiniz.

Kubeflow İşlem Hatları için SageMaker Bileşenlerinin kullanımında ek ücret alınmaz. 

Döngüdeki insan, modellerin doğruluğunu ve uygunluğunu artırmak için ML yaşam döngüsü boyunca insan girdisinden yararlanma sürecidir. İnsanlar, veri oluşturma ve ek açıklamalardan model incelemesine ve özelleştirmeye kadar çeşitli görevleri gerçekleştirebilir. İnsan müdahalesi, insanların tipik olarak içeriğin hem talep edeni hem de tüketicisi olduğu üretici yapay zeka uygulamaları için özellikle önemlidir. Bu nedenle insanların, altyapı modellerini (FM'ler) kullanıcıların istemlerine doğru, güvenli ve alakalı olarak yanıt verecek şekilde eğitmeleri çok önemlidir. Birden fazla görevi tamamlamanıza yardımcı olmak için insan geri bildirimi uygulanabilir. Birincisi, denetimli öğrenme (bir modelin kullanıcının istemlerine nasıl yanıt vermesi gerektiğinin stilini, uzunluğunu ve doğruluğunu bir insanın simüle ettiği yöntem) ve insan geri bildirimli pekiştirmeli öğrenme (bir insanın model yanıtlarını sıraladığı ve sınıflandırdığı yöntem) yoluyla üretici yapay zeka uygulamaları için yüksek kaliteli etikete sahip eğitim veri kümeleri oluşturmak. İkincisi, FM'leri belirli görevlerde veya şirketinize ve etki alanına özgü verilerle özelleştirmek ve model çıktısını sizin için alakalı hale getirmek amacıyla insan tarafından oluşturulan verileri kullanmak.

Döngüdeki insan kabiliyetleri, FM'ler tarafından desteklenen üretici yapay zeka uygulamalarının oluşturulmasında ve geliştirilmesinde önemli bir rol oynamaktadır. Görevlerin yönergeleri konusunda eğitilmiş yüksek vasıflı bir insan iş gücü; FM'leri eğitmek için gösteri verileri oluşturma, örnek yanıtlarını düzeltme ve iyileştirme, şirket ve endüstri verilerine dayalı olarak bir modele ince ayar yapılması, toksisite ve sapmaya karşı bir koruma görevi görme gibi faaliyetlerde geri bildirim, rehberlik, girdi ve değerlendirme sağlayabilir. Bu nedenle döngüdeki insan kabiliyetleri, model doğruluğunu ve performansını artırabilir. 

Amazon SageMaker Ground Truth, en kapsamlı döngüdeki insan kabiliyetleri setini sunar. Amazon SageMaker Ground Truth'u kullanmanın iki yolu vardır: self servis teklifi ve AWS tarafından yönetilen teklif. Self servis teklifinde veri açıklayıcılarınız, içerik oluşturucularınız ve komut mühendisleriniz (şirket içi, satıcı tarafından yönetilen veya genel kitleden yararlanan), döngüdeki insan görevlerini hızlandırmak için düşük kodlu kullanıcı arabirimimizi kullanırken sizin özel iş akışlarınızı oluşturma ve yönetme esnekliğine sahiptir. AWS tarafından yönetilen teklifte (SageMaker Ground Truth Plus), kullanım durumunuz için doğru iş gücünü seçmeyi ve yönetmeyi içeren ağır işleri sizin için hallediyoruz. SageMaker Ground Truth Plus, uçtan uca bir iş akışı tasarlamanın ve bu akışı özelleştirmenin (ayrıntılı iş gücü eğitimi ve kalite güvencesi adımları dahil) yanında belirli görevler konusunda eğitilmiş ve veri kalitesi, güvenlik ve uyumluluk gereksinimlerinizi karşılayan yetenekli bir AWS tarafından yönetilen ekip sağlar. 

SageMaker Data Wrangler, makine öğrenimi için verileri toplamak ve hazırlamak üzere gereken süreyi azaltır. SageMaker Stüdyo'daki tek bir arayüzden Amazon S3, Amazon Athena, Amazon Redshift, AWS Lake Formation, Amazon EMR, Snowflake ve Databricks verilere yalnızca birkaç adımda göz atabilir ve bu verileri içe aktarabilirsiniz. Ayrıca 50'den fazla veri kaynağından aktarılan ve Amazon AppFlow tarafından AWS Glue Veri Kataloğu'na kaydedilen verileri sorgulayabilir ve içe aktarabilirsiniz. SageMaker Data Wrangler ham verileri otomatik olarak yükler, toplar ve görüntüler. Verilerinizi SageMaker Data Wrangler'a aktardıktan sonra otomatik olarak oluşturulan sütun özetlerini ve çubuk grafikleri görebilirsiniz. Ardından, özet istatistikler ve veri kalitesi uyarıları sağlayan SageMaker Data Wrangler Veri Kalitesi ve Öngörüleri raporuyla verilerinizi anlamak ve olası hataları belirlemek için daha derinlemesine inceleyebilirsiniz. Veri hazırlama sırasında olası yanılgıyı tespit etmek için SageMaker Clarify tarafından desteklenen yanılgı analizini doğrudan SageMaker Data Wrangler'dan da çalıştırabilirsiniz. Buradan verilerinizi hazırlamak için SageMaker Data Wrangler'ın önceden oluşturulmuş dönüşümlerini kullanabilirsiniz. Verileriniz hazırlandığında Amazon SageMaker İşlem Hatları ile tamamen otomatik makine öğrenimi iş akışları oluşturabilir veya bu verileri Amazon SageMaker Özellik Deposu'na aktarabilirsiniz.

SageMaker Data Wrangler; tablo, zaman serisi ve görüntü verilerini destekler ve bu farklı veri modalitelerini hazırlamak için 300'den fazla önceden yapılandırılmış veri dönüşümü sunar. Data Wrangler'da NLP kullanım durumlarına metin verileri hazırlamak isteyen müşterilere yönelik olarak Data Wrangler, müşterilerin Data Wrangler'da kendi özel dönüşümlerini oluşturarak metin verilerini hazırlayabilmeleri için NLTK kütüphanesini destekler.

SageMaker Data Wrangler, verilerinizi tek bir kod satırı yazmadan dönüştürebilmeniz ve veri hazırlama iş akışınızı ölçeklendirebilmeniz için 300'den fazla önceden oluşturulmuş, PySpark tabanlı veri dönüştürme seçeneği sunar. Ek olarak altyapı modeli destekli doğal dil arabirimi kullanarak makine öğrenimi modelleri için verilerinizi dönüştürebilir veya SageMaker Data Wrangler parçacık kitaplığından özel bir kod parçacığı oluşturabilirsiniz.

SageMaker Data Wrangler, önceden yapılandırılmış bir dizi güçlü görselleştirme şablonuyla verilerinizi anlamanıza ve ayrıca olası hatalar ile ekstrem değerleri belirlemenize yardımcı olur. Çubuk grafikler, saçılım grafikleri ve hedef sızıntı algılama gibi makine öğrenimine özgü görselleştirmeler, tek bir kod satırı yazmadan kullanılabilir. Ayrıca kendi görselleştirmelerinizi oluşturabilir ve düzenleyebilirsiniz.

SageMaker Data Wrangler için kullandığınız tüm ML işlem, depolama ve veri işleme kaynakları karşılığında ödeme yaparsınız. SageMaker Data Wrangler fiyatlandırmasının tüm ayrıntılarını buradan inceleyebilirsiniz. AWS Ücretsiz Kullanım kapsamında SageMaker Data Wrangler'ı da ücretsiz olarak kullanmaya başlayabilirsiniz.

SageMaker Data Wrangler, verileri hazırlamanızı ve SageMaker Canvas'ta bir makine öğrenimi modelini sorunsuz bir şekilde eğitmenizi sağlayan birleşik bir deneyim sunar. SageMaker Canvas, verilerinize göre en iyi makine öğrenimi modellerini otomatik olarak oluşturur, eğitir ve ayarlar. SageMaker Data Wrangler'da hazırlanan özellikleri mevcut modellerinizle de kullanabilirsiniz. SageMaker Data Wrangler işleme işlerini, işi kullanıcı arabiriminde (UI) yapılandırarak veya düzenleme kodu içeren bir not defterini dışa aktararak SageMaker eğitim hattınızın bir parçası olarak çalışacak şekilde yapılandırabilirsiniz.

SageMaker işleme işlerini doğrudan SageMaker Data Wrangler kullanıcı arabiriminden yapılandırabilir ve başlatabilirsiniz. Buna, veri işleme işinizi planlama ve yeni veri gruplarını büyük ölçekte kolayca dönüştürmek için veri kaynaklarınızı parametrelendirmek de dahildir.

Verilerinizi hazırladıktan sonra SageMaker Data Wrangler, SageMaker Data Wrangler akışınızı üretime yükseltmek için farklı seçenekler sunar ve MLOPS ve CI/CD yetenekleriyle sorunsuz bir şekilde entegre olur. SageMaker işleme işlerini doğrudan SageMaker Data Wrangler kullanıcı arabiriminden yapılandırabilir ve başlatabilirsiniz. Buna, veri işleme işinizi planlama ve yeni veri gruplarını büyük ölçekte kolayca dönüştürmek için veri kaynaklarınızı parametrelendirmek de dahildir. Alternatif olarak, SageMaker Data Wrangler, SageMaker işleme ve SageMaker Spark container ile sorunsuz bir şekilde entegre olur ve SageMaker Data Wrangler'ı üretim iş akışınıza entegre etmek için SageMaker SDK'lerini kolayca kullanmanıza olanak tanır.

Birkaç adımda, SageMaker Data Wrangler, varsayılan hiper parametrelerle bir XGBoost modelini böler ve eğitir. Sorun türüne bağlı olarak, SageMaker Data Wrangler, veri hazırlama akışlarınızı yinelemeniz için size hızlı bir şekilde içgörü sağlamak üzere bir model özeti, özellik özeti ve karışıklık matrisi sağlar.

SageMaker Data Wrangler, verileri içe aktarmak için top-K, rastgele ve tabakalı örnekleme gibi çeşitli örnekleme tekniklerini destekler. Böylece SageMaker Data Wrangler kullanıcı arabirimini kullanarak verilerinizi hızlı bir şekilde dönüştürebilirsiniz. Büyük veya geniş veri kümeleri kullanıyorsanız performansı artırmak için SageMaker Data Wrangler bulut sunucusu boyutunu artırabilirsiniz. Akışınızı oluşturduktan sonra, SageMaker Data Wrangler işleme işlerini kullanarak tam veri kümenizi işleyebilirsiniz.

Evet. SageMaker Özellik Deposu'nu SageMaker Data Wrangler'da hazırlanan özellikleriniz için hedef olarak yapılandırabilirsiniz. Bu doğrudan kullanıcı arabiriminde yapılabilir veya hedef SageMaker Özellik Deposu ile verileri işlemek için özel olarak oluşturulan bir not defterini dışa aktarabilirsiniz.

SageMaker Özellik Deposu, makine öğrenimi (ML) modelleri için özellik depolamak, paylaşmak ve yönetmek üzere tasarlanmış tam olarak yönetilen bir platformdur. AWS hesapları da dahil olmak üzere güvenli erişim ve denetime sahip modeller ve ekipler arasında kolay yeniden kullanım için özellikler keşfedilebilir ve paylaşılabilir. SageMaker Özellik Deposu, gerçek zamanlı çıkarım, toplu çıkarım ve eğitim için hem çevrimiçi hem de çevrimdışı özellikleri destekler. Ayrıca, özellik oluşturmada yinelenmeyi azaltmak ve model doğruluğunu artırmak için toplu iş ve akış özellik mühendisliği işlem hatlarını yönetir.

Çevrimdışı özellikler, genellikle eğitim ve toplu çıkarım için kullanılan büyük hacimli geçmiş verilerdir. Çevrimdışı özellikler, yüksek erişilebilirlik ve yüksek dayanıklılık nesne deposunda korunur.

Gerçek zamanlı tahminler yapmak için uygulamalarda çevrimiçi özellikler kullanılır. Çevrimiçi özellikler, hızlı tahminler için istemci uygulamalarından gelen tek basamaklı milisaniye gecikmesini destekleyen yüksek aktarım hızı olan bir depodan sunulur.

SageMaker Özellik Deposu, eğitim ve çıkarım ortamlarında tutarlılık sağlamak için ek yönetim veya kod olmaksızın çevrimiçi ve çevrimdışı özellikler arasındaki tutarlılığı otomatik olarak korur.

SageMaker Özellik Deposu, tüm özellikler için zaman damgaları barındırır ve iş veya uyumluluk ihtiyaçları için herhangi bir zamanda özellikleri almanızı sağlayan yerleşik yöntemler sağlar. Karmaşık SQL sorguları yazmak veya çok fazla kod yazmak yerine, zaman yolculuğu ve belirli bir zaman diliminde doğru birleşimler için yerleşik yöntemleri çağırarak ilgili zaman diliminde eğitim ve toplu çıkarım için veri kümeleri oluşturabilirsiniz

AWS Ücretsiz Kullanım kapsamında SageMaker Özellik Deposu'nu ücretsiz olarak kullanmaya başlayabilirsiniz. SageMaker Özellik Deposu ile özellik deposuna yazma ve çevrimiçi özellik deposundan okuma ve depolama için ödeme yaparsınız. Fiyatlandırma hakkında ayrıntılı bilgi için Amazon SageMaker Fiyatlandırması'na bakın.

SageMaker, Amazon SageMaker Ground Truth Plus ve Amazon SageMaker Ground Truth olmak üzere iki adet veri etiketleme teklifi sunar. Her iki seçenek de görüntüler, metin dosyaları ve videolar gibi ham verileri tanımlamanıza ve makine öğrenimi modelleriniz için yüksek kaliteli eğitim veri kümeleri oluşturmak amacıyla bilgilendirici etiketler eklemenize olanak tanır. Daha fazla bilgi edinmek için bkz. Amazon SageMaker Veri Etiketleme.

Jeo-uzamsal veriler, dünyanın yüzeyindeki özellikleri veya nesneleri temsil eder. Jeo-uzamsal verilerin birinci türü, yollar ve arazi sınırları gibi nesneleri temsil etmek için noktalar, çizgiler veya çokgenler gibi iki boyutlu geometriler kullanan vektör verileridir. İkinci tür jeo-uzamsal veriler; uydular, hava platformları veya uzaktan algılama verileri tarafından yakalanan görüntüler gibi raster verilerdir. Bu veri türü özelliklerin nerede yer aldığını belirlemek için piksel matrisi kullanır. Çeşitli verileri depolamak için raster formatını kullanabilirsiniz. Üçüncü bir jeo-uzamsal veri türü, coğrafi etiketli konum verileridir. Örneğin Eyfel Kulesi gibi ilgi çekici noktalar, konum etiketli sosyal medya gönderileri, enlem ve boylam koordinatları veya farklı sokak adresi stilleri ve formatları buna dahildir.

Amazon SageMaker, jeo-uzamsal makine öğrenimini destekleyerek veri bilimcilerin ve makine öğrenimi mühendislerinin jeo-uzamsal verileri kullanarak model oluşturmalarını, eğitimlerini ve dağıtımlarını kolaylaştırır. Amazon S3'ten Planet Labs uydu verileri gibi kendi verilerinizi getirebilir veya Open Data on AWS, Amazon Konum Hizmeti ve diğer SageMaker jeo-uzamsal veri kaynaklarından veri edinebilirsiniz.

Jeo-uzamsal veriler üzerinde kendin yap çözümlerinden daha hızlı tahminler yapmak için SageMaker jeo-uzamsal özelliklerini kullanabilirsiniz. SageMaker jeo-uzamsal özellikleri, mevcut müşteri veri göllerinizden, açık kaynaklı veri kümelerinden ve diğer SageMaker jeo-uzamsal veri kaynaklarından gelen jeo-uzamsal verilere erişmeyi kolaylaştırır. SageMaker jeo-uzamsal özellikleri, verimli veri hazırlama, model eğitimi ve çıkarım için amaca yönelik oluşturulmuş algoritmalar sunarak özel altyapı ile veri ön işleme işlevleri oluşturma ihtiyacını en aza indirir. Ayrıca SageMaker Stüdyosu’ndan özel görselleştirmeler ve veriler oluşturup kuruluşunuzla paylaşabilirsiniz. SageMaker jeo-uzamsal özellikleri, tarım, emlak, sigorta ve finansal hizmetlerde ortak kullanımlar için önceden eğitilmiş modelleri içerir.

Tam makine öğrenimi geliştirmesi için SageMaker'da tam yönetilen Jupyter not defterlerini kullanabilirsiniz. İşlem için optimize edilmiş ve GPU hızlandırmalı en geniş bulut sunucusu seçenekleriyle işlem bulut sunucularının ölçeğini artırın ve azaltın.

SageMaker Stüdyo not defterleri, tek adımda hızlıca başlatılabilen Jupyter not defterleridir. Temeldeki işlem kaynakları tamamen esnek olduğundan erişilebilir kaynakları kolayca artırıp azaltabilirsiniz. Buna bağlı değişiklikler arka planda otomatik olarak gerçekleştirilir ve çalışmalarınızda kesinti yaşanmaz. SageMaker ayrıca not defterlerinin tek adımda paylaşılmasını da sağlar. Başkalarıyla kolayca not defterleri paylaşabilirsiniz, onlar da aynı yere kaydedilmiş olan aynı not defterine erişim sağlayacaklardır.

SageMaker Stüdyo not defterleri ile IAM Kimlik Merkezi'ni kullanarak kurumsal kimlik bilgilerinizle oturum açabilirsiniz. Not defterlerini ekipler içinde ve ekipler arasında paylaşmak kolaydır çünkü bir not defterini çalıştırmak için gereken bağımlılıklar, paylaşılırken not defteri içinde kapsüllenmiş iş görüntülerinde otomatik olarak izlenir.

SageMaker Stüdyo IDE'lerdeki not defterleri, kendilerini bulut sunucusu tabanlı not defterlerinden ayıran birkaç önemli özellik sunar. İlk olarak, manuel olarak bir bulut sunucusu hazırlama ve çalışmaya başlamasını beklemeden not defterlerini hızlı bir şekilde başlatabilirsiniz. Bir not defterini okumak ve çalıştırmak için kullanıcı arayüzünü başlatmanın başlangıç süresi, bulut tabanlı not defterlerinden daha hızlıdır. Ayrıca kullanıcı arayüzünden istediğiniz zaman geniş bir bulut sunucusu türü koleksiyonu arasından seçim yapma esnekliği de bulunur. Yeni bulut sunucuları başlatmak ve not defterleriniz üzerinden bağlantı kurmak için AWS Yönetim Konsolu'na gitmenize gerek yoktur. Her kullanıcının belirli bir bulut sunucusundan bağımsız olarak yalıtılmış bir ana dizini vardır. Bu dizin, başlatıldıklarına tüm not defteri sunucularına ve çekirdeklerine otomatik olarak bağlanır. Böylece not defterlerinizi görüntülemek ve çalıştırmak için bulut sunucularını değiştirdiğinizde bile not defterlerinize ve diğer dosyalarınıza erişebilirsiniz. SageMaker Stüdyo not defterleri, AWS IAM Kimlik Merkezi (AWS SSO'nun yerine geçmiştir) ile entegre edilmiştir ve bu sayede not defterlerine erişmek için kuruluş kimlik bilgilerinizi kullanmanızı kolaylaştırır. Ayrıca, Amazon EMR'de Spark kullanarak petabayt ölçeğinde veri hazırlamaktan eğitim ve hata ayıklama modellerine, modelleri dağıtıp izlemekten işlem hatlarını yönetmeye kadar eksiksiz makine öğrenimi geliştirmeniz için SageMaker'daki amaca yönelik olarak oluşturulmuş makine öğrenimi araçlarıyla ve diğer AWS hizmetleriyle de entegre edilmiştir.

Stüdyo IDE'lerdeki SageMaker not defterleri, dağıtılmış eğitim, toplu dönüştürme ve barındırma gibi tüm SageMaker özelliklerine erişmenizi sağlar. SageMaker not defterlerinden Amazon S3, Amazon Redshift, AWS Glue, Amazon EMR veya AWS Lake Formation veri kümeleri gibi diğer hizmetlere de erişebilirsiniz.

Stüdyo IDE'lerde SageMaker not defterlerini kullandığınızda hem işlem hem de depolama için ödeme yaparsınız. İşlem bulut sunucusu türüne göre ücretler için Amazon SageMaker Fiyatlandırmasına bakın. Not defterleriniz ile veri dosyaları ve komut dosyaları gibi ilişkili yapıtlar Amazon Esnek Dosya Sistemi'nde (Amazon EFS) kalıcıdır. Depolama ücretleri için Amazon EFS Fiyatlandırmasına bakın. AWS Ücretsiz Kullanım kapsamında, SageMaker Stüdyo not defterlerini ücretsiz olarak kullanmaya başlayabilirsiniz.

Hayır. Aynı işlem bulut sunucusunda birden çok not defteri oluşturabilir ve çalıştırabilirsiniz. Tek tek öğeler için değil, yalnızca kullandığınız işlem için ödeme yaparsınız. Bu konuda daha fazla bilgiyi ölçüm kılavuzumuzda bulabilirsiniz.

Not defterlerine ek olarak, SageMaker Stüdyosu'nda terminalleri ve etkileşimli kabukları da aynı işlem bulut sunucusunda başlatabilir ve çalıştırabilirsiniz. Her uygulama, bir container veya görüntü içinde çalışır. SageMaker Stüdyosu, veri bilimi ve ML için amaca yönelik olarak oluşturulmuş ve önceden yapılandırılmış birkaç yerleşik görüntü sağlar.

SageMaker Stüdyo not defterleriniz tarafından kullanılan kaynakları hem SageMaker Stüdyo görsel arabirimi hem de AWS Yönetim Konsolu aracılığıyla izleyebilir ve kapatabilirsiniz. Daha ayrıntılı bilgi edinmek için belgeleri inceleyin.

Evet. İşlem için ücretlendirilmeniz devam eder. Bu, AWS Yönetim Konsolu'nda Amazon EC2 bulut sunucularını başlatıp ardından tarayıcıyı kapatmaya benzer. Amazon EC2 bulut sunucuları hâlâ çalışır durumdayken, bulut sunucusunu açıkça kapatmadığınız sürece ücretlendirilmeniz devam eder.

Hayır. Kullanıcı profilleri ekleme, güncelleme ve silme dahil olmak üzere bir SageMaker Stüdyosu etki alanı oluşturmak veya yapılandırmak için sizden ücret alınmaz.

Yönetici olarak, SageMaker Stüdyosu dahil olmak üzere SageMaker için ayrıntılı ücretlerin listesini AWS Faturalama konsolunda görüntüleyebilirsiniz. SageMaker için AWS Yönetim Konsolu'nda üst menüden Hizmetler'i seçin, arama kutusuna "faturalandırma" yazın ve açılır menüden Faturalandırma'yı seçin ve ardından sol paneldeki Faturalar'ı seçin. Ayrıntılar bölümünde, Bölgeler listesini genişletmek ve ayrıntılı ücretlere kadar aşağı inmek için SageMaker'ı seçebilirsiniz.

SageMaker Stüdyo Laboratuvarı, herkesin ML ile öğrenmesi ve denemesi için bilgi işlem, depolama (15 GB'ye kadar) ve güvenlik sağlayan ücretsiz bir ML geliştirme ortamıdır. Başlamak için ihtiyacınız olan tek şey geçerli bir e-posta ID'sidir. Altyapıyı yapılandırmanıza, kimlik ve erişimi yönetmenize, hatta bir AWS hesabına kaydolmanıza gerek yoktur. SageMaker Stüdyo Laboratuvarı, GitHub entegrasyonu ile model oluşturmayı hızlandırır ve hemen başlamanız için en popüler ML araçları, çerçeveleri ve kitaplıklarla önceden yapılandırılmış olarak gelir. SageMaker Stüdyo Laboratuvarı, çalışmanızı otomatik olarak kaydeder. Böylece oturumlar arasında yeniden başlatmanıza gerek kalmaz. Dizüstü bilgisayarınızı kapatıp daha sonra geri gelmek kadar kolaydır.

SageMaker Stüdyo Laboratuvarı; ML sınıfları ve deneyleri için kurulum gerektirmeyen ücretsiz bir not defteri geliştirme ortamına ihtiyaç duyan öğrenciler, araştırmacılar ve veri bilimcileri içindir. SageMaker Stüdyo Laboratuvarı, bir üretim ortamına ihtiyaç duymayan ancak yine de ML becerilerini geliştirmek için SageMaker işlevlerinin bir alt kümesini isteyen kullanıcılar için idealdir. SageMaker oturumları otomatik olarak kaydedilir ve kullanıcıların her kullanıcı oturumu için kaldıkları yerden devam etmelerine yardımcı olur.

SageMaker Stüdyo Laboratuvarı, AWS üzerinde oluşturulmuş bir hizmettir ve Amazon SageMaker Stüdyosu'nun kullandığı, Amazon S3 ve Amazon EC2 gibi temel hizmetlerin çoğunu kullanır. Diğer hizmetlerden farklı olarak müşterilerin AWS hesabına ihtiyacı olmayacaktır. Bunun yerine, bir e-posta adresiyle SageMaker Stüdyo Laboratuvarı'na özel bir hesap oluştururlar. Bu da kullanıcıya ML not defterlerini çalıştırması için sınırlı bir ortama (15 GB depolama alanı ve 12 saatlik oturumlar) erişim olanağı sağlar.

SageMaker HyperPod, altyapı modeli (FM) eğitimini hızlandırmak için özel olarak tasarlanmıştır. Büyük ölçekli dağıtılmış eğitim için optimize edilmiş daha esnek bir altyapı sağlar ve binlerce hızlandırıcıda daha hızlı eğitim almanıza olanak tanır. Arızaları otomatik olarak algılar, teşhis eder ve kurtarır. Böylece FM'leri kesintisiz olarak aylarca eğitebilirsiniz. SageMaker HyperPod, model eğitim verilerini daha küçük parçalara dağıtarak performansı verimli bir şekilde artırmanıza yardımcı olmak için SageMaker dağıtılmış eğitim kitaplıklarıyla önceden yapılandırılmıştır. Bu sayede hızlandırıcılar arasında paralel olarak işlenebilir.

GPU'lar veya AWS hızlandırıcıları gibi yüksek miktarda bilgi işlem bulut sunucusu gerektiren daha uzun ve daha büyük eğitim iş yüklerine ihtiyacınız varsa eğitim süresini kısaltmak üzere daha esnek bir deneyim için SageMaker HyperPod'u kullanabilirsiniz.

Evet. SageMaker, derin öğrenme modellerini ve büyük eğitim setlerini AWS GPU bulut sunucularına, bu dağıtım stratejilerini manuel olarak oluşturmak ve optimize etmek için gereken sürenin çok kısa bir bölümünde otomatik olarak dağıtabilir. SageMaker'ın uyguladığı iki dağıtılmış eğitim tekniği, veri paralelliği ve model paralelliğidir. Veri paralelliği, verileri birden çok GPU bulut sunucusuna eşit olarak bölerek eğitim hızlarını artırmak için uygulanır ve her bir bulut sunucusunun aynı anda eğitilmesine olanak tanır. Model paralelliği, tek bir GPU'da depolanamayacak kadar büyük modeller için kullanışlıdır ve birden çok GPU'ya dağıtılmadan önce modelin küçük parçalara bölünmesini gerektirir. PyTorch ve TensorFlow eğitim komut dosyalarınızda yalnızca birkaç satır ek kod ile SageMaker, sizin için otomatik olarak veri paralelliği veya model paralelliği uygulayarak modellerinizi daha hızlı geliştirmenize ve dağıtmanıza olanak tanır. SageMaker, GPU bulut sunucuları arasındaki iletişimi en aza indirirken her GPU'nun işlemlerini dengelemek için grafik bölümleme algoritmalarını kullanarak modelinizi bölmek için en iyi yaklaşımı belirleyecektir. SageMaker ayrıca neredeyse doğrusal ölçeklendirme verimliliği elde etmek amacıyla AWS işlem ve ağını tam olarak kullanan algoritmalar aracılığıyla dağıtılmış eğitim işlerinizi optimize eder ve bu da eğitimi manuel açık kaynaklı uygulamalardan daha hızlı tamamlamanıza olanak tanır.

SageMaker Deneyler, makine öğrenimi modeli yinelemelerini organize etmenize ve izlemenize yardımcı olur. SageMaker Deneyler; giriş parametrelerini, yapılandırmaları ve sonuçları otomatik olarak yakalayıp "deneyler" halinde depolayarak yinelemeleri yönetmenize yardımcı olur. Tercih ettiğiniz geliştirme ortamından birkaç satır kod kullanarak ML iş akışlarınızı izlemek için bir Amazon SageMaker deneyi oluşturabilirsiniz. SageMaker Deneylerini, SageMaker Python SDK'sini kullanarak SageMaker eğitim komut dosyanıza da entegre edebilirsiniz.

SageMaker Hata Ayıklayıcı, model doğruluğunu iyileştirmeye yardımcı olmak için eğitim sırasında karışıklık matrisleri ve öğrenme gradyanları gibi gerçek zamanlı ölçümleri otomatik olarak yakalar. SageMaker Debugger ölçümleri SageMaker Studio'da görselleştirilerek daha kolay anlaşılır duruma getirilebilir. SageMaker Debugger ayrıca sık karşılaşılan eğitim sorunları ortaya çıktığında uyarılar oluşturup çözüm önerileri sunabilir. SageMaker Hata Ayıklayıcı ayrıca CPU'lar, GPU'lar, ağ ve bellek gibi sistem kaynaklarını gerçek zamanda otomatik olarak izler ve profillerini oluşturur, bu kaynakların yeniden tahsisi konusunda öneriler sunar. Böylece, eğitim sırasında kaynaklarınızı verimli bir şekilde kullanmanıza, maliyetleri ve kaynakları azaltmanıza yardımcı olur.

SageMaker ile Yönetilen Spot Eğitimi, makine öğrenimi modellerinizi Amazon EC2 Spot Bulut Sunucularını kullanarak eğitmenize olanak tanır ve modellerinizi eğitme maliyetini %90'a kadar azaltır.

Eğitim işlerinizi gönderirken Yönetilen Spot Eğitimi seçeneğini etkinleştirirsiniz ve ayrıca Spot kapasitesini ne kadar beklemek istediğinizi de belirtirsiniz. SageMaker daha sonra işinizi çalıştırmak ve Spot kapasitesini yönetmek için Amazon EC2 Spot Bulut Sunucularını kullanır. Hem çalışırken hem de kapasite beklerken eğitim işlerinizin durumu hakkında tam bir görünürlük elde edersiniz.

Yönetilen Spot Eğitimi, eğitim çalışmalarınızda esnekliğe sahip olduğunuzda ve eğitim işlerinizin maliyetini en aza indirmek istediğinizde idealdir. Yönetilen Spot Eğitimi ile ML modellerinizi eğitme maliyetini %90'a kadar azaltabilirsiniz.

Yönetilen Spot Eğitimi, eğitim için Amazon EC2 Spot Bulut Sunucularını kullanır ve AWS'nin kapasiteye ihtiyacı olduğunda bu bulut sunucuları önceden ayrılabilir. Sonuç olarak, Yönetilen Spot Eğitimi işleri, kapasite kullanılabilir hale geldikçe küçük artışlarla çalıştırılabilir. SageMaker en son model kontrol noktasını kullanarak eğitim işlerine devam edebileceğinden, bir kesinti olduğunda eğitim işlerinin sıfırdan başlatılması gerekmez. SageMaker ile yerleşik çerçeveler ve yerleşik bilgisayarlı görü algoritmaları periyodik kontrol noktalarını etkinleştirir ve siz de özel modellerle kontrol noktalarını etkinleştirebilirsiniz.

Uzun süreli eğitim işleri için genel en iyi uygulama olarak periyodik kontrol noktalarını öneriyoruz. Bu, kapasite önceden ayrılırsa Yönetilen Spot Eğitimi işlerinizin yeniden başlatılmasını önler. Kontrol noktalarını etkinleştirdiğinizde SageMaker, Yönetilen Spot Eğitimi işlerinizi son kontrol noktasından devam ettirir.

Yönetilen Spot Eğitimi işi tamamlandığında, AWS Yönetim Konsolu'nda tasarruflarınızı görebilir ve eğitim işinin çalıştırıldığı süre ile faturalandırıldığınız süre arasındaki yüzde farkına bakarak maliyet tasarruflarınızı hesaplayabilirsiniz. Yönetilen Spot Eğitimi işlerinizin kaç kez kesintiye uğradığına bakılmaksızın, verilerin indirildiği süre için yalnızca bir kez ücretlendirilirsiniz.

Yönetilen Spot Eğitimi, SageMaker'da desteklenen tüm bulut sunucuları ile kullanılabilir.

Yönetilen Spot Eğitimi, SageMaker'ın kullanılabilir olduğu tüm Bölgelerde desteklenir.

SageMaker ile eğitim modelleri için kullanabileceğiniz veri kümesinin boyutunda sabit bir sınır yoktur.

SageMaker; doğrusal regresyon, lojistik regresyon, k-means kümeleme, sorumlu bileşen analizi, faktorizasyon makineleri, sinirsel konu modellemesi, gizli dirichlet tahsisi, gradyan destekli ağaçlar, sequence2sequence, zaman serisi tahmini, word2vec ve görüntü sınıflandırması için yerleşik algoritmalar içerir. SageMaker ayrıca optimize edilmiş Apache MXNet, Tensorflow, Chainer, PyTorch, Gluon, Keras, Horovod, Scikit-learn ve Deep Graph Library container'ları sağlar. Bunun yanı sıra SageMaker, belgelenmiş spesifikasyona bağlı bir Docker görüntüsü aracılığıyla sağlanan özel eğitim algoritmalarınızı destekler.

Çoğu ML algoritması, temel algoritmanın nasıl çalıştığını kontrol eden çeşitli parametreleri ortaya çıkarır. Bu parametreler genellikle hiper parametreler olarak adlandırılır ve değerleri eğitimli modellerin kalitesini etkiler. Otomatik model ayarlama, optimal bir model verebilecek bir algoritma için bir dizi hiper parametre bulma işlemidir.

Yerleşik SageMaker algoritmaları, derin sinir ağları veya Docker görüntüleri biçiminde SageMaker'a getirdiğiniz keyfi algoritmalar dahil olmak üzere, bilimsel olarak mümkün olduğu sürece SageMaker'da her tür algoritmada otomatik model ayarlamayı çalıştırabilirsiniz.

Şu anda desteklenmez. En iyi model ayarlama performansı ve deneyimi SageMaker'da bulunur.

Şu anda, hiper parametreleri ayarlama algoritması, Bayes Optimizasyonunun özelleştirilmiş bir uygulamasıdır. Ayarlama süreci boyunca müşteri tarafından belirlenen bir hedef ölçümü optimize etmeyi amaçlar. Spesifik olarak, tamamlanan eğitim işlerinin nesne ölçümünü kontrol eder ve bilgiyi bir sonraki eğitim işi için hiper parametre kombinasyonunu çıkarmak için kullanır.

Hayır. Belirli hiper parametrelerin model performansını etkileme şekli çeşitli faktörlere bağlıdır ve bir hiper parametrenin diğerlerinden daha önemli olduğunu ve bu nedenle ayarlanması gerektiğini kesin olarak söylemek zordur. SageMaker'daki yerleşik algoritmalar için, bir hiper parametrenin ayarlanabilir olup olmadığını belirleriz.

Bir hiper parametre ayarlama işinin süresi, verilerin boyutu, temeldeki algoritma ve hiper parametrelerin değerleri dahil olmak üzere birden çok etkene bağlıdır. Ek olarak, müşteriler eş zamanlı eğitim işlerinin sayısını ve toplam eğitim işi sayısını seçebilir. Tüm bu seçimler, bir hiper parametre ayarlama işinin süresini etkiler.

Şu anda desteklenmez. Şu anda, algoritma kodunuzu optimize etmek veya değiştirmek için iki veya daha fazla yararlı ölçüm arasında ağırlıklı bir ortalama olan yeni bir ölçüm yaymak için tek bir hedef ölçümü belirtmeniz ve ayarlama sürecinin bu hedef ölçüme göre optimize edilmesini sağlamanız gerekir.

Bir hiper parametre ayarlama işinin kendisi için ücret alınmaz. Model eğitim fiyatlandırmasına bağlı olarak, hiper parametre ayarlama işi tarafından başlatılan eğitim işlerine göre ücretlendirilirsiniz.

SageMaker Otomatik Pilot, özellikle sınıflandırma ve regresyon kullanım durumlarına odaklanır. Bunun yanı sıra özellik ön işleme, algoritma seçimi ve hiper parametre ayarlama dahil olmak üzere tipik bir makine öğrenimi iş akışındaki her şeyi otomatikleştirir. Öte yandan Otomatik Model Ayarlama; ister yerleşik algoritmalara, ister derin öğrenme çerçevelerine, isterse de özel container'lara dayalı olsun, herhangi bir modeli ayarlamak için tasarlanmıştır. Esneklik karşılığında belirli algoritmayı, ayarlanacak hiper parametreleri ve karşılık gelen arama aralıklarını manuel olarak seçmeniz gerekir.

Pekiştirmeli öğrenme, bir aracının kendi eylemlerinden ve deneyimlerinden gelen geri bildirimleri kullanarak deneme yanılma yoluyla etkileşimli bir ortamda öğrenmesini sağlayan bir ML tekniğidir.

Evet. Denetimli ve denetimsiz öğrenme modellerine ek olarak SageMaker'da pekiştirmeli öğrenme modellerini eğitebilirsiniz.

Hem denetimli hem de pekiştirmeli öğrenme girdi ve çıktı arasındaki eşlemeyi kullansa da aracıya sağlanan geri bildirimin bir görevi gerçekleştirmek için doğru eylem kümesi olduğu denetimli öğrenmenin aksine pekiştirmeli öğrenme, bir dizi eylem yoluyla uzun vadeli bir hedef için ödül sinyallerinin optimize edildiği gecikmeli geri bildirimden yararlanır.

Denetimli öğrenme tekniklerinin amacı, eğitim verilerindeki kalıplara dayanarak doğru cevabı bulmak iken, denetimsiz öğrenme tekniklerinin amacı, veri noktaları arasındaki benzerlikleri ve farklılıkları bulmaktır. Buna karşılık, pekiştirmeli öğrenme (RL) tekniklerinin amacı, bu sonuca nasıl ulaşılacağı net olmasa bile istenen bir sonuca nasıl ulaşılacağını öğrenmektir. Sonuç olarak, RL, bir aracının robotik, otonom taşıtlar, HVAC, endüstriyel kontrol ve daha fazlası gibi otonom kararlar alabileceği akıllı uygulamalara olanak sağlamak için daha uygundur.

Amazon SageMaker RL, RL modellerini eğitmek için bir dizi farklı ortamı destekler. AWS RoboMaker gibi AWS hizmetlerini, açık kaynaklı ortamları veya Open AI Gym arayüzleri kullanılarak geliştirilen özel ortamları veya MATLAB ve Simulink gibi ticari simülasyon ortamlarını kullanabilirsiniz.

Hayır. SageMaker RL; DQN, PPO, A3C ve çok daha fazlası gibi RL aracı algoritmalarının uygulamalarını sunan Coach ve Ray RLLib gibi RL araç setlerini içerir.

Evet. Docker Kapsayıcılarında kendi RL kitaplıklarınızı ve algoritma uygulamalarınızı getirebilir ve bunları SageMaker RL'de çalıştırabilirsiniz.

Evet. Eğitimin bir GPU bulut sunucusunda çalışabileceği ve simülasyonların birden çok CPU bulut sunucusunda çalışabileceği heterojen bir küme bile seçebilirsiniz.

SageMaker, modeller oluşturup eğittikten sonra bunları dağıtmak için üç seçenek sunar, böylece tahmin yapmaya başlayabilirsiniz. Gerçek zamanlı çıkarım; milisaniye gecikme gereksinimleri, 6 MB'a kadar yük boyutları ve 60 saniyeye kadar işlem süreleri olan iş yükleri için uygundur. Toplu dönüştürme, önceden kullanılabilen büyük veri gruplarındaki çevrimdışı tahminler için idealdir. Zaman uyumsuz çıkarım; bir saniyenin altındaki gecikme gereksinimleri, 1 GB'a kadar yük boyutları ve 15 dakikaya kadar işlem süreleri olmayan iş yükleri için tasarlanmıştır.

SageMaker Zaman Uyumsuz Çıkarım, gelen istekleri sıralar ve bunları zaman uyumsuz olarak işler. Bu seçenek, büyük yük boyutlarına ve/veya geldiklerinde işlenmesi gereken, uzun işlem süreli talepler için idealdir. İstekleri aktif olarak işlemediğinde, maliyetlerden tasarruf etmek için bulut sunucusu ölçeğini azaltarak sıfıra indirmek için otomatik ölçeklendirme ayarlarını isteğe bağlı olarak yapılandırabilirsiniz.

Talepleri aktif olarak işlemediğinizde maliyetlerden tasarruf etmek adına SageMaker Zaman Uyumsuz Çıkarım uç noktasının ölçeğini azaltarak bulut sunucusu sayısını sıfıra düşürebilirsiniz. "ApproximateBacklogPerInstance" özel ölçümünde ölçeklenecek bir ölçeklendirme politikası tanımlamanız ve "MinCapacity" değerini sıfıra ayarlamanız gerekir. Adım adım talimatlar için lütfen geliştirici kılavuzunun zaman uyumsuz uç noktayı otomatik ölçeklendirme bölümünü ziyaret edin. 

SageMaker Sunucusuz Çıkarım, ML modellerinin dağıtımını ve ölçeklendirilmesini kolaylaştıran, amaca yönelik oluşturulmuş bir sunucusuz model sunma seçeneğidir. SageMaker Sunucusuz Çıkarım uç noktaları, işlem kaynaklarını otomatik olarak başlatır ve trafiğe bağlı olarak bunları içeri ve dışarı ölçeklendirir. Böylece bulut sunucusu türünü seçme, tedarik edilmiş kapasiteyi çalıştırma veya ölçeklendirmeyi yönetme ihtiyacınızı ortadan kaldırır. İsteğe bağlı olarak sunucusuz çıkarım uç noktanız için bellek gereksinimlerini belirtebilirsiniz. Boşta kalma süreleri için değil, yalnızca çıkarım kodunu çalıştırma süresi ve işlenen veri miktarı için ödeme yaparsınız.

SageMaker Sunucusuz Çıkarım, önceden kapasite tedarik etme ve ölçeklendirme politikalarını yönetme ihtiyacını ortadan kaldırarak geliştirici deneyimini basitleştirir. SageMaker Sunucusuz Çıkarım, kullanım modellerine bağlı olarak saniyeler içinde onlarca ila binlerce çıkarımı anında ölçeklendirebilir. Bu da onu aralıklı veya öngörülemeyen trafiği olan ML uygulamaları için ideal hale getirir. Örneğin bir bordro işleme şirketi tarafından kullanılan bir sohbet robotu hizmeti ay sonunda sorgularda bir artış yaşarken, ayın geri kalanında trafik aralıklı olur. Bu tür senaryolarda tüm ay için bulut sunucuları tedarik etmek uygun maliyetli olmaz çünkü boşta kalma süreleri için ödeme yaparsınız. SageMaker Sunucusuz Çıkarım, trafiği önceden tahmin etmenize veya ölçeklendirme politikalarını yönetmenize gerek kalmadan kutudan çıktığı anda otomatik ve hızlı ölçeklendirme sağlayarak bu tür kullanım örneklerinin ele alınmasına yardımcı olur. Ek olarak, yalnızca çıkarım kodunuzu çalıştırmak üzere işlem süresi (milisaniye cinsinden faturalandırılır) ve veri işleme için ödeme yaparsınız. Bu da onu aralıklı trafiğe sahip iş yükleri için uygun maliyetli bir seçenek haline getirir.

Tedarik Edilen Eş Zamanlılık, uç noktalarınızı belirtilen sayıda eş zamanlı istek için hazırda tutarak öngörülebilir performans ve yüksek ölçeklenebilirlik ile sunucusuz uç noktalara modeller dağıtmanızı sağlar.

İstek üzerine sunucusuz uç noktalarda, uç noktanız bir süre trafik almazsa ve ardından uç noktanız aniden yeni istekler alırsa uç noktanızın, istekleri işlemek için işlem kaynaklarını çalıştırması biraz zaman alabilir. Buna soğuk başlangıç denir. Eş zamanlı istekleriniz mevcut eş zamanlı istek kullanımını aşarsa soğuk başlatma da meydana gelebilir. Soğuk başlatma süresi, model boyutunuza, modelinizi indirmenin ne kadar sürdüğüne ve container'ınızın başlatma süresine bağlıdır.

Gecikme profilinizdeki değişkenliği azaltmak üzere isteğe bağlı olarak sunucusuz uç noktalarınız için Tedarik Edilmiş Eş Zamanlılığı etkinleştirebilirsiniz. Tedarik Edilmiş Eş Zamanlılık ile, sunucusuz uç noktalarınız her zaman hazırdır ve herhangi bir soğuk başlatma olmadan anında trafik patlamalarına hizmet edebilir.

İstek üzerine Sunucusuz Çıkarım'da olduğu gibi Tedarik Edilen Eş Zamanlılık etkinleştirildiğinde çıkarım isteklerini işlemede kullanılan, milisaniyelik olarak faturalandırılan işlem kapasitesi ve işlenen veri miktarı için ödeme yaparsınız. Yapılandırılan belleğe, tedarik edilen süreye ve etkinleştirilmiş eş zamanlılık miktarına bağlı olarak Tedarik Edilen Eş Zamanlılık kullanımı için ödeme yaparsınız. Daha fazla bilgi için Amazon SageMaker Fiyatlandırması bölümüne bakın.

SageMaker, kendi performansını şu anda dağıtılan modele göre test ederek yeni bir makine öğrenimi modelini yayınlanmadan önce değerlendirmek için gölge testleri çalıştırmanıza yardımcı olur. SageMaker, yeni modeli mevcut üretim modelinin yanında gölge modunda dağıtır ve üretim trafiğinin kullanıcı tarafından belirlenen bir bölümünü yeni modele yansıtır. İsteğe bağlı olarak, çevrimdışı karşılaştırma için model çıkarımlarını kaydeder. Ayrıca, yeni modeli üretime tanıtıp tanıtmayacağınıza karar vermenize yardımcı olmak için üretim ve gölge modelleri arasındaki gecikme ve hata oranı gibi temel performans ölçümlerinin karşılaştırılmasını içeren canlı bir pano sağlar.

SageMaker, gölge varyantlarını ayarlama ve izleme sürecini basitleştirir. Böylece yeni ML modelinin canlı üretim trafiğindeki performansını değerlendirebilirsiniz. SageMaker, gölge testi için altyapıyı düzenleme ihtiyacınızı ortadan kaldırır. Gölge varyantına yansıtılan trafik yüzdesi ve testin süresi gibi test parametrelerini kontrol etmenizi sağlar. Sonuç olarak, küçükten başlayabilir ve model performansına güven kazandıktan sonra yeni modele yapılan çıkarım isteklerini artırabilirsiniz. SageMaker, temel ölçümler arasında performans farklılıklarını gösteren canlı bir pano oluşturur. Böylece yeni modelin üretim modelinden ne kadar farklı olduğunu değerlendirmek için model performansını kolayca karşılaştırabilirsiniz.

SageMaker Çıkarım Danışmanı, performans kıyaslamasını otomatikleştirerek ve SageMaker ML bulut sunucuları genelinde model performansını ayarlayarak ML modellerini üretime almak için gereken süreyi azaltır. Artık modelinizi en iyi performansı sağlayan ve maliyeti en aza indiren bir uç noktaya dağıtmak için SageMaker Çıkarım Danışmanı'nı kullanabilirsiniz. Bir bulut sunucusu türü seçerken dakikalar içinde SageMaker Çıkarım Danışmanı'nı kullanmaya başlayabilir ve haftalarca süren manuel test ve ayarlama süresini ortadan kaldırarak saatler içinde optimum uç nokta yapılandırmaları için öneriler alabilirsiniz. SageMaker Çıkarım Danışmanı ile, yalnızca yük testi sırasında kullanılan SageMaker ML bulut sunucuları için ödeme yaparsınız ve başka ücret alınmaz.

Performansı artırmak ve maliyetleri düşürmek için doğru uç nokta yapılandırması için önerilere ihtiyacınız varsa SageMaker Çıkarım Danışmanı'nı kullanmalısınız. Modellerini dağıtmak isteyen veri bilimcileri, önceden doğru uç nokta yapılandırmasını seçmek için manuel kıyaslamalar çalıştırmak zorundaydı. Önce modellerinin kaynak gereksinimlerine ve örnek yüklerine göre 70'den fazla kullanılabilir bulut sunucusu türü arasından doğru ML bulut sunucusu türünü seçmeleri ve ardından farklı donanımları hesaba katacak şekilde modeli optimize etmeleri gerekiyordu. Daha sonra, gecikme ve aktarım hızı gereksinimlerinin karşılandığını ve maliyetlerin düşük olduğunu doğrulamak için kapsamlı yük testleri yapmak zorunda kaldılar. SageMaker Çıkarım Danışmanı, şunları kolaylaştırarak bu karmaşıklığı ortadan kaldırır: 1) bir bulut sunucusu önerisi ile dakikalar içinde başlayın; 2) uç nokta yapılandırmanızla ilgili öneriler almak için bulut sunucusu türleri arasında birkaç saat içinde yük testleri yapın ve 3) container ve model sunucusu parametrelerini otomatik olarak ayarlamanın yanı sıra belirli bir bulut sunucusu türü için model optimizasyonları gerçekleştirin.

Veri bilimcileri SageMaker Çıkarım Danışmanı'na SageMaker Stüdyosu, Python için AWS SDK (Boto3) veya AWS CLI'den erişebilir. Kayıtlı model sürümleri için SageMaker model kayıt defterinde SageMaker Stüdyosu içinde dağıtım önerileri alabilirler. Veri bilimcileri SageMaker Stüdyosu, AWS SDK veya AWS CLI aracılığıyla önerileri arayabilir ve filtreleyebilir.

Hayır. Şu anda uç nokta başına yalnızca tek bir modeli destekliyoruz.

Şu anda yalnızca gerçek zamanlı uç noktaları destekliyoruz.

AWS Çin Bölgeleri hariç, Amazon SageMaker tarafından desteklenen tüm Bölgeleri destekliyoruz.

Evet. Her tür container'ı destekliyoruz. AWS Inferentia çipini temel alan Amazon EC2 Inf1, Neuron derleyicisi veya Amazon SageMaker Neo kullanılarak derlenmiş bir model yapıtı gerektirir. Bir Inferentia hedefi ve ilişkili container görüntüsü URI'si için derlenmiş bir modeliniz olduğunda, farklı Inferentia bulut sunucusu türlerini karşılaştırmak için SageMaker Çıkarım Danışmanı'nı kullanabilirsiniz.

SageMaker Model İzleyici, geliştiricilerin kavramdan sapılan noktaları tespit edip düzeltmesini sağlar. SageMaker Model İzleme, dağıtılan modellerdeki kavram sapmasını otomatik olarak algılar ve sorunun kaynağının tanımlanmasına yardımcı olan ayrıntılı uyarılar sunar. SageMaker'da eğitilen tüm modeller otomatik olarak SageMaker Studio'da toplanıp izlenebilecek temel ölçümler oluşturur. SageMaker Stüdyosu'ndan, toplanacak verileri, görüntüleme şeklini ve uyarı oluşturma zamanlarını yapılandırabilirsiniz.

Hayır. SageMaker, bilişim altyapısını sizin adınıza çalıştırır, sistem durum denetimleri yapar, güvenlik düzeltme eklerini uygular ve diğer rutin bakım prosedürlerini gerçekleştirir. Ayrıca, özel çıkarım koduyla eğitimden elde edilen model yapıtlarını kendi barındırma ortamınızda dağıtabilirsiniz.

SageMaker barındırma, Otomatik Uygulama Ölçeklendirme özelliğini kullanarak uygulamanız için gereken performansa otomatik olarak ölçeklenir. Ek olarak, uç nokta yapılandırmasını değiştirerek kesinti süresi yaşanmadan bulut sunucusu numarasını ve türünü manuel olarak değiştirebilirsiniz.

SageMaker performans ölçümlerini Amazon CloudWatch Ölçümler'e gönderir. Böylece ölçümleri izleyebilir, alarmlar ayarlayabilir ve üretim trafiğindeki değişikliklere otomatik olarak tepki verebilirsiniz. Ayrıca SageMaker, üretim ortamınızı izlemenize ve sorun gidermenize olanak sağlamak için Amazon CloudWatch Günlükleri'ne günlük yazar.

SageMaker, çıkarım Docker görüntüleri için belgelenmiş spesifikasyona uyan herhangi bir modeli barındırabilir. Bu, SageMaker model yapıtlarından ve çıkarım kodundan oluşturulan modelleri içerir.

SageMaker, saniyede çok sayıda işleme ölçeklenecek şekilde tasarlanmıştır. Kesin sayı, dağıtılan modele ve modelin dağıtıldığı bulut sunucusu sayısına ve türüne göre değişir.

Tam olarak yönetilen bir hizmet olan Amazon SageMaker, bulut sunucularının kurulumu, yönetimi, yazılım sürümü uyumlulukları ve düzeltme eki sürümleriyle ilgilenir. Ayrıca uyarıları izleyip almakta kullanabileceğiniz uç noktalar için yerleşik ölçüm ve günlükler sağlar. SageMaker araçları ve rehberli iş akışları ile tüm ML model paketleme ve dağıtım süreci basitleştirilerek istenen performansı elde etmek ve maliyetlerden tasarruf etmek için uç noktaları optimize etmeyi kolaylaştırır. Altyapı modelleri de dahil olmak üzere ML modellerinizi SageMaker Studio'da sadece birkaç tıklamayla veya yeni PySDK'yi kullanarak kolayca dağıtabilirsiniz.

Toplu Dönüşüm, büyük veya küçük toplu veri kümeleri üzerinde tahminler çalıştırmanıza olanak tanır. Veri kümesini birden çok parçaya bölmeye veya gerçek zamanlı uç noktaları yönetmeye gerek yoktur. Basit bir API ile çok sayıda veri kaydı için tahmin talep edebilir, verileri hızlı ve kolay bir şekilde dönüştürebilirsiniz.

SageMaker aşağıdaki uç nokta seçeneklerini destekler: Tek modelli uç noktalar: Tahsis edilmiş bulut sunucularında barındırılan bir container'da veya düşük gecikme süresi ve yüksek aktarım hızı için sunucusuz bir container'da bulunan bir model. Çok modelli uç noktalar: Uygun maliyet sağlamak ve kullanımı en üst düzeye çıkarmak üzere paylaşılan altyapıyı kullanarak birden fazla model barındırın. Her modelin verimli bir şekilde çalışması için ihtiyaç duyduğu kaynaklara erişebildiğinden emin olmak üzere her modelin ne kadar işlem ve bellek kullanabileceğini kontrol edebilirsiniz. Seri çıkarım işlem hatları: Tahsis edilmiş bulut sunucularını paylaşan ve belirli bir sırayla yürüten birden fazla container. Ön işleme, tahminler ve işleme sonrası veri bilimi görevlerini birleştirmek için bir çıkarım işlem hattı kullanabilirsiniz.

Çıkarım taleplerindeki dalgalanmaları karşılamak üzere temel işlem kaynaklarını otomatik olarak ölçeklendirmek için ölçeklendirme politikalarını kullanabilirsiniz. Model kullanımındaki değişiklikleri kolayca ele almak ve aynı zamanda altyapı maliyetlerini optimize etmek üzere her ML modeli için ölçeklendirme politikalarını ayrı ayrı kontrol edebilirsiniz.

SageMaker Uç Yöneticisi; akıllı kameralar, robotlar, kişisel bilgisayarlar ve mobil cihazlar gibi uç cihaz filolarında ML modellerinin optimize edilmesini, güvenliğinin sağlanmasını, izlenmesini ve bakımını kolaylaştırır. SageMaker Uç Yöneticisi, ML geliştiricilerinin ML modellerini çeşitli uç cihazlarda büyük ölçekte çalıştırmasına yardımcı olur.

SageMaker Uç Yöneticisi'ni kullanmaya başlamak için eğitimli makine öğrenimi modellerinizi bulutta derlemeniz ve paketlemeniz, cihazlarınızı kaydetmeniz ve aygıtlarınızı SageMaker Uç Yöneticisi SDK'sı ile hazırlamanız gerekir. SageMaker Uç Yöneticisi, modelinizi dağıtıma hazırlamak üzere modelinizi hedef uç donanımınız için derlemekte SageMaker Neo'yu kullanır. Bir modelin derlenmesinden sonra SageMaker Uç Yöneticisi, modeli AWS tarafından oluşturulan bir anahtarla imzalar ve ardından modeli dağıtıma hazır hale getirmek üzere çalışma zamanı ve gerekli kimlik bilgilerinizle birlikte paketler. Cihaz tarafında, cihazınızı SageMaker Uç Yöneticisi'ne kaydedip SageMaker Uç Yöneticisi SDK'sını indirin ve ardından SageMaker Uç Yöneticisi temsilcisini aygıtlarınıza yüklemek için talimatları izleyin. Öğretici not defteri, modelleri nasıl hazırlayabileceğinize ve modellerinizi SageMaker Uç Yöneticisi ile uç aygıtlara nasıl bağlayabileceğinize dair adım adım bir örnek sunar.

SageMaker Uç Yöneticisi, Linux ve Windows işletim sistemleriyle ortak CPU (ARM, x86) ve GPU (ARM, Nvidia) tabanlı cihazları destekler. SageMaker Uç Yöneticisi zamanla SageMaker Neo tarafından da desteklenen daha fazla gömülü işlemciyi ve mobil platformu destekleyecek şekilde genişletilecektir.

Hayır, gerekmez. Modellerinizi başka bir yerde eğitebilir veya açık kaynaktan veya model satıcınızdan edindiğiniz, önceden eğitilmiş bir model kullanabilirsiniz.

Evet, gerekir. SageMaker Neo, modellerinizi daha sonra uç cihazlarınızda paketleyip dağıtabileceğiniz yürütülebilir bir dosyaya dönüştürür ve derler. Model paketi dağıtıldıktan sonra, SageMaker Uç Yöneticisi aracısı model paketini açar ve modeli cihazda çalıştırır.

SageMaker Uç Yöneticisi, model paketini belirttiğiniz Amazon S3 bucket'ında depolar. Model paketini S3 bucket'ınızdan cihazlara dağıtmak için AWS IoT Greengrass tarafından sağlanan kablosuz (OTA) dağıtım özelliğini veya seçtiğiniz başka bir dağıtım mekanizmasını kullanabilirsiniz.

Neo dlr, yalnızca SageMaker Neo hizmeti tarafından derlenen modelleri çalıştıran açık kaynaklı bir çalışma zamanıdır. Açık kaynaklı dlr ile karşılaştırıldığında, SageMaker Uç Yöneticisi SDK ek güvenlik, model yönetimi ve model sunma özelliklerine sahip kurumsal düzeyde bir cihaz içi aracı içerir. SageMaker Uç Yöneticisi SDK, büyük ölçekte üretim dağıtımı için uygundur.

SageMaker Uç Yöneticisi ve AWS IoT Greengrass, IoT çözümünüzde birlikte çalışabilir. ML modeliniz SageMaker Uç Yöneticisi ile paketlendikten sonra, model paketini cihazınıza dağıtmak için AWS IoT Greengrass OTA güncelleme özelliğini kullanabilirsiniz. AWS IoT Greengrass, IoT cihazlarınızı uzaktan izlemenize olanak sağlarken, SageMaker Uç Yöneticisi cihazlardaki ML modellerini izlemenize ve bakımını yapmanıza yardımcı olur.

AWS, modelleri uç cihazlarda çalıştırmak için en geniş ve derinlemesine yetenekleri sunar. Bilgisayarlı görü, ses tanıma ve tahmine dayalı bakım dahil olmak üzere çok çeşitli kullanım durumlarını destekleyecek hizmetlerimiz var.

Kameralar ve cihazlar gibi uç cihazlarda bilgisayarlı görüyü çalıştırmak isteyen şirketler, AWS Panorama'yı kullanabilir. AWS Panorama, uç cihazlar için dağıtıma hazır bilgisayarlı görü uygulamaları sunar. Bulut konsolunda oturum açarak, Amazon S3 veya SageMaker'da kullanmak istediğiniz modeli belirterek ve ardından bir Python komut dosyası olarak iş mantığını yazarak AWS Panorama'yı kullanmaya başlamak kolaydır. AWS Panorama, hedef cihaz için modeli derler ve yalnızca birkaç tıklama ile cihazlarınıza dağıtılabilmesi için bir uygulama paketi oluşturur. Ayrıca, kendi özel uygulamalarını oluşturmak isteyen bağımsız yazılım satıcıları AWS Panorama SDK'yi kullanabilir. Cihaz üreticileri de cihazlarını AWS Panorama için sertifikalandırmak üzere Cihaz SDK'sini kullanabilir.

Kendi modellerini oluşturmak ve model özellikleri üzerinde daha ayrıntılı denetime sahip olmak isteyen müşteriler SageMaker Uç Yöneticisi'ni kullanabilir. SageMaker Uç Yöneticisi; akıllı kameralar, akıllı hoparlörler ve robotlar gibi uç cihaz filolarında ML modellerini doğal dil işleme, dolandırıcılık tespiti ve tahmine dayalı bakım gibi her türlü kullanım örneğine hazırlamak, çalıştırmak, izlemek ve güncellemek için yönetilen bir hizmettir. SageMaker Uç Yöneticisi, farklı model özelliklerinin tasarlanması ve kayma için modellerin izlenmesi de dahil olmak üzere, modelleri üzerinde kontrol isteyen ML uç geliştiricilerine yöneliktir. Her ML uç geliştiricisi, SageMaker konsolu ve SageMaker API'leri aracılığıyla SageMaker Uç Yöneticisi'ni kullanabilir. SageMaker Uç Yöneticisi, SageMaker'ın bulutta modeller oluşturma, eğitme ve dağıtma yeteneklerini uç cihazlara taşır.

SageMaker Uç Yöneticisi ABD Doğu (Kuzey Virginia), ABD Doğu (Ohio), ABD Batı (Oregon), AB (İrlanda), AB (Frankfurt) ve Asya Pasifik (Tokyo) olmak üzere altı Bölgede kullanılabilir. Ayrıntılar için AWS Bölgesel Hizmetler listesine bakın.

SageMaker Neo, ML modellerinin bir kez eğitilip bulutta ve uçta herhangi bir yerde çalıştırılmasını sağlar. SageMaker Neo, birden çok donanım platformunda dağıtım için kullanılabilen popüler DL çerçeveleriyle oluşturulan modelleri otomatik olarak optimize eder. Optimize edilmiş modeller 25 kata kadar daha hızlı çalışır ve tipik ML modellerinin kaynaklarının onda birinden daha azını tüketir.

SageMaker Neo'yu kullanmaya başlamak için SageMaker konsolunda oturum açın, eğitimli bir model seçin, modelleri derlemek için örneği izleyin ve elde edilen modeli hedef donanım platformunuza dağıtın.

SageMaker Neo bir derleyici ve bir çalışma zamanı olmak üzere iki ana bileşen içerir. İlk olarak SageMaker Neo derleyicisi farklı çerçeveler tarafından dışa aktarılan modelleri okur. Daha sonra, çerçeveye özgü işlevleri ve işlemleri çerçeveden bağımsız bir ara temsile dönüştürür. Ardından, bir dizi optimizasyon gerçekleştirir. Sonrasında ise derleyici optimize edilmiş işlemler için ikili kod üretir ve bunları paylaşılan bir nesne kitaplığına yazar. Derleyici, aynı zamanda model tanımını ve parametrelerini ayrı dosyalara kaydeder. Yürütme esnasında SageMaker Neo çalışma zamanı, modeli çalıştırmak için derleyici (model tanımı, parametreler ve paylaşılan nesne kitaplığı) tarafından oluşturulan yapıtları yükler.

Hayır. Modelleri başka bir yerde eğitebilir ve bunları SageMaker ML bulut sunucuları veya AWS IoT Greengrass destekli cihazlar için optimize etmek üzere SageMaker Neo'yu kullanabilirsiniz.

Şu anda SageMaker Neo, bilgisayarlı görü uygulamalarına güç veren en popüler DL modellerini ve günümüzde SageMaker'da kullanılan en popüler karar ağacı modellerini desteklemektedir. SageMaker Neo; MXNet ve TensorFlow ile eğitilmiş AlexNet, ResNet, VGG, Inception, MobileNet, SqueezeNet ve DenseNet modellerinin performansını ve XGBoost'ta eğitilmiş sınıflandırma ve rastgele kesilmiş orman modellerinin performansını optimize eder.

Desteklenen bulut sunucularının, uç cihazlarının ve çerçeve sürümlerinin listelerini SageMaker Neo belgelerinde bulabilirsiniz.

Desteklenen bölgeleri görmek için AWS Bölgesel Hizmetler listesini görüntüleyin.

SageMaker Tasarruf Planları, bir veya üç yıllık bir dönem boyunca tutarlı bir kullanım miktarı (USD/saat cinsinden ölçülür) taahhüdü karşılığında SageMaker için esnek bir kullanıma dayalı fiyatlandırma modeli sunar. SageMaker Tasarruf Planları, en üst seviyede esneklik sağlar ve maliyetlerinizi %64'e kadar azaltmanıza yardımcı olur. Bu planlar SageMaker Stüdyo not defterleri, SageMaker İstek Üzerine not defterleri, SageMaker İşlem Merkezi, SageMaker Data Wrangler, SageMaker Eğitim, SageMaker Gerçek Zamanlı Çıkarım ve SageMaker Toplu Dönüşüm dahil olmak üzere uygun SageMaker ML bulut sunucusu kullanımları için bulut sunucusu ailesi, boyutu veya bölgesi ne olursa olsun otomatik olarak uygulanır. Örneğin istediğiniz zaman çıkarım iş yükleri için ABD Doğu (Ohio) bölgesinde çalışan bir ml.c5.xlarge CPU bulut sunucusundan ABD Batı (Oregon) bölgesinde çalışan bir ml.Inf1 bulut sunucusuna geçiş yapabilir ve otomatik olarak Tasarruf Planları fiyatını ödemeye devam edebilirsiniz.

Tutarlı miktarda SageMaker bulut sunucusu kullanımınız varsa (USD/saat cinsinden ölçülür) ve birden fazla SageMaker bileşeni kullanıyorsanız veya teknoloji yapılandırmanızın (bulut sunucusu ailesi ya da bölge gibi) zaman içinde değişmesini bekliyorsanız SageMaker Tasarruf Planları, tasarruflarınızı en üst düzeye çıkarmayı kolaylaştırırken uygulama ihtiyaçlarına veya yeni inovasyonlara göre temel teknoloji yapılandırmasını değiştirme esnekliği sağlar. Tasarruf Planları fiyatı, manuel değişiklik gerektirmeden tüm uygun ML bulut sunucusu kullanımına otomatik olarak uygulanır.

AWS Yönetim Konsolu'ndaki AWS Maliyet Gezgini'nden veya API/CLI kullanarak Tasarruf Planları'nı kullanmaya başlayabilirsiniz. En büyük tasarrufları gerçekleştirmek üzere AWS Maliyet Gezgini'nde verilen önerileri kullanarak kolayca Tasarruf Planları taahhüdünde bulunabilirsiniz. Tavsiye edilen saatlik taahhüt, geçmişteki İstek Üzerine kullanımınıza ve seçtiğiniz plan tipi, dönem uzunluğu veya ödeme seçeneğine dayanır. Bir Tasarruf Planı'na kaydolduğunuzda işlem kullanımınız otomatik olarak indirimli Tasarruf Planları fiyatları, taahhüdünüzü aşan kullanımlar ise normal İstek Üzerine fiyatları üzerinden ücretlendirilecektir.

SageMaker Tasarruf Planları ile Amazon EC2 Tasarruf Planları arasındaki fark, içerdikleri hizmetlerdir. SageMaker Tasarruf Planları yalnızca SageMaker ML Bulut Sunucusu kullanımı için geçerlidir.

Tasarruf Planları AWS Kuruluşu/Birleştirilmiş Faturalama ailesinde içindeki herhangi bir hesaptan satın alınabilir. Tasarruf Planları tarafından sağlanan fayda varsayılan olarak AWS Kuruluşu/Birleştirilmiş Faturalama ailesi içindeki tüm hesaplarla yapılan kullanımlarda geçerlidir. Bununla birlikte Tasarruf Planlarının faydasını yalnızca onları satın alan hesapla sınırlamayı da seçebilirsiniz.