Amazon SageMaker ermöglicht es Kunden jetzt, Tausende von GPU-Modellen mit Multi Model Endpoint kosteneffizient zu hosten

Amazon SageMaker Multi-Model Endpoint (MME) ist eine vollständig verwaltete Funktion von SageMaker Inference, die es Kunden ermöglicht, Tausende von Modellen auf einem einzigen Endpunkt bereitzustellen und Kosten zu sparen, indem sie Instances, auf denen die Endpunkte ausgeführt werden, für alle Modelle gemeinsam nutzen. Bis heute wurde MME nur für Machine-Learning-Modelle (ML) unterstützt, die auf CPU-Instances laufen. Jetzt können Kunden MME nutzen, um Tausende von ML-Modellen auch auf GPU-basierten Instances bereitzustellen und so potenziell 90 % der Kosten einzusparen.
Quelle: aws.amazon.com

AWS-Organizationskonsole ermöglicht Benutzern jetzt die zentrale Verwaltung von primären Kontaktinformationen für AWS-Konten

Heute erweitern wir die AWS-Organizations-konsole, damit du die primären Kontaktinformationen für deine AWS-Konten zentral anzeigen und aktualisieren kannst. Dies folgt auf die Veröffentlichung der API für primäre Kontaktinformationen, mit der du die primären Kontaktinformationen für Konten in deiner Organisation programmatisch verwalten kannst. Mit dieser Einführung kannst du jetzt auch die Konsole zur einfachen Durchführung dieses Vorgangs verwenden, ohne dich bei jedem Konto einzeln anmelden zu müssen. Wir haben bereits den Support für die API und die Organisationskonsole für alternative Kontakte eingeführt und der Support für zusätzliche Kontoeinstellungen wird in zukünftigen Versionen verfügbar sein.
Quelle: aws.amazon.com

AWS Batch unterstützt jetzt Amazon Elastic Kubernetes Service (Amazon EKS)

Heute hat AWS Batch den Support für Amazon Elastic Kubernetes Service (Amazon EKS) eingeführt, so dass Kunden ihre Aufträge auf Amazon EKS-Clustern als Kubernetes-Pods ausführen können. AWS Batch verwaltet die Skalierung von Kubernetes-Knoten, die Platzierung von Pods und unterstützt die Auftragsausführung mithilfe von Amazon Compute Cloud (Amazon EC2) oder Amazon EC2 Spot. Außerdem respektiert Batch andere Workloads auf diesen EKS-Clustern und platziert keine Aufträge auf Knoten, die nicht zu Batch gehören.
Quelle: aws.amazon.com