Einführung in den Amazon SageMaker Neo

Mit Amazon SageMaker Neo können Kunden Modelle einmal trainieren und sie an jedem Ort mit bis zu zweifacher Leistungsverbesserung ausführen. Anwendungen, die auf verbundenen Geräten am Rand ausgeführt werden, sind besonders empfindlich für die Leistung von Machine-Learning-Modellen. Sie erfordern Entscheidungen mit geringer Latenz und werden häufig auf einer großen Anzahl unterschiedlicher Hardwareplattformen eingesetzt. Der Amazon SageMaker Neo stellt Modelle für bestimmte Hardwareplattformen zusammen und optimiert deren Leistung automatisch, sodass sie mit bis zu doppelter Leistung laufen können, ohne dass die Genauigkeit beeinträchtigt wird. Daher müssen Entwickler ihre geschulten Modelle nicht mehr für jede Hardwareplattform manuell abstimmen (Zeit und Kosten sparen). DER SageMaker Neo unterstützt Hardware-Plattformen von NVIDIA, Intel, Xilinx, Cadence und Arm sowie beliebte Frameworks wie Tensorflow, Apache MXNet und PyTorch.
Quelle: aws.amazon.com