Amazon-EC2-Inf1-Instances und AWS Neuron unterstützen jetzt YOLOv5- und ResNext-Deep-Learning-Modelle sowie die neuesten Open-Source-Hugging-Face-Transformer. Wir haben auch den Neuron-Compiler optimiert, um die Leistung zu verbessern, und Sie können jetzt standardmäßig einen 12-mal höheren Durchsatz als vergleichbare GPU-basierte Instances für vortrainierte BERT-Basismodelle erzielen. Diese Verbesserungen ermöglichen es Ihnen, Ihre Hochleistungs-Inferenzanforderungen effektiv zu erfüllen und modernste Deep-Learning-Modelle zu geringen Kosten bereitzustellen.
Quelle: aws.amazon.com
Amazon-EC2-Inf1-Instances – Neue Funktionen, verbesserte Leistung und niedrigere Preise
Published by