Deepgram verbessert Amazon-SageMaker-AI-Support mit AWS-IAM-Temporärdelegation
Amazon/AWS
Deepgram hat die AWS-IAM-Temporärdelegation in seinen Support-Workflow für selbst gehostete Sprach-KI-Modelle auf Amazon SageMaker AI integriert. Dadurch können Kunden Deepgram-Ingenieuren einen eingeschränkten, zeitlich begrenzten Zugriff zur Fehlerbehebung gewähren, wodurch die anfängliche Untersuchungszeit von Tagen auf Minuten verkürzt wird, während die Nachvollziehbarkeit erhalten bleibt.
Deepgram gab die Integration der AWS IAM Temporary Delegation bekannt, um die Unterstützung für Unternehmen zu verbessern, die selbstgehostete Sprach-KI-Modelle auf Amazon SageMaker AI betreiben. Bisher erforderte die Fehlersuche die Terminvereinbarung für Bildschirmfreigaben oder die Bereitstellung langlebiger Cross-Account-IAM-Rollen, was langsam und nicht prüfbar war. Mit der neuen Integration kann ein Deepgram-Ingenieur über ein Support-Ticket Zugriff anfordern, der Kunde genehmigt dies in seiner IAM-Konsole, und temporäre STS-Anmeldeinformationen werden für einen bestimmten SageMaker-AI-Endpunkt, eine bestimmte Protokollgruppe und Region ausgestellt, die nach 12 Stunden ablaufen. Der Kunde behält die volle Kontrolle und kann den Zugriff jederzeit widerrufen. Alle delegierten API-Aufrufe werden in AWS CloudTrail des Kunden protokolliert. Deepgram unterstützt die Modelle Nova, Flux und Aura-2 auf SageMaker AI über AWS Marketplace.
Quelle: AWS ML blog —
Original