основе компромиссов между стоимостью и производительностью. Пользователи могут развернуть конфигурацию, занявшую первое место в рейтинге, непосредственно в конечной точке реального времени Amazon SageMaker. Новый интерфейс SDK, доступный в пакете sagemaker.serve.ai_inference_recommender начиная с версии 3.17.0, включает операции, такие как ModelBuilder.from_jumpstart_config, start_benchmark, generate_deployment_recommendations и deploy. В статье демонстрируется сквозной рабочий процесс: генерация рекомендаций, интерпретация результатов, развертывание, бенчмаркинг и сравнение фреймворков, таких как LMI и vLLM. Также объясняется, как читать ключевые метрики и выбирать между конфигурациями на основе целевых показателей производительности, а также как развертывать на основе ранее выполненного задания рекомендаций с помощью ModelBuilder.from_recommendation_job.