в моей прошлой компании терраформом создавали инфраструктуру, а ансиблом ее конфигурировали
Ну сейчас управления ОС и проч делигируется непосредтсвенно облачным провайдерам, а масштабирование приложений уже происходит на уровне Docker контейнеров и соответствующих политик развёртывания в CD (AWS Fargate/ECS и CodeDeploy / CodePipeline). Практически blue/green deployment’ы сейчас в чистом виде мало кто использует - заливают новую версию контейнера и плавно переводят на неё весь трафик, если начинает сыпаться - откатывают, тоже самое и с лямбдами.
Ansible / Puppet / Chef используют только для провизии образа в Packer’e, который потом наследуется уже во всей инфраструктуре.
Обычно просто разворачивают какой-то RancherOS или DockerOS и используют его точно так же как ECS/Fargate.