Наверно настроить и разработать, я не силен в данной теме, но суть примерно такая, есть разные проекты на scrapy, в зависимости от потребности они могут быть запущены на ВМ herzner в необходимом объеме. Т.е. нужен настроенный контейнер (docker) и отслеживание нагрузки (kubernetes), появилась задача поднялась ВМ, задача выполнилась, убралась ВМ.