Если честно - понятия не имею, не тестил.
Вот такую штуку в VPS цепанули и радуемся, по итогу

Только вот когда нужно больше ресурсов чем одна нода, тут только амазон...

Это идёт просто NVMe CEPH

амазон что даёт максимально?

Там не VPS, а докер для таких целей

Ноды разные бывают) бывают и с 512 ядрами и больше)

Низкая стоимость. Представьте себе такую аналогию - ваш автомобиль (сервер здесь как аналог автомобиля) едет без груза (мало клиентов) со скоростью ограниченной транспортным потоком (клиент читает страницы вашего сайта последовательно и не быстро). Поэтому большую часть времени большинству автомобилей (виртуальных серверов) нужна небольшая мощность и грузоподъемность. Система виртуализации OpenVZ способна динамически распределять ресурсы процессора и памяти между всеми виртуальными серверами и каждый сервер использует ровно столько ресурсов, сколько ему необходимо. Незанятые ресурсы остаются свободными. Потому хостинговые компании могут размещать на одном физическом сервере под OpenVZ больше виртуальных серверов чем под любой другой системой виртуализации. Хотя можно подумать, что в этом случае продается то чего нет, но это профанация ибо свободные не занятые ресурсы в системе OpenVZ всегда есть. Если же реальные ресурсы на сервере исчерпаны, то производительность падает настолько резко, что не заметить нельзя. Например если заканчивается память, то скорость работы своппамяти определяемая скоростью диска и это очень заметно. OpenVZ выгодна хостинговой компании и это оборачивается выгодой для клиентов ибо стоимость таких VPS самая низкая.

всеравно не понятно, яндекс вот даёт максимум 64 vcpu

мы сможем давать 128 vcpu

непонятно зачем всё это надо, когда лучше софт делать так, чтобы он распределенно работал на куче нод

Смотря какой софт, собственно.
Не любой софт можно адекватно масштабировать

Распределённо это и есть докер амазона

Возьмем PHP
Крайне (очень крайне) редко ты пишешь CPU зависимый софт, обычно PHP дико лупит по диску

ну всё что крупное имеет свой софт и делает его как хочет

Диску?) зачем?

Не зачем, а почему)

PHP до сих пор не имеет каких-либо await функций

А при чём тут диск?

Обычно ты работаешь с сокетами. А это запросы в базу,вернуть ответ, может файл отправить

Это все диск. так или иначе

Что нужно написать на пхп, чтобы у тебя была жесткая зависимость от проца?
Вот реально, что?)

стресстест