Я давеча приводил пример — "хелло ворлд" под nginx unit в нагрузочном тестировании жрёт меньше ресурсов, чем утилита создающая нагрузку (ab или siege). Так что без знания что делает программа — время ответа не говорит ни о чем.

Ну представим, что у вас 400 бд реплик на чтение.
Есть какой-то самый тормознутый запрос, пусть выполняется 20 сек.

Вот пришло одновременно 400 запросов на одну ноду. Эти запросы пусть равномерно взялись и распределились по нодам БД (ЛБ).
Через 20 сек. все получат ответ, не?

Можно, конечно и меньшее ко-во баз взять.

Кстати, вот правильный ответ.  Просто некоторые часто путают “concurrent” с «per second»

Вопрос-то был другой. Про одну ноду

А почему она не одна? одна же

> Вот пришло одновременно 400 запросов на одну ноду

Окей. Ещё раз продублирую.
Ну сколько должно быть запущено копий интерпретатора, чтобы обслужить 1000 одновременных запросов?

Хорошо, упали до 400 )))

Ну ты же ничего не конкретизируешь. У тебя нет ни профиль нагрузки ни данных. Я могу выдумать, что хочу.

Я выдумал идеальную картинку, когда у меня идеальная I/O bound задача.
Пусть каждый запрос принимает 10 байт и возвращает другие 10 байт, которые требуется посчитать в БД.
Про БД речи у тебя вообще нет. Я могу их увеличить столько, сколько надо, ведь ты не конкретизируешь.

Соответственно интерпертатор занимается тем, что перенаправляет байтики из одного сокета в другой  и нет CPU bound задач.
А раз так, то можно одним процессом хоть 1000 запросов обработать.

Окей, тогда конкретизирую.
Сколько должно быть запущено копий интерпретатора, чтобы обслужить 1000 одновременных запросов, и чтобы не было бэклога?

На одной ноде

Нет никакой бд, просто хеллоу ворлд

Ну да, тут на asm наверно будет самое оптимальное решение, хотя наверняка и на си можно добиться такой же скорости

Как часто у тебя hello world в реальных задачах?

Хайлоад хелло ворлд 👍

Последнее время всегда типает когда кандидат на собезе говорит про "хайлоад". Обычно это абстрактная хуйня - цифры ради цифр

На вопрос-то так и не ответили )))

Ну я ответил. Никому нахер не вперлось сколько выдает конкретная нода. Как правильно сказали выше. Важна архитектура. И возможность scale up/down.

А чо там внутри. Перл или жава или эрланг. Пофиг

Эмм... по мне дак хайлоад - это когда конкретно какой-то проект не справляется. Соотвественно можно говорить о цифрах, применительно только к этиму проекту.

Может быть такое, что один сервис с 1000 rps работает нормально (нормально означает, что всех устраивает время ответа), а другой с 1 rps загибается (не устраивает время ответа).

Мне впёрлось