>Префетчинг делает свое дело, но проблема в том, что если мне нузны 4 байта ... из памяти придет 64 байта вместо четырех

не вижу проблемы тут. Даже если бы память отдавала контроллеру не по 64 байта, а по 4 задержка доставки этих 4 байт до ЦПУ значительно бы не уменишьлась. Единственное на что это влияет - утилизация полосы шины памяти. К счастью в современных цпу зачастую (по крайней мере в задачах обработки трафика) она не является узким местом.

>но тут другая проблема - то, что содедние два поля по 4 байта ... лежат рядом, совсем не значит, что они будут рядом на одной стоке

для этого существуют автоматические префетчеры в цпу

что касается ЛПМ и приведенного примера с "мешанием кешированию". На первый взгляд я проблемы тут не вижу, и вот почему:
При стандартном 32кб Л1 кеше с ассоциативностью 8 нам необходимо чтобы в стандартном батче на лукап у нас были адреса с паттерном a.b + 4*i.c.d - нужно попадать в одну и ту же линию кеша, выкидывая другие линии. При 32кб и 8-way assosiativity нам нужно прыгать по TBL24 с шагом в 4кб, что соответствует tbl24 энтри через каждые /14 (так как размер одной тбл24 в ЛПМ - 4 байта, знач прыгаем через 1024). Однако тут проблемы нет, так как для ЛПМ лукапа при таком паттерне распределения адресов нет пространственной локальности, и нужная тбл24 уже была прочитана к тому моменту, как кеш линия, содержащая ее была вытеснена.

>Предварительная сортировка батча помогает

я конечно не знаю какие у вас условия, но я не могу объяснить каким образом можно повысить производительность такой сортировкой, а не словить эффект наоборот.

>но более продуктивно оказывается пользовать структуру типа 8-8-8-8 или 12-4-4-4-4-8

опять таки зачастую зависит от условий, но в общем случае - нет

>если к лукапу будет еще и сбор детальной статистики

да, со статистикой все куда сложнее, не спорю

+1 :)

ОК, тогда позволь узнать почему
>но пакетная часть - она довольно ограничена в контексте параллеливания
?

ядру больнее контексты свитчить, больше регистров сейвить/ресторить

поддерживаю обоими руками

Только штеуд грабельки подложила в alder lake. Если такие грабли подкладывать регулярно - avx512 ещё долго будет редкостью в софте.

О ширине канала и о длине цикла. Более второстепенные - количество outstanding комманд, количество открытых строк, возможность отдать/принять данные не с первого адреса.

Ну их с тех пор вроде немного починили

Пока до массовости AVX-512 далеко.

До массовости где?
sse4 есть примерно везде на десктопе, avx2 тоже. На новых серверах avx512 есть примерно везде

Речь была конкретно про AVX-512, и он сейчас не везде.

Ну на серверах, купленных в конце 2019 года и не самых дорогих, он уже есть

и так чтобы не просаживал частоты(

Есть кто из ГАРС тут? У клиентов от туда трассировка где-то в Мегафоне магически оседает.

Или из Мегафона?

Хотя говорят, что это одно и то же теперь.

Если это мегафон, то пишите на деревне дедушке

Гарс всё, судя по всему окончательно. Даже счета за оплату услуг уже от имени Мегафона выставляет.

Там вроде коллеги дозвонились куда-то, проблему решают.