Два кейса - гуй и снижение латенси на udp потоке. В остальных случаях лучше сразу форкаться. Ну и винда.

Это не показатель хорошести джавы, это показатель плохости с++.
В джаве менеджед код и адреса там свои виртуальные. В результате обращение к каждому объекту через косвенную адресацию.

Кстати, интересно.
Есть ли какой-то паттерн (оправданный) использования тредов в перле?

С удп проблема в реконструировании потока - и с форками не получится быстро обмениваться информацией. В тцп такой проблемы нет - за нас поток реконструирует ядро, и каждый форк может независимо сделать listen.

у меня был тяжелый процессинг данных (каталога товаров). Я бил его на части и процессил в разных тредах чтобы раскидать по ядрам и обращениям к разным слейвам бд.

А если-бы ты сделал это через форк - что-нибудь поменялось-бы?

Не помню - это достаточный аргумент для меня - если что.

Во-первых, в jvm это как-то работает. Магии же не бывает, они тоже в оперативной памяти как-то перетаскивают куски памяти.
Во-вторых, тут как бы не только в освобождении дело, тут ещё и в выделении проблема тоже. Представьте ситуацию, что у вас память фрагментирована на маленькие куски. Причём 20 GB пяти свободно, но вы не можете в них выделить 10MB, потому что фрагметация памяти и невозможно найти непрерывный кусок такого размера.
Сама ОС умеет эту проблему решать, т.е. когда ей надо выделить память, а у неё всё фрагментировано, она как-то умеет перемещать (только то, что возможно переместить), чтобы выделить память.
А вот если ваш язык программирования забрал всю память (к примеру 40Gb, но реально используется только 20GB) и она расположена так, что сам язык программирования не может выделть каких-то 10MB, то это по-моему проблема.

да, давно было.

Маллоки там прямо на мьютексах сделаны? Т.е. это даже не lock-free структуры данных?

В чём проблема это сделать сейчас?