Я, конечно, за Алексея сказать не могу, но свои пять копеек вставлю : коммить в опенсорс компиляторы, много читай внутрянки JVM, умей в С++, и много-много профилируй, если хочется уметь в JIT-ы
Вот что тут молодой человек пишет. Не обязательно всё это прямо хорошо знать, но нужно быть готовым страдать пару-тройку-пяток лет, пока набираешь шишек.