то есть G1; у меня есть подозрение, что это какой-нибудь гигантский массив, который не получается аллоцировать ввиду фрагментированной кучи, ну и приехали. Попробуй Parallel включить, что ли :)
ну вот когда мне совсем нихрена неясно что происходит и оно ломается где-то в кишках, я обычно локализую проблему путем комментирования кода, пока не перестанет падать.