там результат java вызова отдавался в нативный код, где сравнивался с получаемым через рефлексию и определённые части подписи использовались как ключ для расшифровки строк на основе которых генерился ключ
Люблю такие замудренные защиты =) Очень часто бывает, что такая защита снимается ваншотом. Просто не в том месте, где ее накручивали =) По этой же причине не надо изобретать свою крипту. Чтобы делать этот системно надо иметь системное понимание 😉