TLA+, Coq, HOL (ML), и вообще есть несколько действительно отличных научных статей по теме, написанных Zohar Manna, Amir Pnueli, и другими.
Мне было бы интересно узнать, есть ли в российских университетах активные исследования по этой теме. В конце концов, одним из первых конкретных приложений проверки моделей была правильность попыток освоения космоса, которые часто могут привести к миллионам и миллионам долларов и серьезному ущербу.