Я начинал кстати такое VM вменяемую для смарт-контрактов на coq прототипировать, но меня тогда остановил зачастую тот факт, что для того, чтобы верификация смысл имела, нужно иметь хорошую формализацию самого блокчейна и операций в нем. Без привязки к этому смысла в этом вижу сильно меньше.
Ну VM в некотором смысле данность до лучших времён, а некоторые факты относительно самих контрактов тоже можно выводить и верифицировать, по крайней мере чтобы обезопасить себя от явных багов. Потом формализация блокчейна, правда без криптографии есть какаято, да и с ней тоже были попытки вполне удачные в свое время