Немного погуглил по автотестам на ассемблере, ничего не нашел, только реверс_инжиниринг андроидного софта со знанием idapro etc...
первое что приходит в голову можно анализировать вывод текста после запуска бинарника, поиск по сигнатуре %93223232%...%343232334%, если пишут виртуальный процессор то интереснее будет получать трейс всех команд и состояния флаговых и других регистров и сравнение трейс файла с эталоном.