с калькулятором придется сидеть. шесть битов дают 64 значения. а надо только 16 из этого набора. вот он математически это и записывает, по какому принципу сделать выборку нужных цветов
Если на то пошло, докатился до калькулятора, то лучше уж сразу в Excell создать модель, там можно весь цикл просчитать автоматически и уже потом, когда понимаешь что всё верно, всё сошлось, и видишь целиком всю картину, можно приступать к написанию алгоритма.