Я наконец понял вопрос. Можно, например, сделать так
=IF($G4="AA";COUNTIFS($E$4:$E;$E4;$F$4:$F;$F4)>1)
Т.е.,
- определяем, есть ли в текущей строке АА
- если есть - то считаем дубликаты по двум условиям, если нет - возвращается FALSE
Только что потестил ваш вариант, все равно лишнее выделение