ну другого способа выставлять бэкграунд выделенного итема я не нашел
ну можно поискать в документации, возможно для каждого итема можно задать бекграунд цвет в виде картинки и у самого таббара так же. и как-то поиграть с этими значениями. но если ничего такого нет, то правильный способ будет заключаться в том, чтобы написать свою контейнер, в котором будет таббар или таббарконтроллер без таббара с кастомной панелью с тем дизайном какой вам хочется