Владимир
Алгоритм не тот (даже для O(n**2) там лишние операции).
По идее нужен словарь, изначально пустой тогда проход по буквам будет один. Каждый раз проверка есть ли ключ соотуетствующий букве в словаре. Если еще нет такой буквы то заводим новую пару ключ - значение буква и 1, а если есть, инкрементим значение на 1.
И это.. скрины особенно с бликами очень трудно читать...
Зачем проверка когда есть сет