тебе надо проверить, у всех ли "(" есть ")" ?
если да, то можно сначала удалить все кроме скобок, а потом удалять шаг за шагом пары "()"
перед каждым удалением всех "()" сохранять старый вариант, потом сверять его с новым (чтоб проверить, поменялось ли что-то), если поменялось, то повторям, а если не поменялось, то проверяем, пустая ли строка, если нет, то возвращаем false