Вот тебе самая топорная реализация, которая пришла в голову
const src = 'abc(def)ghi(jkl)mnop'
let brackets = false
let match = ''
let result = ''
for (let i = 0; i < src.length; i++) {
const char = src[i]
if (char === '(') {
brackets = true
} else if (char === ')') {
brackets = false
for (let m = match.length - 1; m >= 0; m--) {
result += match[m]
}
match = ''
} else if (brackets) {
match += char
} else {
result += char
}
}
console.log(result)