В макос насколько я помню таких проблем нет, надо конечно проверять, но по-моему я как-то писал такую обновлялку которая сам запущенный app перетирала и это работало без всяких костылей. Но! Лучше всё-же сделать обычный dmg и пусть пользователь сам перетирает приложение в Application
После обновления еще предлагать пользователю .dmg открывать?