Граница между понятиями очень зыбкая.
http://andrewgelman.com/2007/10/25/dont_say_utilit/Я бы сказал, что utility отличается от value тем, что первую можно посчитать, а вторую только оценить.
Ребята из BAIR пришли из мира опт управления, где cost - заданная функция, которую можно посчитать. И если речь идёт про их статью о комбинации model free и model based - то там как раз cost есть заданная функция.
Но это конечно с моей колокольни так видится. Буду рад услышать альтернативное мнение.