то есть в первом случае это прям байты лежат, а вот во втором это получается байты только в строковом представлении
И понятнее не стало. :( Что это за клиент? Я к тому, что, если он всегда выдаёт bytea в hex-виде, как вообще может быть такое, как во втором screenshot ('\' и 'x' — это не hex digits)?!
Может, Вы поле не того типа (text, а не bytea, например) создали?