и вычитывалось это все простым линейным (по 1 записанному сообщению) демоном. т.е. в сообщении обычно штук 40 метрик, но я пока сильно не игрался с этим
я пока решил в бинарники не уходить - сжатия достаточно, зато с данными проще работать и можно натравливать всякие системы поиска аномалий. Когда упрусь тогда будет куда еще поджаться :)
отдельным потоком будет насыщение тегами которое будет заливаться в еластик, ну и там всякая служебка в него же будет литься, а потом это все в затемлейченную с ног до головы графану буддет выдаваться