Size: a a a

Clojure — русскоговорящее сообщество

2020 July 27

Ц

Цонстантин in Clojure — русскоговорящее сообщество
pedestal + lacinia + re-frame + re-graph - такой стэк у меня
источник

VK

Vadim Komarov in Clojure — русскоговорящее сообщество
Всем привет.
Знакомлюсь с Clojure, и в качестве образовательного проекта запилил конвертер ФИАС в SQLite. Если кто имел дело с выгрузками ФИАСа, может для себя найти такую штуку полезной. Собстно сам линк: https://github.com/obivan/fiaser
Это мой первый проект на Clojure, так что помидорами сильно не кидайтесь
источник

SA

Sergey Andronov in Clojure — русскоговорящее сообщество
> Данные ФИАС конвертируются приблизительно за 2 - 2.5 часа

@vykomarov, сколько же там миллионов записей, если конвертируется так долго?
источник

VK

Vadim Komarov in Clojure — русскоговорящее сообщество
Примерно 70 миллионов домов. 5 миллонов адресных объектов (это промежуточные уровни иерархии: улицы, города, поселки итд). Ну и прочего, типа таблицы помещений тоже много.
Сама выгрузка это примерно 67 GB xml-файлов в одну строку. В формате ГАР налоговая её расширила и теперь это примерно 160 GB
источник

SA

Sergey Andronov in Clojure — русскоговорящее сообщество
понятно, большая штука
источник

I

Igor in Clojure — русскоговорящее сообщество
Vadim Komarov
Примерно 70 миллионов домов. 5 миллонов адресных объектов (это промежуточные уровни иерархии: улицы, города, поселки итд). Ну и прочего, типа таблицы помещений тоже много.
Сама выгрузка это примерно 67 GB xml-файлов в одну строку. В формате ГАР налоговая её расширила и теперь это примерно 160 GB
и сколько это в sqlite получается?
источник

VK

Vadim Komarov in Clojure — русскоговорящее сообщество
В сыром виде 39 и 71 GB для форматов ФИАС и ГАР соответственно. Но они хорошо сжиматься должны по-идее
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Vadim Komarov
Всем привет.
Знакомлюсь с Clojure, и в качестве образовательного проекта запилил конвертер ФИАС в SQLite. Если кто имел дело с выгрузками ФИАСа, может для себя найти такую штуку полезной. Собстно сам линк: https://github.com/obivan/fiaser
Это мой первый проект на Clojure, так что помидорами сильно не кидайтесь
Вы бы подняли базу где-нибудь с pgadmin'ом и доступом только на read
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Я думаю многие были бы благодарны
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Чтобы можно было через браузер кваерить её
источник

IG

Ivan Grishaev in Clojure — русскоговорящее сообщество
так ее повалили бы сразу
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Ну пусть донатик повесит)
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Алсо не думаю
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
SQL это типа высокий порог вхождения
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
И rate limit можно добавить
источник

IG

Ivan Grishaev in Clojure — русскоговорящее сообщество
было бы здорово, ели бы можно было качнуть sqlite-файл
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Ну тип там где тебе нужен sqlite файл то там же ты будешь кваерить его)
источник

VK

Vadim Komarov in Clojure — русскоговорящее сообщество
Да, была идея конвретировать и выкладывать дампы публично. Это будет сделано, надеюсь.
Но что касается pgadmin'a, поинт проекта не в этом. Эксплоринг данных ФИАС в текущем виде мало полезен и информативен, т.к. данные низкого качества и имеют запутанную структуру. Цель была для начала просто сделать их пригодыми к обработке
источник

VK

Vadim Komarov in Clojure — русскоговорящее сообщество
Дальше данные уже можно вычищать, трансформировать и скармливать в metabase или в какой-нибудь движок полнотектового поиска
источник

AL

Arseniy Lebedev in Clojure — русскоговорящее сообщество
Vadim Komarov
Дальше данные уже можно вычищать, трансформировать и скармливать в metabase или в какой-нибудь движок полнотектового поиска
Ну или так
источник