Size: a a a

2020 December 08

K

KrivdaTheTriewe in Data Engineers
Alexey Evdokimov
тогда в фатжаре будет три копии гуавы :/
и что?
источник

K

KrivdaTheTriewe in Data Engineers
вы же гуаву новую зачем то исполбзуете?
источник

AE

Alexey Evdokimov in Data Engineers
не, юзаем для удобства ту, которая уже и так есть, чтобы как раз поменьше зависимостей было
источник

K

KrivdaTheTriewe in Data Engineers
ну это тоже правильный вариант
источник

GP

Grigory Pomadchin in Data Engineers
Igor  Master
А на скала 2.12 тяжко переезжать с 2.11?
нет, если ты скалист
источник

Igor  Master in Data Engineers
Вот блин, заинтриговал.
источник

K

KrivdaTheTriewe in Data Engineers
Igor  Master
А на скала 2.12 тяжко переезжать с 2.11?
кнопку compile нажать
источник

AE

Alexey Evdokimov in Data Engineers
а что, под 2020.3 Big Data Tools не обновляли? какой у вас там roadmap?
источник

r

rubonz in Data Engineers
+1. Плагин с октября не обновлялся.
источник

AE

Alexey Evdokimov in Data Engineers
Grigory Pomadchin
не понял; если у себя используешь шейди (это _правильно_) менять в рантайме это надеяться на то что не стрельнет в колено
посмотрел щас. если не запутался (вечер всё же), то в ванильном спарке соответствующих версий зашейдена 26 гуава, в хадупе в класпасе болтается 19-ая. а на амазоновской сборке спарк тоже с 26-й, а хадуп юзает какую-то другую. короче, зоопарк.

значит, локально и под емр надо собирать с разными профилями теперь, по ходу.
источник

DZ

Dmitry Zaytsev in Data Engineers
Alexey Evdokimov
а что, под 2020.3 Big Data Tools не обновляли? какой у вас там roadmap?
да , чет не ставится оно даже
источник

ПФ

Паша Финкельштейн... in Data Engineers
Alexey Evdokimov
а что, под 2020.3 Big Data Tools не обновляли? какой у вас там roadmap?
Там всё грустно, но скоро выйдет
источник

ПФ

Паша Финкельштейн... in Data Engineers
rubonz
+1. Плагин с октября не обновлялся.
Мы там поддержку питона пилим хоть какую-то, релиз получился сложный.

Ну и на следующей неделе вроде должно выйти
источник
2020 December 09

SS

Sergey Sheremeta in Data Engineers
приветики! в профильном чате перекати-поле... спрошу тут:
——
подскажите, почему может не коннектиться NiFi к внешнему zookeeper?
версия NiFi -  1.12.1 - последняя релизная

сетевая связность с узлов NiFi до зукиперов есть, телнет по 2181 порту проходит

все равно в nifi-app.log вижу

org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss
 at org.apache.zookeeper.KeeperException.create(KeeperException.java:102)
 at org.apache.curator.framework.imps.CuratorFrameworkImpl.checkBackgroundRetry(CuratorFrameworkImpl.java:862)
 at org.apache.curator.framework.imps.CuratorFrameworkImpl.processBackgroundOperation(CuratorFrameworkImpl.java:647)
 at org.apache.curator.framework.imps.WatcherRemovalFacade.processBackgroundOperation(WatcherRemovalFacade.java:152)
 at org.apache.curator.framework.imps.FindAndDeleteProtectedNodeInBackground$2.processResult(FindAndDeleteProtectedNodeInBackground.java:104)
 at org.apache.zookeeper.ClientCnxn$EventThread.processEvent(ClientCnxn.java:630)
 at org.apache.zookeeper.ClientCnxn$EventThread.run(ClientCnxn.java:510)
источник

UD

Uncel Duk in Data Engineers
Sergey Sheremeta
приветики! в профильном чате перекати-поле... спрошу тут:
——
подскажите, почему может не коннектиться NiFi к внешнему zookeeper?
версия NiFi -  1.12.1 - последняя релизная

сетевая связность с узлов NiFi до зукиперов есть, телнет по 2181 порту проходит

все равно в nifi-app.log вижу

org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss
 at org.apache.zookeeper.KeeperException.create(KeeperException.java:102)
 at org.apache.curator.framework.imps.CuratorFrameworkImpl.checkBackgroundRetry(CuratorFrameworkImpl.java:862)
 at org.apache.curator.framework.imps.CuratorFrameworkImpl.processBackgroundOperation(CuratorFrameworkImpl.java:647)
 at org.apache.curator.framework.imps.WatcherRemovalFacade.processBackgroundOperation(WatcherRemovalFacade.java:152)
 at org.apache.curator.framework.imps.FindAndDeleteProtectedNodeInBackground$2.processResult(FindAndDeleteProtectedNodeInBackground.java:104)
 at org.apache.zookeeper.ClientCnxn$EventThread.processEvent(ClientCnxn.java:630)
 at org.apache.zookeeper.ClientCnxn$EventThread.run(ClientCnxn.java:510)
Какая версия зк?
источник

SS

Sergey Sheremeta in Data Engineers
zookeeper.version=3.4.13-2d71af4dbe22557fda74f9a9b4309b15a7487f03, built on 06/29/2018 04:05 GMT
источник

SS

Sergey Sheremeta in Data Engineers
покрылась плесенью уже, да?
источник

UD

Uncel Duk in Data Engineers
источник

UD

Uncel Duk in Data Engineers
Нужно конфиг поправить на стороне найфая
источник

UD

Uncel Duk in Data Engineers
С 1.10 они притащили зк 3.5
источник