Size: a a a

2020 September 29

А

Алеся in Data Engineers
благодарю
источник

DZ

Dmitry Zuev in Data Engineers
Алеся
благодарю
Вилка, маст
источник

А

Алеся in Data Engineers
Dmitry Zuev
Вилка, маст
Укажем! В чатик бы теперь тот попасть, где оформленные вакансии можно постить) админу написала
источник

DZ

Dmitry Zuev in Data Engineers
Алеся
Укажем! В чатик бы теперь тот попасть, где оформленные вакансии можно постить) админу написала
В чем проблема?
источник

DZ

Dmitry Zuev in Data Engineers
Заходишь, join, боту отвечаешь
источник

DZ

Dmitry Zuev in Data Engineers
@krivdathetriewe  сделай меня админом тож
источник

А

Алеся in Data Engineers
Dmitry Zuev
Заходишь, join, боту отвечаешь
Там на сколько поняла, только через админа
источник

ПФ

Паша Финкельштейн... in Data Engineers
источник

SD

Serg D. in Data Engineers
Всем привет. Коллеги, столкнулся с такой проблемой:
1) spark-shell --master yarn --files hdfs:///path/properties.conf
2) spark.read.text(SparkFiles.get("properties.conf")).show

AnalysisException: Path does not exist
Подскажите, пжл, что не так?

В spark-submit проблема аналогичная.
источник

T

T in Data Engineers
Алеся
Там на сколько поняла, только через админа
мы вам перезвоним
источник

T

T in Data Engineers
Простите не удержался =(
источник

N

Nikita Blagodarnyy in Data Engineers
Граждане, когда один паркет-путь на ура читается, а второй повисает насмерть, где искать проблемы? В HDFS ?
источник

M

Mi in Data Engineers
Nikita Blagodarnyy
Граждане, когда один паркет-путь на ура читается, а второй повисает насмерть, где искать проблемы? В HDFS ?
пути к файлам?
источник

M

Mi in Data Engineers
какая разница в размерах/структуре
источник

АЖ

Андрей Жуков... in Data Engineers
Nikita Blagodarnyy
Граждане, когда один паркет-путь на ура читается, а второй повисает насмерть, где искать проблемы? В HDFS ?
А если дебаг врубить?
источник

N

Nikita Blagodarnyy in Data Engineers
Mi
пути к файлам?
пути разные. размеры/структура идентичная.
источник

AS

Andrey Smirnov in Data Engineers
Nikita Blagodarnyy
пути разные. размеры/структура идентичная.
посмотри на каких нодах лежат данные, может что с ними не так.
Как читаешь, может даталокалити влияет?
источник

N

Nikita Blagodarnyy in Data Engineers
Andrey Smirnov
посмотри на каких нодах лежат данные, может что с ними не так.
Как читаешь, может даталокалити влияет?
да по-дедовски, spark.read.parquet(«path»).filter(dt=param1)
источник

AS

Andrey Smirnov in Data Engineers
укажи схему при чтении, не поможет?
источник

N

Nikita Blagodarnyy in Data Engineers
да хз че поможет, пробую разные варианты. может, канеш, пранинг отъехал.
источник