Size: a a a

2020 December 17

N

Nikita Blagodarnyy in Data Engineers
С -N?
источник

AE

Alexey Evdokimov in Data Engineers
зачем -N? тебе же локально все зависимости кешированные нужны, разве нет?
источник

AE

Alexey Evdokimov in Data Engineers
и родителя, и соседних модулей
источник

P

Pavel in Data Engineers
Nikita Blagodarnyy
Граждане-мавеноводы, помогите разобраться.
Есть мультимодуль проект

Родитель
<groupId>my.group</groupId>
<artifactId>datalake-airflow-etl</artifactId>
<packaging>pom</packaging>
<version>${revision}</version>
<modules>
 <module>common</module>
 <module>common-test</module>
</modules>


Чайлд 1
<parent>
   <artifactId>datalake-airflow-etl</artifactId>
   <groupId>
my.group</groupId>
   <version>${revision}</version>
</parent>
<modelVersion>4.0.0</modelVersion>

<groupId>
my.group</groupId>
<artifactId>datalake-common-test</artifactId>
<name>datalake-common-test</name>
<version>${revision}</version>

<депы> всякие cкалатесты и мокито из централа </депы>

Чайлд 2, ссылается на 1
<parent>
 <groupId>
my.group</groupId>
 <artifactId>datalake-airflow-etl</artifactId>
 <version>${revision}</version>
</parent>

<artifactId>datalake-common</artifactId>
<name>datalake-common</name>

<dependencies>
 <dependency>
   <groupId>
my.group</groupId>
   <artifactId>datalake-common-test</artifactId>
   <version>${project.version}</version>
   <scope>test</scope>
 </dependency>
</dependencies>




Проблема в том, что первый билдится нормально, а второй нет, валится с ошибкой, что не может найти в нексусе пом-родителя
Could not find artifact my.group:datalake-airflow-etl:pom:0.0.1-SNAPSHOT in java-dev-team
Соберите сначала родителя
источник

P

Pavel in Data Engineers
Ну и просто ‘mvn pkg родитель’ сделайте и будет норм
источник

AE

Alexey Evdokimov in Data Engineers
package родителя просто соберёт и родителя и всех чайлдов. если надо одного чайлда собирать без всего остального (например, всё остальное никогда не меняется), то всё остальное должно быть в кеше
источник

N

Nikita Blagodarnyy in Data Engineers
Alexey Evdokimov
зачем -N? тебе же локально все зависимости кешированные нужны, разве нет?
Затем, чтобы он не пошёл собирать всех детей подряд.
Идея как раз в том, чтобы собрать чайлд_1 и потом зависящие от него чайлд_2. А все остальные-только если они менялись.
источник

N

Nikita Blagodarnyy in Data Engineers
Alexey Evdokimov
package родителя просто соберёт и родителя и всех чайлдов. если надо одного чайлда собирать без всего остального (например, всё остальное никогда не меняется), то всё остальное должно быть в кеше
Так и есть. Делаю инсталл чайлд_1, он ложится в кэш, потом делаю инсталл чайлд_2, которому нужен чайлд_1 и который лег в кэш. Но он идёт за родителем в нексус почему-то. Инсталл родителя -N не помог чёт.
источник

AE

Alexey Evdokimov in Data Engineers
а если -o
источник

AE

Alexey Evdokimov in Data Engineers
и в кеше родитель есть, если посмотреть?
источник

AE

Alexey Evdokimov in Data Engineers
и если его там нету, то хотя бы один раз install на него сделать нужно. чтобы он туда попал
источник

N

Nikita Blagodarnyy in Data Engineers
Alexey Evdokimov
и если его там нету, то хотя бы один раз install на него сделать нужно. чтобы он туда попал
очень благодарю. install -U -N -Drevision=нужная_версия помог.
источник

SK

Sergey Kaurov in Data Engineers
Sergey Kaurov
В yarn-saite.xml прописал пару строк из документации Arenadata (перевод 📄 доки apache) 🙄 остальное вроде как по умолчанию берётся, но Spark говорит про  FIFO.
Есть что подсказать?
источник

N

Nikita Blagodarnyy in Data Engineers
У тебя амбари нету?
источник

SK

Sergey Kaurov in Data Engineers
Нет, я на неделе только про него "загуглил".
источник

N

Nikita Blagodarnyy in Data Engineers
Если нету, то иди на ресурс менеджер, там я ярн-сайт пропиши путь к файлу fair-scheduler
источник

N

Nikita Blagodarnyy in Data Engineers
Ну и сам файл по образцу из доки напили и подсунь по прописанному пути.
источник

N

Nikita Blagodarnyy in Data Engineers
Укажи там очереди какие тебе надо.
источник

N

Nikita Blagodarnyy in Data Engineers
С разблюдовкой по процентам памяти/вкоров.
источник

SK

Sergey Kaurov in Data Engineers
Ресурс менеджер там отдельная страничка или UI имеешь ввиду?
источник