Size: a a a

2019 December 01

A4

Anon 43 in Data Engineers
Еще вот такой вопрос. Копаю чужой код. В Mapper context вызван дважды
context.write(res1, val1);
context.write(res2, val2);
Как это понимать? В Reducer будет передан сплит из двух этих пар?
источник

GP

Grigory Pomadchin in Data Engineers
источник

FL

Fedor Lavrentyev in Data Engineers
Мы у себя запилили поддержку IPv6
источник

FL

Fedor Lavrentyev in Data Engineers
Но только для Spark, правда
источник

FL

Fedor Lavrentyev in Data Engineers
HDFS не пользуем. Якобы, в интернетах все IPv6 проблемы именно с HDFS
источник

FL

Fedor Lavrentyev in Data Engineers
Anon 43
Еще вот такой вопрос. Копаю чужой код. В Mapper context вызван дважды
context.write(res1, val1);
context.write(res2, val2);
Как это понимать? В Reducer будет передан сплит из двух этих пар?
Оу, коллега, это объяснялось где-то в первой главе, что вы там читали.
источник

ДП

Даниил Пилипенко in Data Engineers
Так... То есть отключить IPv6 просто?
источник

FL

Fedor Lavrentyev in Data Engineers
Даниил Пилипенко
Так... То есть отключить IPv6 просто?
Вы проверили коннект по IPv4?
источник

FL

Fedor Lavrentyev in Data Engineers
Он работает?
источник

GP

Grigory Pomadchin in Data Engineers
Fedor Lavrentyev
Мы у себя запилили поддержку IPv6
оно просто работало?
источник

FL

Fedor Lavrentyev in Data Engineers
Не, пришлось немного попинать
источник

GP

Grigory Pomadchin in Data Engineers
А что с ним было? Я думал тоже пустить ради эксперимента но времени не было
источник

ДП

Даниил Пилипенко in Data Engineers
Fedor Lavrentyev
Он работает?
Да:

SortedMap-2:~ sortedmap$ telnet 127.0.0.1 50010
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.

Connection closed by foreign host.


И пишет:

2019-12-01 20:41:50,361 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: fe629b2f12e9:50010:DataXceiver error processing unknown operation  src: /172.17.0.1:34164 dst: /172.17.0.2:50010
java.io.IOException: Version Mismatch (Expected: 28, Received: 3338 )
 at org.apache.hadoop.hdfs.protocol.datatransfer.Receiver.readOp(Receiver.java:69)
 at org.apache.hadoop.hdfs.server.datanode.DataXceiver.run(DataXceiver.java:267)
 at java.lang.Thread.run(Thread.java:748)
источник

FL

Fedor Lavrentyev in Data Engineers
Интересно, вы подключаетесь с того же интерфейса 192.168.0.3 или с другого?
Я не помню, как работает сеть в докере. =(
источник

ДП

Даниил Пилипенко in Data Engineers
С того же
источник

FL

Fedor Lavrentyev in Data Engineers
Grigory Pomadchin
А что с ним было? Я думал тоже пустить ради эксперимента но времени не было
Детские болячки типа неправильного парсинга в разных утилитарных чекерах.
источник

FL

Fedor Lavrentyev in Data Engineers
И в netstat исходящий адрес видно так же?
источник

GP

Grigory Pomadchin in Data Engineers
Fedor Lavrentyev
Детские болячки типа неправильного парсинга в разных утилитарных чекерах.
саундс лайк э перфект оппотунити законтрибутить в спарк
источник

ДП

Даниил Пилипенко in Data Engineers
Fedor Lavrentyev
И в netstat исходящий адрес видно так же?
Да:

SortedMap-2:~ sortedmap$ netstat
Active Internet connections
Proto Recv-Q Send-Q  Local Address          Foreign Address        (state)    
tcp4       0      0  192.168.0.3.61624      localhost.50010        SYN_SENT
источник

FL

Fedor Lavrentyev in Data Engineers
источник