Size: a a a

Scala User Group

2020 September 06

K

KrivdaTheTriewe in Scala User Group
( я не уверен что сработает )
источник

λ

λoλi in Scala User Group
идея легла вообще
источник

λ

λoλi in Scala User Group
лол
источник

K

KrivdaTheTriewe in Scala User Group
источник

AS

Artem Sokolov in Scala User Group
Тарас Александренко
Звучит, как целая вселенная, а не простой инструмент для разработки) Спасибо за ответ, подумаю об этом.
На самом деле просто инструмент
Просто зачастую любой инструмент это в своём роде вселенная
Кайф же не обязательно в этом. Удовольствие от работы - это вообще не про инструмент и даже не про задачи тк зависит от ваших ценностей и мотиваторов. Лучше копайтесь в этом
источник

ТА

Тарас Александренко... in Scala User Group
Artem Sokolov
На самом деле просто инструмент
Просто зачастую любой инструмент это в своём роде вселенная
Кайф же не обязательно в этом. Удовольствие от работы - это вообще не про инструмент и даже не про задачи тк зависит от ваших ценностей и мотиваторов. Лучше копайтесь в этом
Спасибо, тоже пришёл к этому выводу: за меня никто не решит, что мне интересно. Только практика даст ответ.
источник

AS

Artem Sokolov in Scala User Group
Тарас Александренко
Спасибо, тоже пришёл к этому выводу: за меня никто не решит, что мне интересно. Только практика даст ответ.
источник

ТА

Тарас Александренко... in Scala User Group
Даже не слышал о таких, но выглядит очень многообещающе. Спасибо огромное!
источник

Oℕ

Oleg ℕizhnik in Scala User Group
в какой момент тест расскажет, кто я из винкс?
источник

А

Алексей in Scala User Group
Oleg ℕizhnik
напишите работающий пример в скасти, мы поможем на стримы перевести
привет, написал пример https://scastie.scala-lang.org/v1RoBEKGS6OwPiE5heKTPw
но у меня scala 2.11 и пример для spark
источник

Oℕ

Oleg ℕizhnik in Scala User Group
Ну работающий, обычно значит, что он компилируется и запускается в скасти
источник

А

Алексей in Scala User Group
Oleg ℕizhnik
Ну работающий, обычно значит, что он компилируется и запускается в скасти
ок, поправлю
источник

Oℕ

Oleg ℕizhnik in Scala User Group
Помимо этого, я не эксперт по спарку, но совмещать параллельные коллекции со спарком кажется не очень мудрым ходом. Кажется, что спарк должен предоставлять всю параллелизацию сам по себе
источник

Oℕ

Oleg ℕizhnik in Scala User Group
@krivdathetriewe @pomadchin что скажете о запуске кучи спарк джоб для каждого элемента коллекции, чтобы вытащить всё из субд?
источник

Oℕ

Oleg ℕizhnik in Scala User Group
Мне кажется, что просто исходную коллекцию нужно превратить в RDD и потом сделать flatMap с вашим getTable
источник

Oℕ

Oleg ℕizhnik in Scala User Group
т.е. sc.parallelize(dbs).flatMap(getTable(_, "test"))
источник

Oℕ

Oleg ℕizhnik in Scala User Group
Это обеспечит лучший контроль и уровень параллелизации
источник

Oℕ

Oleg ℕizhnik in Scala User Group
ок flatMap в той форме, что я предложил,  я не нашёл в API, зато есть union
источник

Oℕ

Oleg ℕizhnik in Scala User Group
sc.union(dbs.map(getTable(_, "test"))
источник

AD

Apache DOG™ in Scala User Group
Oleg ℕizhnik
@krivdathetriewe @pomadchin что скажете о запуске кучи спарк джоб для каждого элемента коллекции, чтобы вытащить всё из субд?
Там же лучше так не делать
источник