Size: a a a

2020 December 18

AZ

Anton Zadorozhniy in Data Engineers
Мб в вас один из 14 активных запросов сейчас - это какое-то безумие от начинающего SQL разработчика, тогда все можно починить простым внушением
источник

AZ

Anton Zadorozhniy in Data Engineers
(и настройкой ресурсной группы для пользователя)
источник
2020 December 19

AT

Al T in Data Engineers
а кто-то из многоуважаемых коллег пробовал RAPIDS акселерацию для спарка? оно ваще там чего-то акселерирует ? или может теперь spark dataframes можно целиком через GPU гонять?
источник

ME

Max Efremov in Data Engineers
Оно вроде часть операций может ускорить, но каких - хз(
источник

AT

Al T in Data Engineers
было бы интересно положить датафреймы в GPU и с нечеловеческой скоростью обрабатывать SQL запросы к ним, поражая воображение окружающих
источник

VM

V. M. in Data Engineers
Al T
было бы интересно положить датафреймы в GPU и с нечеловеческой скоростью обрабатывать SQL запросы к ним, поражая воображение окружающих
почему думаешь что прогон через GPU даст кратный прирост?
источник

ME

Max Efremov in Data Engineers
V. M.
почему думаешь что прогон через GPU даст кратный прирост?
Векторизация, возможно
источник

ME

Max Efremov in Data Engineers
Сразу на всех ядрах кааак посчитает
источник

AT

Al T in Data Engineers
ну есть GPU базы данных, на тех объемах которые влазят в GPU они существенно быстрее
источник

AT

Al T in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
Al T
а кто-то из многоуважаемых коллег пробовал RAPIDS акселерацию для спарка? оно ваще там чего-то акселерирует ? или может теперь spark dataframes можно целиком через GPU гонять?
источник

GP

Grigory Pomadchin in Data Engineers
тут рибята ж из нвидии
источник

AT

Al T in Data Engineers
просим просим !
источник

GP

Grigory Pomadchin in Data Engineers
Al T
было бы интересно положить датафреймы в GPU и с нечеловеческой скоростью обрабатывать SQL запросы к ним, поражая воображение окружающих
Вроде все ускоряет презенташка ж была на митапе классная
источник

GP

Grigory Pomadchin in Data Engineers
орки там паркеты
источник

AT

Al T in Data Engineers
моя не смотрел, можно ссылочку плз?
источник

GP

Grigory Pomadchin in Data Engineers
Сча найду
источник

VM

V. M. in Data Engineers
Grigory Pomadchin
тут рибята ж из нвидии
у ребят из нвидии спрашивать про GPU.
ну они как бы ОЧЕНЬ ЗАИНТЕРЕСОВАНЫ чтобы видяшечка тащила всё в n раз быстрее т.е. они предвзято будут судить как по мне
источник

VM

V. M. in Data Engineers
кто то вообще кластеры через GPU строил?
источник

GP

Grigory Pomadchin in Data Engineers
Al T
моя не смотрел, можно ссылочку плз?
источник