AW
Это для каких операций актуально? Наверняка же не во всех случаях ускорение на практике есть? Можете опытом поделиться, что в вашем случае сработало)
Умножение матриц
Size: a a a
2021 January 13
AW
Когда есть циклы
Для графов и обходов графов норм тема тоже
AW
У меня сейчас и то и другое
AW
Типа в 5 раз перфоманс по сравнению с CPU
ЕЗ
Хм, крутяк, у меня много таких мест в скриптах
FF
Типа в 5 раз перфоманс по сравнению с CPU
А на какой карте?
AW
А на какой карте?
Tesla K80
NK
Это для каких операций актуально? Наверняка же не во всех случаях ускорение на практике есть? Можете опытом поделиться, что в вашем случае сработало)
Тяжелые операции с большими массивами (но не сильно большими, чтобы в память карты поместились). Но самом деле, в действительно критичных местах, чтобы вытянуть из GPU все, все-таки желательно писать на CUDA и задействовать готовые либы от NVIDIA.
Разбирал пару случаев - там действительно бывает довольно сложно и даже банальный поиск суммы массива может быть самым медленным шагом.
Разбирал пару случаев - там действительно бывает довольно сложно и даже банальный поиск суммы массива может быть самым медленным шагом.
NK
Tesla K80
Это кстати 2 первых Titan, т.е. гораздо медленнее последних поколений
AW
Это кстати 2 первых Titan, т.е. гораздо медленнее последних поколений
Зато дешево и все равно быстрее моей 1050
AW
Тяжелые операции с большими массивами (но не сильно большими, чтобы в память карты поместились). Но самом деле, в действительно критичных местах, чтобы вытянуть из GPU все, все-таки желательно писать на CUDA и задействовать готовые либы от NVIDIA.
Разбирал пару случаев - там действительно бывает довольно сложно и даже банальный поиск суммы массива может быть самым медленным шагом.
Разбирал пару случаев - там действительно бывает довольно сложно и даже банальный поиск суммы массива может быть самым медленным шагом.
В том то и дело что это сложный путь, а тут можно халявно в две строчки поднять производительность
ББ
Друзья, добрый день! Хочу сгенерить embeddings при помощи трансформера. Данных много, и npy матрица эмбеддингов не влезает в оперативку 35ГБ. Хочется взять данных еще больше. Посоветуйте, какой сервер арендовать с 100ГБ оперативки, и разумно ли такое вообще делать?
PL
Кстати мне помогло ускориться
вчера столкнулся с тем что numba заработала только с питоном 3.8, а с 3.9 - нет
AW
вчера столкнулся с тем что numba заработала только с питоном 3.8, а с 3.9 - нет
Не выкатили ещё видимо. Я вообще на 3.5 сижу чтобы не париться
PL
кроме того ей отдельно нужен llvm
PL
но вроде заработало в итоге
МЕ
Друзья, добрый день! Хочу сгенерить embeddings при помощи трансформера. Данных много, и npy матрица эмбеддингов не влезает в оперативку 35ГБ. Хочется взять данных еще больше. Посоветуйте, какой сервер арендовать с 100ГБ оперативки, и разумно ли такое вообще делать?
Я генсимом генерил эмбеддингов гигов на 50 - просто сделал огромный своп на SSD. Если не продакшн решение, а просто эксперимент - не вижу причин так не делать.
NF
Rishi
Anyone worked on few shot learning for text classification before?
will be working soon
AW
Товарищи, нет ли свежей conversational модельки для русского?
НК
Исследователи выяснили, что системы ИИ не различают предложения с перемешанными словами / Хабр
https://m.habr.com/ru/news/t/537164/
https://m.habr.com/ru/news/t/537164/
