Size: a a a

Django [ru] #STAY HOME

2020 February 07

PZ

Pavel Zagrebelin in Django [ru] #STAY HOME
Muslim Beibytuly
Асинхронная обработка файлов и работа с ними - не самый оптимизированный кейс для python, микросервис на gokit с минимальными усилиями решит это проблему
насколько я понял, там не сколько в файлах основная обработка, сколько в пережёвывании данных в них. А тензорфло/панда/керас/что там сейчас у датасайнса в моде - вроде бы неплохи по скорости?
источник

VR

Vadim Rufov in Django [ru] #STAY HOME
Да, неплохи. Причем большие датасеты можно разбить на чанки и распараллелить из обработку
источник

VR

Vadim Rufov in Django [ru] #STAY HOME
Но интересовал именно архитектурный момент такого приложения. Данные всегда можно сжать(изменив тип данных), можно распараллелить, можно посмотреть в сторону генераторов. Всяких приемов оч много и они легко гуглятся))) а вот такое, увы, не получилось))
источник

MB

Muslim Beibytuly in Django [ru] #STAY HOME
Vadim Rufov
Но интересовал именно архитектурный момент такого приложения. Данные всегда можно сжать(изменив тип данных), можно распараллелить, можно посмотреть в сторону генераторов. Всяких приемов оч много и они легко гуглятся))) а вот такое, увы, не получилось))
мб тогда попробовать cython? при работе с tensorflow получили большой буст
источник

VR

Vadim Rufov in Django [ru] #STAY HOME
Кстати да...хорошая идея...там же вроде полу си/ полу пайтон?
источник

MB

Muslim Beibytuly in Django [ru] #STAY HOME
Vadim Rufov
Но интересовал именно архитектурный момент такого приложения. Данные всегда можно сжать(изменив тип данных), можно распараллелить, можно посмотреть в сторону генераторов. Всяких приемов оч много и они легко гуглятся))) а вот такое, увы, не получилось))
и 2 вариант - dask, это асинхронно, параллельно, вообще как хочется. Если этого станет недостаточно - уже замахиваться в pyspark и hadoop(bigquery)
источник

MB

Muslim Beibytuly in Django [ru] #STAY HOME
Vadim Rufov
Кстати да...хорошая идея...там же вроде полу си/ полу пайтон?
это скорее дописывание python-кода cython-кодом (ни С, ни python), оставляя читаемость ближе к python
источник

RB

Rowshen Berdimuradow in Django [ru] #STAY HOME
Казахи сверхлюди.
источник

VR

Vadim Rufov in Django [ru] #STAY HOME
Muslim Beibytuly
и 2 вариант - dask, это асинхронно, параллельно, вообще как хочется. Если этого станет недостаточно - уже замахиваться в pyspark и hadoop(bigquery)
Жирный плюс. Рассматриваю его использование
источник

VR

Vadim Rufov in Django [ru] #STAY HOME
Спасибо большое)
источник

MB

Muslim Beibytuly in Django [ru] #STAY HOME
источник

BE

Black Eyes in Django [ru] #STAY HOME
Как быть с проверкой уникальности при редактировании формы?
То есть форма возвращает slug, он не меняется, но меняются другие поля, а из-за уникальности форма валидацию не проходит из-за slug
источник

PZ

Pavel Zagrebelin in Django [ru] #STAY HOME
Black Eyes
Как быть с проверкой уникальности при редактировании формы?
То есть форма возвращает slug, он не меняется, но меняются другие поля, а из-за уникальности форма валидацию не проходит из-за slug
исключать инстанс из кверисета валидации
источник

PZ

Pavel Zagrebelin in Django [ru] #STAY HOME
именно так делает UniqueValidator в drf
источник

tn

tot samiy neizvestniy in Django [ru] #STAY HOME
Pavel Zagrebelin
именно так делает UniqueValidator в drf
Паш, ты в моках разбираешься? Есть функция, внутри которой есть запрос к внешнему апи. Можно этот запрос замокать, не вынося его из функции?
источник

PZ

Pavel Zagrebelin in Django [ru] #STAY HOME
tot samiy neizvestniy
Паш, ты в моках разбираешься? Есть функция, внутри которой есть запрос к внешнему апи. Можно этот запрос замокать, не вынося его из функции?
внешний апи как вызываешь? есть requests-mock либа, например
источник

MB

Muslim Beibytuly in Django [ru] #STAY HOME
Pavel Zagrebelin
внешний апи как вызываешь? есть requests-mock либа, например
responses?
источник

PZ

Pavel Zagrebelin in Django [ru] #STAY HOME
ась?
источник

MB

Muslim Beibytuly in Django [ru] #STAY HOME
источник

tn

tot samiy neizvestniy in Django [ru] #STAY HOME
Pavel Zagrebelin
внешний апи как вызываешь? есть requests-mock либа, например
источник