В рейтинге участвует:

групп:

каналов:

Виртуальный сервер на SSD - недорого!

Аренда выделенных и виртуальных серверов (VDS/VPS), хостинг, аренда IP-адресов, администрирование, круглосуточная поддержка

qwarta.ru подробнее

Резервное копирование с проверкой на вирусы!!!

Удобный сервис создания резервных копий на любой сервер сети интернет. Отслеживайте изменения, проверяйте на вирусы. Надежно защитите свой бизнес!

go.backupland.com

Выбираете сервер? Любая конфигурация на заказ!

Аренда физических серверов любых конфигураций под любые запросы - 1С бухгалтерия, игровые сервера, нагруженные проекты, интернет-магазины!

qwarta.ru подробнее

Size: a a a

Data Engineers

2007 membersпожаловаться на группу
2020 October 29

AZ

Anton Zadorozhniy in Data Engineers
XAI это большая тема, там есть определенные подвижки (LRP к примеру), но общих хороших методов нет, поэтому в ряде отраслей к ним нельзя прикасаться
источник
15:35пожаловаться#1

АЖ

Андрей Жуков... in Data Engineers
Вообще если есть бюджет на переписывание, то почему бы и нет

Но обычно нет лишнего человеко-месяца
источник
15:35пожаловаться#2

AZ

Anton Zadorozhniy in Data Engineers
GDPR утвердил right for explanation) но только на уровне конкретного решения (то что называется local interpretability), а не общее объяснение модели
источник
15:37пожаловаться#3

R

Renarde in Data Engineers
Anton Zadorozhniy
GDPR утвердил right for explanation) но только на уровне конкретного решения (то что называется local interpretability), а не общее объяснение модели
Shap вполне решает эту задачу, разве нет?
источник
15:41пожаловаться#4

AZ

Anton Zadorozhniy in Data Engineers
Renarde
Shap вполне решает эту задачу, разве нет?
какую эту?
источник
15:44пожаловаться#5

AZ

Anton Zadorozhniy in Data Engineers
если речь про локальное объяснение - то да, шап для него подходит, и может дать веса на тестовом наборе (только kernelexplainer/deepexplainer довольно дорогие, они по сути инферят по каждой строке), но это не решает задачу объяснения в общем виде, так как такое объяснение хорошо настолько, насколько хорош тестовый набор
источник
15:50пожаловаться#6

AA

Anton Alekseev in Data Engineers
Renarde
Shap вполне решает эту задачу, разве нет?
как и LIME, но я так понял Антон не про импакты и принцип принятия решения на тесте.
источник
15:50пожаловаться#7

AA

Anton Alekseev in Data Engineers
Anton Zadorozhniy
если речь про локальное объяснение - то да, шап для него подходит, и может дать веса на тестовом наборе (только kernelexplainer/deepexplainer довольно дорогие, они по сути инферят по каждой строке), но это не решает задачу объяснения в общем виде, так как такое объяснение хорошо настолько, насколько хорош тестовый набор
Ну тогда мы не можем вообще никаких техник из мл и статистики касаться, исходный генератор мы только аппроксимируем на основе выборки.
источник
15:51пожаловаться#8

AZ

Anton Zadorozhniy in Data Engineers
Anton Alekseev
Ну тогда мы не можем вообще никаких техник из мл и статистики касаться, исходный генератор мы только аппроксимируем на основе выборки.
да, и отсюда все разговоры про предвзятость, если генератор (и аппроксимация) предвзятые - то и модель предвзятая, и на объяснении этого видно не будет
источник
15:52пожаловаться#9

AE

Alexey Evdokimov in Data Engineers
заказчикам почему-то не нравится, когда результат работы алгоритма на проде в прямой, но непонятной зависимости от датасета, на котором обучали
источник
15:52пожаловаться#10

AE

Alexey Evdokimov in Data Engineers
или даже от порядка данных в этом датасете
источник
15:52пожаловаться#11

AZ

Anton Zadorozhniy in Data Engineers
Alexey Evdokimov
заказчикам почему-то не нравится, когда результат работы алгоритма на проде в прямой, но непонятной зависимости от датасета, на котором обучали
тут разные заказчики есть, кому-то наплевать, главное чтобы результаты показывало хорошие
источник
15:53пожаловаться#12

AA

Anton Alekseev in Data Engineers
Anton Zadorozhniy
да, и отсюда все разговоры про предвзятость, если генератор (и аппроксимация) предвзятые - то и модель предвзятая, и на объяснении этого видно не будет
справедливо, поэтому данные нуждаются в валидации и сэмплировании и тд, для уменьшения ошибки + оптимизация модели со временем и новыми данными.
источник
15:53пожаловаться#13

AE

Alexey Evdokimov in Data Engineers
и попробуй объясни, почему результат такой, а не тот, которые его аналитики нашли
источник
15:53пожаловаться#14

AE

Alexey Evdokimov in Data Engineers
и который исторически кажется более правдоподобным
источник
15:54пожаловаться#15

AZ

Anton Zadorozhniy in Data Engineers
Anton Alekseev
справедливо, поэтому данные нуждаются в валидации и сэмплировании и тд, для уменьшения ошибки + оптимизация модели со временем и новыми данными.
все так
источник
15:54пожаловаться#16

AE

Alexey Evdokimov in Data Engineers
с обычными-то эвристиками расписывать приходится, как матчинг в каждом конкретном кейсе происходит, а уж если чёрный ящик типа нейронки, там фиг что докажешь
источник
15:54пожаловаться#17

AS

Andrey Smirnov in Data Engineers
Alexey Evdokimov
заказчикам почему-то не нравится, когда результат работы алгоритма на проде в прямой, но непонятной зависимости от датасета, на котором обучали
а почему, это же наоборот идеальный кейс, хуже когда на проде меняется характер данных, и модель начинает выдавать хрень
источник
15:55пожаловаться#18

AS

Andrey Smirnov in Data Engineers
Alexey Evdokimov
и попробуй объясни, почему результат такой, а не тот, которые его аналитики нашли
потомки лудитов?
источник
15:55пожаловаться#19

AE

Alexey Evdokimov in Data Engineers
нет, просто модель есть модель. иногда она выдаёт какие-то решения просто потому что
источник
15:56пожаловаться#20