Size: a a a

AI / Big Data / Machine Learning

2020 April 26

VC

Vadim Chashechnikov in AI / Big Data / Machine Learning
Андрей Копылов
Иными словами не будет ли отличаться результат работы, если дообучать частями от того, если сразу на всём наборе обучить?
Будет, лучше сначала собери,  потом обучай
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Vadim Chashechnikov
Будет, лучше сначала собери,  потом обучай
Да тут спорный вопрос возник, в чем смысл 12-часового ограничения google colab, если модель можно дообучать) если запариться с сохранением промежуточных результатов и catastrophic forgetting в принципе можно избежать, судя по этой статье https://arxiv.org/abs/1612.00796
источник

VC

Vadim Chashechnikov in AI / Big Data / Machine Learning
Ты можешь и общее обучение обучать по эпохам
источник

EZ

Evgeniy Zheltonozhskiy🇮🇱 in AI / Big Data / Machine Learning
Андрей Копылов
Да тут спорный вопрос возник, в чем смысл 12-часового ограничения google colab, если модель можно дообучать) если запариться с сохранением промежуточных результатов и catastrophic forgetting в принципе можно избежать, судя по этой статье https://arxiv.org/abs/1612.00796
А как это связано с тем сколько ты данных подаешь
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Evgeniy Zheltonozhskiy🇮🇱
А как это связано с тем сколько ты данных подаешь
Ну поделить данные так, чтобы с одной частью в 12 часов укладываться, потом сохранить результаты, перезапустить колаб, взять другую часть данных и продолжить на ней обучение
источник

EZ

Evgeniy Zheltonozhskiy🇮🇱 in AI / Big Data / Machine Learning
Андрей Копылов
Ну поделить данные так, чтобы с одной частью в 12 часов укладываться, потом сохранить результаты, перезапустить колаб, взять другую часть данных и продолжить на ней обучение
У тебя эпоха больше 12 часов?
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Evgeniy Zheltonozhskiy🇮🇱
У тебя эпоха больше 12 часов?
Допустим, что нет.. Это скорее теоретический вопрос
источник

EZ

Evgeniy Zheltonozhskiy🇮🇱 in AI / Big Data / Machine Learning
Андрей Копылов
Допустим, что нет.. Это скорее теоретический вопрос
Ну если нет то нет смысла делить данные
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Evgeniy Zheltonozhskiy🇮🇱
Ну если нет то нет смысла делить данные
Допустим, что да.. Возможно такое?
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Больше 12 часов
источник

EZ

Evgeniy Zheltonozhskiy🇮🇱 in AI / Big Data / Machine Learning
Андрей Копылов
Допустим, что да.. Возможно такое?
Ну тогда рандомно семплируй
источник

EZ

Evgeniy Zheltonozhskiy🇮🇱 in AI / Big Data / Machine Learning
И сокращая эпоху
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Evgeniy Zheltonozhskiy🇮🇱
Ну тогда рандомно семплируй
насколько вообще велика вероятность получить приемлемый результат при таком подходе? Если сравнивать с обучением на полной выборке сразу без ограничений
источник

EZ

Evgeniy Zheltonozhskiy🇮🇱 in AI / Big Data / Machine Learning
Андрей Копылов
насколько вообще велика вероятность получить приемлемый результат при таком подходе? Если сравнивать с обучением на полной выборке сразу без ограничений
Большой разницы между рандомными эпохами и целыми если достаточно долго тренировать
источник

АК

Андрей Копылов in AI / Big Data / Machine Learning
Evgeniy Zheltonozhskiy🇮🇱
Большой разницы между рандомными эпохами и целыми если достаточно долго тренировать
Спасибо 👍
источник

БК

Борис Козеев in AI / Big Data / Machine Learning
Коллеги! Добрый день! Есть вопрос, касаемо онлайн курсов, хотел бы узнать профессиональное мнение, так как я новичок в мире IT и работе с большим объёмом данных. Прохожу курс Аналитики Данных в Яндекс Практикуме (основы Python, SQL, Jupiter и чуток ML, и т.п.). Что думаете об этом курсе? Также хотелось бы узнать рекомендации по развитию hard-навыков в работе с big data? Вообще я в финансовой сфере(кредиты, риски, бизнес-продакт и т.п.), м.б. есть локальные рекомендации касаемо именно этой сферы, хотя продуктовая аналитика также интересна. Было бы любопытно узнать об инструментах, которыми вы пользуетесь? Заранее спасибо, а также спасибо за контент в группе, он крайне полезен. 😏
источник

A

Alex in AI / Big Data / Machine Learning
Hello world
источник

A

Alex in AI / Big Data / Machine Learning
Who knows Java?
источник

A

Alex in AI / Big Data / Machine Learning
Join Этот чат переехал  @JavaLovesYou
источник

A

Alex in AI / Big Data / Machine Learning
Этот чат переехал  @JavaLovesYou
источник