Курс проходит по четвергам в 19:00 в 105 БФК. Первое занятие 4 октября. Если вы не с Физтеха, чтобы вас пропустили в корпус, пожалуйста, зарегистрируйтесь до вечера 3 октября. Ссылка на регистрацию: https://goo.gl/forms/BbUng7k3KbHK8s1t2
Приблизительная программа курса:
Введение в обработку естесственного языка и глубокое обучение, введение в векторные представления слов
Векторные представления слов: Word2vec, GloVe, FastText
Языковые модели, softmax crossentropy loss, однослойные нейронные сети
Нейронные сети и обратное распространение ошибки, методы оптимизации
Практические советы: проверки на градиент, переобучение, регуляризация, функции активации
Рекуррентные нейронные сети в применении к моделированию языка и другим задачам
GRU и LSTM, введение в машинный перевод
Сверточные нейронные сети в применении к классфикации текстов
Машинный перевод, attention
Сети с динамической памятью, контекстуальные векторные представления слов, будущее NLP
Приблизительная программа курса:
Введение в обработку естесственного языка и глубокое обучение, введение в векторные представления слов
Векторные представления слов: Word2vec, GloVe, FastText
Языковые модели, softmax crossentropy loss, однослойные нейронные сети
Нейронные сети и обратное распространение ошибки, методы оптимизации
Практические советы: проверки на градиент, переобучение, регуляризация, функции активации
Рекуррентные нейронные сети в применении к моделированию языка и другим задачам
GRU и LSTM, введение в машинный перевод
Сверточные нейронные сети в применении к классфикации текстов
Машинный перевод, attention
Сети с динамической памятью, контекстуальные векторные представления слов, будущее NLP
