Телеграмм чат группы dlinnlp страница 6

Всем привет, напоминаю, что четверг (13.12.18) в 7 у нас презентации проектов
Просьба всех, у кого есть работа, отметиться в гугл форме
https://goo.gl/forms/R6BkNEPgZn9FtbCA3

Показывать можно как положительные результаты, так и отрицательные, как завершённые работы, так и недоделанные. Если у вас не очень много баллов, но вы хотите оценку/сертификат, обязательно что-то покажите, проект - отличный способ поднять пунктов.

Google Docs

Презентация финальных проектов

источник

143511:08пожаловаться #4

DL in NLP

Все домашки и тесты проверены. Если у вас есть вопросы по баллам, пишите на nlp_course@ipavlov.ai
https://docs.google.com/spreadsheets/d/1qpzSVHdIWeZRfIYcbaRmC-vhWev-krJiWG8PQsAxoQU/edit#gid=0

Google Docs

rating

main

Surname,Name,Middle name,Quiz 1,Quiz 2,Quiz 3,Quiz 4,Quiz 5,Quiz 6,Quiz 7,Quiz 8,Assignment 1,Assignment 2,Assignment 3,Assignment 4,Assignment 5,Total,Email hash
Остроухов,Петр,Алексеевич,5,3,4,4,5,4,4,5,10,7,8,6,10,5,7,50,125,3,8d430f0126399382df26e69288eb8323
Сафин,Камиль,5,5,5,5,4,5,5,9...

источник

168516:02пожаловаться #5

2018 December 13

DL in NLP

Всем привет, сегдоня у нас презентации ваших проектов. Приходите, показывайте ваши работы, даже если вы их ещё не доделали/они провалились. Презентация проекта обязательна для получения зачета/сертификата, да и тем что вы придёте и что-то покажете вы ничего не теряете.

Время и место стандартные.

источник

150912:12пожаловаться #6

DL in NLP

Нужна ли трансляция сегодняшнего семинара с финальными проектами?
public poll

Да 👍 – 24
👍👍👍👍👍👍👍 96%
@ksioucha, @GazizovMarat, @lizaku, Igor, @Peppilongstock, @BobaZooba, @necrolph, @Ponikarovskii, @vtrokhymenko, @outmetrix_ceo, @hardliner, @artems84, @aikakysymys, @kushneryk, @laol777, @mmiomika, @AiRust, @trondhjem, @ang_sh, @Pavel_Krylov, @Overclocked1827, B-tum, Roman, @emily_shah

Нет 👎 – 1
▫️ 4%
༺Leͥgeͣnͫd༻

👥 25 people voted so far.

источник

162818:27пожаловаться #7

DL in NLP

Традиционно ждём ещё 10 минут и начинаем

источник

169618:56пожаловаться #8

DL in NLP

Ссылка на трансляцию: https://www.youtube.com/watch?v=yVPocT8w5lE

YouTube

DL in NLP. Final projects presentation

источник

223018:57пожаловаться #9

2018 December 17

DL in NLP

Всем спасибо за участие в курсе, это было нелегко, но мы прошли. Надеемся, что вы узнали много нового и что это поможет вам на работе / в ваших личных проектах.
Если вы хотите оставить какой-то отзыв, то вот последняя в этом году гугл-форма.

https://goo.gl/forms/1EFMuy4DD0snAmVP2

Google Docs

Отзыв о курсе Deep Learning in Natural Language Processing

источник

225616:29пожаловаться #10

2019 January 25

DL in NLP

Всем привет. Мы перезапускаем курс!

Темы на этот семестр:
1. Intro to natural language processing, word embeddings (Word2vec, GloVe, FastText)
1. Intro to language modelling, fully-connected neural networks, backpropagation
1. Embeddigns workshop
1. Practical tips: gradient checks, overfitting, regularization, activation functions and optimization
1. Backpropagation workshop
1. Recurrent neural networks, GRU, LSTM.
1. Transfer learning in NLP (ELMo, ULMfit)
1. Language modelling workshop
1. Neural machine translation, attention
1. Transformer networks
1. Convolutional neural networks for text classification
1. Pre-training of Deep Bidirectional Transformers for Language Understanding
1. Classification workshop

Возможные дополнительные темы:

Sequence tagging workshop
Generative models: VAE, GAN
Speech recognition and synthesis, neural vocoders

Самых крутых студентов возьмём на летнюю стажировку 🤖

Ссылка на регистрацию: https://goo.gl/forms/IyMUI9eRfElqPvp43

Google Docs

Запись на курс "Глубокое обучение в задачах обработки естественного языка"

Дата проведения первого семинара: 07.02.2019.
Темы на ближайшие полгода - Deep Learning for Natural Language Processing (разбор курса лекций http://web.stanford.edu/class/cs224n/index.html#schedule).

Telegram-канал для объявлений: https://t.me/dlinnlp
Telegram-группа для общения: https://t.me/joinchat/B-HNhhRwNwBnSgYIkOhyPA

Для того, чтобы пройти на курс, нужно разобраться в базовом синтаксисе TensorFlow и PyTorch и выполнить два тестовых задания:
PyTorch: https://bit.ly/2RR7Ob6
TensorFlow: https://bit.ly/2S5Nouk
(Да, нужно выполнить и TensorFlow и PyTorch)

Задания рассчитаны на то, что вы можете не знать TensorFlow или PyTorch. Документация и туториалы вам в помощь.

Выполненные ноутбуки нужно выслать на почту nlp_course@ipavlov.ai с темой Вступительное Задание до 12:00 06.02.2019

К первому семинару нужно посмотреть лекцию и выполнить квиз. Информация о них будет в телеграме.

источник

395316:08пожаловаться #11

2019 January 26

DL in NLP

На нашу почту уже приходят первые выполненные вступительные задания и по-видимому пришло время выкладывать первые лекции.

#Задание к первому семинару:
1. посмотреть лекцию https://youtu.be/ERibwqs9p38
1. выполнить квиз и оставить свои вопросы по лекции, которые будут разобраны на семинаре https://goo.gl/forms/9EZmQhqfhicW0yaO2

В качестве дополнительных материалов:
1. вступительная лекция, на которую у нас нету времени https://youtu.be/OQQ-W_63UgQ

Другие дополнительные материалы буду постить постепенно, чтобы не перегружать информацией.

YouTube

Lecture 2 | Word Vector Representations: word2vec

Lecture 2 continues the discussion on the concept of representing words as numeric vectors and popular approaches to designing word vectors.

Key phrases: Natural Language Processing. Word Vectors. Singular Value Decomposition. Skip-gram. Continuous Bag of Words (CBOW). Negative Sampling. Hierarchical Softmax. Word2Vec.

-------------------------------------------------------------------------------

Natural Language Processing with Deep Learning

Instructors:
- Chris Manning
- Richard Socher

Natural language processing (NLP) deals with the key artificial intelligence technology of understanding complex human language communication. This lecture series provides a thorough introduction to the cutting-edge research in deep learning applied to NLP, an approach that has recently obtained very high performance across many different NLP tasks including question answering and machine translation. It emphasizes how to implement, train, debug, visualize, and design neural network models, covering the main technologies…

источник

246319:23пожаловаться #12

2019 January 27

DL in NLP

#допдня сегодня - это

Word2Vec Tutorial - The Skip-Gram Model
http://mccormickml.com/2016/04/19/word2vec-tutorial-the-skip-gram-model/

Статья неплохо описывает основную идею, но чисто инженерно алгоритм немного отличается от того, что рассказано в лекции. Он несколько проще для имплементации, но имеет больше обучаемых параметров. На семинаре мы обсудим их отличия, а на практическом занятии имплементируем оба подхода.

источник

232817:45пожаловаться #13

2019 January 28

DL in NLP

Думаю многие из вас слышали про курс mlcourse.ai - на мой вкус один из лучших курсов с введением в классический ML - от ODS :parrot:
Так вот, в этом году также запускается dlcourse.ai - логическое продолжение, в котором разбираются нейросети - как для текстов, так и для изображений - а также основы обучения с подкреплением. Хоть это и их первый запуск, готов порекомендовать хотя бы попробовать его, посмотреть на глубокое обучение более широко. Запуск курса в середине февраля.

источник

264211:00пожаловаться #14

2019 January 29

DL in NLP

Lecture 3 | GloVe: Global Vectors for Word Representation
https://youtu.be/ASn7ExxLZws

Сегодняшний #допдня - третья лекция cs224n, она подробно разбирает ещё один способ получения векторных представлений слов и даёт некоторые дополнительные идеи об эмбеддингах в общем. Это не обязательно для нашего курса, но всё равно очень рекомендую к просмотру.

YouTube

Lecture 3 | GloVe: Global Vectors for Word Representation

Lecture 3 introduces the GloVe model for training word vectors. Then it extends our discussion of word vectors (interchangeably called word embeddings) by seeing how they can be evaluated intrinsically and extrinsically. As we proceed, we discuss the example of word analogies as an intrinsic evaluation technique and how it can be used to tune word embedding techniques. We then discuss training model weights/parameters and word vectors for extrinsic tasks. Lastly we motivate artificial neural networks as a class of models for natural language processing tasks.

Key phrases: Global Vectors for Word Representation (GloVe). Intrinsic and extrinsic evaluations. Effect of hyperparameters on analogy evaluation tasks. Correlation of human judgment with word vector distances. Dealing with ambiguity in word using contexts. Window classification.

-------------------------------------------------------------------------------

Natural Language Processing with Deep Learning

Instructors:
- Chris Manning
- Richard Socher…

источник

247814:11пожаловаться #15

DL in NLP

dlinnlp

На нашу почту уже приходят первые выполненные вступительные задания и по-видимому пришло время выкладывать первые лекции.

#Задание к первому семинару:
1. посмотреть лекцию https://youtu.be/ERibwqs9p38
1. выполнить квиз и оставить свои вопросы по лекции, которые будут разобраны на семинаре https://goo.gl/forms/9EZmQhqfhicW0yaO2

В качестве дополнительных материалов:
1. вступительная лекция, на которую у нас нету времени https://youtu.be/OQQ-W_63UgQ

Другие дополнительные материалы буду постить постепенно, чтобы не перегружать информацией.

YouTube

Lecture 2 | Word Vector Representations: word2vec

Lecture 2 continues the discussion on the concept of representing words as numeric vectors and popular approaches to designing word vectors.

Key phrases: Natural Language Processing. Word Vectors. Singular Value Decomposition. Skip-gram. Continuous Bag of Words (CBOW). Negative Sampling. Hierarchical Softmax. Word2Vec.

-------------------------------------------------------------------------------

Natural Language Processing with Deep Learning

Instructors:
- Chris Manning
- Richard Socher

Natural language processing (NLP) deals with the key artificial intelligence technology of understanding complex human language communication. This lecture series provides a thorough introduction to the cutting-edge research in deep learning applied to NLP, an approach that has recently obtained very high performance across many different NLP tasks including question answering and machine translation. It emphasizes how to implement, train, debug, visualize, and design neural network models, covering the main technologies…

Напоминаю, что для тех, кто уже отослал два ноутбука с вступительным заданием, уже есть задание к первому семинару. Если вы застряли на чём-то, то пишите в чатик: https://t.me/joinchat/B-HNhhRwNwBnSgYIkOhyPA

источник

267214:17пожаловаться #16

2019 February 02

DL in NLP

Зарегистрировавшихся на курс уже больше 200 и более четверти уже сделали вступительное задание!👍

Для тех, кто в этой черверти, напоминаю задание к первому семинару:
1. посмотреть лекцию https://youtu.be/ERibwqs9p38
1. выполнить квиз и оставить свои вопросы по лекции, которые будут разобраны на семинаре https://goo.gl/forms/9EZmQhqfhicW0yaO2

Для остальных: если во вступительном задании что-то непонятно - спрашивайте в чатике. Все вопросы приветствуются. Задание спланированно так, что его должно быть возможно сделать без понимания нейросетей, если вы считаете, что это не так, вопросы - лучший способ разобраться.

YouTube

Lecture 2 | Word Vector Representations: word2vec

Lecture 2 continues the discussion on the concept of representing words as numeric vectors and popular approaches to designing word vectors.

Key phrases: Natural Language Processing. Word Vectors. Singular Value Decomposition. Skip-gram. Continuous Bag of Words (CBOW). Negative Sampling. Hierarchical Softmax. Word2Vec.

-------------------------------------------------------------------------------

Natural Language Processing with Deep Learning

Instructors:
- Chris Manning
- Richard Socher

Natural language processing (NLP) deals with the key artificial intelligence technology of understanding complex human language communication. This lecture series provides a thorough introduction to the cutting-edge research in deep learning applied to NLP, an approach that has recently obtained very high performance across many different NLP tasks including question answering and machine translation. It emphasizes how to implement, train, debug, visualize, and design neural network models, covering the main technologies…

источник

288714:56пожаловаться #17

2019 February 03

DL in NLP

Большое спасибо @MyLtYkRiTiK за гитхаб со сжатой информацией по курсу. Если вы потеряли какую-то важную ссылку или хотите узнать, какое сейчас задание, то это must have
https://github.com/MyLtYkRiTiK/dl_in_nlp_2019

Подписываемся, ставим лайки, вот это вот всё.

GitHub

MyLtYkRiTiK/dl_in_nlp_2019

Taking together Stanford cs224n course with support of iPavlov team. - MyLtYkRiTiK/dl_in_nlp_2019

источник

253614:58пожаловаться #18

DL in NLP

И ещё по улучшениям курса: если у вас есть вопрос, который вы хотите задать к семинару, пишите его в наш чатик с тэгом #вопрос_к_семинару
Задавайте вопросы, отвечайте на них, на семинаре резюмируем и доответим

источник

258515:13пожаловаться #19

2019 February 04

DL in NLP

источник

235818:23пожаловаться #20