Телеграмм чат группы dlinnlp страница 4

parrot.ru

Рейтинг популярных групп и каналов

В рейтинге участвует:

групп:

каналов:

Виртуальный сервер на SSD - недорого!

Аренда выделенных и виртуальных серверов (VDS/VPS), хостинг, аренда IP-адресов, администрирование, круглосуточная поддержка

qwarta.ru подробнее

Резервное копирование с проверкой на вирусы!!!

Удобный сервис создания резервных копий на любой сервер сети интернет. Отслеживайте изменения, проверяйте на вирусы. Надежно защитите свой бизнес!

go.backupland.com

Выбираете сервер? Любая конфигурация на заказ!

Аренда физических серверов любых конфигураций под любые запросы - 1С бухгалтерия, игровые сервера, нагруженные проекты, интернет-магазины!

qwarta.ru подробнее

Size: a a a

DL in NLP

2929 membersпожаловаться на группу

1
«
…
‹
1
2
3
4
5
›
…
»

2018 November 08

Также напоминаю, что в это воскресенье (11 ноября) пройдёт наша первая сoding session! 👨‍💻
Она начнётся в 12 часов, в учебном центре 1С (м. Тимирязевская, схема прохода: http://1c.ru/rus/firm1c/d9.html)
На ней мы:
1. Разберём первые 3 домашки (ориентировочно с 12 до 12:30)
1. Порешаем 4 домашку (ориентировочно до 15)
1. Поможем вам начать проекты и будем всячески вас консультировать (до 16 или пока нас не выгонят)

Приходите и не забывайте ноутбуки.

источник

98613:47пожаловаться #1

Маленькая поправочка:
3 задание будем не разбирать, а тоже помогать решать (тк жёсткий дедлайн будет после), а также дадим задание на доп баллы по этой домашке.

источник

83313:53пожаловаться #2

#допматериал
Для любителей чуть более математических объяснений всегда есть Deep Learning Book от Ian Goodfellow, Yoshua Bengio и Aaron Courville. И вот глава по RNN.

http://www.deeplearningbook.org/contents/rnn.html

источник

91315:17пожаловаться #3

2018 November 09

Задание к следующему семинару, на котором мы с вами поговорим про современные реккурентные архитектуры (GRU, LSTM, QRNN) и начнём обсуждать машинный перевод и seq2seq модели.
1) Лекция: https://youtu.be/QuELiw8tbx8
2) Статья Quasi-Recurrent Neural Networks: https://arxiv.org/abs/1611.01576 - обязательно
3) Квиз (ссылка будет чуть позже)
3) Ваши вопросы: https://goo.gl/forms/GPrPiy4DQRHcoO1g2

По статье задавайте вопросы в чатик. Она написана не самым простым языков. В течении недели скину ещё материалов, чтобы понять QRNN.

Lecture 9: Machine Translation and Advanced Recurrent LSTMs and GRUs

Lecture 9 recaps the most important concepts and equations covered so far followed by machine translation and fancy RNN models tackling MT.

Key phrases: Language Models. RNN. Bi-directional RNN. Deep RNN. GRU. LSTM.

-------------------------------------------------------------------------------

Natural Language Processing with Deep Learning

Instructors:
- Chris Manning
- Richard Socher

Natural language processing (NLP) deals with the key artificial intelligence technology of understanding complex human language communication. This lecture series provides a thorough introduction to the cutting-edge research in deep learning applied to NLP, an approach that has recently obtained very high performance across many different NLP tasks including question answering and machine translation. It emphasizes how to implement, train, debug, visualize, and design neural network models, covering the main technologies of word vectors, feed-forward models, recurrent neural networks, recursive neural networks, convolutional…

источник

94409:03пожаловаться #4

Четвёртое домашнее задание
Ноутбук (не забудьте спулить свежую версию): https://github.com/deepmipt/deep-nlp-seminars/blob/master/seminar_06/RNN_intro.ipynb

Мягкий дедлайн: 16 ноября (23:59)
Жёсткий дедлайн: 23 ноября (23:59)

deepmipt/deep-nlp-seminars

Materials for deep NLP course. Contribute to deepmipt/deep-nlp-seminars development by creating an account on GitHub.

источник

99809:48пожаловаться #5

Understanding LSTM Networks
Наверное, один из самых известных постов про LSTM. Очень рекомендую к прочтению.

http://colah.github.io/posts/2015-08-Understanding-LSTMs/

источник

105512:01пожаловаться #6

2018 November 11

Сессия в аудитории 9244. Как пройдёте охрану, вперёд мимо раздевалки до конца, поднимаетесь на один этаж по лестнице, дальше найдёте.

источник

90611:55пожаловаться #7

Аудитория изменена: 9242

источник

92812:09пожаловаться #8

Напоминаю про регистрацию проектов
форма регистрации: https://goo.gl/forms/Si5CZV98fYsnOieB2
рекомендованные проекты: https://docs.google.com/spreadsheets/d/1XytqPfsCM7tj5RgIFEKU-Cs5QlNF2sREaT_SzcRAvvY/edit?usp=sharing
дедлайн по регистрации проектов: 15 ноября (23:59)
если до этого дедлайна вы ещё пришлёте бейзлайны (линейное + простое нейроное решение), то сможете не делать 5 домашку. актуально для физтехов, которые хотят получить оценку в зачётку и для тех, кто хочет получить сертификат об окончании.

Финальные проекты

Опишите свою идею для проекта, а также укажите, хотели бы вы объединиться в команду c кем-то.

источник

105215:50пожаловаться #9

2018 November 12

On the difficulty of training recurrent neural networks

Подробная статья про затухающие и взрывающиеся градиенты в RNN.

http://proceedings.mlr.press/v28/pascanu13.pdf

источник

94714:59пожаловаться #10

dlinnlp

Напоминаю про регистрацию проектов
форма регистрации: https://goo.gl/forms/Si5CZV98fYsnOieB2
рекомендованные проекты: https://docs.google.com/spreadsheets/d/1XytqPfsCM7tj5RgIFEKU-Cs5QlNF2sREaT_SzcRAvvY/edit?usp=sharing
дедлайн по регистрации проектов: 15 ноября (23:59)
если до этого дедлайна вы ещё пришлёте бейзлайны (линейное + простое нейроное решение), то сможете не делать 5 домашку. актуально для физтехов, которые хотят получить оценку в зачётку и для тех, кто хочет получить сертификат об окончании.

Финальные проекты

Опишите свою идею для проекта, а также укажите, хотели бы вы объединиться в команду c кем-то.

Ваши бейзлайны проектов присылайте на nlp_course@ipavlov.ai с темой "Бейзлайны".

источник

97115:01пожаловаться #11

2018 November 15

Квиз к сегодняшнему семинару:
https://goo.gl/forms/vMFZ3Og6rDJhOcIS2

Тк он выслан поздно, проверка будет халявной

NLP. Quiz 7

Machine translation and advanced recurrent LSTMs and GRUs

источник

83711:30пожаловаться #12

Practival Tips for Final Projects

Короткие советы о том, как жить в облаке.

https://docs.google.com/document/d/1z9ST0IvxHQ3HXSAOmpcVbFU5zesMeTtAc9km6LAPJxk/edit

CS224n: Practical tips for using virtual machines

CS224n: Practical Tips for using Virtual Machines Contents Managing Processes on a VM TMUX Cheatsheet Managing Code Deployment to a VM Managing Memory and CPU Usage on a VM Managing Processes on a VM In developing your deep learning models, you will likely have to leave certain processes, suc...

источник

86512:08пожаловаться #13

Как вам идея встретиться на (этих/следующих) выходных лично с каждым проектом и обсудить его? Задать ваши вопросы по задачам, методам, коду. Можно встретиться где-нибудь в Москве в районе Белорусской, записать каждый проект в окно по полчаса-час. Лично/соз
public poll

Да, хочу встретиться – 5
👍👍👍👍👍👍👍 42%
@one2th, @necrolph, @outmetrix_ceo, @aikakysymys, @young_hastla

Я бы ещё позадавал попросы не по проекту – 3
👍👍👍👍 25%
@dimitry, @Overclocked1827, B-tum

Да, хочу созвониться – 2
👍👍👍 17%
@sinqlaison, @Ilyashat

Нет, мне и так всё понятно – 2
👍👍👍 17%
@leg2lore, Svetlana

👥 12 people voted so far.

источник

93312:30пожаловаться #14

Ссылка на трансляцию
https://www.youtube.com/watch?v=nPz32EnGkJE

По традиции начнём минут на 5 позже

DL in NLP seminar 7: Gated RNN and Machine Translation

источник

95918:59пожаловаться #15

2018 November 16

Для тех, кто хочет консультацию
https://doodle.com/poll/5xvb5mn2wtkkfxmn

Отметьте, когда вы можете. Лучше бы всем уместиться в субботу. Думаю, можете приходить по два проекта / человека в каждый квант времени.
Укажите, пожалуйста, все возможные для вас промежутки времени, а не только один.

источник

88621:03пожаловаться #16

И ещё после пары вопросов на эту тему, хочу ответить всем:
Ничего страшного, если вы не сдали какое-то одно задание, вы ещё можете получить за курс отл в зачётку / сертификат, если сдадите проект.

В случае несданных двух заданий тоже мир не рухнул. Если есть вопросы, задавайте (в особенности на семинарах), игнорируйте несданные домашки и делайте следующие.

источник

89021:08пожаловаться #17

dlinnlp

Для тех, кто хочет консультацию
https://doodle.com/poll/5xvb5mn2wtkkfxmn

Отметьте, когда вы можете. Лучше бы всем уместиться в субботу. Думаю, можете приходить по два проекта / человека в каждый квант времени.
Укажите, пожалуйста, все возможные для вас промежутки времени, а не только один.

Консультации будут завтра и послезавтра.

источник

91422:28пожаловаться #18

2018 November 17

Задание к следующему семинару:

На нём разберём attention-механизм (Bahdanau et. al, 2014), без которого нейронный машинный никогда бы не заработал. А также начнём разбирать архитектуру transformer (Vaswani et. al 2017), которая изменила нейросетевой подход к оброаботке последовательностей и сделала ещё один большой скачок в NMT.

Лекция: https://youtu.be/IxQtK2SjWWM
Квиз: https://goo.gl/forms/1EdFO9RdEc5GkyoN2
Вопросы: https://goo.gl/forms/pPRzEXjAbIFHUfZf1

Lecture 10: Neural Machine Translation and Models with Attention

Lecture 10 introduces translation, machine translation, and neural machine translation. Google's new NMT is highlighted followed by sequence models with atte...

источник

101514:25пожаловаться #19

И сразу доп материал по attention:
https://www.youtube.com/watch?v=quoGRI-1l0A

C5W3L08 Attention Model

Take the Deep Learning Specialization: http://bit.ly/2PN9yir
Check out all our courses: https://www.deeplearning.ai
Subscribe to The Batch, our weekly newsletter: https://www.deeplearning.ai/thebatch

Follow us:
Twitter: https://twitter.com/deeplearningai_
Facebook: https://www.facebook.com/deeplearningHQ/
Linkedin: https://www.linkedin.com/company/deeplearningai

источник

110714:25пожаловаться #20

1
«
…
‹
1
2
3
4
5
›
…
»