Size: a a a

Инжиниринг Данных

2019 March 21
Инжиниринг Данных
Один уважаемый человек написал большой пост как переехал в Берлин и поделился своим резюме, реально очень классно сделано!
источник
Инжиниринг Данных
Кстати можете попробовоть создать резюме  с помощью AI, не себе конечно, а посмотреть как машинный код придумывает, а вот можно кстати создать резюме и себе, но будет стоить денег, как-то очень напоминает пример выше, может просто совпадение
источник
Инжиниринг Данных
источник
Инжиниринг Данных
Вебинар - Design Data Lake with Matillion, Snowflake and AWS
источник
Инжиниринг Данных
Пример создания Озера данных и DW на Azure.  Это изначальная версия, тут используются VM и open source (Spark, Nifi, Airflow), в идеале будет DataBrikcs и Data Factory.
источник
Инжиниринг Данных
https://github.com/spyder-ide/spyder - удобный IDE для pyhton, но еще говорят, что Visual Studio Code тоже очень хорошинй.
источник
Инжиниринг Данных
источник
2019 March 22
Инжиниринг Данных
источник
Инжиниринг Данных
источник
Инжиниринг Данных
источник
Инжиниринг Данных
источник
Инжиниринг Данных
источник
Инжиниринг Данных
Всем привет из Бостона, правда это мой последний день. Город очень крассивый, свободное время проводил в библиотеках Harvard или MIT. Вот книжки HBR и одно из зданий Harvard University. У меня весь инстаграм пестрит фотками с улиц Бостона.

MIT и Harward одни из самых дорогих вузов. Цена, где-то 60к$ за семестр, для сравнения University of Victoria, 7k$ за семестр на Computer Scinence. На выходе нет никакой разницы, что вы закончили (по мне), все больше зависит от вас.

Рассмотрим ситуации:
1)Вы находитесь в РФ, и хотите получить лучшее образование, у родителей куча денег. Возможно будет лучше это делать в Стенфорде, тут холодная зима.

2)Вы находитесь в РФ, и сами заработали и хотите закончить Магистратуру и потом (а) остаться в штатах, (б) вернуться обратно. Для того, чтобы остаться в штатах не нужно переплачивать, если вы знаете язык и разбираетесь в работа, то вы найдете работу, а университет вам позволить получить визу на работу. Если вы захотели вернуться в Россию, то у меня нет инсайтов про эту ситуацию, но это будет точно хорошо для России!

3)Вы уже находитесь в Штатах, и вам предстоит идти учиться или вашим детям. Вот тут есть супер лайфхайк. В каждом университете есть стажировки - CO-OP, на них и надо ориентироваться. Например, из университета Виктории, берут после 3го курса в Амазон на стажировку. Все что вам нужно, это просто грамотно спланировать, где будет проходить стажировка, какие компании берут к себе, это стандартный процесс. А дальше от вас зависит, как себя продадите, но время будет много подготовиться.

Про MBA у мненя тоже есть свои мысли, лучше всего прочитать Personal MBA, прежде чем поступать туда. У меня есть знакомые, кто закончил Harvard MBA, и не очень сильно продвинулись, а есть кто продвинулся. То есть у вас шансы равны вырасти с MBA и без.

Это ситуации применимы не только к штатам, но и к Канаде.
источник
Инжиниринг Данных
#immigration
С самого начало хотел рассказать про эмиграцию, почему я хотел уехать, как прошел процесс, и как в итоге получилось. Получилось длинновата, но тут, зато, все как есть. (сорри за грамматику, что-то все хуже с этим)

В институте я ездил несколько лет в подряд летом на волонтерские проекты (Германия, Франция, Италия) через world4u (они были на Чистых прудах). Это был один из лучших опытов в жизни. Цель простая, месяц или два ты живешь в кемпе с другими волонтёрами. Говорите на английском, спите на раскладушке в спальниках, в какой-нибудь школе или вообще в палатке. Я ездил на проекты, связанные со стройкой или обустройству города. Это звучит как – то страшно, но на самом деле, вы работаете все вместе 4 часа в день в свое удовольствие, потом можно делать, что угодно, по выходным вас возят по окрестностям, всегда в наличие велосипеды. Каждый день по очереди кто-то покупает продукты на всех и готовит. Цена вопроса билеты на самолет и виза. То есть вы учите язык в среде, от 2 недель до 3х месяцев и можно вообще ничего не тратить. Именно так я подтянул английский, все остальное лажа, все эти школы, курсы и тп. Есть бюджет, летите в школу куда-нибудь в UK в глухомань, чтобы русских больше не было иначе пропадет эффект погружения.

Все эти путешествия оставили неизгладимый след. Мир большой и интересны, и жить в Москве это скучно. Я представлял себе дом-работа-дом-2 недели отпуск-дом-работа и тп. То есть, если у вас зп не 10 тысяч долларов в месяц и у вас нет 2х месяцев свободного временя в году, то особо не пошикуешь. У меня засела эта мысль, что нужно уехать, и я уже не мог спокойно жить. Кто-то, наоборот, приезжает так в Москву, и ему нравиться, но так как я из Москвы, мне было уже скучно.

Когда я сделал рывок с завода в банк на должность разработчика BI, первое, что я сделал, это загуглил “SAP BusinessObjects” на сайтах поиска работы в Европе. Я еще не знал, что такое BI и SAP BO, но я был приятно удивлен, что такие специалисты нужны за границей (это был 2010) Дальше я стал откликаться на все вакансии по всех Европе. Даже было собеседование с Ирландией в 2011, но провалил, так как много не знал, но как приятно было выбирать там домик для съема вместе с женой.

Так я гуглил и откликался до 2015 года, я использовал indeed worldwide, и засылал резюме везде, Эмираты, Сингапур, Филиппины, Таиланд, Канада, США, Германия и так далее. Конверсия была очень плохая, редкие собеседования ни к чему не приводили. Поэтому стало понятно, что это гиблое дело и так может продолжаться очень долго. И нужно делать по нормальному. То есть подать документы на эмиграцию.

Какие страны это поддерживают? Канада и Австралия, возможно Новая Зеландия. В США можно выиграть грин карту в лотерею и много знакомых выиграло. Везде есть свои нюансы и требования, чтобы набрать балов. Например, в Новой Зеландии опыт в РФ не считался за опыт. Я выбрал Австралию, там же лето круглый год и серферы. Прикинул, надо сдать IELTS на 6-7 балов и остальное вроде уже есть. В итоге сдал его на 6. Оказалось, что минимум должен быть 7, так как опыт работы начинают засчитывать после окончания университета, и всем все равно, что у вас в трудовой. Я писал уже про то как я учил английский и как было мало прогресса от традиционных методов.
Так же я знал, что федеральная программа Канады убрала должности связанные с данными и ловить там нечего. Но так как у меня был IELTS, я решил попробовать поискать агентства, которые помогают с переездом. В Австралию, я тоже через агентство. Вообще агентство это важно, вы можете сильно тут проколоться, так как они могут с вас взять 6к$, заполнить бумажки, отправить и забыть про вас, то есть им вообще пофигу. Могут взять деньги и пропасть. Поэтому это нужно очень тщательно проверять. Я просто загуглил, нашел форум rusforum.ca (оказалось что это самый лучший форум про Канаду). Я нашел 3 агентства в Канаде: 2 русских и одно Канадское. Во все 3 написал. Русские отвечали месяца 2 (я бы вообще не связывался с такими, даже если они делают работу нормально, у них вряд ли будут связи с кем-то, а для Канады это важный момент).
источник
Инжиниринг Данных
Star7 мне прислали на следующий день анкету опросник, я ее заполнил кое-как (и зря, так как в середине процесса, пришлось править много) и отправил им обратно. Они мне быстро ответили, у тебя хороший  IETLS и профессия, можно ехать по Провинциальной программе Манитобы (Манитоба это как Сибирь, но это самая рабочая программа). Цена вопроса 3к сейчас и 3к после. На форумы были хорошие отзывы про них.

Меня останавливал только один факт, неужели я откажусь от мечты с Австралией? Я что слабачек, не могу дело до конца довести…В итоге мы долго обсуждали за и против с женой. Пока я не удел домашнюю футболку, на которой было написано Vancouver Olympic Games 2010, откуда-то родители притащили давным давно, я даже особе не читал раньше, что на ней написано. Ну это судьба, подумали мы, и заплатили в феврале 2015 кому-то 3к$ (еще курсы был 1$=30р).

А дальше, все было довольно быстро, в мае 2015, я встретился в Польше на интервью с иммиграционным офицерами. Это была самая сложная часть. Программа работает так, что раз в год, они прилетает в Европу, где на вас смотрят и вы должны сказать почему вы так мечтаете в Сибирь Манитобу. Роль агентства здесь была решающей, они знают дату еще до официального объявления и относят ваши документы к ним в офис.

В октябре 2015, я получил номинацию от провинции, и это значит, что я могу уже получить рабочую визу в Канаду, просто нужно работу найти. Я так и сделал, в мае 2016 нашел работу в Канаде (используя свою схему, больше из разряда hack marketing). Но в это же время, я нашел работу в Черногории, и мы решили погреться на солнышке, пока наши документы делаются. Черногория — это круто, это волшебно! Но там с работой туго, при мне уволил 25 человек (Форекс Клаб), просто ради оптимизации, и никому ты там не нужен без работы.

В Сентябре 2016, Канадская виза на руках. (по этой схеме еще 2 знакомых уже получили документы). То есть заняло меньше 2х лет. Быстрей не бывает.

В Виннипеге (именно оттуда пришел Винни пух, можете загуглить), я пробыл 6 месяц в Страховой Компании, пока начались проблемы, связанные с моей производительностью и это всех напрягало, что я работал много и особо ни перед кем не отчитывался. Так что в Канаде оргструктура это важно, вообще тут отношения с людьми намного важней, чем ваши знания и опыт. Однажды, меня отправили в обед домой, переодевать джинсы на штаны!! Суровые будни эмигранта). В общем я стал искать работу в Ванкувере и Торонто, откликнулся на 40 вакансий, 3-4 собеседования, и устроился в Амазон в самом теплом и красивом городе Канады – Виктория. Так что ВСЕ ЧТО НЕ ДЕЛАЕТСЯ, ВСЕ К ЛУЧШЕМУ, ну вы знаете). И вот я уже 3 года с Амазоном. Но я начал разочаровываться, об этом тоже как-нибудь напишу.

Поэтому вывод простой, я уехал не потому, что в России жизнь плохая или президент плохой, мне было скучно прожить жизнь на одном месте, фраза «где родился, там и пригодился» меня убивает, это какой-то самообман. Мир огромный и интересный, нельзя себя ограничивать. 3 года в Канаде и у вас гражданство – безвизовый въезд в 180+ стран, возможность работать по всему миру. Из плюсов, мои дети растут на Тихом океане, пляж — это их детская площадка, выходные мы проводим на хайкинге или кемпинге, а не в Икеа или торговом центре (кстати в Виннипеге мы проводили время зимой в Икеа и ТЦ). Родину я люблю, так как на расстоянии я помню только хорошее и у нас даже есть самовар на дровах. А приезжать туристом в Москву и ни в чем себе не отказывать, это была моя давняя мечта.
источник
Инжиниринг Данных
Poll text
источник
Инжиниринг Данных
Из Книжки про Улитку и Кита: ...Вот скала / Где над морем улитка жила / И вздыхала она то и дело: / - Как мне все надоело! / Мир огромен, а я тут сижу на скале, / А могла бы уплыть на большом корабле... /...Или...или, может быть, на хвосте синего кита-великана
источник
2019 March 25
Инжиниринг Данных
источник
Инжиниринг Данных
Только у нас на канале👌🏼
источник
2019 March 26
Инжиниринг Данных
Слайды из Бостона про создание Хранилища данных на AWS, так же включает в себя добавление озера данных (Data Lake на Redshift Spectrum), и Big Data (EMR + Spark), и стриминг с помощью Kinesis Firehose.

Интресный факт, что все задачи были решены сначало с помощью Redshift и Matillion ETL и уже потом были заменены на более подходящие решения.
источник