Size: a a a

JavaScript testing

2021 January 15

SP

Sergey Pirogov in JavaScript testing
или фейсбук
источник

M

Mike in JavaScript testing
Alexander Popov
нихрена себе подходы пошли 🤔
Ускоряет релизы 100%😂
источник

G

Genn in JavaScript testing
Nick Silver
например , у меня в мастере есть тест , который падает в 2 из 10 билдов ( по непонятной причине) . Я хочу , что бы этот тест автоматом помечался как флаки и исключался из следующих билдов , отправляя нотификашку в слак например  а далее уже не проблема составлять какой-то список таких тестов. Я читал , что в некоторых компаниях такой подход применяют , но так понимаю - что это нужно самому кодить . Вот и хотел спросить , возможно у кого-то был такой опыт
А ретраи не помогают?
источник

AP

Alexander Popov in JavaScript testing
уже и ретраи юзают, и карантины, а чертовы тесты все падают и падают!
источник

NS

Nick Silver in JavaScript testing
Mike
Ускоряет релизы 100%😂
Неа , тут цель не в ускорении , тест сьют и так быстро гоняется и не мешает разработчику вмерджить свой ПР. У нас  A\B тестирование и иногда скейлятся эксперименты , которые не учтены в тестах. Соответственно тест ломается у всех и все билды красные. Пока ты пофиксишь тест , попросишь всех померджить  мастер и тд. - теряется доверие к стабильности тестов. По этому идея с карантантином в этом кейсе кажется мне логичной
источник

NS

Nick Silver in JavaScript testing
Genn
А ретраи не помогают?
Прикрутил ретраи на тесты и даже в дженкинсе если джоба упала , то ретраится тоже. Тут чутка другой кейс ( описал выше)
источник

NS

Nick Silver in JavaScript testing
Sergey Pirogov
почитай статьи как гугл делает
Читал ,у  них есть тула которая мониторит и автоматом кидает тест в карантин . Но я не нашел готового решения , по этому и решил спросить тут)
источник

AP

Alexey Panashchenko in JavaScript testing
готовых нема, думаю надо модельку написать и обучить
источник

AP

Alexey Panashchenko in JavaScript testing
ну РП вроже може как то што подное делать, но он токо скажет про тест, не выключит со сьюта
источник

SP

Sergey Pirogov in JavaScript testing
Рп так не умеет
источник

NS

Nick Silver in JavaScript testing
А можно уточнить, что такое РП ? 😅
источник

AL

Alexey Lopato in JavaScript testing
Nick Silver
Неа , тут цель не в ускорении , тест сьют и так быстро гоняется и не мешает разработчику вмерджить свой ПР. У нас  A\B тестирование и иногда скейлятся эксперименты , которые не учтены в тестах. Соответственно тест ломается у всех и все билды красные. Пока ты пофиксишь тест , попросишь всех померджить  мастер и тд. - теряется доверие к стабильности тестов. По этому идея с карантантином в этом кейсе кажется мне логичной
У нас аналогично, гоняем мульти бранчи и запретили всем мерджить пока все не пройдёт. Конечно експерименты тоже скейлят и тоже падает что-то. Как вариант отдельно гоняли тесты от релизов что бы быстрее словить такое. Карантин это Хорошо, но по опыту если отправлять туда по потом назад включить уходит куча времени
источник

NS

Nick Silver in JavaScript testing
Alexey Lopato
У нас аналогично, гоняем мульти бранчи и запретили всем мерджить пока все не пройдёт. Конечно експерименты тоже скейлят и тоже падает что-то. Как вариант отдельно гоняли тесты от релизов что бы быстрее словить такое. Карантин это Хорошо, но по опыту если отправлять туда по потом назад включить уходит куча времени
Как вы добились сделать тесты обязательными? Я сражаюсь год уже )

Я так же сделал , что каждый час контрольный прогон тестов на изолированном енве , что бы детектить такие штуки. Но даже если это быстро отлавливается , то я иногда не успеваю быстро пофиксить и получается проблемка (
источник

AB

Alexei Barantsev 🗹... in JavaScript testing
а если стопить всё из-за одного нестабильного теста — не уходит куча времени?
источник

NS

Nick Silver in JavaScript testing
Alexei Barantsev 🗹
а если стопить всё из-за одного нестабильного теста — не уходит куча времени?
идея в том , что бы не стопить а просто убирать его из основного билда в CI
источник

YU

Yurii U. in JavaScript testing
Nick Silver
Читал ,у  них есть тула которая мониторит и автоматом кидает тест в карантин . Но я не нашел готового решения , по этому и решил спросить тут)
видел в ТестКафе есть карантин мод, но еще не юзал его, возможно "бывалые" подскажут
https://devexpress.github.io/testcafe/documentation/guides/basic-guides/run-tests.html#quarantine-mode
источник

AL

Alexey Lopato in JavaScript testing
Nick Silver
Как вы добились сделать тесты обязательными? Я сражаюсь год уже )

Я так же сделал , что каждый час контрольный прогон тестов на изолированном енве , что бы детектить такие штуки. Но даже если это быстро отлавливается , то я иногда не успеваю быстро пофиксить и получается проблемка (
Моя команда что взяла проект включила это )))) за пол года до того я каждую неделю просил предедущего тех Лида проекта сделать это
источник

IS

Ivan Sandrátskii in JavaScript testing
У нас аналогично, гоняем мульти бранчи и запретили всем мерджить пока все не пройдёт.

каких тестов?
источник

AL

Alexey Lopato in JavaScript testing
А ещё были случаи где мерджили сломаный код
источник

NS

Nick Silver in JavaScript testing
Alexey Lopato
Моя команда что взяла проект включила это )))) за пол года до того я каждую неделю просил предедущего тех Лида проекта сделать это
Завидую
источник