Если вы правильно ответили на второй вопрос, значит у вас есть функция правдоподобия. Подставляете туда значения n дней и X попыток.
Потом производную по N, потом к нулю приравниваете и все)

Удобно с помощью sympy решать.
Используете diff, symbols, log, solve

а как тогда? просто поподставлять N и посмотреть где спад начинается?

на второй вопрос в тесте пишет, что верно, собственно в return и есть эта формула

а кто делал тест с2w3 (1-ая треть недели)

3) За последние пять дней Кате удавалось открыть дверь с восьмой, двенадцатой, седьмой, шестой и снова двенадцатой попыток; давайте найдём оценку максимального правдоподобия для N. Подставьте эти числа в выражение для логарифма правдоподобия, продифференцируйте его по N и приравняйте к нулю. Из полученного уравнения выразите N. Итак, NОМП= N

Я на форуме нашел похожую проблему https://www.coursera.org/learn/supervised-learning/discussions/all/threads/xhnbKJraEeaFEBKhFdSI4A, но у него знак был перепутан, а у меня вроде нет

На скрине как я решал
Ответ 5 - но он не правильный

А что такое N в действительности? У вас есть выборка из 5 элементов из геометрического распределения. У него единственный параметр — p. А что такое N?

можно и через производную - если мы нашли нецелое значение, то рассматривать ближайшие слева и справа к нему( функция правдоподобия непрерывна, значит значения в N, и N+1 будут близки к значению в нецелой точке, которую мы нашли)

У вас в return сумма после вычитания len, а надо до вычитания. Вы же не из каждого значения вычитаете.

Посоветуйте книжку/курс по оптимизации