Скачал и поставил CUDA, скачал и распаковал в нужные папки CUDNN вот по этой инструкции: https://docs.nvidia.com/deeplearning/cudnn/install-guide/index.html
Скачал и поставил Visual Studio. Но не смог разобраться, как выполнить вот эти пункты инструкции:
Include cudnn.lib in your Visual Studio project.
5.
a. Open the Visual Studio project and right-click on the project name.
b. Click Linker > Input > Additional Dependencies.
c. Add cudnn.lib and click OK.
У меня проект в Jupyter'е, мне его как-то нужно перенести в Visual Studio? Или...?

Что в консоли показывает путон при import tensorflow ?

Так и не смог найти, где у анаконды консоль, запустил Spyder, в нём есть типа консоль, в ней import tensorflow as tf вернула:
2021-02-28 13:20:34.882266: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cudart64_110.dll

Затем там же print("Num GPUs Available: ", len(tf.config.list_physical_devices('GPU')))

Num GPUs Available:  0

2021-02-28 13:20:34.882266: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cudart64_110.dll
2021-02-28 13:27:10.085458: I tensorflow/compiler/jit/xla_cpu_device.cc:41] Not creating XLA devices, tf_xla_enable_xla_devices not set
2021-02-28 13:27:10.086359: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library nvcuda.dll
2021-02-28 13:27:10.110005: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1720] Found device 0 with properties:
pciBusID: 0000:01:00.0 name: GeForce GTX 1080 Ti computeCapability: 6.1
coreClock: 1.6325GHz coreCount: 28 deviceMemorySize: 11.00GiB deviceMemoryBandwidth: 451.17GiB/s
2021-02-28 13:27:10.110364: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cudart64_110.dll
2021-02-28 13:27:10.116354: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cublas64_11.dll
2021-02-28 13:27:10.116383: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cublasLt64_11.dll
2021-02-28 13:27:10.119219: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cufft64_10.dll
2021-02-28 13:27:10.120221: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library curand64_10.dll
2021-02-28 13:27:10.121108: W tensorflow/stream_executor/platform/default/dso_loader.cc:60] Could not load dynamic library 'cusolver64_10.dll'; dlerror: cusolver64_10.dll not found
2021-02-28 13:27:10.123497: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cusparse64_11.dll
2021-02-28 13:27:10.124292: I tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cudnn64_8.dll
2021-02-28 13:27:10.124313: W tensorflow/core/common_runtime/gpu/gpu_device.cc:1757] Cannot dlopen some GPU libraries. Please make sure the missing libraries mentioned above are installed properly if you would like to use GPU. Follow the guide at https://www.tensorflow.org/install/gpu for how to download and setup the required libraries for your platform.
Skipping registering GPU devices...

На cusolver ругается, не хватает для tf

... я не знаю, что это значит :)

https://www.tensorflow.org/install/gpu

Раздел Windows.

https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/

В папке, где у тебя стоит CUDA, должен быть файл cusolver64_10.dll. Ты качал куду какой версии?

ну вот у меня почему-то не выходит такое, можете помочь?

я даже нашел в интернетах чье-то решение

https://github.com/johnkorn/ml-spec/blob/master/02-supervised-learning/PA_linreg_stochastic_grad_descent.ipynb?short_path=6a5f402

сравнил его со своим - ну выглядит, вроде, одинаково, кроме результатов(

вот мой вариант

понял, что не так

Отмасштабируйте столбцы матрицы X, вычтя из каждого значения среднее по соответствующему столбцу и поделив результат на стандартное отклонение. Для определенности, используйте методы mean и std векторов NumPy (реализация std в Pandas может отличаться). Обратите внимание, что в numpy вызов функции .mean() без параметров возвращает среднее по всем элементам массива, а не по столбцам, как в pandas. Чтобы произвести вычисление по столбцам, необходимо указать параметр axis.

X = X - means

не поделил тут на stds

И я тоже хотела вам написать про это))

Если все равно не получится, отправляйте еще раз с отмасштабированными признаками. Посмотрю.

ну с ними получилось, работает

щас пытаюсь понять, почему без масштабирования другие ответы получались верными))

спасибо за внимание

а, ну часть, вроде, понял

в 1 и 2 задании X по сути неважно какой был

а в 3 задании не до конца пойму

linear_prediction(X, norm_eq_weights) - либо оба параметра нормированы, либо оба нет - результат предсказания одинаковый
и ошибки - тоже

однако для спуска это роляет..

видимо, потому что в формуле

def stochastic_gradient_step(X, y, w, train_ind, eta=0.01):
   return w + 2 * eta/X.shape[0] * X[train_ind] * (y[train_ind] - linear_prediction(X[train_ind], w))

тут X[train_ind] еще есть есть
и разница в том, нормированный он или нет