Читаю урывками про интерфейс между мозгом и машиной на Wait but why и у Тима там цитата про устройство зрительной коры:
There’s all these levels of things going on in the brain, and visual perception is a great example of that. We look at the world, and there’s just this physical 3D world out there—like you look at a cup, and you just see a cup—but what your eyes are seeing is really just a bunch of pixels. And when you look in the visual cortex, you see that there are roughly 20-40 different maps. V1 is the first area, where it’s tracking little edges and colors and things like that. And there’s other areas looking at more complicated objects, and there’s all these different visual representations on the surface of your brain, that you can see. And somehow all of that information is being bound together in this information stream that’s being coded in a way that makes you believe you’re just seeing a simple object.
И тут до меня доходит, что это звучит ровно как описание попытки разобраться в работе "черного ящика" любой обученной нейронки: на входе набор пикселов, на выходе знание "это котенок". Примерно как тут
http://itc.ua/wp-content/uploads/2014/11/tennis.pngЧто и как происходит в середине непонятно, но ящик определенно работает и дает правильные ответы. Смешно, что два тезиса "нейронные сети сделаны как модель мозга" и "мы не можем понять как работает наш мозг" прекрасно сосуществовали в моем сознании, но связей между ними до этого момента я не создал.
Хорошая новость в том, что прямо сейчас много очень умных людей, занимающихся машинным обучением, стараются решить задачу реверс-инжиниринга работы нейронных сетей, потому что инструменты такие нужны. Теоретически в будущем эти же инструменты можно будет применить и к работе сетки в нашей голове, чтобы однажды ИИ, занимающеся моделированием человеческого сознания, сообщили, что разобрались как оно работает, но к сожалению не могу объяснить это нам 🤖🤖
http://waitbutwhy.com/2017/04/neuralink.html