В автомобилях Tesla есть опция Speed Assist — камера распознаёт дорожные знаки с ограничением скорости и передаёт данные системе круиз-контроля. Удобная фича — водителю не надо лишний раз обращать внимание на дорожные знаки, машина сама их видит и разгоняется только до разрешенной скорости. Но в лаборатории McAfee нашли занятный баг — наклеив на дорожный знак всего одну наклейку, систему распознавания можно обмануть и заставить машину разгоняться до 85 миль в час вместо 35. Баг не работает в новых моделях Driver Assistant, но много машин используют старую версию. Побыстрее бы его пофиксили, а то ведь такую наклейку могут наклеить на знак не только исследователи в рамках эксперимента.
Нейронки это правильно. Человек тоже нейронка и он нормально считывает знаки.
Так в том то и проблема. Нейронки электронные в разы слабее. Примеров для обучения у них меньше. Качество хуже. А для того чтобы нейронки не жрали как маленький город у делают их ещё менее точными