«Насколько я вижу, больше всего ошибаются насчет ИИ очень умные люди, потому что они не могут представить себе, что компьютер сможет стать намного умнее их. В этом недостаток их логики. Они попросту намного глупее, чем думают», — написал он на прошлой неделе в Твиттере.
Маск бьет тревогу уже давно. В 2016 он предупреждал, что человек может стать домашним питомцем для машин, захвативших власть. И с тех пор регулярно призывает к регулированию технологии ИИ. Кроме того, он стал сооснователем некоммерческой организации OpenAI, с которой порвал, когда стало ясно, что ее реальные принципы отличаются от декларируемых, и никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ.
Но, как пишет BI, среди всех разработчиков ИИ больше всего Маска беспокоит DeepMind, подразделение Google.
«Сама природа всех ИИ, которые они создают, в том, чтобы побеждать человека во всех играх, — сказал глава Tesla в интервью The New York Times. — Я имею в виду, это же основной сюжет «Военных игр».
В этом фильме времен холодной войны хакер-подросток подключается к правительственному суперкомпьютеру, которым управляет ИИ и который обучается на симуляторах военных действий. В ходе игры ИИ убеждает власти, что ядерная атака со стороны СССР неизбежна.
Сравнивая алгоритмы DeepMind с «Военными играми» Маск утверждает, что уже в ближайшие пять лет ИИ превзойдет человека по интеллекту и мы, скорее всего, этого даже не заметим.
«Это не значит, что через пять лет все отправится в ад, — пояснил он. — Только то, что ситуация станет нестабильной и странной».
https://hightech.plus/2020/07/28/mask-uveren-chto-ii-ot-deepmind-stanet-ugrozoi-civilizacii-uzhe-cherez-5-let