Вот, смотри, Google предпринимает попытку понять, что такое ИИ, он создаёт другой ИИ что бы тот хотя бы отдалённо объяснил, чем мотивируется первый ИИ, это к слову о том, что мы знаем про ИИ.
"При использовании систем с искусственным интеллектом у конечных заказчиков часто возникает практически фундаментальная проблема — им сложно понять, как именно искусственный интеллект (ИИ) принимает свои решения. Так как специалистам компаний, которые купили эту «черную» коробочку и загрузили в нее большой объем данных, зачастую очень трудно, если не невозможно, разобраться в тонкостях работы ИИ. Тем более, что алгоритмы для этого программного продукта писали сторонние разработчики, которые не заложили в его функционал более тонкие настройки и триггеры, которые бы при нештатной работе ИИ позволяли бы быстро откорректировать параметры и исправить ситуацию без остановки работы системы и обращения в техническую поддержку.
В конце этой недели на специально посвященном разработке ИИ мероприятии в Лондоне подразделение облачных вычислений Google представило новый облачный продукт, который должен предоставить компании преимущество над разработками своих конкурентов — Microsoft и Amazon, которые доминируют в сфере облачных применений ИИ. Этот новый продукт в Google Cloud назвали «объяснимый» ИИ (Explainable AI)."
https://habr.com/ru/news/t/477216/