t-SNE — это вообще уже в нашем веке, изолес — тоже. Это, конечно, уже не такие прорывы как Бусты, но тоже красноречивые примеры
Отходя чуть в сторону. Случайные леса и бустинг, как по мне - скорее грубое применение мощности компов, чем математический прорыв. Светрочные сети - туда же, и много ещё чего туда же попадает. Поправьте, если я неправильно это вижу. Из исключений вспомнил только (думаю, есть ещё, но не приходит на ум) LDA - одновременно и флопсы нужны, и приятный матан в основе.