Текстов на естественном языке

Там проблема обычно с длиной сообщения. И с тем, что существующие методы для задачи closed-set. Например, если модель под капотом у DLP обучена на корпоративной переписке сотрудников компании, то в случае расследования киберинцидентов (утечки информации, вбросы) можно установить авторство только из ограниченного набора людей. А если уборщица за компьютер села и что-то написала, то просто все вероятности будут ниже трешолда. Классификацию авторов в постановке closed-set имеет смысл делать, наверное, только вместе с профилированием. Отдельная модель предиктит гендер и возраст. Может быть, еще какие-то фичи

А обфускацию / стеганографию мы в нашей DLP системе намеренно не ловили, потому что там методов больше, чем у нас ресурсов их все закодить

А поясните, о каком тут авторстве идет речь. Автор утечки? Злоумышленник, то есть?

Мне неизвестно, что там было на семинаре, но в эпоху, когда существуют стайл-гайды, я не совсем понимаю, как можно анализировать код на авторство.

Есть несколько видов лингвистической стеганографии, я пока остановилась на текстовой (форматирование).  Думаю попробовать заменить способ векторизации, попробовать устойчивые к шуму векторные представления слов. Заменить n_gramms + tf-idf на fasttext, RoVe, BEP tokenization

Честно говоря, я тоже не понимаю, какую проблему они решают. Мне пока кажется практически применимой только такая задача: обучать бинарный классификатор на репозитории кандидата и предиктить, он сам выполнил тестовое или кто-то за него писал😄

Я посмотрю, интересно)

Мне вчера было интереснее про векторизацию кода послушать. Code2vec чувствителен к разбавлению контекста: если злоумышленник использует техники, вроде как в WAF bypass, или просто периодически заменяет некоторые символы кириллицей (Visual Studio это поддерживает), то эти токены не будут покрываться словарем модели. Для этих целей семантические фичи вообще не очень подходят, лучше анализировать бинарники. Или размечать вручную типы комманд и типы переходов между ними и строить анализ графа потока управления и графа потока данных. Или анализировать синтаксические и структурные фичи через AST, где ребра представляют структуру, которая скармливается random forest или LSTM.
Есть еще подход, основанный на энтропии сигнала фактора и взаимной информации, но я это не поняла, его просто упомянули в обзоре

Меня векторизация кода интересует для смежной задачи. Есть бинарные классифкаторы урлов атака / не атака. По задаче мультиклассовой классификации (xss, sqli, phishing, spam, malicious) пока нет state-of-the-art решения. Только проприетарные реализации в некоторых WAF. Очень многие обходятся, и сейчас самое нормальное решение — размечать команды с помощью лексера, вроде libdetection
https://github.com/wallarm/libdetection
https://medium.com/@d0znpp/how-to-bypass-libinjection-in-many-waf-ngwaf-1e2513453c0f
Его можно подключить к питону как сишнуб либу через swig, а как векторизовать пока не очень понятно

Я готовлю доклад на конференцию по задаче идентификации авторства и методам обхода DLP систем. Мне нужно протестировать свое решение на анонимизированной корпоративной переписке с формальным стилем сообщений и связью авторов между собой. Сбербанк данные не дает, а задачи студентам ставит((
Твиты, на которых я уже сделала прототип, не очень подходят по методологической причине. Во-первых, разрозненные блоги не учитывают связь авторов между собой, вероятность наличия общих фраз, характерных для данной группы. Во-вторых, модель получится не робастная к «стилистической маске», однородному стилю всех авторов. Я могла бы использовать корпус сообщений политиков, украденный хакерами из Кремля, но не хочу проблем. Было бы отлично взять чью-то переписку на google groups, поскольку она и так публичная и 152-ФЗ, 272 УК там не будет. Но я все равно на всякий случай заменю все имена собственные, числа и др. чувствительные данные специальными токенами, а авторов переписки безликими номерами.
У google groups нет API для парсинга, поэтому спрашиваю сейчас у знакомых организаторов коммьюнити