MT
Зачем мне приложение, нужна статья.
Size: a a a
2020 July 15
D
У них есть статья с подробным разбором подхода?
только то что на медиуме, а так руки связаны стодолларовыми купюрами
SP
Ну, понятно, как это можно реализовать с костылями.
D
жадные слишком
D
Ну, понятно, как это можно реализовать с костылями.
я могу только предположить способ с обёрткой модели
MT
Если честно, даже ко многим академическим статьям часто много вопросов, нужно время, чтобы их результаты подтвердились. Статьи на медиуме могут быть полезны с практической точки зрения, но с точки зрения научной ценности - такое себе.
MT
Бывают конечно исключения, но я говорю в общем и имхо
D
плюс если дело коснётся ещё шага влево - более/менее детальный текст это тоже проблема, так как сам GPT-2, даже с костылями тупо не имеет такой возможности, это надо подключать что-то вроде PPLM который завязан на скриптах, что не есть гуд для colab
D
Если честно, даже ко многим академическим статьям часто много вопросов, нужно время, чтобы их результаты подтвердились. Статьи на медиуме могут быть полезны с практической точки зрения, но с точки зрения научной ценности - такое себе.
но, собсно, когда пилишь инструмент как-то на научность статей фиолетово, главное работоспособность
MT
Без научности заявлять про гарантии - такое себе
CT
Вообще работа с длинными текстами - тот ещё кек, есть целый ряд статей, в которых пытаются в той или иной степени побороть забывчивость моделей.
А про контроль генерации - есть шикарный pplm, хз почему про него забывают(
А про контроль генерации - есть шикарный pplm, хз почему про него забывают(
D
Без научности заявлять про гарантии - такое себе
Работает - отлично, не работает - нужен другой метод
D
Вообще работа с длинными текстами - тот ещё кек, есть целый ряд статей, в которых пытаются в той или иной степени побороть забывчивость моделей.
А про контроль генерации - есть шикарный pplm, хз почему про него забывают(
А про контроль генерации - есть шикарный pplm, хз почему про него забывают(
см. ответ выше
CT
см. ответ выше
в чем проблема пплм? что его не соизволили в красивом виде написать?
D
плюс если дело коснётся ещё шага влево - более/менее детальный текст это тоже проблема, так как сам GPT-2, даже с костылями тупо не имеет такой возможности, это надо подключать что-то вроде PPLM который завязан на скриптах, что не есть гуд для colab
вот ещё раз для тех кому трудно пролистать вверх
D
если бы он подключался и настраивался как transformers (инлайном) было бы замечательно
CT
возьми и напиши, в чем проблема
D
а я без понятия как его отвязать от скриптов
CT
я нас на проекте сейчас своя версия пплм используется, и все там прекрасно реализовывается
SP
в чем проблема пплм? что его не соизволили в красивом виде написать?
Как она с русской gpt2 заработает?