AS
Size: a a a
2020 July 18
С
иди и научи, хуле. Но она ж про текст, а не про картинки, не?
Такое обучение будет стоить как квартира в Москве.
P
Такое обучение будет стоить как квартира в Москве.
почему?
P
gpt-шка ж уже обученная, ей только контекст дай
С
почему?
Потому что это разные вещи. Набери в гугле image gpt и ты увидишь их собственную статью.
P
Потому что это разные вещи. Набери в гугле image gpt и ты увидишь их собственную статью.
посмотрел вот это https://openai.com/blog/image-gpt/ пишут что на гпт-2, но всё равно не вижу где тут индукция, вроде как смысл гпт в том, что она на всём подряд научена и развивает контекст (потому дополнения так хорошо выглядят). А вот примеры с просто генерированными я не совсем понял, оно с рандомного шума на входе берётся же, а там параметр "температуры" это про свойства шума? или ты предлагаешь повторить гпт, но всё обучение только по порнухе сделать?
С
посмотрел вот это https://openai.com/blog/image-gpt/ пишут что на гпт-2, но всё равно не вижу где тут индукция, вроде как смысл гпт в том, что она на всём подряд научена и развивает контекст (потому дополнения так хорошо выглядят). А вот примеры с просто генерированными я не совсем понял, оно с рандомного шума на входе берётся же, а там параметр "температуры" это про свойства шума? или ты предлагаешь повторить гпт, но всё обучение только по порнухе сделать?
>но всё обучение только по порнухе сделать?
Да, именно. Вообще в идеале нужна генерация по эскизам. Тот же pornhub мог бы это профинансировать.
Да, именно. Вообще в идеале нужна генерация по эскизам. Тот же pornhub мог бы это профинансировать.
С
GPT научена на тексте, причём не на всяком. А рисунки и текст - это всё же разные домены.
P
>но всё обучение только по порнухе сделать?
Да, именно. Вообще в идеале нужна генерация по эскизам. Тот же pornhub мог бы это профинансировать.
Да, именно. Вообще в идеале нужна генерация по эскизам. Тот же pornhub мог бы это профинансировать.
Кстати, порнхабу это могло бы быть даже выгодно, с учётом того, что они основной двигатель data-driven продукции порно и прям самые мелочи выделяют при съёмках, как цвета белья или мебель на сцене
С
Кстати, порнхабу это могло бы быть даже выгодно, с учётом того, что они основной двигатель data-driven продукции порно и прям самые мелочи выделяют при съёмках, как цвета белья или мебель на сцене
Вот именно. Вот именно.
и там ещё:
——
... 2500 V100-days while a similarly performing MoCo24 model can be trained in roughly 70 V100-days.
——
и там ещё:
——
... 2500 V100-days while a similarly performing MoCo24 model can be trained in roughly 70 V100-days.
——
С
Это уже уровень одного человека, 70 V100-days
P
Это уже уровень одного человека, 70 V100-days
18 дней на 4х картах всё-равно с натяжкой "уровень одного человека"
P
надо наверное смотреть на спец-ускорители для нейронок, один такой может заменить несколько видях и ещё й дешевле выйдет
P
всё-равно никому не надо v100 для игр, эти деньги целесообразнее было бы потратить на ускоритель
С
надо наверное смотреть на спец-ускорители для нейронок, один такой может заменить несколько видях и ещё й дешевле выйдет
Я тоже об этом думал, и видимо термин V100-day здесь условный.
П
N
