В оптимизацию сетки, чтобы быстрее на цпу работало и больше уместилось?)

это да

ну и препроцессинг, мб

но без теста неочевидно

Ну вот тут можно вспомнить ту библиотеку для сеток на цпу на плюсах. Но там только полносвязные слои.

А зачем тут код писать? Разве это не задача на возьми готовое решение, и можно что-то лучше придумать?

готовое по времени не пройдет скорее всего

смотря что ты имеешь в виду

Ну взять готовое тоже время занимает. Я например с mt не работал

Как раз за выходные разобраться

Авторы предлагают первым использовать этот датасет:

• CCMatrix described in [Schwenk et al., 2019] — 13M web-crawled sentences. The raw corpus CCNet is available, but the filtering criteria which
is need to be applied to achieve CCMatrix are not yet released.

Готовые данные скачать нельзя (не нашел), можно повторить эксперимент авторов

Given the CPU required to run the full pipeline on such a big corpus we share a mapping from url to the information we computed. You can reconstruct the corpus used in the paper by using:

Но в статье пишут:

The total processing time is about 9 hours using 5000 CPU cores for one snapshot.

Ну и занимает 10 тб, пруф: https://github.com/facebookresearch/cc_net/issues/7#issuecomment-605461660

Это какой-то прикол или просто я дурак и не понял как легко добыть эти 13 миллионов?
Кому-то, включая авторов, удалось добыть?

Еще бы с призовыми бы ясность навести)

Confirm that you are not a robot.

Кто-нибудь читал Дага Хеллмана "Стандартная библиотека Python 3"? Обещают в синопсисе "решение сложных математических задач", найти бы фрагмент - стоит оно того или нет
И все рекомендуют Марка Лутца, но, кажется, у него совсем базовый справочник.
Лучше ли в этом смысле книга мистера Хеллмана?

При чём здесь питон со стандартной библиотекой и математические задачи?

скачай и наслаждайся.

Ачивка "Помоги Даше найти..." разблокирована.

🙂
🤝

Кстати, все зеркала либгена обращаются к одной базе?