kvisaz (kvisaz) wrote,
kvisaz
kvisaz

Categories:

Видеокарты для крутых нейронок

Читаю тредик про исходники GPT-2, нейронки, которая генерит качественный текст со смысловыми связями (тот самый креативный дописыватель)

Там люди жалуются, что полной модели не хватает и видеокарты с 6 гигабайтами памяти. Ну блин, значит надо сразу ориентироваться на 12 гигабайт. Но у меня сейчас и шестигигабайтной нет. Похоже, под опыты с нейронками такого уровня надо собирать отдельную и дорогую систему.

Предсказание: вот когда видеокарты с 12 гигабайтами памяти станут рядовыми - ждите распространение персональных нейронок нового уровня.

Ожидаемая поправка: вместо таких видеокарт могут быть и специальные нейрочипы. Хотя у производителей графических ускорителей в нейронки дорога уже намолена, да и использовать видеокарты можно для кучи вещей - так что я ставлю, что видеокарты на бытовом, персональном уровне и дальше будут основным фактором для развития таких вещей (независимых, не-серверных нейронок).

PS: конечно, учиться самому можно и на меньшем объеме, и вообще использовать какие-то серверные решения. Но интересно узнать, как работают и на таких проектах.
Tags: нейронки
Subscribe

  • Сумо и платёжный терминал

    В Москве арестован профессиональный борец сумо, который в четверг утром в одиночку вынес из магазина, расположенного на севере столицы, банковский…

  • Хвалите бога все народы, он создал углеводороды

    В прошлую пятницу руководство компании пригласило своих сотрудников на богослужение, чтобы испросить у Господа скорейшего разрешения чрезвычайного…

  • Нефтепанк Барнаульский и Алтайский

    У Паркера увидел Господь дал нашим людям газ, Русская православная церковь создала наше Отечество, даровала ему письменность и культуру,…

  • Атомный сон Энди

    Фантасты предсказывают-предсказывают, а ничего не сбывается. Почему бы тогда не дать логике отдохнуть? Будущее нелогично с текущей точки зрения. Я…

  • Киберпанк наших дней

    Ух, какой залихватский киберпанк, какая электронная драма. И хоть бы один фантаст предусмотрел подобную схему! мошенники разобрали платёжный…

  • Нефтепанк

    Краткое содержание предыдущих серий: Полумертвый бензиновый панк-торчок Пинки, окончательно съехавший с катушек на обочину жизненной трассы,…

  • Post a new comment

    Error

    default userpic
    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 6 comments

Bestmr_garett

December 19 2019, 15:27:48 UTC 1 year ago Edited:  December 19 2019, 15:28:47 UTC

  • New comment
2 по 11. Для серьезных задач этой мощности мало.

Чтобы поиграть с нейронками тестовыми более менее нормально вам нужна хотя бы одна RTX2080 Ultra. Это минимум.