В ответ на вопрос о более крупных окнах контекста для ИИ-моделей: «да, на GPU с подходящим объемом памяти. Обратите внимание, что с M1 Max GPU Apple имеют безумные 64–192 ГБ VRAM, доступные как для обучения, так и для вывода. Тесты для обучения наших собственных генеративных инструментов для художников требуют 64 ГБ VRAM, и даже если это медленнее, по крайней мере, это работает на Apple Silicon. Даже топовая Ada RTX 6000 имеет максимум 48 ГБ, поэтому 80 ГБ A100 или H100 — единственный вариант от NVIDIA, и эти карты не являются настольными, которые мы могли бы найти в больших количествах». @JulesUrbach 28.07.23 $RENDER
