H100 от NVIDIA стоит до 40 000 долларов. RTX 5090, игровая карта, стоит около 2 000 долларов. Насколько реальна эта 15-кратная разница в цене при фактическом запуске ИИ? Меньше, чем вы думаете, для большинства людей. Для любой задачи, которая помещается в 32 ГБ (модели до ~13 млрд параметров при полной точности, ~32 млрд при квантовании), 2000-долларовая 5090 — это лучшее соотношение производительности к цене, которое вы можете купить. Это не близко. Тонкая настройка небольшой модели? Запуск, который стоит ~2 доллара электроэнергии на вашей 5090, будет стоить ~50 долларов при аренде эквивалентного облачного времени H100. Карта окупается за год. Но H100 оправдывает свою цену сразу же, как только вы пересекаете три границы: - Память: модель на 70 млрд параметров требует ~40 ГБ даже при 4-битной точности. 32 ГБ 5090 не могут вместить её. - Надёжность: память ECC обнаруживает сбои битов, которые тайно повреждают тренировку, длящуюся 48 часов. У 5090 её нет. - Масштаб: NVLink соединяет H100 со скоростью в 7 раз выше, чем PCIe. У 5090 вообще нет NVLink. Дорогая ошибка — выбрать «худшую» карту. Ошибка — выбрать неправильную карту для вашей задачи: переплачивать за H100, который вы никогда не используете на полную мощность, или недокупить 5090 и натолкнуться на стену, которую нельзя обойти квантованием.