H100 від NVIDIA коштує до $40 000. RTX 5090, ігрова карта, коштує близько $2 000. Для реального запуску ШІ, яка частина цієї 15-кратної різниці є реальною? Менше, ніж ви думаєте, для більшості людей. Для будь-якої завдання, що вміщується в 32 ГБ (моделі до ~13 млрд при повній точності, ~32 млрд квантовані), $2 000 5090 — це найкраще співвідношення продуктивності до вартості, яке ви можете купити. Це не навіть порівнянно. Налаштування невеликої моделі? Запуск, що коштує близько $2 електроенергії на вашій 5090, коштує близько $50, щоб орендувати еквівалентний час хмарного H100. Карта окупиться за рік. Але H100 оправдує свою ціну в той самий момент, коли ви перетинаєте три межі: - Пам’ять: модель на 70 млрд потребує ~40 ГБ навіть при 4-бітній точності. 32 ГБ 5090 не можуть її вмістити. - Надійність: ECC-пам’ять виявляє зміни бітів, що тихо пошкоджують навчання тривалістю 48 годин. У 5090 її немає. - Масштаб: NVLink з’єднує H100 зі швидкістю у 7 разів вищою, ніж PCIe. У 5090 взагалі немає NVLink. Дорога помилка — це не вибір «гіршої» карти. Це вибір неправильної карти для вашої задачі: переплачувати за H100, який ви ніколи не використаєте повністю, або недокупити 5090 і зустріти стіну, яку неможливо обійти за допомогою квантування.