IT之家, 20 жовтня — 19 жовтня за місцевим часом Amazon оголосила про запуск відкритого інструменту TorchNeuron, який дозволяє розробникам запускати код PyTorch без змін на чіпах Trainium, розроблених Amazon, — достатньо змінити конфігурацію один раз, не переписуючи код.
IT之家 дізналася, що TorchNeuron буде офіційно випущений у вигляді з відкритим кодом на північноамериканському зустрічі PyTorch у Сан-Хосе, Каліфорнія, 20 жовтня за місцевим часом.
PyTorch — це відкритий фреймворк, який розробляє Meta і яким користуються більшість розробників штучного інтелекту. NVIDIA витратила більше десяти років на розробку інструментів CUDA, які дозволяють ефективно запускати код PyTorch на чіпах NVIDIA.
За даними, інженери Amazon запустили одні й ті ж скрипти навчання штучного інтелекту на традиційних чіпах та чіпах Trainium. Єдина відмінність полягала лише у параметрах налаштування, вказаних у коді для вибору чіпа. Результати показали, що модель штучного інтелекту засвоїла однаковий контент із однаковою швидкістю в обох середовищах. Це означає, що інструменти розробників, які використовувалися для тестування, налагодження та масштабування моделей штучного інтелекту, можна використовувати без будь-яких змін прямо на Trainium.
Amazon стверджує, що TorchNeuron принесла на ринок штучного інтелекту довго відсутній ключовий елемент: справжній вибір. Коли розробники можуть вільно переключатися між різними чіпами без додаткових витрат, виробники чіпів змушені виготовляти більш конкурентоспроможні продукти, щоб здобути симпатії розробників; а розробники отримують користь у вигляді зниження витрат та прискорення ітерацій.
Крім того, Amazon активно бере участь у розробці PyTorch у верхньому рівні, співпрацюючи зі спільнотою PyTorch, щоб видалити код, який зв’язує цей фреймворк з конкретними чіпами. Їхня мета — зробити PyTorch більш «незалежним від апаратного забезпечення» для всієї спільноти розробників, а не лише для користувачів Trainium.