ByteDance обучила ИИ-модель с 10 триллионами параметров, стремясь к глобальному лидерству

ChainCatcher сообщает, что, согласно британской Financial Times, поскольку китайские компании продолжают сокращать разрыв с ведущими американскими лабораториями по искусственному интеллекту, ByteDance обучает модель ИИ, масштаб которой может приблизиться к передовой системе Mythos от Anthropic. По данным трех осведомленных лиц, этот китайский технологический гигант находится на ранней стадии обучения сверхмасштабной модели, параметры которой могут достигать уровня 10 триллионов — примерно в три раза больше, чем у текущей крупнейшей опубликованной в Китае модели Kimi K3 от Yue Zhi An Mian. Один из осведомленных лиц сообщил, что модель ByteDance в настоящее время проходит этап предварительного обучения, который обычно занимает от трех до шести месяцев. Если все пройдет успешно, последует тонкая настройка и запуск модели. Точная величина модели будет определена на более поздних этапах. Anthropic не раскрывает параметры своих моделей, но отраслевые оценки указывают, что ее передовая модель Mythos 5 имеет около 8 триллионов параметров, а Fable 5 — около 5 триллионов. Следует отметить, что количество параметров определяет базовую емкость хранения информации или верхний предел памяти модели, однако реальные возможности модели зависят и от других факторов, включая качество данных и методы обучения.