Kimi K3 на 20 000 чипах Nvidia: почему санкции работают только на бумаге
Moonshot AI обучила Kimi K3 на кластере Alibaba из 20 000 ускорителей Nvidia H200. Официально этих мощностей у китайского стартапа быть не должно.
Alibaba согласилась предоставить вычислительный кластер, потому что является одним из крупнейших инвесторов Moonshot. Китайский интернет-гигант традиционно предлагает портфельным компаниям арендовать у него мощности — это стандартная практика экосистемы. Но успех Kimi, которая конкурирует с собственными разработками Alibaba семейства Qwen, стал причиной разочарования некоторых руководителей холдинга: они своими руками взрастили себе серьёзного конкурента. Американские чиновники считают, что доступ к ускорителям Nvidia Blackwell имеет не только Moonshot, но и Deepseek — предполагается, что китайские стартапы арендовали эти ускорители у компании, расположенной в Таиланде. Более того, американская сторона считает, что Moonshot при обучении Kimi K3 использовала метод дистилляции передовой модели Fable американской компании Anthropic, и это позволило получить впечатляющий результат при ограниченных вычислительных ресурсах. Законы США не запрещают китайским разработчикам арендовать вычислительные мощности с продвинутыми чипами Nvidia за пределами КНР, но не позволяют приобретать их в собственность. Поставки ускорителей Nvidia H200 в Китай по официальным каналам до сих пор измерялись незначительными объёмами.
Проблема.
Крупнейшие разработчики моделей искусственного интеллекта в Китае по-прежнему используют чипы Nvidia для обучения некоторых своих наиболее современных моделей, несмотря на стремление Пекина заменить иностранные полупроводники отечественными решениями. Проблема заключается не только в том, способны ли китайские чипы справляться с необходимой вычислительной нагрузкой — переход на другое аппаратное обеспечение одновременно означает необходимость менять программные системы, которые десятилетиями формировались вокруг платформы CUDA компании Nvidia. Для разработчиков ИИ это может стать дорогостоящей и сложной инженерной задачей. Huawei создала собственную альтернативу CUDA под названием Compute Architecture for Neural Networks, или CANN, предназначенную для работы с её чипами Ascend. Однако разработчикам, которые привыкли использовать CUDA, перед переходом на Ascend может потребоваться переписать и оптимизировать значительную часть существующего программного кода. Один из исследователей, участвующих в разработке моделей, рассказал South China Morning Post, что существующие конвейеры обучения его команды напрямую зависят от CUDA, поэтому переход на другое оборудование далеко не так прост, как обычная замена одного процессора на другой. Код CUDA не может напрямую работать на Ascend и требует значительной переработки. Именно программное обеспечение позволяет Nvidia сохранять серьёзное преимущество на китайском рынке ИИ — аппаратные характеристики чипа являются лишь одной частью всей вычислительной системы, не менее важны библиотеки, инструменты разработки, оптимизированные алгоритмы и накопленный опыт программистов, работающих с конкретной платформой. Джеймс Ван, занимающийся разработкой моделей в исследовательском институте, связанном с одним из университетов Шанхая, оценил, что перенос рабочих процессов его команды на чипы Huawei Ascend может увеличить затраты времени и стоимость процесса как минимум на 50 процентов.
Сложность.
Сложность перехода зависит от того, насколько открыта используемая модель и насколько развито программное окружение для соответствующего оборудования — инженер из Пекина, участвующий в переносе вычислительных нагрузок на Ascend, рассказал South China Morning Post, что модели с открытым исходным кодом обычно можно перенести проще, поскольку разработчики могут воспользоваться уже существующей поддержкой со стороны сообщества. Для моделей вроде DeepSeek и их уменьшенных версий, по оценке этого инженера, переход может выполнить команда из двух-трёх разработчиков примерно за дополнительный месяц работы. Ситуация значительно усложняется, если исходный код модели недоступен — компания Moonshot AI открыла параметры модели Kimi K3 для использования, но не опубликовала её исходный код, и по оценке инженера, для переноса такой системы на другое аппаратное обеспечение может потребоваться около 10 специалистов и более шести месяцев дополнительной работы. Эта разница показывает, почему стремление Китая добиться самостоятельности в области полупроводников не ограничивается производством собственных чипов — разработчикам также необходимы программные инструменты, библиотеки и оптимизированные рабочие процессы, способные конкурировать с экосистемой, которую Nvidia создала вокруг CUDA. Особенно сложной задачей остаётся обучение моделей — во время обучения искусственный интеллект требует огромных вычислительных ресурсов, а сложные операции многократно выполняются на больших кластерах оборудования, и использование уже обученной модели для обработки новых данных обычно требует меньше вычислительных ресурсов и легче адаптируется к различным аппаратным платформам.
Во вторник министр финансов США Скотт Бессент заявил в эфире Fox Business, что администрация изучает китайские ИИ-модели на предмет украденной интеллектуальной собственности и рассматривает санкции — по его словам, внутри китайских моделей находят водяные знаки американских. А через несколько часов глава Nvidia Дженсен Хуанг в интервью Axios заявил, что Америке нечего бояться китайского ИИ — бояться стоит кампании по его запрету. Эти китайские модели превосходны, превосходные открытые модели должны использоваться, сказал Хуанг, и на вопрос, следует ли разрешить американским компаниям работать с китайскими моделями, ответил абсолютно. Сценарий, в котором Китай вытесняет американские компании, Хуанг отверг целиком — нулевая вероятность. Главной темой разговора стала Kimi K3 — модель пекинской Moonshot AI на 2,8 трлн параметров, которая вышла на прошлой неделе и обошла Claude Fable 5 и GPT-5.6 Sol во фронтенд-кодинге в рейтинге Arena, а в текстовом зачете опередила Opus 4.8 при цене на 40% ниже. Сочетание почти флагманского уровня, низкой цены и обещанных открытых весов спровоцировало распродажу акций Nvidia и других чипмейкеров — инвесторы снова засомневались, зачем индустрии гигантские дата-центры, если сопоставимый интеллект можно получить дешево. По мнению Хуанга, Уолл-стрит второй раз наступает на те же грабли — рынок неправильно понял эффект DeepSeek в первый раз и неправильно понял эффект Kimi сейчас, имея в виду январь 2025 года, когда релиз DeepSeek R1 обвалил акции Nvidia. По логике Хуанга, тот испуг оказался ложным — спрос на вычисления в итоге только вырос. Логика эта простая — дешевые и открытые модели приводят в ИИ больше людей и компаний, а каждый новый пользователь это спрос на чипы, дата-центры и вычисления, которые продает Nvidia. Бесплатный ИИ должен быть отличной новостью для железа, бесплатный ИИ должен быть отличной новостью для чипов, бесплатный ИИ должен быть отличной новостью для дата-центров, повторил Хуанг трижды. Закрытым лабораториям, по его словам, тоже ничего не грозит — открытые модели становятся для многих первым знакомством с ИИ, а многие пользователи продолжат платить за удобство, надежность и более высокое качество закрытых сервисов. Аргумент о национальной безопасности Хуанг развернул против сторонников запретов — идею, что скачанная китайская модель это бэкдор для Пекина, он назвал заблуждением, компании запускают открытые модели в изолированных песочницах и контролируют их доступ наружу. Открытость, по Хуангу, делает ИИ безопаснее, а не опаснее — исследователи могут изучать модель изнутри, находить слабости и строить защиту, и если все сведется к одной-единственной модели, одной точке атаки, одной точке отказа, мир станет намного, намного уязвее. Ту же логику Хуанг применил и к американским моделям — и здесь прозвучал самый неожиданный пассаж интервью, он призвал Anthropic открыть доступ к Claude Mythos, специализированной кибермодели, которую компания держит закрытой из соображений безопасности, для всех. Mythos должен быть доступен как сервис, помните, Mythos недоступен, а открытые модели доступны в любом случае, так что я считаю, дайте Anthropic разогнаться, сказал Хуанг, и добавил, сдерживание Anthropic не в интересах Соединенных Штатов. Пикантность в том, что сама Nvidia доступ к Mythos уже имеет — она входит в консорциум Project Glasswing из компаний, которым Anthropic разрешила использовать модель для поиска и закрытия уязвимостей, вместе с Microsoft, Apple, AWS и Linux Foundation, то есть Хуанг предлагает открыть всем инструмент, которым его компания пользуется на привилегированных условиях. Прошелся Хуанг и по главному обвинению в адрес китайских лабораторий — OpenAI и Anthropic утверждают, что китайские модели выкачивают способности их систем через дистилляцию, обучение на миллионах ответов чужой модели, именно на это намекал Бессент со своими водяными знаками. Правда, единства нет даже среди обвинителей — глава направления strategic futures в OpenAI Дин Болл, предупреждавший, что расцвет открытых моделей ведет к полному ИИ-коммунизму, версию о дистилляции как раз отверг, по его словам, результаты Kimi ею не объяснить. Хуанг пошел дальше — дистилляция, обучение у ИИ, обучение у других источников знания, это фундамент интеллекта, наказывать, по его мнению, нужно за конкретные нарушения приватности и контрактов, а не запрещать модели как класс.
Nvidia H200 в кластере Alibaba работает.
Никита Карпов
Главный редакторПишу о гаджетах, нейросетях и том, как технологии меняют нашу жизнь. Проверяю всё на себе, чтобы вы не тратили деньги зря.