Claude Mythos адаптировал ИИ-модель для GPU AMD за три дня

В материалах для инвесторов компания привела пример переноса ИИ-модели на ускорители AMD. Согласно слайду, Claude Mythos Preview разобрался с запуском другой модели на AMD Instinct MI355X примерно за три дня. Обычно подготовка новой платформы для инференса — обработки запросов уже обученной моделью — занимает от 6 до 12 месяцев.

Такой сценарий может снизить зависимость разработчиков от CUDA, программной платформы NVIDIA. При переходе на другую архитектуру инженерам обычно приходится адаптировать низкоуровневые операции, проверять корректность вычислений и вручную настраивать производительность. Anthropic рассматривает результат как признак того, что современные ИИ-модели способны самостоятельно переносить нейросети между вычислительными платформами.

AMD Instinct MI355X построен на архитектуре CDNA 4 и оснащён 288 ГБ памяти HBM3E. По аппаратным характеристикам ускоритель конкурирует с решениями NVIDIA, однако его массовому внедрению долго мешала программная совместимость.

При этом эксперты считают выводы о крахе преимущества CUDA преждевременными. Экосистема NVIDIA включает библиотеки, компиляторы, оптимизированные вычислительные ядра и инструменты для распределённых вычислений. Важную роль играет библиотека NCCL, связанная с оборудованием NVIDIA, включая межсоединение NVLink и сетевую технологию InfiniBand. Поэтому переход на другую платформу может потребовать перестройки всей инфраструктуры дата-центра, а не только переноса одной модели.