| Название базовой системы (платформы): | Amazon Web Services (AWS) |
| Разработчики: | Amazon |
| Дата премьеры системы: | ноябрь 2018 г |
| Дата последнего релиза: | январь 2019 г |
| Отрасли: | Информационные технологии |
Сервис Amazon SageMaker Neo предназначен для оптимизации построенных моделей с целью ускорения работы и снижения потребления ресурсов. Решение позволяет обучить модель один раз, а затем развертывать ее где угодно. С помощью технологий машинного обучения SageMaker Neo автоматически оптимизирует обученную модель, созданную в AWS, для конкретной аппаратной платформы. После этого модель можно развернуть в инстансах EC2 и SageMaker или на любом периферийном устройстве со средой выполнения Neo, в том числе на устройствах AWS Greengrass.
2019: Раскрытие исходных кодов
В январе 2019 года Amazon раскрыла исходные коды сервиса Amazon SageMaker Neo, позволяющего построить и обучить один раз модели машинного обучения на PyTorch, а затем развернуть их в облаке AWS с двукратной производительностью.
Платформа выпущена в рамках проекта Neo-AI под лицензией Apache Software License и после раскрытия исходников позволит производителям чипов и устройств, а также разработчикам программного обеспечения оптимизировать модели машинного обучения для широкого спектра аппаратных платформ.
Согласно заявлению Amazon, Neo-AI автоматически оптимизирует модели для платформ TensorFlow, MXNet, PyTorch, ONNX и XGBoost и может удвоить скорость работы этих моделей без потери точности. Сервис также преобразует модели в общий формат, чтобы уменьшить проблемы совместимости.
 | Как правило, оптимизация модели машинного обучения для нескольких аппаратных платформ является сложной задачей, поскольку разработчикам необходимо настраивать модели вручную для конфигурирования аппаратного и программного обеспечения каждой платформы, — пишут Суквон Ким и Вин Шарма из Amazon Web Services (AWS) в блоге. — Это особенно сложно для периферийных устройств, которые обычно ограничены в вычислительной мощности и памяти». |  |
Первую версию Neo-AI поддержали компании Intel, Nvidia и Arm, а чипмейкеры Xilinx, Cadence и Qualcomm планируют присоединиться к ним.[1]
