DeepX — южнокорейская компания, занимающаяся технологиями искусственного интеллекта, которая специализируется на решениях для глубокого обучения в таких отраслях, как автономные системы, робототехника и здравоохранение. На недавнем саммите Embedded Vision Summit 2024 года DeepX представила свои чипы первого поколения V1 и M1, предназначенные для различных приложений, и намекнула на свой предстоящий чип следующего поколения, ориентированный на ИИ для приложений на устройствах и автономных роботах.
V1 SoC (ранее называвшаяся L1) оснащена DeepX 5-TOPS NPU в паре с четырьмя процессорами RISC-V и 12-мегапиксельным процессором обработки сигналов изображения. Эта SoC стоимостью менее 10 долларов создана на основе 28-нм техпроцесса Samsung и использует модель YOLO v7 со скоростью 30 кадров в секунду, потребляя всего 1-2 Вт. Она поддерживает новейшие алгоритмы CNN для компьютерного зрения и предназначена для таких продуктов, как IP- и CCTV-камеры, роботизированные камеры и дроны.
M1 — это более крупный ускоритель, созданный для работы с центральным процессором. Сообщается, что он достигает наивысшей экономической эффективности (вывод/$), энергоэффективности (TOPS/W) и производительности (FPS/TOPS). Производительность ИИ составляет 25 TOPS, а потребление составляет 5 Вт. Он подходит для использования в потребительских и промышленных роботах, машинном зрении, IPC и HPC, требующих ИИ, интеллектуальных фабриках и периферийных вычислениях.
Партнерство с LG
Генеральный директор DeepX Локвон Ким рассказал Салли Уорд-Фокстон из ЭЭ Таймс что компания сотрудничает с LG с целью переноса LLM на чип DeepX для использования в мобильных устройствах, автомобилях и бытовой технике.[AI in the device] действительно имеет смысл для их бизнес-модели для LLM, поэтому мы сотрудничаем», — сказал Ким. «Они предоставляют свою технологию LLM, чтобы мы могли узнать о характеристиках модели и оптимизировать ее для приложений на устройстве». Результатом станет чип NPU, оптимизированный для запуска LLM на устройстве, но изначально он будет функционировать исключительно как ускоритель. Ожидается, что разработка полностью поддерживающей LLM SoC займет еще 3–5 лет.
Следующий чип в дорожной карте DeepX — V3, разработанный в ответ на отзывы китайских и тайваньских клиентов. Сообщается, что V3 будет оснащен двухъядерным DeepX NPU 15-TOPS с четырьмя ядрами процессора Arm Cortex A52 и будет работать в среднем менее 5 Вт. «Раньше мы использовали процессор RISC-V, но клиенты хотели Arm», — сказал Ким Ward-Foxton. «Вот почему мы нацелились на четырехъядерный Arm. Клиенты также хотели USB 3.1, более мощный ISP, а не обновление NPU. Вот почему мы перепроектировали его».
Как ЭЭ Таймс объясняет: «Клиенты хотели процессоры Arm отчасти потому, что экосистема Arm может обеспечить лучшие решения по безопасности — многие клиенты создают системы камер безопасности. Другие клиенты хотят запустить операционную систему робота, которая теперь поддерживается на Arm, хотя она еще не дошла до RISC-V».
DeepX заявляет, что продолжит предлагать V1 на базе RISC-V наряду с V3 на базе Arm (образцы которой ожидаются к концу 2024 года), обещая поддерживать обе архитектуры и в будущем.