Обзор Jetson Nano: ИИ для масс?
Jetson Nano – новейшая платформа разработки машинного обучения Nvidia. Предыдущие версии платформы Jetson предназначались непосредственно для профессиональных разработчиков, желающих создавать крупномасштабные коммерческие продукты. Они мощные, но дорогие. Выпустив Jetson Nano, Nvidia снизила стоимость входа и открыла путь революции, подобной Raspberry-Pi, на этот раз для машинного обучения.
Jetson Nano составляет $ 99 в одноплатный компьютер (SBC), который заимствует от конструкции языка Raspberry Pi с его малым форм – фактором, блок USB портов, MicroSD слот для карт памяти, выход HDMI, GPIO булавки, разъем камеры (который совместим с камеру Raspberry Pi) и порт Ethernet. Однако это не клон Raspberry Pi. Плата другого размера, есть поддержка Embedded Displayport, есть огромный радиатор!
Под радиатором находится готовая к производству система Jetson Nano на модуле (SOM). Комплект разработчика – это, по сути, плата (со всеми портами) для крепления модуля. В коммерческом приложении дизайнеры создавали бы свои продукты, чтобы принять SOM, а не плату.
Хотя Nvidia хочет продавать много модулей Jetson, она также нацелена на продажу платы (с модулем) энтузиастам и любителям, которые, возможно, никогда не будут использовать версию модуля, но будут счастливы создавать проекты на основе комплекта для разработки, как они это делают с Raspberry Pi.
GPU
Когда вы думаете о Nvidia, вы, вероятно, думаете о видеокартах и графических процессорах, и это правильно. Хотя графические процессоры отлично подходят для 3D-игр, оказывается, что они хорошо справляются с алгоритмами машинного обучения.
Jetson Nano имеет 128-ядерный графический процессор CUDA, основанный на архитектуре Maxwell. Каждое поколение графических процессоров от Nvidia основано на новом дизайне микроархитектуры. Затем этот центральный дизайн используется для создания различных графических процессоров (с разным количеством ядер и т.д.) Для этого поколения. Архитектура Maxwell была впервые использована в GeForce GTX 750 и GeForce GTX 750 Ti. Графический процессор Maxwell второго поколения был представлен вместе с GeForce GTX 970.
В исходном Jetson TX1 использовался графический процессор Maxwell 1024-GFLOP с 256 ядрами CUDA. Jetson Nano использует урезанную версию того же процессора. Согласно журналам загрузки, Jetson Nano имеет тот же вариант GM20B второго поколения графического процессора Maxwell, но с половиной ядер CUDA.
Jetson Nano поставляется с большой коллекцией демонстраций CUDA от моделирования частиц дыма до рендеринга Мандельброта со здоровой дозой размытия по Гауссу, кодирования jpeg и моделирования тумана.
Потенциал быстрых и плавных 3D-игр, таких как игры, основанные на различных 3D-движках, выпущенных с открытым исходным кодом из программного обеспечения ID, велик. На самом деле я пока не смог найти эту работу, но уверен, что это изменится.
искусственный интеллект
Иметь хороший графический процессор для вычислений на основе CUDA и для игр – это хорошо, но реальная сила Jetson Nano проявляется тогда, когда вы начинаете использовать его для машинного обучения (или искусственного интеллекта, как его называют маркетологи ).
У Nvidia есть проект с открытым исходным кодом под названием «Jetson Inference», который работает на всех ее платформах Jetson, включая Nano. Он демонстрирует различные умные методы машинного обучения, включая распознавание объектов и обнаружение объектов. Для разработчиков это отличная отправная точка для создания реальных проектов машинного обучения. Для обозревателей это отличный способ увидеть, на что способно оборудование!
Также читайте: Как создать собственного цифрового помощника с Raspberry Pi
В репертуаре нейросети распознавания объектов около 1000 объектов. Он может работать как с неподвижными изображениями, так и с прямой трансляцией с камеры. Точно так же демонстрация обнаружения объектов знает о собаках, лицах, гуляющих людях, самолетах, бутылках и стульях.
При запуске в прямом эфире с камеры демонстрация распознавания возражений может обрабатывать (и маркировать) со скоростью около 17 кадров в секунду. Демонстрация обнаружения объектов, поиск лиц, работает со скоростью около 10 кадров в секунду.
Visionworks – это SDK Nvidia для компьютерного зрения. Он реализует и расширяет стандарт Khronos OpenVX и оптимизирован для графических процессоров и SOC с поддержкой CUDA, включая Jetson Nano.
Для Jetson Nano доступно несколько различных демонстраций VisionWorks, включая отслеживание функций, оценку движения и стабилизацию видео. Это общие задачи, необходимые для робототехники и дронов, автономного вождения и интеллектуальной видеоаналитики.
При использовании видеопотока HD 720p функция отслеживания работает со скоростью более 100 кадров в секунду, в то время как демо-версия оценки движения может вычислить движение примерно шести или семи человек (и животных) из потока 480p со скоростью 40 кадров в секунду.
Для видеооператоров Jetson Nano может стабилизировать портативное (дрожащее) видео со скоростью более 50 кадров в секунду с входного сигнала 480p. Эти три демонстрации демонстрируют задачи компьютерного зрения в реальном времени, выполняемые с высокой частотой кадров. Надежная основа для создания приложений в самых разных областях, включая видеовход.
Убийственная демонстрация, которую Nvidia предоставила с моим обзорным блоком, называется DeepStream. SDK DeepStream от Nvidia – это еще не выпущенная среда для высокопроизводительных приложений потоковой аналитики, которые можно развернуть на месте в торговых точках, умных городах, зонах промышленного контроля и т.д.
Демонстрация DeepStream демонстрирует видеоаналитику в реальном времени на восьми входах 1080p. Каждый вход закодирован в H.264 и представляет собой типичные потоки, поступающие на IP-камеру. Это впечатляющая демонстрация, демонстрирующая отслеживание людей и автомобилей в реальном времени со скоростью 30 кадров в секунду на восьми видеовходах. Помните, что это работает на Jetson Nano за 99 долларов!
Убийца Raspberry Pi?
Помимо мощного графического процессора и некоторых сложных инструментов искусственного интеллекта, Jetson Nano также является полностью работающим настольным компьютером под управлением версии Ubuntu Linux. В качестве среды рабочего стола он имеет несколько явных преимуществ перед Raspberry Pi. Во-первых, у него 4 ГБ оперативной памяти. Во-вторых, он имеет четырехъядерный процессор на базе Cortex-A57, в-третьих, USB 3.0 (для более быстрого внешнего хранилища).
Хотя запуск полного рабочего стола на Pi может быть трудным, опыт рабочего стола, предоставляемый Jetson Nano, намного приятнее. Мне удалось легко запустить Chromium с 5 открытыми вкладками; LibreOffice Writer; среда разработки IDLE python; и пара окон терминала. В основном это связано с тем, что 4 ГБ оперативной памяти, но время запуска и производительность приложений также превосходят Raspberry Pi из-за использования ядер Cortex-A57, а не ядер Cortex-A53.
Для тех, кто интересуется некоторыми фактическими показателями производительности. Используя мой threadtesttool (здесь, на GitHub) с восемью потоками, каждый из которых вычисляет первые 12500000 простых чисел, Jetson Nano смог выполнить рабочую нагрузку за 46 секунд. Это для сравнения: четыре минуты на Raspberry Pi Model 3 и 21 секунда на моем настольном компьютере Ryzen 5 1600.
Использование теста OpenSSL «скорость», который проверяет производительность криптографических алгоритмов. Jetson Nano как минимум в 2,5 раза быстрее, чем Raspberry Pi 3, достигая пика в 10 раз быстрее, в зависимости от точного теста.
Среда разработки
Связанный: Узнайте, как разрабатывать приложения для Android в Академии DGiT!
В качестве среды разработки Arm Jetson Nano превосходен. Вы получаете доступ ко всем стандартным языкам программирования, таким как C, C ++, Python, Java, Javascript, Go и Rust, а также можете запускать некоторые IDE. Я попробовал Eclipse из репозитория Ubuntu, но он не запустился. По иронии судьбы, я смог без проблем запустить сборку Visual Studio Code от сообщества!
GPIO
Одной из ключевых особенностей Raspberry Pi является набор контактов ввода и вывода общего назначения (GPIO). Они позволяют подключать Pi к внешнему оборудованию, такому как светодиоды, датчики, двигатели, дисплеи и многое другое.
Jetson Nano также имеет набор контактов GPIO, и хорошая новость заключается в том, что они совместимы с Raspberry Pi. Первоначальная поддержка ограничена библиотекой Adafruit Blinka и пользовательским контролем контактов. Тем не менее, есть все необходимое, чтобы обеспечить широкую поддержку многих доступных Raspberry Pi HAT.
Чтобы все это проверить, я взял шляпу Pimoroni Rainbow HAT и подключил ее к Jetson. Библиотека (https://github.com/pimoroni/rainbow-hat) для Rainbow HAT ожидает Raspberry Pi вместе с некоторыми базовыми библиотеками, поэтому я не пытался ее установить, однако я изменил один из примеров сценарии, поставляемые с Jetson Nano, чтобы я мог заставить один из светодиодов платы мигать через Python.
Источник питания
Благодаря высокопроизводительному процессору и настольному компьютеру, например графическому процессору, Jetson Nano имеет большой радиатор, и вы также можете купить дополнительный вентилятор. Плата имеет различные режимы питания, которые управляются с помощью программы под названием nvpmodel. Два основных режима питания – это конфигурация 10 Вт, которая использует все четыре ядра ЦП и позволяет графическому процессору работать с максимальной скоростью. Другой – режим 5 Вт, при котором два ядра отключаются, а графический процессор регулируется.
Если вы запускаете приложения, которые повышают производительность платы, вам необходимо убедиться, что вы используете хороший источник питания. Для общего использования вы можете использовать USB для питания, если источник питания рассчитан как минимум на 2,5 А. Для высокопроизводительных задач следует использовать блок питания 5 В / 4 А, который имеет отдельную розетку и включается перемычкой на плате.
Заключительные мысли
Если вы посмотрите на Jetson Nano как на доступный способ перехода на платформу Jetson, это просто великолепно. Вместо того, чтобы тратить 600 долларов или более на комплект разработчика, который совместим с предложениями Nvidia по машинному обучению и работает с такими фреймворками, как VisionWorks, вы просто платите 99 долларов. То, что вы получаете, по-прежнему очень способно выполнять множество интересных задач машинного обучения. Кроме того, при необходимости остается возможность перейти на более крупные версии Jetson.
Как прямая альтернатива Raspberry Pi, ценовое предложение менее привлекательно, поскольку Pi стоит всего 35 долларов (меньше, если вы выберете одну из моделей Zero). Цена имеет ключевое значение: мне нужна плата Jetson Nano или три платы Raspberry Pi?
Если вам нужно что-то вроде Raspberry Pi, но с большей вычислительной мощностью, большим количеством графических процессоров и четырехкратным объемом оперативной памяти, то Jetson Nano – это ответ. Конечно, это стоит дороже, но вы получите больше.
Итог таков: если Raspberry Pi достаточно хорош для вас, придерживайтесь его. Если вам нужна более высокая производительность, если вам нужно машинное обучение с аппаратным ускорением, если вы хотите проникнуть в экосистему Jetson, приобретите Jetson Nano сегодня!
Источник записи: https://www.androidauthority.com