TrueNorth¶

TrueNorth — это нейроморфный процессор, разработанный компанией IBM Research. Представляет собой специализированную интегральную схему, архитектура которой имитирует структуру и принципы работы биологической нейронной сети. В отличие от традиционных процессоров, использующих архитектуру фон Неймана, TrueNorth ориентирован на энергоэффективную обработку потоковых сенсорных данных, таких как зрение, слух и другие сигналы, в реальном времени.

¶История создания

Разработка TrueNorth велась в рамках программы SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Electronics), финансируемой Агентством перспективных оборонных исследовательских проектов США (DARPA). Проект стартовал в 2008 году, а его целью было создание процессора, способного моделировать работу мозга с минимальным энергопотреблением. В 2011 году IBM продемонстрировала первую версию нейроморфного чипа, содержащего 256 нейронов. В 2014 году был представлен финальный прототип TrueNorth, содержащий 4096 нейронов и 256 тысяч синапсов.

Первый публичный анонс TrueNorth состоялся в августе 2014 года на конференции Hot Chips. В 2016 году IBM выпустила программную среду для разработки приложений под TrueNorth, а также открыла доступ к эмулятору чипа. В 2017 году была представлена платформа NS1e, представляющая собой одноплатный компьютер на базе 16 чипов TrueNorth, способный обрабатывать до 16 миллионов нейронов и 4 миллиарда синапсов.

¶Архитектура и устройство

¶Нейроморфный принцип

TrueNorth построен на принципе «спайковой нейронной сети» (spiking neural network, SNN). В отличие от традиционных искусственных нейронных сетей, где информация передаётся в виде непрерывных значений, в SNN нейроны обмениваются короткими электрическими импульсами — спайками. Это позволяет имитировать временную динамику работы биологических нейронов.

¶Структура чипа

Каждый чип TrueNorth содержит 4096 нейронов, объединённых в 4096 нейросинаптических ядер. Каждое ядро содержит 256 нейронов и 256 синапсов, что в сумме даёт 1 миллион синапсов на чип. Нейроны соединены в топологию «каждый с каждым» через программируемую синаптическую матрицу. Чип изготовлен по 28-нм техпроцессу Samsung и содержит 5,4 миллиарда транзисторов.

¶Энергопотребление

Ключевая особенность TrueNorth — крайне низкое энергопотребление. При полной загрузке чип потребляет около 70 милливатт. Это в 1000 раз меньше, чем у традиционных процессоров при выполнении аналогичных задач по распознаванию образов. Для сравнения: типичный процессор Intel Core i7 при аналогичной нагрузке потребляет порядка 70–100 ватт.

¶Программирование

TrueNorth не программируется на традиционных языках (C, Python). Для него разработана специальная среда — Corelet Programming Environment, позволяющая описывать нейронные сети в виде графов из нейросинаптических ядер. Программирование ведётся на языке Python с использованием библиотеки PyNN.

¶Применение

¶Обработка сенсорных данных

Основное применение TrueNorth — обработка потоковых данных в реальном времени. Чип способен анализировать видеопоток с частотой 30 кадров в секунду, распознавая объекты, лица, жесты и движения. В акустической области он может выделять голос из шума, распознавать команды и классифицировать звуки.

¶Робототехника и дроны

Благодаря низкому энергопотреблению TrueNorth используется в автономных роботах и беспилотных летательных аппаратах. Например, в 2016 году IBM продемонстрировала систему навигации для дрона, работающую на базе TrueNorth, которая позволяла избегать препятствий без участия человека.

¶Медицина и биомедицинские исследования

TrueNorth применяется для анализа электроэнцефалограмм (ЭЭГ) и электрокардиограмм (ЭКГ) в реальном времени. Чип способен выявлять эпилептические припадки, аритмии и другие патологии с задержкой менее 1 миллисекунды. В 2018 году исследователи из IBM и университета Джонса Хопкинса использовали TrueNorth для классификации сигналов мозга у пациентов с параличом.

¶Обработка изображений и видео

TrueNorth используется в системах компьютерного зрения для распознавания образов, классификации объектов и сегментации изображений. В 2015 году IBM продемонстрировала систему, способную распознавать 1000 различных объектов на изображениях из набора ImageNet с точностью 92% при энергопотреблении 0,5 ватта.

¶Ограничения и критика

Несмотря на впечатляющие показатели энергоэффективности, TrueNorth имеет ряд ограничений. Во-первых, чип не поддерживает обучение на аппаратном уровне — все веса синапсов задаются программно до начала работы. Это означает, что для обучения нейронной сети требуется традиционный компьютер, а затем обученная модель загружается в TrueNorth.

Во-вторых, архитектура TrueNorth является узкоспециализированной. Чип не может выполнять общие вычисления, такие как арифметические операции с плавающей точкой или обработка текста. Он эффективен только для задач, которые можно представить в виде спайковых нейронных сетей.

В-третьих, производительность TrueNorth в задачах распознавания образов уступает современным графическим процессорам (GPU) по абсолютной точности. Например, на наборе данных ImageNet точность TrueNorth составляет 92%, в то время как современные GPU-решения достигают 99% и выше. Однако при сравнении по энергоэффективности (точность на ватт) TrueNorth значительно превосходит GPU.

¶Развитие и перспективы

После выпуска TrueNorth IBM продолжила исследования в области нейроморфных вычислений. В 2018 году была представлена архитектура NorthPole, которая объединила нейроморфные ядра с традиционными вычислительными блоками. В 2021 году IBM анонсировала проект «BlueMatter» — нейроморфный суперкомпьютер, способный моделировать работу мозга человека.

В России исследования в области нейроморфных процессоров ведутся в Московском государственном университете имени М.В. Ломоносова, Национальном исследовательском центре «Курчатовский институт» и других организациях. В 2023 году российские учёные представили прототип нейроморфного чипа «Алтай», работающего по схожим принципам, но с использованием отечественной элементной базы.

¶Источники

1. Merolla, P. A., et al. «A million spiking-neuron integrated circuit with a scalable communication network and interface.» Science, 2014.
2. IBM Research. «TrueNorth: Design and Tool Flow.» IBM Journal of Research and Development, 2015.
3. DARPA. «SyNAPSE Program Overview.» Defense Advanced Research Projects Agency, 2012.
4. Akopyan, F., et al. «TrueNorth: Design and Tool Flow of a 65 mW 1 Million Neuron Programmable Neurosynaptic Chip.» IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 2015.
5. Cassidy, A. S., et al. «Real-time scalable cortical computing at 46 giga-synaptic OPS/watt with ~100× speedup in time-to-solution and ~100,000× reduction in energy-to-solution.» Proceedings of the International Conference for High Performance Computing, 2014.