Инженеры CSEM разработали микросхему с двумя нейропроцессорами, разделяющими задачи ИИ и снижающими энергопотребление. Для работы алгоритмов достаточно энергии небольшой батарейки или солнечной панели, умещающейся на микросхеме площадью с банковскую карту.

Микросхема на солнечной батарее. Источник: csem.ch

Обучение и даже запуск нейросети требуют много энергии и памяти, поэтому часто их ведут в облачных вычислительных кластерах. В июле прошлого года специалисты крупной компании по производству чипов Applied Materials посчитали, что при текущих темпах развития электроники к 2025 году около 15 % мирового энергопотребления будет приходиться на центры обработки данных, по сравнению с 2 % на 2020 год. 

Для решения проблемы энергопотребления ИИ инженеры из CSEM перенесли из облака на микросхему всю работу алгоритмов нейросети. На микросхеме расположен ASIC с ядрами RISC-V и два плотно связанных ускорителя машинного обучения: один для классификации и второй для распознавания лиц. 

Кристалл микросхемы. Источник: csem.ch

Снижение энергозатратности происходит за счёт разделения «обязанностей». Классифицирующий нейронный процессор основан на механизме бинарного дерева решений и не может выполнять сложные задачи. Его главная функция заключается в том, чтобы определить, есть ли на изображении человек и видно ли его лицо. После он передаёт информацию на второй нейропроцессор, где свёрточная нейронная сеть распознаёт отдельные лица.

Большую часть времени работал первый нейропроцессор, что значительно снизило энергопотребление. Кроме того, за счёт разделения работы инженеры повысили производительность и универсальность архитектуры. Например, классифицирующий нейропроцессор можно настроить на поиск человеческой речи в окружающих звуках и передаче их на процессор, где нейросеть будет определять, какому человеку принадлежит речь.

CSEM планирует представить свою микросхему на международном симпозиуме СБИС 2021, проходящем сейчас в Киото (Япония).

Пример микросхемы, работающей на батарейке. Источник: csem.ch