Лабораторная ошибка, которая может революционизировать вычисления

Сегодня вы, вероятно, задали вопрос большой языковой модели, приняли предложение о связи в LinkedIn, посмотрели рекомендованное видео на YouTube или выбрали другой маршрут на работу на основе прогноза трафика от Google Maps. Другими словами, вы, скорее всего, использовали искусственный интеллект. Но что вы, возможно, не знаете, так это сколько энергии потребовало это взаимодействие и почему.

ИИ требует обработки огромных объемов данных, что обычно происходит в крупных центрах обработки данных, заполненных тысячами графических процессоров (GPU), способных выполнять до триллионов операций в секунду. Но каждый из этих GPU достигает этого, потребляя до 1000 ватт. Для сравнения: если у вас есть новый смартфон, он, вероятно, потребляет менее 1 ватта. Этот киловаттный показатель ставит GPU на один уровень с пылесосами, посудомоечными машинами и плитами, но с той большой разницей, что процессоры в центрах обработки данных работают без перерыва круглосуточно.

В основе этой неэффективности лежит то, что GPU пытаются имитировать работу искусственных нейронных сетей с помощью программного обеспечения и миллиардов транзисторов, что требует затрат энергии на перемещение огромных объемов данных. Более того, искусственные нейроны, составляющие эти сети, не обладают даже долей сложного вычислительного поведения биологических нейронов, которые образуют самую энергоэффективную вычислительную систему, известную нам, — человеческий мозг.

Мозг примерно в миллион раз более энергоэффективен при выполнении многих задач, которые мы ставим перед ИИ. Чтобы приблизиться к такой эффективности, существует радикально иной способ вычислений, называемый нейроморфной инженерией, который стремится создать электронные компоненты и схемы, действующие больше как нейроны мозга и синапсы, соединяющие их.

Огромная работа была проделана для того, чтобы заставить электронику работать больше как биологические нейроны и синапсы. Некоторые исследования были сосредоточены на разработке новых экспериментальных устройств, но они пока недостаточно надежны для использования в больших системах. Другие усилия направлены на реализацию нейронов и синапсов путем соединения множества КМОП-транзисторов для имитации одного нейрона и синапса. Но этот подход требует так много транзисторов, что сильно ограничивает размер системы, которую можно построить, и неясно, как такое вдохновленное мозгом оборудование сможет масштабироваться и конкурировать с современными GPU.

Но все это время искусственный нейрон и синапс — каждый из которых является одним устройством — были скрыты на виду. Мы нашли их в прошлом году. Они стали возможны благодаря обычному КМОП-транзистору, и даже не очень хорошему. Это история их случайного открытия и их больших перспектив для снижения воздействия ИИ на окружающую среду.