計算を革命するかもしれない実験室のミス

今日、あなたはおそらく大規模言語モデルに質問したり、LinkedInでつながりの提案を受け入れたり、YouTubeでおすすめの動画を見たり、Googleマップの交通予測に基づいて別のルートで通勤したりしたでしょう。言い換えれば、あなたはおそらく人工知能を使ったのです。しかし、あなたが知らないかもしれないのは、そのやり取りがどれだけのエネルギーを消費したか、そしてその理由です。

AIは大量のデータを処理する必要があり、それは通常、毎秒数兆回の演算を実行できる数千のGPUを備えた大規模なデータセンターで行われます。しかし、これらのGPUはそれぞれ最大1000ワットを消費することでそれを実現しています。比較すると、新しいスマートフォンをお持ちなら、おそらく1ワット未満しか消費しません。そのキロワットという数字は、GPUを掃除機、食器洗い機、ストーブと同じレベルに置きますが、大きな違いはデータセンターのプロセッサが24時間中断なく動作していることです。

基本的に、この非効率性の多くは、GPUがソフトウェアと数十億のトランジスタを使って人工ニューラルネットワークの動作をシミュレートしようとしており、大量のデータを移動するためにエネルギーを必要とすることに起因しています。さらに、これらのネットワークを構成するシミュレートされた人工ニューロンは、私たちが知る最もエネルギー効率の高い計算システムである人間の脳を構成する生物学的ニューロンの複雑な計算動作のほんの一部も持っていません。

脳は、AIに課す多くの同等のタスクにおいて、約100万倍エネルギー効率が高いです。これらの効率に近づくために、ニューロモルフィックエンジニアリングと呼ばれる根本的に異なる計算方法が、脳のニューロンとそれらを接続するシナプスのように動作する電子部品と回路を構築しようとしています。

電子機器を生物学的ニューロンやシナプスのように動作させるために膨大な研究が行われてきました。いくつかの研究は新しい実験的なデバイスの開発に焦点を当ててきましたが、それらはまだ大規模システムで使用するには十分に信頼性がありません。他の取り組みは、多くのCMOSトランジスタを相互接続して単一のニューロンとシナプスをシミュレートすることにより、ニューロンとシナプスを実装することを目指しています。しかし、このアプローチは非常に多くのトランジスタを必要とするため、構築できるシステムのサイズが大幅に制限され、そのような脳に触発されたハードウェアがどのようにしてスケールアップし、最先端のGPUと競争できるかは不明です。

しかし、ずっと前から、人工ニューロンとシナプス（それぞれ単一のデバイス）が明白な場所に隠れていました。私たちは昨年それらを発見しました。それらはそれぞれ、普通のCMOSトランジスタ（しかもあまり良いものではない）によって可能になりました。これは、それらの偶然の発見と、AIの環境フットプリントを削減するための大きな可能性についての物語です。