オンデバイスAIOn-Device AI
機器の中の部品が直接処理するAI
- オンデバイスAIはサーバーに尋ねずに機器の中で直接判断する方式です。
- 行き来がないので答えがすぐに出て、電波のない場所でもそのまま動きます。
- 入れた写真や言葉が機器の外に出ないのでプライバシーを守るのに有利です。
- 代わりに大きさと電力の限界があります。小さく整えたモデルしか入らず、長く動かすと熱くなります。
- 最近の機器にはこの計算だけを専門に担う専用部品が別に入っています。
目次
1たとえで理解する
難しい計算を人に尋ねるには電話をかけるかどこかにつながなければなりません。ところが鞄の中の電卓はその必要がありません。飛行機の中でも電波の切れた地下でも、ボタンを押した瞬間に答えが出ます。押した数字がどこかへ送られることもないので、人に見せたくない金額をたたいても気楽です。
もちろん電卓が全部やってくれるわけではありません。体が小さいのでできることは決まっていて、表を何千行も扱わなければならなければ結局は大きな機械の前へ行くことになります。それでも一日に出会う計算の大半はこの小さな機械で足ります。
手の中の機器が自分で判断する方式はこの電卓と同じです。これがオンデバイスAIです。
2くわしく
行き来がないことの意味
サーバーに尋ねる方式は、要求が機器を離れてどこかの機械まで行って答えを持って戻ってこなければなりません。この往復はどれほど短くても時間がかかり、電波が弱いと何倍にも延びます。
機器の中で処理すればこの区間がまるごと消えます。カメラを向けた瞬間に枠が付き、話した瞬間に字幕が付く反応はこの方式でないと出ません。地下鉄や山の中のように電波のない場所でも同じように動きます。
機器がサーバーの事情に振り回されないという点もあります。サービスが一時止まっても、要求が集中して遅くなっても、自分の機器の中で動く機能はそのままです。
専用部品が別にあります
最近出る機器にはこの計算だけを専門に担う部品が入っています。画面を描いたりプログラムを動かしたりする部品とは別に、ごくわずかな電気で決まった形の計算を素早く処理するよう作られたかけらです。
おかげでバッテリーを大きく減らさずに常に動かしておけます。写真アプリが自動で顔別にまとめておいたり、キーボードが次の単語を示してくれたり、通話中の雑音を取り除いたりする働きが、静かにこの部品の上で動いています。
それでも限界ははっきりしています。専用部品といってもサーバーに置かれた機械に比べればとても小さいので、何でも任せられるわけではありません。
小さく作ってこそ入ります
機器に入れるにはモデルを小さくしなければなりません。最初から小さく作ったモデルを使うこともあれば、大きいモデルの判断を小さいモデルに移し替えることもあります。
数値の目盛りを粗くして体積を減らす方法も広く使われます。とても細かい部分が少し崩れる代わりに、大きさが数分の一に減り速度も上がります。機器に入るモデルの大半はこの手入れを経ます。
こうして小さくしたモデルは決まった用件では十分によくこなしますが、初めて見る形の難しい要求には揺らぎやすいです。何を機器に任せ何を任せないかを決めることが大事な理由です。機器の種類によって載せられる大きさが違うので、同じ機能でも古い機種では動かないことがあります。
機器とサーバーを分けて使います
実際のサービスはどちらか一方だけを選びません。軽い用件は機器の中ですぐ処理し、難しい要求だと判断されればそのときだけサーバーへ渡す方式をよく使います。普段は速く静かで、必要なときだけ外へ出る形です。どこまでを機器に任せるかは、機能ごとに作る側があらかじめ線を引いています。
ブラウザAIと混同しやすいですが、分ける基準はどこに付いているかです。ブラウザAIはウェブページを開いて初めて始まり、ブラウザが許した分だけ機器の力を使います。オンデバイスAIは機器の機能そのものに付いているので、カメラを起動したりキーボードを打ったりする瞬間にはすでに動いています。
自分のパソコンにプログラムを入れて大きいモデルを動かすローカル実行とも違います。そちらは自分で選んでインストールしますが、オンデバイスAIは機器を買った時点ですでに入っています。
3もう少し正確に
機器の中の専用部品は、ニューラルネットワークの計算によく出る形の演算を少ない電力で処理するよう作られた回路です。ここに載せるにはモデルを機器用の形式に変え、目盛りを減らす手入れを経ます。機器の中で少しずつ学ばせる方式も少しずつ増えています。それぞれの機器で学んだ結果だけを集めて全体を改善する形なので、資料そのものは機器に残ります。
たとえがずれる点もあります。電卓は同じボタンを押せばいつも同じ答えを正確に出しますが、機器の中のモデルは確率で選ぶので同じ場面でも判断が揺らいだり間違えたりします。電卓の機能は買った日のままですが、機器の中のモデルは更新で静かに変わることもあります。機器で動くという事実がそのまま安全を意味するわけでもありません。判断は中で行っても、その結果をアプリが外へ送るよう作ることはできるので、案内と権限設定も一緒に見る必要があります。
4やってみる
5よくある誤解
オンデバイスAIはインターネットがまったく要らないと思われがちですが、実際にはモデルを更新したり難しい要求を渡したりするときは今でも接続が使われます。
機器の中で動くのだから無条件に安全だと思われがちですが、実際には判断だけ中で行い結果は外へ送るアプリもあるので確認が必要です。
機器の中で動くものは性能がひどいと思われがちですが、実際には顔の整理や字幕のように決まった用件ではサーバーに劣らずよくこなします。
7ひとこと要約
つまりオンデバイスAIは鞄の中の電卓のように機器の中で即座に答えを出す方式であり、速く静かな代わりに大きさと電力という限界を抱えています。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新2026-09-02