- 個人の余剰計算資源をAI推論に提供し収入を得るサービスが登場
- Far LabsとEvolving Edgeがそれぞれ独自プラットフォームを提供中
- データセンターより低コスト・高耐障害性と主張、一方で不確実性も
新サービスの概要
AI企業は推論計算に必要な計算資源を求めている。自宅のサーバーやゲーミングPCなど、普段使われていないデバイスの計算能力を貸し出すことで、所有者は報酬を得られるという。このアイデアを事業化する企業が現れている。
アブダビに拠点を置くFar Labsは、数週間以内にプラットフォーム「Far AI」を開始する。テキサス州オースティンのEvolving Edgeはオープンベータを実施中だ。ほかにもBless Network、Salad、Gradientといった企業が同様のサービスを提供している。
技術的な仕組み
ユーザーはソフトウェアをインストールし、計算資源を提供するスケジュールを設定する。Evolving Edgeのノードソフトウェアはオープンソースで、誰でもコードを確認できる。Far Labsは「最小権限」の原則に基づき、ホストと顧客の双方に必要最小限のアクセス権を与える。暗号化通信とリソース制限により、ホスト側のデータやシステムを保護するという。
大規模なモデルは複数のデバイスに分割して実行する。Evolving Edgeはオープンソースの「Ray」を使用し、Far Labsは独自のソフトウェアでモデルを分割し、オーケストレータとロードバランサがタスクを管理する。これにより、小規模で特化したオープンソースモデルを中心に推論を実行する。
データセンターとの比較
データセンターは高性能だが、建設により地域の電力価格や水資源に影響を与えることがある。分散型は既存の計算資源を活用するため、新たな資本支出が不要だとFar Labsは主張する。また、単一のデータセンターが停止しても、ネットワークの他のノードで処理を続けられるため、耐障害性が高いとされる。
Far Labsは遅延が100ミリ秒以下だと主張する。一方、ユーザーデバイスはデータセンターのGPUやCPUより性能が低く、通信も不安定なことがある。最先端の大規模モデルには向かない可能性があるが、業務に特化した小規模モデルでは十分な場合も多いとEvolving Edgeは話す。
課題と注意点
セキュリティとプライバシーは重要な課題だ。ホスト側は、自分のデバイスにマルウェアが仕込まれたり、ローカルデータが漏洩したりしないか懸念する。各社はオープンソース化や最小権限で対応を試みているが、実際の安全性は今後の検証が必要だ。
また、個人のデバイスを利用するため、性能や可用性が一定でない。分散ネットワークの規模が十分大きくなければ、需要に応えられない可能性がある。収益性についても、具体的な報酬額は明らかにされていない。
| 項目 | データセンター | 分散型ホームコンピュート |
|---|---|---|
| コスト | 高額 | 資本支出なしで低コストと主張 |
| 耐障害性 | 単一障害点のリスク | 多数のノードで分散し高い |
| レイテンシ | 記載なし | 100ミリ秒以下と主張 |
| 得意なモデル | 最先端の大規模モデル | 小規模・特化型モデル |
Imagine Uber or Airbnb, but for AI inference computing tasks.
AI推論の計算タスクのためのUberやAirbnbを想像してください。
今後の見通し
現時点ではFar LabsとEvolving Edgeがサービスを開始したばかりで、実際の稼働実績や収益性はまだ不明だ。今後、ノード数がどの程度集まるか、企業顧客が分散型プラットフォームを採用するかが焦点になる。また、レイテンシや可用性の主張が実証されるか、データセンターと比較して価格優位性が維持できるかを見極める必要がある。日本でも同様のサービスが登場する可能性はあるが、法規制や通信環境の違いも考慮すべきだろう。
日本の開発者・IT企業にとっての意味
日本のIT企業にとって、AI推論のコスト削減やエッジ活用の選択肢が増える可能性がある。個人や中小企業が持つ遊休計算資源を活用するため、新しいビジネスモデルにもなる。一方で、データセキュリティやプライバシー、国内法への適合性を慎重に検討する必要がある。また、大手クラウドに依存しない分散アーキテクチャの知見は、災害対策やレジリエンス強化にも応用できるだろう。さらに、国内にもゲーミングPCや自作サーバーの愛好家が多く、潜在的なホスト層は存在する。実際のサービス展開を注視しつつ、自社のAIインフラ戦略に取り入れるかを判断することが求められる。
気になる点
- 日本からこのサービスを利用できますか？
- 記事では提供地域について明記されていない。各社の公式情報を確認する必要がある。現時点では日本での利用可否は公表されていない。
- セキュリティはどうなっていますか？
- Evolving Edgeのノードソフトはオープンソースで、監査が可能。Far Labsは最小権限の原則を採用し、暗号化通信とリソース制限を行う。ただし、実際のリスクは利用条件や運用次第である。
- どのくらい稼げますか？
- 具体的な報酬額は記事に示されていない。ホスト側の収入は、提供する計算資源の規模や需要によって変動するとみられる。
用語解説
- AI推論
- 学習済みモデルを使って入力に対する回答を生成する処理。トレーニングと対になる。
- 分散コンピューティング
- 複数のコンピュータが連携して処理を行う方式。計算資源を分散配置する。
- 最小権限の原則
- システムで必要最小限のアクセス権だけを付与する考え方。セキュリティ対策の基本。
- オープンソースソフトウェア
- ソースコードが公開され、誰でも利用・改良・監査ができるソフトウェア。
- レイテンシ
- 要求が送られてから応答が返るまでの遅延時間。
出典
Cash in on the AI Boom by Renting Out Your Spare Compute
https://spectrum.ieee.org/ai-inference-distributed-computing
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する