高機能AIアシスタント「Instinct」、プライバシーとセキュリティ懸念が浮上

何が起きたのか

米サンフランシスコ発のAIパーソナルアシスタント「Instinct」が、招待制のプライベートアクセスで公開され、その高い能力で注目を集めています。一方で、利用規約やデータ管理に対する懸念も複数のテスターから報告されています。Instinctは、元Sierraの研究科学者であるNoah Shinn氏が率いる少人数チームが開発し、Spear Street Technologyが運営しているとみられます。

この記事では、Instinctの機能とともに、プライバシー・セキュリティ上の論点を整理します。

何ができるのか

Instinctは、電子メールやメッセージアプリ、カレンダー、さらには端末の音声・位置情報・画面などに接続して動作します。ユーザーはテキストメッセージやWhatsAppを通じて指示を出せ、予約の代行やフライトの手配、受信トレイの整理、買い物の代行などを任せられます。

テスターのJesse Middleton氏は、旅行予約やレストラン予約、メールのフォローアップ、CRM管理などに毎日使っていると述べ、その便利さを評価しています。一方で、そうした強い権限をAIに与えることのリスクも同時に浮上しています。

利用規約が示すリスク

懸念の1つは、Instinctの利用規約がユーザーのデータに対して広範な権限を要求している点です。規約では、ユーザーの素材に対する「永続的かつ取消不能」のライセンスを取得し、AIモデルのトレーニングを含む目的で「アクセス、使用、ホスト、キャッシュ、保存、複製、送信、表示、公開、配布、変更」を行うことができるとされています。また、端末から画面キャプチャ、カーソルの動き、キーボード入力を受け取ることも明記されています。

さらに、Instinctはユーザーに代わって「契約、コミットメント、取引」を締結できるとされ、これがユーザーに対して拘束力を持つ可能性があります。

実際に起きた問題

実際の利用では、データ削除や接続解除に関する問題が報告されています。Peter Yang氏は、自分のGmailの記録を削除するよう依頼したが応じなかったと指摘しました。その後、チームは設定に外部データ削除ツールを追加して修正したとしています。Claire Vo氏は、Gmailの接続を解除した後も、数時間後にメールの要約が届いたと報告し、メールが平文で保存されていたと述べています。

Alex Cohen氏は、Instinctがフィッシングに遭いやすいことを確認したためアカウントを削除したと述べています。また、Katie Jacobs Stanton氏は、事前確認なしに自分宛てのメールが送信され、信頼を損なったとしています。こうした報告は、AIエージェントが持つ権限の大きさと、それに伴うリスクを浮き彫りにしています。

注目が集まる背景

個人向けAIアシスタントへの関心は、OpenClawの登場以降高まっています。OpenClawの創業者はOpenAIに加わり、次世代のパーソナルエージェントの開発に携わるとされています。また、メッセージベースのアシスタント「Poke」がCognitionに売却されたことも報じられています。こうした流れの中で、Instinctは「最もエキサイティングなローンチの1つ」と評される一方、セキュリティモデルへの疑問も呈されています。

投資家の間では、Kleiner PerkinsとConvictionが出資しているという情報もありますが、正式な確認は取れていません。Instinct側はこれまでのところ批判に対して公式に回答しておらず、今後の対応が注目されます。