AppleのSiriの「盗聴」論争は、最初からそこにあったはずのスイッチで解決できる

先週のガーディアン紙の記事は、Siriに関する衝撃的なニュースとして報じられました。Appleの契約業者がユーザーのSiriの録音を盗聴しており、「機密性の高い医療情報、麻薬取引、カップルの性行為の録音を定期的に聞いている」という内容です。この報道は、数週間前にベルギーの放送局VRT NWSが公開した同様の暴露記事と重なります。この暴露記事では、Googleアシスタントの録音が世界中に公開されていました。このリークでは、VRTは「住所などの機密情報」を通じて一部の音声を追跡することができました。

両社は、収集・分析されたデータはAIチャットボットの知能向上に不可欠だと主張している。Googleと同様に、Appleも「Siriの毎日の起動のうち、評価に使用されているのは1%未満で、使用される時間は通常数秒に過ぎない」と主張している。そのため、ガーディアン紙に録音を提供した内部告発者は、「音声アシスタントの起動が意図的か偶発的か、質問がSiriで対応できる内容だったか、Siriの応答が適切だったかなど、様々な要素に基づいて応答を評価する任務を負っていた」と述べている。

マイケル・サイモン/IDG

Appleはまた、Siriのデータはランダムであり、「Appleがユーザーの他のAppleサービスの使用から得た他のデータとはリンクされていない」と強調したが、内部告発者はガーディアン紙に対し、録音には「位置情報、連絡先の詳細、アプリデータを示すユーザーデータが付随している」と語った。

AppleはユーザーのApple IDとSiriを厳密に分離しているため、この情報が記録とどのように関連しているのかは不明です。ガーディアン紙は、「記録には特定の名前や識別子は付与されておらず、個々の録音を他の録音と簡単に関連付けることはできません」と指摘しています。Appleは長年にわたりSiriに関するプライバシー保護の姿勢をアピールしており、「iPhoneで起こったことはiPhone内にとどまります」と主張しています。

さらに、Appleはガーディアン紙に対し、「Siriの応答は安全な施設で分析されており、すべてのレビュアーはAppleの厳格な守秘義務を遵守する義務を負っています」と述べています。つまり、何か特別な調査が行われていない限り、AppleはSiriとの会話を保護し、そのデータからユーザーを特定できないようにするために、多大な努力を払っているようです。

しかし、だからといって、それが起こらないというわけではありません。収集されたデータを使って不正行為が行われていると考える根拠はありませんが、Siriやその他の音声アシスタントは、ウェイクワードに似たフレーズで起動する可能性があるという事実は変わりません。そして、そこに問題の核心があります。スマートフォンやHomePodが誤って起動した場合、Siriは耳に届いたものをすべて録音し始めます。それは、おそらく録音したくないデリケートな会話やロマンチックな出来事かもしれません。内部告発者によると、Siriは「Hey Siri」という明確な指示がなくても、ジャケットの「ジッパーの音」といった無害な音も含めて、頻繁に起動するという。

マイケル・サイモン/IDG

もしそのスニペットがグレーディングに使われるものとして選ばれた場合、請負業者がそれを聞き取ってしまう可能性があります。Apple WatchはSiriを起動するために持ち上げるだけで済むため、誤って起動してしまう可能性が大幅に高まります。また、常に身に着けているため、Siriが機密性の高い会話を誤って録音してしまう可能性は、電話やHomePodよりも高くなります。

ユーザーに決めさせる

Siriのインタラクションを人間が分析することは重要です。Appleは望む限りのテストを行うことができますが、実世界からのサンプリングなしにランダムサンプルを収集しても、Siriがどの程度の精度で機能しているかを知ることはできません。これは議論の余地がありません。しかし、ランダムであろうとなかろうと、私たちにはAppleが抽出するデータプールに含まれることを拒否する権利があるべきです。

Appleは位置情報、広告トラッキング、アプリのクラッシュ、マイクへのアクセスなど、その他あらゆることについて質問しますが、設定画面にはランダムなデータ収集をオプトアウトする画面がありません。設定画面にも切り替えボタンはありません。しかし現状では、それを行う方法はありません。ガーディアン紙が指摘するように、Appleは長文のプライバシーポリシーの中で、「匿名化された録音を聞く人間がその作業を行っているとは明確に述べていない」のです。

マイケル・ブラウン

Appleはプライバシーポリシーを改訂し、人的要素を網羅した新たな文言を加えるだろうと確信しているが、AndroidスマートフォンではなくiPhoneを購入する主な理由としてプライバシーを常に強調してきた企業にとって、それだけでは不十分だ。ユーザーは設定時にオプションからSiriによるあらゆるデータ取得を簡単にオプトアウトできるべきだ。そうすれば、ユーザーの信頼を維持する上で大きな助けとなるだろう。

しかし、Siriのクエリを確認・削除する機能も必要です。現状では、会話履歴を確認するにはSiriに尋ねるしかなく、削除するにはSafariの履歴を消去し、Siriの音声入力を無効にするしかありません。これでは、GoogleやAmazonが提供する詳細なクエリ履歴の代替にはなりません。Siriのクエリを確認・削除できるだけでなく、Siriを呼び出さなくてもSiriが何を聞いているのかを概観できるようになり、これが問題の大きな部分を占めています。

確かに、スマートフォンの「Hey Siri」やApple Watchの「Raise to Speak」をオフにすることはできますが、それでは機能と利便性が制限されてしまいます。 音声データ収集をオプトアウトできるシンプルなトグルがあれば、Appleのデータ収集はもっと受け入れやすくなるでしょう。AppleがSiri開発の一環として分析のためにデータを収集していることを知っていれば、スキャンダラスな部分があったとしても、この報道はこれほどまでにセンセーショナルなものにはならなかったでしょう。もしかしたら、設定からアクセスをオフにするユーザーもいたかもしれません。

私たちは皆、Siriの改良を望んでいます。Appleがその実現のために私たちの録音の一部を収集し、聞く必要があることは理解しています。ただ、自分がその一部であるかどうかは自分で決められるようにしたいのです。