Siriが悪いと思うなら、AppleのカスタマーサポートAIを待ってみよう

AI分野における失敗が続くことでこの分野への熱意が冷めることを拒み、Appleはカスタマーサポート用のAI搭載チャットボットの開発に取り組んでいるようだ。MacRumorsの寄稿者であるアーロン・ペリス氏は、Apple Supportアプリの「サポートアシスタント」の開発を示唆するコードを発見した。このアシスタントはまだ公開されていないが、MacRumorsはそのコードから、その動作を大まかに推測することができた。

Support Assistantは、基本的に、顧客がAppleの従業員と話す前にアクセスできる新しいチャットレイヤーを導入するようです。Appleサポートには現在チャット機能がありますが、これは人間とのやり取りになります。Support Assistantは生成AIを使用して、人間を介さずにチャットでの質問に回答を提供します。チャットボットが問題を解決できない場合は、人間が対応するまで待つこともできます。

もちろん、これは様々な警鐘を鳴らすことになるだろう。なぜなら、AppleのAIへの取り組みはこれまで非常に残念な結果に終わっているからだ。開発は遅れ、延々と遅延し、頻繁に間違いを犯し、そして約束を全く果たせていない。どうやらApple Parkでも警鐘が鳴っているようだ。Support Assistantのベースとなっているような生成モデルは「不正確、誤解を招く、不完全、不快、または有害な出力」を生成する可能性があり、Support Assistantが提供する情報は専門家のアドバイスに代わるものではないという警告をAppleは発している。一体何のためにあるのだろうか、と疑問に思う。

AIの誤動作がそれほど問題にならない分野もあります。生成AIを使ってカスタム絵文字を作成し、それが不自然で不気味に見えたとしても、削除して別の絵文字を探して友達に送ることができます。しかし、免責事項を無視して不適切なアドバイス（あるいは不快な発言！）をするテクニカルサポートボットは、一部の人はそれに気づきますが、他の人はよくある法的事項として無視してしまうでしょう。そうなれば、大惨事を招くのを待っているようなものです。AIドクターと同じように、クパチーノでは別のアイデアが検討されているようです。

おそらく Apple は、避けられない訴訟に対処するために AI 弁護士を創設するだろう。