アップル、偽ニュースアラートの急増を受けAIによる要約を「明確化」すると宣言

数々の重大なエラーと多数の苦情を受けて、Apple は AI ニュース要約をユーザーに提示する方法を変更すると発表した。

12月、BBCは、Apple Intelligenceが通知の一部として記事の1つを自動要約し、その意味を完全に変え、殺人容疑者のルイジ・マンジョーネが自殺したと読者に誤って伝えたことに苦情を申し立てた。

BBC

「BBCニュースは世界で最も信頼されているニュースメディアです」とBBCの広報担当者は当時述べました。「BBCの名前で発信されるあらゆる情報やジャーナリズム、そして通知も含め、視聴者の皆様に信頼していただけることが私たちにとって不可欠です。」

しかし、Appleは苦情に反応しなかったようで、さらに多くの誤りが続いた。1月には、同社のAIがBBCの世界ダーツ選手権に関する記事を要約し、大会がまだ始まってもいないのに、ルーク・リトラーが優勝したと誤報した（皮肉なことに、リトラーは後に史上最年少優勝者となったが、それはもっと後のことだった）。また、ラファエル・ナダルがゲイであることをカミングアウトしたと誤報したが、実際にはカミングアウトしておらず、この情報もBBCから提供されたかのように提示された。

BBC が Apple Intelligence の不正確さの主な被害者であるように思われるが、報道によれば、ニューヨーク・タイムズのアラートはイスラエルのベンヤミン・ネタニヤフ首相が逮捕されたと示唆するように歪曲されたが、実際には逮捕されていなかった。

Appleはこれらの誤りについて謝罪しておらず、AIがこれらの誤りを犯したことを明確に認めてもいない。しかし同社は今週、Apple Intelligenceの要約には改善の余地があると認め、近日中に実施されるソフトウェアアップデートで改善すると約束した。

「Apple Intelligenceの機能はベータ版であり、ユーザーからのフィードバックを参考に継続的に改善を行っています」と同社は述べています。「今後数週間以内に予定されているソフトウェアアップデートでは、表示されるテキストがApple Intelligenceによる要約である場合、より明確に表示されるようになります。予期せぬ通知の要約が表示された場合は、ご報告ください。」

現時点では、通知はニュースソースから直接送信されたかのように表示されます。上部にはBBCニュース（またはNYTimesなど）と表示され、左側には公式アプリのロゴがあります。テキストがアプリから提供されたものではなく、Apple Intelligenceによって自動生成されたものであるという記述はどこにもありません。Appleはテキストの正確性を高めるのではなく、より情報量の多いラベル付けのみを約束しているように見えます…もっとも、後者の作業は日常的に進められていることを期待したいところです。

この件について、また AI の限界全般についてさらに詳しく知りたい場合は、Macalope の最新コラム「Apple Intelligence がこの見出しを書いたわけではない」をお読みください。

著者: David Price、Macworld編集者