Googleは独自のAIを放棄した!!

人工知能、公衆衛生情報、デジタルガバナンスの間で急速に進化する交差点において、世界で最も強力なテクノロジー企業の1つが、何百万人ものユーザーに対する未検証の医療アドバイスを拡大する危険性があると批評家が警告した実験機能をひっそりと撤回した。 グーグル は現在、「What People Suggest」として知られる人工知能主導の検索機能を放棄しました。このツールは、インターネット上の見知らぬ人からクラウドソーシングされた健康アドバイスを集約して提示しようとしたツールです。この機能の削除は、世界中の何十億人もの人々が利用する健康情報の形成における人工知能の役割に対する厳しい監視の中で行われた。

現在は廃止されているこの機能は、もともと同社の検索エコシステムに生成人工知能を組み込むという広範な戦略の一環として導入された。発表当時、同社はこの取り組みを、特定の病状を経験した個人からの洞察にユーザーが迅速にアクセスできるようにすることで、世界の健康成果を変革できる技術的ブレークスルーとして構想しました。その前提は、関節炎などの症状に関する情報を検索している人は、権威ある医学情報源だけでなく、他の人がどのように運動、食事、または治療習慣を管理しているかについての個人的な説明からも恩恵を受ける可能性があるということでした。しかし、オンラインでの議論から得られた健康上のアドバイスをアルゴリズムによって要約するというアイデアは、医療専門家やデジタルガバナンスの専門家の間で即座に懸念を引き起こしました。査読済みの医学文献や公認の保健当局が発行するガイダンスとは異なり、ユーザーが作成したディスカッションには、臨床証拠によって裏付けられていない可能性のある逸話的な主張、未検証の治療法、誤った情報が含まれることがよくあります。人工知能システムがそのような議論を一見権威ある要約に再編成すると、専門的な医学的アドバイスとカジュアルな意見の区別があいまいになる可能性があります。この機能自体は、ヘルスケア関連の技術革新を紹介するために同社が主催する年次集会「The Check Up」として知られるニューヨークのイベントで公に紹介された。当時、同社の最高衛生責任者を務めていたカレン・デサルボ氏は、同社の公式ウェブサイトに掲載されたブログ投稿で実験の背後にある理由を説明した。同氏は、ユーザーは専門家からの信頼できる医療情報にアクセスするために検索エンジンを頻繁に利用しているが、多くは同じ症状を個人的に経験した人々からの安心感や視点も求めていると主張した。 DeSalvo 氏によると、人工知能システムはオンラインのディスカッションを分析し、理解しやすいテーマに整理して、ユーザーが他の人が共有するさまざまな経験を迅速に把握できるようにします。

この機能は当初、米国内のモバイル デバイスで展開されました。その導入は、大手テクノロジー企業が生成型人工知能を検索エンジン、メッセージング プラットフォーム、生産性ツールに統合しようと競い合っていた時期に起こりました。この競争環境において、ユーザーのクエリに対して会話形式でパーソナライズされた応答を提供できる機能は、デジタル エコシステムでの優位性を維持しようとしているテクノロジー企業にとって中心的な戦略目標となっています。しかし、検索における人工知能の広範な展開により、規制当局、学者、医療専門家の間で、厳格な保護措置なしで健康情報の自動要約を信頼できるかどうか疑問視する不安が増大している。今年初め、検索プラットフォームに組み込まれた別の人工知能製品（AI Overviews）が、特定のクエリに対して誤解を招く、または不正確な健康関連の応答を生成していたことが調査で明らかになり、懸念が強まった。これらの自動要約は検索結果ページの上部に表示され、現在毎月約 20 億人のユーザーに表示されており、デジタル世界で最も広く閲覧されているアルゴリズム出力の 1 つとなっています。

この調査は、人工知能によって生成された不正確な健康上のアドバイスがユーザーを現実世界の危害にさらす可能性があると警告する独立専門家の間で警戒を引き起こしました。同社は当初、概要が信頼できる情報源にリンクしており、医療専門家への相談を推奨する場合が多いと指摘してシステムを擁護したが、その後、特定のカテゴリーの医療クエリからAIが生成した概要を削除する調整が行われた。この決定は、同社が健康関連情報をめぐる機密性の高まりを認識していることを示唆している。

このような背景から、「What People Suggest」機能が静かに消滅したことが特に注目を集めています。この決定に詳しい 3 人の関係者は、このツールが廃止されたことを認めました。この問題を直接知っているある人物は、この機能は現在では機能しなくなったと簡潔に述べています。同社の広報担当者は、この機能が実際に廃止されたことは認めたが、この措置は技術の安全性や信頼性に対する懸念への対応ではなく、検索結果ページのデザインを簡素化する広範な取り組みの一環であると主張した。広報担当者によると、この決定は数か月前に実施されており、機能の品質や安全性とは無関係だったという。同社はまた、多くの人が病状に対処する際に役立つ一人称視点を含むオンラインフォーラムなど、さまざまな情報源から信頼できる健康情報にアクセスできるようユーザーを引き続きサポートすると主張した。しかし、この説明は、健康情報の普及における人工知能の役割に対する国民の監視が強化されている時期に削除が行われたと指摘する観察者を完全に満足させたわけではない。ジャーナリストらが同社に対し、この決定がどこで公表されたのかを特定するよう求めたところ、広報担当者はスイスのグーグルに拠点を置く検索擁護者、ジョン・ミューラー氏が書いたブログ投稿に言及した。その投稿では検索結果の構造の変更について説明していましたが、「ユーザーの提案」機能の廃止については特に言及していませんでした。

このエピソードは、企業が自動化された情報システムに関連する社会的リスクを同時に管理しながら、前例のない規模で人工知能を導入しようとする中で、テクノロジー業界内に生じている広範な緊張を示している。検索エンジンは長年にわたり、何十億人もの人々が症状、病気、治療法に関する情報にアクセスするためのゲートウェイとして機能してきました。これらのシステムに生成人工知能を統合すると、基礎となる情報源が一貫性がない、または逸話的である場合でも、アルゴリズムの出力が信頼できるように見える方法で情報を合成する可能性があるため、新たな複雑さの層が導入されます。

法的および政策の観点から見ると、このようなテクノロジーを取り巻くリスクは非常に大きくなります。多くの管轄区域では、デジタル プラットフォームは、大規模なオンライン サービスに関連するシステミック リスクに対処するために設計された規制枠組みの下でますます精査されています。たとえば、欧州連合内では、 デジタルサービス法 有害なコンテンツや誤解を招くコンテンツの拡散に関連するリスクを軽減する義務を大手テクノロジー企業に課します。超大規模オンラインプラットフォームとして指定されたプラットフォームは、定期的にリスク評価を実施し、公衆衛生に関連するリスクを含む、ユーザーへの体系的な危害を防ぐ措置を講じる必要があります。この規制は、次のようなより広範な枠組みと並行して運用されます。 一般データ保護規則、機密の健康情報を含む個人データの処理を管理する厳格な要件を定めています。病状に関するオンラインの議論を分析する人工知能システムは、そのようなデータがどのように収集、処理され、ユーザーに表示されるかについて複雑な疑問を引き起こす可能性があります。英国の規制状況には以下が含まれます。 2023 年オンライン安全法、オンライン コンテンツから生じる危害のリスクを軽減するために、デジタル プラットフォームに注意義務を課すことを目的としています。この法律は主に違法コンテンツや子供の安全などの問題に焦点を当てているが、プラットフォームの責任というより広範な概念により、規制当局はアルゴリズムシステムが健康関連情報の普及にどのような影響を与えるかを調査するよう奨励されている。

米国でも同様の議論が、 通信品位法第 230 条、これは歴史的にテクノロジー企業をユーザー生成コンテンツに対する責任から守ってきました。人工知能システムがユーザーの議論を単にホストするのではなく、要約して再解釈し始めるにつれ、法学者は従来の責任保護が引き続き適切であるかどうか疑問を抱き始めています。

したがって、クラウドソーシングによる健康アドバイス機能を廃止するという決定は、複数の管轄区域にわたる政策立案者が、そのプラットフォームが世界的な情報インフラストラクチャに不可欠となっているテクノロジー企業の責任を再評価しているタイミングで行われた。何十億人もの人々が使用する検索エンジンが医学的アドバイスを提示する場合、たとえそれがアルゴリズムによる集約を通じて間接的にであっても、潜在的な影響はデジタル環境をはるかに超えて広がります。

企業自身にとっての課題は、技術革新の追求と社会の信頼を維持するという不可欠のバランスをとることにあります。人工知能は、テクノロジー企業によって、ヘルスケアから気候科学に至るまでの分野に革命を起こすことができる変革ツールとして位置づけられています。しかし、不正確または誤解を招く出力をめぐる注目を集める論争は、その技術が特定の用途に対してまだ十分に成熟していないのではないかという懸念を強めています。

同社が今後開催する「The Check Up」イベントでは、世界的な健康課題への対処を目的とした新たな研究イニシアチブ、パートナーシップ、技術開発に焦点を当てることが期待されている。このイベントは、同社の現最高保健責任者であるマイケル・ハウエル氏が主導し、他の上級スタッフとともに人工知能と医療技術の進歩を紹介する予定だ。これらのプレゼンテーションが、「What People Suggest」機能の短期間で物議を醸した活動から学んだ教訓を取り上げるかどうかは、まだ不透明です。

明らかなことは、この機能の削除は、医療情報システムへの人工知能の統合には重大な責任が伴うという広範な認識を反映しているということです。何十億人もの人々が症状、治療法、病状に関するガイダンスを求めて検索エンジンに頼るようになると、有益なイノベーションと潜在的に有害な実験とを区別することが非常に重要になります。アマチュアの健康に関するアドバイスを増幅するように設計されたツールが静かに消滅したことは、最も強力なテクノロジー企業でさえ、人間の健康がテーマの場合、人工知能に許されるべき発言の限界を認識し始めていることを示唆しています。