リコメンデーション・アルゴリズムとは
リコメンデーション・アルゴリズムとは、インターネット上での検索サービスやプラットフォームサービス（マッチングサービスや掲示板など）を運営する事業者が、これらのサービスでのコンテンツの表示順位等を決定するために用いるAIシステムのことを指します。ECサイトやブログなどでの購買履歴や閲覧履歴に基づき、ユーザー毎に異なるおすすめ商品を表示したり、バナー広告やリスティング広告の表示内容を自動選択したりするアルゴリズムも、同様にリコメンデーション・アルゴリズムに含まれます。
ランキング表示の問題点
リコメンデーション・アルゴリズムは、ユーザー毎に表示内容を自動的に最適化してくれるため、ユーザーが必要としている情報が目につきやすくなるというメリットがあります。ただし一方で、このようなアルゴリズムが悪用された場合には、たとえば高齢者や年少者などの個人の属性による脆弱性を利用し、判断力の十分でないユーザーを高額商品の購入に誘導するというような詐欺的な使用方法も可能となります。また消費者ごとに異なる価格で同じ商品を販売するというようなことも可能であり、この場合、その商品を必要とする消費者ほど高く買わされてしまうおそれがあります。この他に、上位表示されるコンテンツは人気のコンテンツと思わせる効果があるため、広告料を支払って上位表示されたコンテンツに広告であるという表示がない場合、それが人気のコンテンツであるという誤った印象を与えるおそれがあります（Googleなどの検索結果で「sponsored」などの表記が付されているのはこのためです）。上記のようなリスクを予防するため、各国でリコメンデーション・アルゴリズムに対する規制が導入され、そのアルゴリズムの仕様を一定程度情報公開することを義務付けています。
リコメンデーション・アルゴリズムに関してCACは、2021年12月31日に「電子情報サービスのリコメンデーション・アルゴリズム運営に関する規則」[i]を策定し、同規則は2023年3月1日から施行*されています。リコメンデーションにアルゴリズムが使用されている旨を利用者に表示することを義務付けるとともに、利用者はアルゴリズムを利用しない選択ができるようにした上、「ユーザーがリコメンデーション・アルゴリズムを停止することを選択した場合、リコメンデーション・アルゴリズムサービスの提供者は、ただちに関連サービスの提供を停止しなければならない」としてオプトアウト（任意的脱退）の提供を義務付けています。
また未成年者や高齢者等の判断量が十分でない消費者に対する配慮措置を講ずるよう事業者に求め、「消費者の嗜好、取引習慣その他の特性に基づいて取引価格その他の取引条件に不当に差を設ける等」、リコメンデーション・アルゴリズムを利用し、商品の価格に個人差を設けることを禁止しています。
EUにおいては、利用者保護という観点からデジタルサービス法（DSA）においてリコメンデーションに対する規制が施されています。特定の事業者（検索エンジンを提供する事業者や、大規模なオンラインプラットフォームを運営する事業者など）は、リコメンデーションに①使用される主要なパラメータ、および②サービスの受信者がこれらの主要なパラメータを変更または影響するためのオプションを、それぞれおユーザーに表示する必要が課せられます。また①サービスの受領者に提案される情報を決定する上で最も重要な基準、および②それらのパラメータの相対的重要性の理由を開示するべきこととしています。またデジタル市場法（DMA）[ii]においても、大規模オンラインプラットフォーマーが、その市場支配力を利用し、ランキング表示において自社の商品を優遇することにより、他の市場で不当に優位を得ることが制限されています。
日本においては、2020年6月3日に「特定デジタルプラットフォームの透明性及び公正性の向上に関する法律」が公布され、同法において、「特定デジタルプラットフォーム提供者」として経済産業省により指定された事業者は、透明性レポート等の報告書の提出・公開義務を負う他、ランキング決定に関する主要な事項を利用者に通知する義務を負うこととされています。また広告宣伝費の支払いによりランキングが変動する場合においては、そのコンテンツが広告でることも開示することとされています。
[i] ” 互联网信息服务算法推荐管理规定”. 中華人民共和国中央人民政府. 2021/12/31 [ii] ”Regulation (EU) 2022/1925 of the European Parliament and of the Council of 14 September 2022 on contestable and fair markets in the digital sector and amending Directives (EU) 2019/1937 and (EU) 2020/1828 (Digital Markets Act)”. EUR-LEX. 2022/10/22. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32022R1925