もう3,4年前になりますが、米国のウォルマートのECサイトで、大変な事件に発展したことがあります。「猿の惑星(Planet of the Apes)」という映画がありますが、この映画に対して、ネット上でおすすめされたのが、アフリカ系アメリカ人の有名な指導者マーチン・ルーサー・キング関係の映画だったという事象がありました。
日本人ならば、なんてことなく見過ごすようなことかもしれません。
が、
やはり米国でのアフリカ系アメリカ人の歴史もあり、「サル=アフリカ系アメリカ人」というのに過剰反応(?)した人たちが、ウォルマートは人種差別をしているとの非難と抗議をネット上でごうごうと吹き荒れさせたのです。
この結果、もちろんこのレコメンデーション表示は取り下げられただけでなく、レコメンデーションシステムそのものも入れ替えという結末になりました。
日本ではまだ、「へんなおすすめ」がでているというレベルで終わっている場合も多いようですが、この事例でもわかるとおり、「レコメンデーション=ユーザーとの信頼」であり、単なる売上アップのツールではありません。いったん、ユーザーとの信頼を失えば、その信頼を取り戻すためには倍以上の努力が必要です。
ちなみに、ウォルマートの説明は、「マニュアルで設定したひもづけのせいだった、スタッフが間違ってひもづけしてしまった」ということだったようです。これももう一つしっくり行かない説明です。