【論文紹介】Sampler Design for Bayesian Personalized Ranking by Leveraging View Data-ぐぐりらにっき

こんにちは、ぐぐりら(<a href="https://twitter.com/guglilac">@guglilac</a>)です。

今回は

Sampler Design for Bayesian Personalized Ranking by Leveraging View Data

という論文を読んだので要点をまとめます。

## 3行まとめ
implicit feedbackでランキング学習を行うBayesian Personalized Ranking(BPR)のnegative samplingが非効率的であることを実験的に示し、itemがviewされたかどうかの情報を用いたsamplingやlossの設計を行うことで改善した。

## 論文リンク

今回読んだ論文のリンクがこちら。

<a href="https://arxiv.org/abs/1809.08162">arXiv</a>

IEEE Transactions on Knowledge and Data Engineeringの論文です。
Date of publication : 29 July 2019だそうです。

WWW2018にshortバージョンがありました。

WWW2018の方

<a href="https://dl.acm.org/citation.cfm?id=3186905">An Improved Sampler for Bayesian Personalized Ranking by Leveraging View Data</a>

これに加筆したものがarXivに上がっているみたいですね。一応目を通しましたがarXivの方に全て書かれている内容でした。

## Bayesian Personalized Ranking(BPR)

implicit feedbackでは、広告がクリックされたり商品が購入されたりといった正例のみがログとして観測され、いわゆる負例が観測されないという問題設定を考えます。

観測されていないuserとitemの組み合わせは、

* userがitemを好んでいない(認知している上で購入していない)
* userがitemをまだ認知していない(本当は好きなitem)

を含むため、単純に負例として扱うのは筋が悪いです。
BPRはこのような問題設定の元、userが与えられたもとでitemのレコメンドのランキングを作る、という際に用いられる手法です。

詳しくはこちら

【論文紹介】BPR: Bayesian Personalized Ranking from Implicit Feedback (UAI 2009)

簡単にいうと、観測されたuserとitemのペアは、観測されていないペアよりも好まれているだろうと仮定をおいて、モデルは2pair与えられた時にその順序を正しく判定できるように学習する、というlossをBPRと言います。

トレーニングデータには観測されたlogしかないので、観測されていないuser-itemのペアはsamplingしてきます。

BPRでは一様にランダムサンプリングするとしていましたが、この部分について調べている<a href="https://dl.acm.org/citation.cfm?id=2484126">研究</a>もいくつかあります。

## 前実験

BPRのランダムサンプリングの範囲を未観測データ全体としていた部分を、一部からのみサンプリングしてきてもそんなに結果が変わらなかったらしいです。

## 提案手法

大きく分けて二つあり、
そのうち後者のweighted lossを改善した派生版も入れると三種類の手法を提案しています。

* biased sampling
* weighted loss

どちらも、viewの情報をclickとunobservedの間の強度のシグナルと考えています。

clickされているもの > viewしているけどclickしていない > viewもclickもしていない

という順でuserがitemを真に好んでいる度合いを捉える、というものです。

## Biased sampling

こちらはsamplingの仕方をBPRの一様ランダムサンプリングから改良しよう、というアイデアです。

clickされているもの > viewしているけどclickしていない > viewもclickもしていない

を
C (clicked) > V (viewed) > U (unobserved)

と書くことにします。

今回の手法では、正例負例のペアを、
(正例,負例) = (C,V) ,(V,U), (C,U)
の三つの組み合わせから取ってくることにします。

ただし、どの組み合わせからサンプリングするかはあらかじめ決めた確率

$$\omega_1,\omega_2,\omega_3 (\omega_1+ \omega_2+ \omega_3=1)$$

にしたがって行います。この確率はハイパーパラメータです。
lossの形はBPRと同じです。

このため、viewされたけどclickされていない(つまりV)データは、BPRの正例にも負例にもなりうるのが特徴ですが、これは学習が難しそうなので、次のlossバージョンを考えたと著者らは述べています。

## weighted loss
こちらでは、BPRが1pairずつサンプリングしてきたように、こちらは
(click,view,unobserved)の三つ組を一つずつランダムサンプリングしてきます。

一様ランダムサンプリングしていて工夫は特にないです。

このうち、
(C,U)の組に対しては普通にBPRのlossを計算します。

(C,V)の組と、(V,U)の組について、ハイパーパラメータ$\alpha$で重み付けたBPR lossの和を計算します。

全体のlossはこれらの和です。

$\alpha$は、viewされたデータをpreferenceが高いと捉えるか低いと捉えるかを調整するパラメータと言えます。

例えば、
単純にviewしているものは興味があることが多いので、好みである可能性も高いと考えられる(viewは正例の兆し)という場合の他に、色々比較して他のitemを買った場合は、もうそのitemを買うことはなさそう(viewしたから負例と思って欲しい)と考えられたりもします。

viewされたものが高く評価されて欲しいか、低く評価されて欲しいかを$\alpha$で調整するというイメージです。

## user-aware weighting strategy
この$\alpha$を決める部分を、userごとに変えよう、というのが最後の手法。

viewとclickをuserごとに調べて、そのratioを用いてこのhyper parameterを決めています。

イメージとしては、いっぱい見てclickするuserはviewが負例の兆しなので、$\alpha$は大きくして、逆のuserはviewしたものは次clickされるかも、という兆候と捉えて$\alpha$を小さくする、という手法です。

$\beta$はそのuser-aware weightingの度合いを決めるハイパーパラメータ。

## 実験

datasetは
* Tmall
* Beibei

を使用。
評価は
* NDCG
* HR(Hit ratio)

でどちらも高い方が良いです。

Tmallはセール期間があったので、その影響を除いたバージョンも作って実験しています。

各提案手法の呼び分けはこちら。

* prob: biased sampling
* loss : weighted loss
* $loss^\beta$ : user-aware weighted loss

結果を見ると

* viewの情報が有効なデータセットではprobでもがっつり改善されているけど、そうでもないのもある
* probとlossだと、lossの方が強い
* user awareにしたら少し改善したように見えるけどそんなに改善率は大きくない

## vanila vs prob

## prob vs loss

## loss vs user-aware

viewデータが有効なタスクかどうかでかなり結果の傾向が分かれるよなあ、というイメージでしたが結果もそんなかんじ。

詳しくは本論文の結果を見て欲しいのですが、ハイパーパラメータの探索をすると各タスクごとにviewを正例と捉えるか負例と捉えるべきかが違っていて面白いなと思いました。

## おわりに

viewデータを使ってBPRを改善したSampler Design for Bayesian Personalized Ranking by Leveraging View Dataを読みました。

viewが必ずしもclickの兆しではないことが面白いかな、と感じました。

Viewデータを取り入れたimplicit feedbackの改善は、BPRに限らずいくつかありそうなので、次はそういった論文も読みたいです。(オススメあれば教えてください!)

ありがとうございました。

【論文紹介】Sampler Design for Bayesian Personalized Ranking by Leveraging View Data

0 件のコメント:

コメントを投稿

このブログを検索

POPULAR POSTS

SPONSORED LINK

RECENT POSTS

TWEETS

ARCHIVES

LABEL

CONTACT