Open zerebom opened 1 year ago
Hayashi-Yudai
commented
1 year ago Amazonのブログ。関連商品のおすすめをするためにGNNをうまく使ったという話。
普通GNNは畳み込みで何ホップ先の情報まで取り込むかはすべてのノードで同じだが、ここで紹介しているモデルではあえてこれを変えている。リンクしているノード数が少ない場合にはより正確なノードのembeddingを作成するために畳み込む情報の量を多くしている。これによって様々なデータセットで精度の劇的な改善が見られた。
hakubishin3
commented
1 year ago コードリーディングやりたい...(できていない)
nogawanogawa
commented
1 year ago 以前紹介されたのを日本語で読めるようになってるらしい。
gpt4-pdf-chatbot-langchainの仕組みを「よりコントローラブルで生っぽい処理を体験」するために自力で作ったそう。
今回作った仕組みは基本的には gpt4-pdf-chatbot-langchain とほぼ同じ仕組みです。
そこで、質問に関連する一部の文書だけを検索してきて prompt に追加することが１つの解決策になります。 このように言語モデルの知識を補完するために関連する文書を外部の文書集合から検索してきて言語モデルに入力として与えるような技術を、Retrieval-augmented Language Model (LM) と言います。
Retrieval-augmented LMの紹介。
zerebom
commented
1 year ago 下記のように簡単に解釈した。
ChatGPT-4とペアプロしたときの体験をまとめた記事を書きました。(宣伝)
上記のペアプロしたときの質問からトピックを抽出して可視化しました。(宣伝)
Why
推薦・機械学習勉強会は、推薦や機械学習、その周辺技術を通じてサービスを改善することにモチベーションのある人達の集まりです。ニュースやブログから論文まで、気になったものについてお互い共有しましょう！
発信のため、ここは public にしてあります。外部からの参加をご希望の方は樋口(https://twitter.com/zerebom_3) まで DM を送るか、Wantedly Visit の募集（https://www.wantedly.com/projects/391912） よりご連絡ください！
What
Wantedly では隔週木曜日に
といった話をする「推薦・機械学習勉強会」を開催しています。 この ISSUE はその会で話すネタを共有するための場所です。
話したいことがある人はここにコメントしましょう！ 会の間に話した内容もここにメモしましょう！
prev: #188