Open AkihikoWatanabe opened 4 months ago
ライセンスによると、LLaMA3を利用したモデルはどんな場合でもLlama3をprefixとして付与しないといけないらしい
元ツイート:https://x.com/gneubig/status/1781083579273089442?s=46&t=Y6UuIHB0Lv0IpmFAjlc2-Q
LLaMA3がChatBot ArenaでTop 5になったとのこと。また、英語においては、GPT4-1106-preview, GPT-4-turbo-2024-0409と同等の性能を達成。これはすごい…
https://x.com/lmsysorg/status/1782483699449332144?s=46&t=Y6UuIHB0Lv0IpmFAjlc2-Q
nejumi-leaderboard #1055 にLLaMA3の評価結果が掲載された模様(画像は下記ツイートより引用)
https://x.com/madyagi/status/1783707796095316310?s=46&t=Y6UuIHB0Lv0IpmFAjlc2-Q
モデルアーキテクチャはTransformer Decoderをベースにしており、Llama2と比較して
context: 8192
https://ai.meta.com/blog/meta-llama-3/