[MEMIT] Mass-Editing Memory in a Transformer

[bigshanedogg]

Problem statement

1. ROME에서 다루었던 'locate than edit' 방식의 실용성을 개선한 knowledge edit 제안
   • ROME의 '1 edit per 1 statement'는 batch edit도 불가능하고, 동시에 semantically equiavalent한 문장에 대한 edit도 별도로 해주어야함을 뜻한다.

Glossary

• 용어 & 개념 정의 줍줍

Baseline

• 기존 방법/모델

Data details

• 어떤 데이터를 실험에 이용했는지

Approach

• 어떤 모델 구조를 이용헀는지
• 왜 이런 방식을 채택했는지
• 어떤 방법론을 이용하여 모델 학습/실험을 진행했는지

Evaluation

• 어떤 데이터/방식으로 평가했고
• 어떤 결과가 나왔으며
• 이런 결과가 나온 이유는 무엇인가

Limitations

• 제안된 구조의 약점
• 저자가 숨기고 싶어하는 부분 혹은 논리적 허점