k-young-passionate commented 2 months ago

첫 글이라서 기술 위주 글보다는, 실용적인 주제로 가볍게 써보았습니다. ㅎㅎ… 가독성, 주제, 내용 등 피드백은 언제나 환영입니다. 3주간 잘 부탁드립니다 :)

요약

언어 기반의 생성형 AI 에게 똑똑한 답변을 이끌어내는 기술 (prompt engineering)

chat gpt 소개

chat gpt란 2022년 11월 30일 출시된, 언어 기반의 생성형 AI이다. 어떤 prompt가 들어오면, 그 다음에 나올 확률이 가장 높은 텍스트를 출력하여 문장을 생성한다.

chat gpt 출시에 각자 느끼는 것은 다르겠지만, 저자는 인간은 새로운 형태의 검색 UI를 마주치게 되었다고 생각한다. 이는 제한된 형태로 제한된 곳에서 쓰이던 LLM(대규모 언어 모델, 언어를 이해하는 모델) 이란 기술을 일반인들이 접하게 되며, 수많은 기업에서 같은 방식의 interface를 통해 LLM 서비스를 제공하게 만들었다.

언어기반 생성형 AI 이용 시의 답답함

이 글을 읽는 독자들은 한 번이라도 chat gpt, gemini, clova x 등 LLM 기반 “언어 기반 생성형 AI”를 이용해보았을 것이라 생각한다. 또한, 사용해보면서 답답함을 느낀 경험 또한 있을 것이라 믿는다.

똑똑한거 같기는 한데, 가끔씩 창의적인 멍청함, 혹은 그냥 이상한 답변을 사실처럼 하는 경우가 많아 화가 나거나 구글링으로 쉽게 찾을 수 있을 법한 무언가를 더 오랫동안 찾아 시간낭비를 했던 기억이 있다.

아래는 올해 상반기에 저자의 숏폼 피드에 자주 돌아다니던 류의 컨텐츠이다.

당시 chat gpt는 n행시에 대한 개념을 완벽하게 이해를 못했고, 유저들은 이런 chat gpt를 이용하여 나온 답변을 기반으로 학교의 로고를 수정하여 재밌는 영상을 만들었다.

이렇게 학습의 부족 등을 이유로 화자가 의도하지 않는 답변을 하는 경우가 아직은 많이 있다. 그럼 이런 생성형 AI들은 정말로 멍청해서 이렇게 답을 내는 걸까?

prompt engineering

chat gpt 가 4o 모델이 나오면서 대부분의 답변은 자세한 프롬프트(생성형 AI 에 요청하는 자연어 텍스트, 출처 aws 문서) 없이 잘 답변하지만, 초창기에는 더더욱 오류가 많았다. 그러한 와중에 어떠한 사람들은 더 잘 대답하게 만드는 노하우들을 만들었는데, 이를 prompt engineering 이라고 부른다.

prompt engineering에는 여러 기법들이 있는데 이 글에서는 대표적인 기법 두 가지를 소개하려고 한다. 장황한 설명보다는 예시를 통해서 설명을 하려고 한다. 이를 위해 아직 n행시에 대해 이해를 잘 못하고 있는 Gemini 모델을 이용해보겠다.