프롬프트 엔지니어링

본 자료는 고등학교 2학년 대상으로 수업을 진행한 생성형 AI 교육에 관한 자료이다.

프롬프트

프롬프트는 생성형 AI에게 무엇을 만들지 알려주는 "요청사항" 또는 "질문"이라고 생각하면 된다. 마치 AI에게 "이거 만들어줘"라고 말하는 것과 비슷하다.

프롬프트를 정확하고 구체적으로 작성할 수록 AI가 우리가 원하는 결과물을 더 잘 만들어줄 수 있다.

 

 

프롬프트 엔지니어링

프롬프트 엔지니어링은 AI에게 원하는 결과를 얻기 위해 프롬프트(요청사항)를 어떻게 작성할지 구성하고, 다듬는 과정이다. 즉, AI가 우리가 원하는 대로 답을 하도록 질문을 잘 만드는 기술이다.

좋은 프롬프트를 만들면 AI가 더 정확하고 창의적인 결과를 만들어줄 수 있다.

 

 

할루시네이션

할루시네이션은 AI가 실제로는 없는 정보나 틀린 내용을 마치 사실인 것처럼 만들어내는 현상이다.

AI가 정보를 정확하게 이해하지 못하거나 데이터를 잘못 해석할 때 이런 일이 발생할 수 있다.

 

- 할루시네이션 예시

세종대왕 맥북프로 던짐 사건

출처 : 한국일보 https://www.hankookilbo.com/News/Read/A2023022215200000727

이처럼 AI가 항상 정확한 답을 주는 것은 아니라는 점이 중요하다.

 

- 할루시네이션의 원인

1. 생성적 특성

LLM은 기본적으로 확률적으로 다음 단어를 예측하여 텍스트를 생성한다. 이 과정에서 모델이 선택한 단어나 문장이 사실과 다를 수 있으며, 이러한 누적된 선택들이 할루시네이션 현상을 유발한다.

예를 들어 "밥을 입는다./먹는다." 두 가지 선택지가 있을 때 일반적으로 우리는 "밥을 먹는다."라고 하기 때문에, 확률적으로 "먹는다."를 선택한다. 하지만 확률이 틀릴 경우 잘못된 선택이 할루시네이션 현상을 유발할 수 있다.

2. 학습 데이터의 부족 또는 편향

학습 데이터에 특정 주제나 상황에 대한 충분하거나 균형 잡힌 정보가 부족하다면, 모델은 잘못된 정보를 생성할 수 있다.

3. 업데이트 시간차

학습시간이 굉장히 오래 걸리기 때문에 최신의 데이터를 학습하는데 오랜 시간이 필요하다.

 

 

프롬프트 엔지니어링 기술 논문

- 논문으로 검증된 26가지 프롬프트 엔지니어링 기술

출처 : https://arxiv.org/abs/2312.16171

논문에 따르면 프롬프트 엔지니어링 기술을 적용하였더니, 품질 57.7% ,정확도 36.4% 가 상승하는 효과를 얻을 수 있다고 하였다.

https://youtu.be/mC2b57u_s0k?si=P8Nw3aQHVK7z7nQM

관련 영상을 첨부하니 참고해 봐도 좋을 것 같다.

 

---

프롬프트 엔지니어링 교육자료를 만들면서 참고한 책을 추천하니 필요 시 참고하면 좋을 거 같다.

https://search.shopping.naver.com/book/catalog/42473809620?cat_id=50005830&frm=PBOKPRO&query=%ED%94%84%EB%A1%AC%ED%94%84%ED%8A%B8+%EC%97%94%EC%A7%80%EB%8B%88%EC%96%B4%EB%A7%81+%EA%B5%90%EA%B3%BC%EC%84%9C&NaPm=ct%3Dm2n21hyo%7Cci%3D96a0b320b1ab2836479826a74a95a9323e2a9b95%7Ctr%3Dboknx%7Csn%3D95694%7Chk%3D052c051a764b7aa47f157d6484a6343e12f95644

프롬프트 엔지니어링 교과서 : 네이버 도서