본문 바로가기
컴퓨터과학과

[AI] 플레이그라운드 Chat 모드에서 세 영역, 시스템 역할, 대화 입력, 설정

by 공부하는노년 2024. 8. 7.
반응형

Chat 모드에서 세 영역, 시스템 역할, 대화 입력, 설정

Chat 모드에서 인터페이스입니다. 크게 세 영역으로 나뉘는데, 시스템의 역할을 지정하는 'SYSTEM' 영역이 있습니다. 그 아래 대화 입력하는 창이 있고, 오른편에는 각종 옵션을 조정하는 설정 창이 있습니다.

시스템 역할 입력

챗봇의 페르소나를 정의하는 텍스트를 입력합니다. 원하는 챗봇을 만들기 위해 가장 많은 실험을 이곳에서 합니다. 

Chat 모드에서 세 영역

 

대화 입력 영역

사용자와 AI 모델 간의 상호 작용이 이루어지는 곳입니다. 사용자가 상단 영역에 입력한 내용에 대한 AI의 응답이 이곳에 표시됩니다. 또한, 사용자는 여기에서 추가 질문이나 요청을 입력할 수 있으며, AI는 이에 대해 계속해서 응답하게 됩니다. 이 영역은 사용자와 AI 간의 대화가 실시간으로 이루어지며 상호 작용이 진행되는 중심적인 장소입니다.

 

설정값 설정 영역

언어 모델의 여러 성질을 정할 수 있는 곳입니다. 여기서는 다음과 같은 파라미터들을 조정할 수 있습니다:

  • Temperature (온도): AI가 생성하는 응답의 창의성과 예측 불가능성을 조절합니다. 높은 온도는 더 창의적인 텍스트를, 낮은 온도는 더 일관되고 예측 가능한 텍스트를 생성합니다. 이 값을 0으로 설정하면 동일한 질문에 대해 거의 같은 대답을 하고, 2로 설정하면 매번 다른 대답을 창의적으로 합니다.
  • Maximum Tokens (최대 토큰 수): AI가 생성할 수 있는 텍스트의 최대 길이를 제한합니다.
  • Top P: 생성될 텍스트의 다양성을 조절합니다. Temperature는 확률 분포의 모양새를 뾰쪽하게 만들지, 또는 펑퍼짐하게 만드는 값입니다. 이에 비해 'Top P'는 다음 단어를 선택할 때, 후보군 중에서 확률이 높은 단어만 취하고, 확률이 낮은 단어는 버리는 방식입니다. 
  • Frequency Penalty (빈도 패널티)Presence Penalty (존재 패널티): 이 설정들은 텍스트의 반복을 줄이는 데 사용됩니다. Frequency Penalty는 동일한 단어의 등장 빈도에 비례하여 벌점을 부여하는 변수입니다. 이에 반해 Presence Penalty는 동일한 단어가 등장했는지 여부에 따라 벌점을 부여함으로써 화제를 새롭게 전환하도록 유도합니다. 두 변수를 음수로 설정하면 정반대로 작동하여 같은 단어가 자주 등장합니다.

이러한 설정들은 AI 모델의 출력을 조정하고 사용자의 요구에 맞춰 최적화하기 위해 중요합니다. 사용자는 이 영역을 통해 AI 모델의 동작 방식을 세부적으로 제어할 수 있으며, 다양한 실험을 통해 원하는 결과를 얻을 수 있습니다.

댓글