허허의 오늘은 뭐 먹지?

GPT에서 말하는 "토큰(Token)"이란, 텍스트(문자열)를 모델이 처리할 수 있는 단위로 쪼개어 놓은 것을 의미한다.예를 들어, 사람이 작성한 글(문장, 단어, 문장부호 등)을 GPT가 이해하기 위해선 이를 내부적으로 작은 조각들(토큰)으로 분할해야 한다.아래는 토큰에 대한 주요 특징이다:텍스트의 최소 처리 단위토큰은 단어 전체가 될 수도 있고, 단어의 일부(접사)나 문장부호가 붙은 형태가 될 수도 있다.예를 들어, “playing”이라는 단어가 play + ing 두 개의 토큰으로 분리될 수 있다.공백, 구두점, 특별 기호 등도 독립된 토큰으로 처리될 수 있다.언어 모델 학습과 추론에 활용GPT는 입력으로 들어오는 텍스트를 토큰 단위로 인식하고, 각 토큰을 벡터(수치)로 변환해 모델에 입력한다.모델..

"GPT에서 메모리"라고 말할 때, 주로 GPT 모델이 대화를 기억하고 맥락을 유지하는 방법을 의미한다. GPT(ChatGPT 포함)는 사람이 대화를 이어갈 때마다 이전에 주고받은 메시지를 어느 정도 **‘문맥(Context)’**으로 인식하고 답변을 생성한다. 다만 이 ‘메모리’는 사람이 생각하는 장기 저장장치 같은 개념과는 다소 차이가 있다. 간단히 정리하면 다음과 같다.토큰 단위의 문맥(Context Window)GPT는 내부적으로 텍스트를 ‘토큰(token)’이라는 단위로 처리한다.일정 범위(예: 몇 천~수만 개)의 토큰 안에서만 과거 대화를 ‘기억’하고, 그 범위 바깥 내용은 잊어버린다.즉, 현재 대화에서 특정 길이까지만 GPT가 맥락을 반영할 수 있다.장기 저장소는 없다일반적으로 ChatGPT..

ChatGPT 프롬프트 작성 가이드ChatGPT에 질문하거나 요구사항을 전달할 때는, 간결하면서도 구체적인 지시사항을 포함하는 프롬프트를 작성해야 원하는 결과를 얻을 확률이 높아진다. 아래 가이드를 참고해 효과적인 프롬프트를 구성한다.프롬프트의 목적을 명확히 한다해결하고 싶은 문제, 얻고 싶은 정보, 생성하고자 하는 텍스트의 종류를 분명히 정의한다.예: “마케팅 이메일 초안을 작성해 달라”보다 “신제품 스마트폰을 홍보하는 영문 마케팅 이메일 초안을 작성해 달라”라고 하면 보다 구체적인 결과를 얻는다.배경 정보와 맥락을 제공한다필요한 경우, 해당 작업을 수행하기 위한 최소한의 배경 정보나 조건을 제공한다.예: 어떤 독자를 대상으로 하는지, 어떤 문체나 형식을 원하는지, 어느 정도의 전문성을 요구하는지 등을..