AI 모델이 다음 토큰 예측을 사용하는 방법
로드 중
다음 토큰 예측 · 4분
요약스크립트
생성형 AI는 검색 엔진보다는 매우 정교한 자동완성에 더 가깝습니다. 생성형 AI는 무엇 다음에 무엇이 오는 경향이 있는지를 바탕으로 한 단어씩 답변을 작성합니다. 바로 이 하나의 속성이 유창함과 할루시네이션을 동시에 만들어냅니다.
대규모 자동완성
로드 중
핵심 요약
- 다음 토큰 예측은 생성형 AI가 무엇 다음에 무엇이 오는 경향이 있는지를 바탕으로 한 단어씩 답변을 작성한다는 사실을 의미합니다.
- 역량 영역: 모델이 여러 번 본 패턴과 유사한 작업(요약, 재구성, 일반적인 개념 설명)입니다.
- 한계 영역: 새롭거나 드문 영역, 그리고 "참"과 "참처럼 들리는 것"을 구별해야 하는 모든 작업입니다.
- 날조는 구체성에서 집중적으로 발생합니다: 이름, 날짜, 통계, 인용, URL, 인용문 등입니다. 주장이 정확할수록 검증이 더 필요합니다.
- 제품 기능(인용, 불확실성 신호, 제한된 생성, 생성자-검증자 루프 등)은 바로 이 한계를 더 멀리 밀어내기 위해 존재합니다.
- 4D 연결: 다음 토큰 예측은 분별력의 기반입니다. 결과물이 생성되었다는 사실을 아는 것만으로도 어떤 종류의 검토를 적용해야 하는지 정확히 알 수 있습니다.
연습
검증 테스트
왜 중요할까요? AI를 유창하게 만드는 바로 그 생성 과정이 AI로 하여금 날조하게 만드는 과정이기도 하다는 것을 이제 알게 되었습니다. 여러분이 직접 포착할 수 있는 영역, 즉 자신의 전문 분야에서 이를 직접 확인해볼 차례입니다.
작업 목록으로 돌아가서 자신의 전문 지식에 가장 자신 있는 작업을 선택하세요. 돌아오는 답변을 검증할 수 있어야 하므로, 여러분이 전문가인 주제가 필요합니다. 해당 분야에서 확인 가능한 구체적인 사실 다섯 가지를 적어보세요: 어떤 사람의 직책, 출판 날짜, 통계, 제품 사양, 직접 인용문, URL 등입니다. 정확하다고 알고 있고 독립적으로 확인할 수 있는 것들이어야 합니다.
이제 세 가지 테스트를 실행해보세요:
- 테스트 1: 역량 영역. AI에게 여러분의 분야에서 잘 알려진 개념을 설명하거나 요약해달라고 요청하세요. 대중적이고 잘 문서화된 내용이어야 합니다. 유창함을 확인하고, 내용을 샘플 검토해보세요. 이것이 바로 역량 영역의 느낌입니다: 매끄럽고, 자신감 있으며, 대체로 정확합니다.
- 테스트 2: 압박 속의 구체성. AI에게 여러분의 분야에서 확인 가능한 구체적인 사항 다섯 가지를 제공해달라고 요청하세요: 출처 세 개를 인용하고, 저자를 명시하고, 정확한 수치를 제시하고, URL을 제공하도록 하세요. 각각을 모두 검증하세요. 5점 만점으로 채점하세요: 완전히 정확했던 것은 몇 개였나요? AI가 날조했다면, 그때 얼마나 자신감 있게 들렸는지 기록하세요.
- 테스트 3: 작동 중인 샘플링. 완전히 동일한 구체적 사실 요청을 새로운 대화에서 실행하세요. 두 결과물을 비교하세요. 무엇이 일관되게 유지되었나요? 무엇이 달라졌나요? 여러분이 보는 그 변동성은 다음 토큰 예측의 샘플링이 작동하고 있다는 증거입니다.
도전 과제: 인용 기능이 활성화된 도구(Claude의 리서치 기능 등)에서 테스트 2를 다시 실행해보세요. 다시 채점해보세요. 확인할 출처가 있으면 점수가 달라지나요?
수업 성찰
- 잘 알지 못하는 분야였다면 날조를 포착할 수 있었을까요?
- 작업 목록을 살펴보세요: 어떤 작업이 주로 역량 영역에 속하고, 어떤 작업이 검증이 필요한 구체성 영역으로 밀고 들어가나요?
다음 단계
다음 토큰 예측은 AI가 어떻게 생성하는지를 설명합니다. 다음으로 우리는 AI가 무엇으로부터 생성하는지를 살펴봅니다. 바로 지식 속성입니다. 모델이 실제로 무엇을 알고 있는지, 그 지식이 어디에서 비롯되는지, 그리고 빈틈은 어디에 있는지 살펴보겠습니다.