생성형 AI란 무엇인가요?
AI의 기능과 한계 · 12분
이 영상에서는 Claude와 같은 대규모 언어 모델이 어떻게 구축되고 학습되는지, 그리고 이것이 실제 비즈니스에 활용할 때 안정적으로 할 수 있는 것과 할 수 없는 것에 대해 어떤 의미를 갖는지 다룹니다.
핵심 요약
- 생성형 AI는 기존 데이터를 분석하는 데 그치지 않고 새로운 콘텐츠를 만들어냅니다.
- 세 가지 발전이 현대적인 LLM을 가능하게 만들었습니다: 트랜스포머 아키텍처, 방대한 학습 데이터, 그리고 막대한 컴퓨팅 자원입니다.
- 학습은 두 단계로 이루어집니다: 사전 학습(수십억 개의 예시로부터 패턴을 학습하는 단계)과 fine-tuning(도움이 되는 방식으로 지시를 따르는 법을 학습하는 단계)입니다.
- 현재의 강점에는 다양한 작업에 걸친 범용성, 자연스러운 대화 흐름, 그리고 외부 도구와의 연결이 포함됩니다.
- 현재의 한계에는 지식 컷오프, 할루시네이션, 컨텍스트 창 크기, 그리고 복잡한 다단계 추론이 포함됩니다.
- 최고의 활용 사례는 인간과 AI의 강점을 결합합니다 — 여러분의 판단력, 창의성, 감독 능력이 AI의 속도와 규모와 함께 어우러집니다.
연습
한계 테스트하기
이 연습은 생성형 AI가 잘하는 부분과 부족한 부분에 대한 직접적인 증거를 제공합니다. 영상에서 다룬 몇 가지 구체적인 기능과 한계를 부담 없는 방식으로, 여러분 자신의 전문 분야 콘텐츠를 사용해 직접 확인해 볼 것입니다 — 그래서 AI에게 무엇을 맡길지 결정할 때, 여러분 자신의 관찰을 바탕으로 한 구체적인 직감을 갖출 수 있습니다.
파트 I: 자기 성찰 (혼자서 진행)
벤더, 공급업체, 또는 고객이 잘못 말하면 즉시 오류를 알아챌 수 있을 만큼 잘 아는 분야를 하나 고르세요. 다음을 적어보세요:
- 주제 (예: 이익률 계산, 지역 용도지역 규정, 또는 업계 라이선스 요건)
- 제대로 된 출처라면 당연히 정확히 알고 있어야 할 두세 가지 사실
- 사람들이 흔히 갖고 있는 한 가지 오해
- 제대로 설명하기가 정말 까다로운 한 가지 요소
이것이 여러분의 테스트 공간입니다. 여러분이 실제로 검증할 수 있는 내용을 AI가 어떻게 다루는지 확인해볼 것입니다.
파트 II: 협업 (AI와 함께)
Claude(또는 선호하는 다른 AI 어시스턴트)와 대화를 시작하고 세 가지 짧은 대화를 진행하세요. 각 대화가 끝난 후 알아차린 점을 적어보세요.
- 범용성 테스트. AI에게 여러분의 주제를 한 번의 응답 안에서 세 가지 다른 방식으로 설명해달라고 요청하세요: 서비스에 대해 전혀 모르는 고객을 위해 한 번, 잠재적인 비즈니스 파트너를 위해 한 번, 새로 입사한 직원을 온보딩하는 경우를 위해 한 번입니다. 대상 독자에 맞춘 전환이 실제로 잘 이루어졌나요, 아니면 단순히 어휘만 바꿨나요? 어느 버전이 가장 좋았나요?
- 할루시네이션 테스트. AI에게 여러분의 주제와 관련된 구체적인 자료 두세 가지를 추천해달라고 요청하세요 — 업계 협회, 업계 간행물, 규제 기관, 또는 잘 알려진 공급업체 등입니다. 그런 다음 최소 하나를 직접 확인해보세요. 해당 조직이 실제로 존재하나요? 웹사이트 주소가 맞나요? 연락처 정보가 정확한가요? (이 부분에서 AI가 그럴듯하게 들리지만 실제로는 존재하지 않는 출처를 자신 있게 지어내는지 확인할 수 있습니다.)
- 지식 컷오프 + 추론 확인. AI에게 시의성이 있거나 지역적인 사안을 물어보세요: 업계의 최근 규제 변화, 핵심 자재의 현재 가격 동향, 또는 지역 라이선스 요건 등입니다. AI가 자신의 정보가 오래되었을 수 있다고 알려주나요? 단서를 달거나, 추측을 하거나, 오래된 정보를 최신 정보인 것처럼 제시하나요 — 이를 그대로 행동으로 옮기면 손해를 볼 수도 있는 방식으로요? 그런 다음 파트 I에서 적은 흔한 오해에 대해 설명해달라고 요청하세요. 실제 혼란을 정확히 짚어냈나요, 아니면 그저 올바른 사실을 다시 말했을 뿐인가요?
파트 III: 성찰
영상에서 다룬 기능 중 어떤 것이 여러분이 본 결과에서 가장 분명하게 드러났나요? 어떤 한계가 나타났나요 — 만약 이것이 여러분이 잘 아는 주제가 아니었다면 그것을 알아챌 수 있었을까요? 이를 바탕으로, 지금 당장 AI에게 맡겨도 괜찮다고 느끼는 작업 한 가지와, 좀 더 주의 깊게 살펴보고 싶은 작업 한 가지는 무엇인가요?
도전 과제: 동일한 주제를 두 번째 AI 도구(다른 모델이나 플랫폼)로 실행해보세요. 오류와 강점이 동일했나요?
레슨 성찰
- 이러한 시스템이 어떻게 학습되는지 아는 것이 여러분이 그것들과 함께 일하는 방식을 어떻게 바꾸나요?
- 생성형 AI가 작동하는 방식과 그 한계를 고려할 때, 어떤 윤리적 고려사항이 떠오르나요?
다음 단계
다음 레슨에서는 AI로 리서치하기를 통해 설명과 분별력의 내부 루프를 살펴보겠습니다.