로드 중

AI 역량과 한계

대규모 언어 모델이 할 수 있는 것과 할 수 없는 것에 대한 정확한 멘탈 모델을 구축하세요: 다음 토큰 예측, 지식, 작업 기억, 조종 가능성, 컨텍스트 한계.

3.5시간1 퀴즈
학습 내용이 강좌를 마치면
  • 생성형 AI를 분류 및 예측 AI와 구별하고, 네 가지 핵심 속성을 역량-한계 연속체로 구성하기
  • 2단계 학습 과정(사전 학습과 미세 조정)을 설명하고, 이 과정이 남기는 행동적 흔적인 아첨, 장황함, 과도한 신중함, 느슨한 확신도 보정을 인식하기
  • 다음 토큰 예측을 핵심 생성 메커니즘으로 설명하고, 허구 생성이 집중되는 지점을 파악하기
  • 지식 컷오프와 불균등한 학습 범위가 모델이 아는 것을 어떻게 형성하는지 설명하고, 웹 검색, 검색(retrieval), 또는 도구 사용이 해결책이 되는 시점을 인식하기
  • 컨텍스트 윈도우를 명확한 한계로 설명하고, 선행 배치, 청킹, 중요 정보 재제공과 같은 컨텍스트 배치 전략을 적용하기
  • 지시 따르기가 엄격한 경우와 느슨한 경우를 예측하고, 추론 이탈과 형식에 치우친 해석을 조종 가능성 실패로 인식하기
  • 어떤 속성들이 충돌하고 있는지 명명하여 실제 AI 실패를 진단하고, 표적화된 해결책을 선택하기
  • 네 가지 속성을 4D 프레임워크와 연결하고, 각 연속체에서 작업의 위치를 파악하여 보정된 신뢰를 연습하기

대부분의 사람들이 생성형 AI 시스템을 처음 경험할 때 느끼는 감정은 기쁨과 혼란이 뒤섞인 것입니다. 몇 초 만에 방대한 보고서를 매끄럽게 요약해내다가도, 존재하지 않는 인용을 자신 있게 지어냅니다. 상세한 지시는 완벽하게 따르다가도, 바로 다음 메시지에서는 간단한 지시를 무시합니다. 그 이면에서 무슨 일이 일어나고 있는지에 대한 멘탈 모델이 없으면 이러한 순간들은 무작위적으로 느껴지며, 다음 출력을 신뢰해야 할지, 혹은 이전 출력을 어떻게 고쳐야 할지 알기 어렵습니다.

이 과정은 학습자에게 바로 그 멘탈 모델을 제공합니다. 이 과정은 AI Fluency: Framework & Foundations의 짝이 되는 과정입니다: 그 과정이 인간의 역량(위임, 설명, 분별력, 책임감)을 가르친다면, 이 과정은 그러한 역량이 대응하는 기계의 속성을 가르칩니다. 두 과정은 어느 순서로든 수강할 수 있도록 설계되었으며, 함께 효과적인 인간-AI 협업에 대한 완전한 그림을 이룹니다.

이 과정은 AI 시스템이 여러분을 위해 할 수 있는 것과 할 수 없는 것을 형성하는 네 가지 속성을 중심으로 구성됩니다: 다음 토큰 예측(AI의 답변이 어디서 나오는지), 지식(모델이 실제로 무엇을 알고 있으며, 왜 자신 있게 틀릴 수 있는지), 작업 기억(지금 당장 무엇에 주의를 기울이고 있으며, 무엇이 가장자리로 밀려나는지), 그리고 조종 가능성(여러분의 지시가 실제로 얼마나 많은 통제력을 주는지)입니다. 각 속성은 역량에서 한계에 이르는 스펙트럼 위에 놓여 있으며, 각 섹션은 짧은 설명과 실습 연습을 짝지어 제공하여 단순히 읽는 것이 아니라 그 경계가 어디인지 직접 느낄 수 있게 합니다.

마지막 섹션에서는 이러한 속성들이 충돌할 때 어떤 일이 일어나는지 살펴봅니다 — 실제 사용에서는 항상 그런 일이 일어나기 때문입니다. 긴 문서는 작업 기억에 부담을 주는 동시에 모델이 가지고 있지 않은 지식으로 벗어나게 됩니다. 모호한 지시는 다음 토큰 예측이 가장 그럴듯하게 들리는 것을 찾고 있는 바로 그 순간에 조종 가능성을 시험합니다. 우리는 실용적인 진단법으로 마무리합니다: 예상치 못한 출력을 어떻게 살펴볼지, 그것이 어떤 종류의 예상치 못함인지 인식하는 법, 여러분의 작업이 역량-한계 연속체의 대략 어디에 위치하는지 파악하는 법, 그리고 일반적인 재시도 대신 표적화된 해결책으로 대응하는 법입니다.

없습니다. 이 과정은 기술적 배경이나 AI 도구 사용 경험이 전혀 없다고 가정합니다. AI Fluency: Framework & Foundations를 이미 수료하셨다면 각 속성이 4D와 어떻게 연결되는지 알아볼 수 있겠지만, 필수는 아닙니다.

이 과정의 대상

업무나 학업에서 생성형 AI를 사용하고 있거나 곧 사용하기 시작할 예정이며, AI가 왜 그런 방식으로 작동하는지 이해하고 싶은 모든 사람을 위한 과정입니다. 교육자, 학생, 지식 근로자, 팀 리더 모두 동일한 핵심 모델이 유용하다는 것을 알게 될 것입니다. 이 모델이 설명하는 속성들은 사용 사례에 관계없이 변하지 않기 때문입니다.

Inside the course

시작하기

3 lessons

'AI'라는 단어는 매우 광범위한 의미를 포괄합니다. 이 섹션에서는 이를 실제로 다루게 될 시스템 종류, 즉 대규모 언어 모델로 좁혀서, 사전 학습과 미세 조정이라는 두 가지 학습 단계가 어떻게 원시 텍스트 예측기를 여러분이 상호작용하는 도움이 되는 어시스턴트로 바꾸는지 설명합니다. 그 과정에서 이 과정의 나머지 부분을 구성하는 네 가지 속성 프레임워크를 만나게 됩니다.

다음 토큰 예측

2 lessons

AI가 제공하는 모든 답변은 다음에 올 것을 예측하여 한 번에 하나의 토큰씩 만들어집니다. 이 섹션에서는 이것이 실제로 무엇을 의미하는지 보여줍니다: 모델이 요약이나 재구성과 같이 익숙한 경로에서 왜 뛰어난지, 왜 사실처럼 들리지만 그렇지 않은 것을 만들어낼 수 있는지, 그리고 작업이 예측만으로는 충분하지 않은 영역으로 밀어붙이고 있을 때 이를 어떻게 인식하는지를 다룹니다.

지식

2 lessons

모델은 학습 데이터에 있던 내용을 알고 있습니다 — 자주, 최근에, 그리고 일관되게 등장한 내용일수록 더 잘 압니다. 이 섹션에서는 이것이 의미하는 바를 풀어봅니다: 주류 주제와 널리 사용되는 언어에는 강하지만, 희귀하거나 최근의, 틈새이거나 논쟁적인 내용에는 약합니다. 질문이 그 스펙트럼의 어디에 위치하는지 판단하는 연습을 통해, 답변을 언제 신뢰하고 언제 자신만의 출처를 가져와야 하는지 알게 됩니다.

작업 기억

2 lessons

컨텍스트 윈도우는 모델의 작업 기억입니다: 지금 당장 주의를 기울일 수 있는 모든 것이며, 그 이상은 아닙니다. 이 섹션에서는 무엇이 들어맞는지, 무엇이 조용히 가장자리로 밀려나는지, 긴 문서 전체에서 주의가 왜 균일하지 않은지, 그리고 새 세션이 왜 이전 세션을 기억하지 못하는지를 다룹니다. 대화 도중에 한계를 발견하는 대신, 시작하기 전에 작업을 윈도우에 맞춰 가늠하는 법을 배우게 됩니다.

조종 가능성

2 lessons

여러분의 지시가 바로 조종하는 방법입니다 — 하지만 모든 지시가 똑같이 효과를 내는 것은 아닙니다. 짧고 구체적이며 검증 가능한 요청('표 형식으로 답변하세요', '100단어 이내로')은 안정적으로 작동하지만, 긴 추론 체인, 추상적인 요청, 그리고 원어민 수준의 정밀함을 요구하는 것은 조종이 흔들리기 시작하는 지점입니다. 이 섹션은 그 차이를 구별하고, 불안정한 지시를 모델이 실제로 따를 수 있는 지시로 다시 작성하는 데 도움을 줍니다.

종합하기 및 다음 단계

3 lessons

실제 작업은 한 번에 하나의 속성만 시험하는 경우가 거의 없습니다. 긴 계약서 검토는 작업 기억에 부담을 주는 동시에 모델의 지식 범위를 넘어서게 됩니다. 모호한 창작 브리프는 다음 토큰 예측이 그럴듯한 무언가를 채우고 싶어하는 바로 그 지점에서 조종 가능성을 시험합니다. 이 섹션에서는 네 가지 속성이 어떻게 충돌하는지 보여주고, 예상치 못한 출력에 대한 진단법을 제공합니다: 어떤 속성이 작용하고 있는지 명명하고, 작업을 해당 스펙트럼에 위치시키고, 단순히 다시 시도하는 대신 표적화된 해결책을 적용하세요.