읽기 전에 먼저 풀어 보세요
먼저 한 문제
챗봇 같은 대규모 언어 모델(LLM)은 기본적으로 어떤 방식으로 문장을 만들어 낼까요?
알아야 할 배경
생성형 AI1는 대화, 이야기, 이미지, 동영상, 음악처럼 새로운 콘텐츠를 만들어 내는 AI입니다. 이미 배운 것을 다시 활용해 새 결과물을 만듭니다. 예를 들어 영어 낱말을 익힌 뒤 그 낱말로 시를 짓는 식입니다.
대규모 언어 모델2(LLM)은 생성형 AI를 널리 알린 기술로, 사람의 말로 된 요청을 받아 글을 만들어 냅니다. 책·기사·웹사이트·코드 같은 곳에서 모은 수십억에서 수조 개 낱말 규모의 글로 학습한 딥러닝 모델입니다. 바탕에는 2017년에 나온 트랜스포머3라는 신경망 구조가 있습니다. 트랜스포머의 핵심은 셀프 어텐션4(문장 속 어느 부분에 주목할지 스스로 정하는 장치)으로, 멀리 떨어진 낱말 사이의 관계까지 계산합니다. 또 문장을 차례로 하나씩 읽지 않고 한꺼번에 나눠 처리할 수 있어서, GPU로 전에 없이 큰 데이터를 학습할 수 있게 됐습니다.
학습 방법은 의외로 단순합니다. 글을 토큰5(낱말이나 낱말 조각 같은 작은 단위)으로 나눈 뒤, 앞에 나온 토큰들을 보고 다음 토큰을 맞히게 합니다. 틀리면 모델 안의 조정 가능한 숫자인 매개변수를 고치고, 제대로 맞힐 때까지 되풀이합니다. 사람이 정답을 따로 달아 주지 않고 글 자체에서 문제와 답을 얻으므로 이를 자기 지도 학습6이라고 부릅니다. 이 과정에서 모델은 문법, 사실, 글쓰기 스타일 같은 패턴을 익힙니다.
답을 만들 때도 원리는 같습니다. 질문을 토큰으로 나누고, 다음에 올 수 있는 모든 토큰의 확률을 따져 가능성이 높은 것을 하나 내놓습니다. 이 일을 답이 끝날 때까지 반복합니다. 모델은 최종 답을 미리 알고 쓰는 것이 아니라, 한 걸음마다 배운 통계적 관계로 가장 그럴듯한 다음 말을 고르는 셈입니다.
- 1생성형 AI 대화·이야기·이미지·음악처럼 새로운 콘텐츠를 만들어 내는 AI입니다.
- 2대규모 언어 모델 아주 많은 글로 학습해 사람의 말을 이해하고 글을 만들어 내는 딥러닝 모델로, 줄여서 LLM이라고 부릅니다.
- 3트랜스포머 2017년에 나온 신경망 구조로, LLM 대부분의 바탕이 됩니다.
- 4셀프 어텐션 문장 속 어느 부분에 주목할지 스스로 정해 낱말 사이의 관계를 계산하는 장치입니다.
- 5토큰 언어 모델이 글을 나눠 다루는 작은 단위로, 낱말이나 낱말 조각 등이 됩니다.
- 6자기 지도 학습 사람이 정답을 달지 않고 데이터 자체에서 문제와 답을 얻어 배우는 방식입니다.
요즘 왜 다시 중요할까
생성형 AI는 2010년대 후반 딥러닝, 특히 트랜스포머 같은 모델이 발전하면서 나왔고, 클라우드 컴퓨팅이 발전해 2022년부터 상업적으로 쓸 수 있는 수준이 됐습니다. LLM은 모델 하나로 질문에 답하기, 문서 요약, 번역, 문장 완성처럼 성격이 다른 일을 해냅니다. 키워드를 맞춰 찾던 기존 검색과 달리 맥락과 뉘앙스를 잡아내기 때문입니다. 그래서 금융사의 고객 상담 챗봇, 코드 작성, 신약 개발에 쓰는 단백질 서열 설계처럼 여러 산업에서 쓰입니다.
문제는 같은 원리에서 약점도 생긴다는 점입니다. 다음 말을 통계적으로 그럴듯하게 고르는 방식이라, 실제 사실에 근거를 대지 못하면 그럴듯해 보이지만 틀린 답을 만들 수 있습니다. 이를 환각7(할루시네이션)이라고 합니다.
- 학습 데이터 문제: 데이터가 불완전하거나 치우쳐 있으면 모델이 잘못된 패턴을 배웁니다.
- 그라운딩8 부족: 그라운딩은 실제 지식이나 사실에 답을 붙들어 매는 일입니다. 이것이 부족하면 원문에 없는 내용을 요약에 넣거나, 있지도 않은 웹페이지로 이어지는 링크를 지어낼 수 있습니다.
- 실제 사례: 구글의 챗봇 바드는 제임스 웹 우주망원경이 태양계 밖 행성을 세계 최초로 찍었다고 잘못 답한 적이 있습니다.
그래서 쓰는 쪽의 장치가 중요합니다. 믿을 만한 문서에 근거해 답하게 하기, 답할 수 있는 범위를 좁히기, 그리고 마지막 안전장치인 사람의 검토가 대표적입니다. 회사 내부 자료를 넣어 맞춤으로 쓸 때는 개인정보와 보안 문제도 따릅니다. 제도도 이에 맞춰 움직였습니다. 2024년 12월 국회를 통과한 인공지능기본법은 생성형 AI를 쓰는 제품·서비스라면 그 사실을 이용자에게 미리 알리고, 생성형 AI 결과물은 이용자가 분명히 알아볼 수 있게 표시하도록 정했습니다.
면접에서 이렇게 써먹기
면접에서 생성형 AI를 어떻게 보느냐는 질문을 받으면, 원리, 한계, 쓰는 법 순서로 답하면 균형이 잡힙니다.
- 원리: LLM은 앞의 말을 보고 다음 낱말을 확률로 예측하기를 되풀이해 문장을 만듭니다.
- 한계: 그래서 그럴듯하지만 틀린 답, 곧 환각이 생길 수 있고, 내부 자료를 넣어 쓸 때는 보안 문제도 따릅니다.
- 쓰는 법: 믿을 만한 자료에 근거하게 하고, 결과는 사람이 확인하며, AI로 만든 결과물임을 알리는 것이 기본입니다.
지원 산업과 잇는 예도 준비해 두면 좋습니다. 금융이라면 고객 문의에 답하는 챗봇, 바이오라면 신약 개발을 돕는 단백질 서열 설계, 제조라면 부품 설계나 자주 묻는 고객 질문 응대처럼 연결할 수 있습니다. 다만 의료 진단이나 금융 거래처럼 결정이 무거운 곳일수록 환각이 큰 문제가 될 수 있다는 점을 함께 말하면, 장점만 보지 않는 판단력을 보여 줄 수 있습니다.
면접에서 왜 중요한가
챗봇으로 대표되는 생성형 AI는 금융·의료·제조처럼 여러 산업에서 쓰이고 인공지능기본법도 생성형 AI 결과물의 표시를 정하고 있어서, 원리와 한계를 함께 물어보기 좋은 주제이기 때문입니다.
세 문제로 확인하기
복습 1 / 3
대규모 언어 모델(LLM)이 학습할 때 되풀이해서 푸는 문제는 무엇일까요?
복습 2 / 3
AI 환각을 줄이는 장치 가운데 본문이 마지막 안전장치로 꼽은 것은 무엇일까요?
복습 3 / 3
인공지능기본법은 생성형 AI 결과물에 대해 무엇을 정했을까요?
출처 6개 보기
이 회차는 AI가 출처를 바탕으로 초안을 쓰고 운영자가 확인해 발행했습니다. 기사 문장을 옮기지 않고 사실만 새로 썼습니다.