인공지능 학습을 시작하려는 초보자가 가장 먼저 부딪히는 벽은 "무엇을 얼마나 알아야 하는가"보다 "어디에 손을 대야 하는가"입니다. 인공지능은 기계 학습, 딥 러닝, 생성형 인공지능을 모두 포괄하는 넓은 분야이고, 연구 분야와 기술, 그리고 그 기술로 만든 구체적인 시스템까지 같은 말로 불립니다. 그래서 학습 순서를 정하기 전에 개념 지도를 먼저 그려두는 편이 훨씬 수월합니다.
인공지능, 기계 학습, 딥 러닝은 같은 말이 아니다
이 세 용어를 섞어 쓰면 학습 로드맵이 금방 엉킵니다. 인공지능은 컴퓨터가 학습, 추론, 지각, 언어 처리, 문제 해결, 계획과 의사 결정처럼 지능과 관련된 일을 수행하도록 하는 방법을 연구하는 컴퓨터 과학 분야입니다. 그 안에 사람이 사실과 규칙을 직접 적어 넣는 기호주의 인공지능과, 데이터에서 규칙성을 찾아 모델을 조정하는 기계 학습이 나란히 있습니다.
딥 러닝은 여러 층의 인공 신경망을 쓰는 기계 학습의 한 갈래이고, 생성형 인공지능은 글·그림·음성·영상·코드 같은 새로운 결과물을 만드는 쪽입니다. 즉 기계 학습과 생성형 인공지능은 인공지능 전체가 아니라 그 일부입니다.
| 구분 | 포함 관계 |
|---|---|
| 인공지능 | 가장 넓은 분야 |
| 기계 학습 | 인공지능의 한 접근 |
| 딥 러닝 | 기계 학습의 한 갈래 |
| 생성형 인공지능 | 결과물 생성 계열 |
용어가 헷갈릴 때 유용한 구분도 있습니다. 정해진 시각에 조명을 켜는 타이머는 자동화 장치일 뿐이고, 과거 이메일에서 배운 규칙으로 스팸을 가려내는 필터는 기계 학습을 이용한 인공지능입니다. 문장을 입력받아 그림을 만드는 시스템은 생성형 인공지능의 예입니다.
초보자가 실제로 밟게 되는 학습 순서
순서를 정할 때 기준이 되는 것은 "무엇을 만드는가"가 아니라 "무엇을 이해했는가"입니다. 자료에서 확인되는 개념 흐름을 따라가면 다음과 같이 정리할 수 있습니다.
- 인공지능이라는 분야가 무엇을 다루는지, 어디까지가 인공지능이고 어디부터가 아닌지 구분합니다.
- 규칙을 사람이 직접 넣는 방식과 데이터로 조정하는 방식의 차이를 이해합니다.
- 기계 학습에서 학습과 추론이 어떻게 다른지 익힙니다.
- 지도 학습, 비지도 학습, 자기 지도 학습, 강화 학습이 각각 어떤 정보를 쓰는지 구분합니다.
- 관심이 생긴 세부 분야(자연어 처리, 컴퓨터 비전 등)로 좁혀 들어갑니다.
여기서 특히 중요한 것이 학습과 추론의 구분입니다. 학습은 데이터를 이용해 모델의 매개변수를 바꾸는 단계이고, 추론은 학습된 모델로 새로운 입력의 결과를 계산하는 단계입니다. 스팸 필터를 예로 들면, 정답이 표시된 많은 이메일로 매개변수를 조정하는 것이 학습이고, 새 이메일을 넣어 스팸 점수를 계산하는 것이 추론입니다.
'추론'이라는 단어는 문맥에 따라 뜻이 달라집니다. 논리학이나 기호주의 인공지능에서는 전제에서 결론을 이끌어 내는 과정을 뜻하지만, 기계 학습에서는 학습된 모델을 실행해 출력을 계산하는 과정 전반을 뜻합니다. 사진을 '고양이'로 분류하거나 상품별 추천 점수를 계산하는 일도 기계 학습에서는 추론에 해당합니다.
데이터가 왜 성능을 좌우하는가
인공지능 기술은 형태가 다양해도 기본적으로 데이터, 알고리즘, 컴퓨팅 성능에 의존합니다. AI 시스템은 방대한 양의 데이터를 학습하고 개선되면서 사람이 놓칠 수 있는 패턴과 관계를 식별합니다. 이 데이터가 학습 자료 역할을 하기 때문에 데이터의 품질과 양이 성능에 직접 영향을 줍니다.
기계 학습의 학습 목표도 여기서 갈립니다. 주어진 예시를 그대로 기억하는 것이 아니라, 처음 보는 입력에도 유용한 결과를 내는 일반화가 목표입니다. 고양이와 개를 구별하는 모델이라면 새로운 장소와 각도에서 찍은 사진도 올바르게 분류할 수 있어야 합니다.
| 학습 방식 | 사용하는 정보 |
|---|---|
| 지도 학습 | 정답이 표시된 자료 |
| 비지도 학습 | 정답 없는 자료의 구조 |
| 자기 지도 학습 | 가린 부분을 예측 |
| 강화 학습 | 행동에 대한 보상 |
주의할 점도 있습니다. 모델이 학습한 통계적 관계가 원인과 결과를 나타내는지, 또는 문장의 의미를 얼마나 잘 반영하는지는 별도로 확인해야 합니다. 데이터가 인간의 편향을 반영하면 AI는 이를 학습하고 고착화합니다.
규칙 기반과 학습 기반, 둘 중 하나를 고르는 문제가 아니다
초보자 과정에서 흔히 나오는 오해가 "규칙 기반은 낡은 방식이고 기계 학습이 최신 방식"이라는 생각입니다. 실제 서비스는 두 방식을 함께 씁니다. 질의 응답 서비스는 검색 시스템으로 자료를 찾고 언어 모델로 답변을 작성하며, 로봇은 신경망의 인식 결과와 경로 탐색·충돌 방지 규칙을 함께 사용할 수 있습니다.
규칙을 명시하는 방식의 장점은 어떤 사실과 규칙에서 결론이 나왔는지 확인하기 비교적 쉽다는 것입니다. 반대로 복잡한 현실의 예외와 관계를 사람이 모두 작성하고 계속 고치는 데는 많은 노력이 들고, 글·음성·영상처럼 형태가 다양한 자료의 규칙을 일일이 정하기도 어렵습니다. 현대 인공지능이 명시적 규칙과 기계 학습을 함께 쓰는 이유가 여기에 있습니다.
모델과 시스템은 따로 평가된다
학습을 진행하다 보면 '모델'과 '시스템'을 구분해야 하는 순간이 옵니다. 기계 학습에서 모델은 입력을 출력으로 바꾸는 계산 구조와 학습된 매개변수의 집합을 뜻합니다. 반면 실제 인공지능 시스템에는 하나 이상의 모델뿐 아니라 입력 자료를 처리하는 절차, 데이터베이스, 사용자 화면, 출력에 적용되는 규칙, 서버와 센서 등이 함께 들어갑니다.
기계 번역 서비스가 좋은 예입니다. 신경망 모델은 문장을 다른 언어로 바꾸고, 전체 서비스는 여기에 언어 감지, 문장 분할, 입출력 필터와 화면 표시 기능을 더합니다. 그래서 모델의 정확도와 실제 서비스 전체의 신뢰성·안전성은 따로 평가합니다.
이 구분은 학습 방향을 정할 때도 도움이 됩니다. 모델 자체를 만드는 쪽에 흥미가 있는지, 아니면 모델을 포함한 서비스를 설계하는 쪽에 흥미가 있는지에 따라 배워야 할 내용이 달라집니다.
인공지능이 잘하는 일과 못 하는 일
학습 방향을 잡으려면 이 기술이 실제로 어디에 쓰이는지 아는 것이 좋습니다. 인공지능은 검색·추천·번역·음성 및 영상 인식, 의료 지원, 게임과 로봇 제어 등에 쓰입니다. 스마트 공장에서는 컴퓨터 비전으로 제품 결함을 검사하거나 디지털 트윈을 만들고, 보안 분야에서는 네트워크 트래픽을 지속적으로 모니터링하고 분석하는 데 활용됩니다.
반복적인 일을 줄이고 정보 접근성을 높인다는 점도 확인되는 효과입니다. 데이터 분석, 문서 확인, 단순 고객 질문 응답 같은 작업을 자동화해 사람이 더 복잡한 문제에 집중할 수 있게 합니다. 클라우드에서 실행할 때는 사람처럼 휴식이 필요하지 않아 할당된 작업을 지속적으로 수행할 수 있습니다.
한편 잘못된 결과, 편향, 개인정보 침해, 허위 정보, 보안과 안전 문제, 노동과 환경에 미치는 영향도 낳을 수 있습니다. 성능과 위험은 과제와 사용 환경에 따라 달라지므로, 이를 평가하고 관리하기 위한 윤리적 논의와 법·제도적 규율도 함께 이루어지고 있습니다. 대한민국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」도 '인공지능'과 '인공지능시스템'을 나누어 정의합니다.
특화형과 일반 지능, 어디까지 와 있는가
학습을 이어가다 보면 자연스럽게 마주치는 개념이 특화형 인공지능과 인공 일반 지능(AGI)입니다. 특정 과제나 제한된 과제군에 맞춘 시스템을 특화형 인공지능이라고 합니다. 스팸 필터나 바둑 프로그램처럼 한 분야에서 매우 높은 성능을 보이는 시스템도 다른 종류의 문제에는 별도의 설계나 학습이 필요합니다. 여기서 '특화형'은 성능이 낮다는 뜻이 아니라 적용 범위가 제한되어 있다는 뜻입니다.
인공 일반 지능은 여러 영역의 과제를 배우고, 한 영역에서 얻은 지식과 능력을 새로운 상황에 폭넓게 적용할 수 있는 인공지능을 가리킵니다. 다만 인공 일반 지능이 갖추어야 할 구체적인 능력과 평가 기준에는 합의된 하나의 정의가 없습니다. 모리스 등은 수행할 수 있는 과제의 범위, 각 과제에서의 성능과 사람의 개입 없이 행동하는 자율성을 서로 다른 기준으로 평가하는 틀을 제안했습니다. 이 틀에 따르면 제한된 과업만 다루는 시스템도 자율적으로 작동할 수 있고, 다양한 과제를 수행하는 모델도 이용자의 지시와 확인을 계속 요구할 수 있습니다.
학습을 이어가며 확인해야 할 것
인공지능이라는 이름은 1955년에 작성된 다트머스 여름 연구 계획서에서 사용되었고, 이듬해 열린 다트머스 회의가 관련 연구를 하나의 독립된 분야로 묶는 계기가 되었습니다. 이후 연구의 중심은 논리와 규칙, 전문가 시스템, 통계적 기계 학습과 딥 러닝으로 넓어졌고, 2020년대에는 대규모 자료로 미리 학습한 파운데이션 모델과 생성형 인공지능이 확산되었습니다.
이 흐름을 알고 나면 학습 중에 만나는 용어들이 어느 시기에 어떤 문제를 풀기 위해 등장했는지 감이 잡힙니다. 최근에는 AI 에이전트와 에이전트 AI 쪽으로 프런티어가 확장되고 있으며, 소프트웨어 개발 영역에서는 AI 에이전트가 개발 도구, API, 기존 코드베이스와 상호작용하도록 프로그래밍하는 연구가 진행되고 있습니다. 현재 진행 중인 연구는 이런 에이전트가 자율성을 확보함에 따라 더욱 안정적이고 효율적이며 안전하게 만드는 데 초점을 맞추고 있습니다.
Q. 인공지능 학습에 수학이나 프로그래밍이 먼저 필요한가요?
자료에서 확인되는 범위에서는 인공지능이 컴퓨터 공학, 데이터 분석 및 통계, 하드웨어 및 소프트웨어 엔지니어링, 언어학, 신경 과학은 물론 철학과 심리학 등 다양한 학문을 포괄한다고 설명합니다. 개념 이해와 구현은 필요한 배경이 서로 다르므로, 목표에 따라 우선순위를 정하는 편이 낫습니다.
Q. 생성형 인공지능부터 배우면 되나요?
생성형 인공지능은 인공지능 전체가 아니라 그 일부입니다. 기계 학습과 딥 러닝의 위치를 먼저 파악해두면 생성형 인공지능이 어느 지점에 놓이는지 이해하기 쉬워집니다.
Q. AI가 감정을 가질 수 있나요?
AI 시스템은 감정을 처리하고 심지어 시뮬레이션할 수 있지만 의식, 자기 인식, 진정한 감정을 가지고 있지는 않습니다. 복잡한 패턴 매칭 머신으로 설명됩니다.
Q. 인공지능이 일자리를 없애기만 하나요?
AI가 많은 작업을 자동화할 것은 분명하지만, 인간의 역량을 보강해 더 창의적이고 전략적이며 공감 능력이 필요한 업무에 집중할 수 있도록 해줄 가능성이 더 크다는 설명이 있습니다.
학습을 시작할 때 기억해둘 기준은 하나입니다. 인공지능은 연구 분야나 기술을 가리키기도 하고, 그 기술로 만든 구체적인 시스템을 가리키기도 합니다. 경제협력개발기구는 인공지능 시스템을 목표를 위해 입력을 처리하여 예측, 생성물, 추천, 결정 등의 결과를 만들고 물리적 또는 가상 환경에 영향을 줄 수 있는 기계 기반 시스템으로 정의합니다. 시스템마다 자율성의 정도가 다르며, 일부는 실제 사용을 시작한 뒤 새로운 자료에 맞추어 동작을 조정할 수 있습니다. 이 정의는 정책과 법률이 적용될 대상을 정하기 위한 것이지, 인공지능에 관한 유일한 과학적·철학적 정의는 아닙니다.