인공지능

인공지능과 인공지능 시스템

인공지능은 연구 분야나 기술을 가리키기도 하고, 그 기술로 만든 구체적인 시스템을 가리키기도 한다. 경제협력개발기구는 인공지능 시스템을 목표를 위해 입력을 처리하여 예측, 생성물, 추천, 결정 등의 결과를 만들고 물리적 또는 가상 환경에 영향을 줄 수 있는 기계 기반 시스템으로 정의한다. 시스템마다 자율성의 정도가 다르며, 일부는 실제 사용을 시작한 뒤 새로운 자료에 맞추어 동작을 조정할 수 있다. 대한민국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」도 ‘인공지능’과 ‘인공지능시스템’을 나누어 정의한다. 이러한 정의는 정책과 법률이 적용될 대상을 정하기 위한 것으로, 인공지능에 관한 유일한 과학적·철학적 정의는 아니다.

인공지능 모델과 인공지능 시스템은 맡는 범위가 다르다. 기계 학습에서 모델은 입력을 출력으로 바꾸는 계산 구조와 학습된 매개변수의 집합을 뜻한다. 실제 인공지능 시스템에는 하나 이상의 모델뿐 아니라 입력 자료를 처리하는 절차, 데이터베이스, 사용자 화면, 출력에 적용되는 규칙, 서버와 센서 등이 함께 들어갈 수 있다. 예를 들어 기계 번역 서비스에서 신경망 모델은 문장을 다른 언어로 바꾸고, 전체 서비스는 여기에 언어 감지, 문장 분할, 입출력 필터와 화면 표시 기능을 더한다. 모델의 정확도와 실제 서비스 전체의 신뢰성·안전성은 따로 평가한다.

관련 개념의 관계

인공지능은 알고리즘 및 자동화와 관련이 깊고, 기계 학습, 딥 러닝과 생성형 인공지능을 포괄하지만 서로 바꾸어 쓸 수 있는 말은 아니다. 아래 표는 이 개념의 뜻과 관계를 간략히 정리한 것이다.

예를 들어 정해진 시각에 조명을 켜는 타이머는 자동화 장치이고, 과거 이메일에서 배운 규칙으로 스팸을 가려내는 필터는 기계 학습을 이용한 인공지능이다. 문장을 입력받아 그림을 만드는 시스템은 생성형 인공지능의 예이다. 로봇은 물리적 기계를 뜻하며, 인공지능 없이 정해진 동작만 반복할 수도 있고 센서 자료를 분석하는 인공지능을 사용할 수도 있다.

특화형 인공지능과 인공 일반 지능

 인공 일반 지능 및 인공지능 철학 문서를 참고하십시오.

특정 과제나 제한된 과제군에 맞춘 시스템을 특화형 인공지능이라고 한다. 스팸 필터나 바둑 프로그램처럼 한 분야에서 매우 높은 성능을 보이는 시스템도 다른 종류의 문제에는 별도의 설계나 학습이 필요하다. 여기서 ‘특화형’은 성능이 낮다는 뜻이 아니라 적용 범위가 제한되어 있다는 뜻이다. 반면 인공 일반 지능(영어: artificial general intelligence, AGI)은 여러 영역의 과제를 배우고, 한 영역에서 얻은 지식과 능력을 새로운 상황에 폭넓게 적용할 수 있는 인공지능을 가리킨다.

인공 일반 지능이 갖추어야 할 구체적인 능력과 평가 기준에는 합의된 하나의 정의가 없다. 모리스 등은 수행할 수 있는 과제의 범위, 각 과제에서의 성능과 사람의 개입 없이 행동하는 자율성을 서로 다른 기준으로 평가하는 틀을 제안하였다. 이에 따르면 제한된 공정만 다루는 시스템도 자율적으로 작동할 수 있고, 다양한 과제를 수행하는 모델도 이용자의 지시와 확인을 계속 요구할 수 있다.

규칙과 지식에 기반한 방식

규칙과 지식에 기반한 인공지능은 사람이 문제에 필요한 사실과 판단 규칙을 직접 적어 넣고, 시스템이 이를 적용해 결론을 내리도록 한다. 지식 기반 시스템에서는 사실과 규칙을 지식 베이스에 저장하고, 추론 엔진이 새로운 결론이나 권고를 만든다. 예를 들어 기계의 온도와 진동이 일정 수준을 넘으면 특정 부품의 이상 여부를 검사하도록 규칙을 정할 수 있다. 이러한 지식은 조건문뿐 아니라 명제 논리, 술어 논리나 확률적 관계로도 표현할 수 있다.

규칙을 명시하면 어떤 사실과 규칙에서 결론이 나왔는지 확인하기 비교적 쉽다. 그러나 복잡한 현실의 예외와 관계를 사람이 모두 작성하고 계속 고치기에는 많은 노력이 들며, 글·음성·영상처럼 형태가 다양한 자료의 규칙을 일일이 정하기도 어렵다. 현대 인공지능은 이러한 문제를 다루기 위해 명시적인 규칙과 데이터로부터 모델을 조정하는 기계 학습을 함께 사용한다.

데이터로부터 학습하는 방식

기계 학습에서는 사람이 모든 판단 규칙을 직접 적는 대신, 여러 사례가 담긴 학습 데이터로 모델의 매개변수를 조정한다. 많은 모델은 입력 ${\displaystyle x}$를 받아 예측값 ${\displaystyle {\hat {y}}}$를 내는 관계를 $${\displaystyle {\hat {y}}=f_{\theta }(x)}$$ 와 같이 나타낼 수 있다. 여기서 ${\displaystyle \theta }$는 학습을 통해 바뀌는 매개변수이다. 학습의 목표는 주어진 예시를 그대로 기억하는 데 그치지 않고, 처음 보는 입력에도 유용한 결과를 내는 것이다.

예를 들어 스팸 필터를 지도 학습으로 만들 때에는 스팸 여부가 표시된 여러 이메일을 모델에 제공한다. 모델은 각 이메일의 스팸 가능성을 계산하고 정답과 비교하며, 예측과 정답의 차이를 나타내는 손실 함수가 작아지도록 매개변수를 반복해서 바꾼다. 이 과정에서 모델은 이메일의 표현과 스팸 여부 사이의 통계적 관계를 학습한다. 이러한 관계가 원인과 결과를 나타내는지, 또는 문장의 의미를 얼마나 잘 반영하는지는 별도로 확인해야 한다.

기계 학습에는 정답이 붙지 않은 자료를 사용하는 방법도 있다. 비지도 학습은 입력들 사이의 군집이나 구조를 찾고, 자기 지도 학습은 자료의 일부를 가린 뒤 나머지 부분으로 이를 예측하도록 학습한다. 강화 학습에서는 에이전트가 환경에서 행동하고 받은 보상을 이용해 장기적으로 더 나은 행동 방식을 찾는다. 세 방법은 학습에 주어지는 정보의 종류가 다르다.

학습과 추론

기계 학습에서 학습은 데이터를 이용해 모델의 매개변수를 바꾸는 단계이고, 추론은 학습된 모델로 새로운 입력의 결과를 계산하는 단계이다. 예를 들어 스팸 필터를 학습할 때에는 정답이 표시된 많은 이메일로 매개변수를 조정하지만, 실제 사용할 때에는 새 이메일을 학습된 모델에 넣어 스팸 점수를 계산한다.

‘추론’은 문맥에 따라 뜻이 다르다. 논리학이나 기호주의 인공지능에서는 전제에서 결론을 이끌어 내는 과정을 뜻하고, 기계 학습에서는 학습된 모델을 실행해 출력을 계산하는 과정 전반을 뜻한다. 따라서 사진을 ‘고양이’로 분류하거나 상품별 추천 점수를 계산하는 일도 기계 학습에서는 추론에 해당한다.

일부 시스템은 새로운 자료로 정기적으로 다시 학습되거나, 사용 중에 얻은 피드백으로 조정될 수 있다. 새 입력을 처리하는 추론 단계에서는 보통 모델의 매개변수가 바뀌지 않는다.

실제 인공지능 서비스는 규칙 기반 방식과 학습 기반 방식을 함께 사용하기도 한다. 예를 들어 질의 응답 서비스는 검색 시스템으로 자료를 찾고 언어 모델로 답변을 작성하며, 로봇은 신경망의 인식 결과와 경로 탐색·충돌 방지 규칙을 함께 사용할 수 있다.

추론, 문제 해결과 지식 표현

 문제 해결, 자동화된 추론 및 지식 표현 및 추론 문서를 참고하십시오.

추론은 주어진 정보와 규칙에서 새로운 결론을 얻는 과정이다. 이를 컴퓨터로 수행하는 자동 추론은 특히 수학과 형식 논리의 연역을 자동화하는 연구와 밀접하다. 예를 들어 자동 정리 증명기는 공리와 이미 증명된 정리에 추론 규칙을 적용하여 목표 명제의 증명을 찾는다.

문제 해결은 현재 상태와 목표, 가능한 선택이나 행동이 주어졌을 때 목표에 이르는 해답을 찾는 과정이다. 길 찾기에서는 장소와 도로를 상태와 이동 가능한 경로로 나타낸 뒤 목적지에 도달하는 경로를 찾는다. 시간표 작성에서는 수업·교실·시간에 관한 여러 제약을 동시에 만족하는 배치를 찾아야 한다. 게임에서는 상대가 어떻게 행동할지도 고려하여 다음 수를 선택할 수 있다. 해답이 여러 개라면 이동 거리, 시간, 비용이나 위험처럼 미리 정한 기준에 따라 더 나은 해답을 찾기도 한다.

문제를 컴퓨터가 다룰 수 있으려면 관련 정보를 적절한 형태로 나타내야 한다. 지식 표현은 사물과 개념, 그 성질과 관계, 사건, 시간, 행동과 불확실성 등을 컴퓨터가 처리할 수 있는 형태로 표현하는 분야이다. 예를 들어 의료 지식 베이스에는 질병·증상·검사·치료법과 그 관계를 저장할 수 있고, 지도에서는 장소를 꼭짓점으로, 장소 사이의 도로를 변으로 나타낼 수 있다. 지식은 논리식, ‘만약 A이면 B이다’와 같은 규칙, 그래프와 온톨로지, 확률 분포 등 여러 형식으로 표현된다.

학습과 예측

 이 부분의 본문은 기계 학습입니다.

 통계적 분류, 회귀 분석, 군집 분석 및 이상 탐지 문서를 참고하십시오.

기계 학습은 데이터나 경험을 바탕으로 모델의 매개변수 또는 행동 규칙을 조정한다. 핵심 목표는 학습에 사용한 사례를 그대로 기억하는 데 그치지 않고, 처음 보는 사례에서도 유용한 결과를 내는 일반화이다. 예를 들어 고양이와 개를 구별하는 모델은 새로운 장소와 각도에서 찍은 사진도 올바르게 분류할 수 있어야 한다.

예측은 주어진 입력으로부터 아직 알려지지 않은 값이나 결과를 계산하는 능력이다. 예측하려는 결과의 종류에 따라 여러 문제로 나눌 수 있다.

• 분류는 입력을 미리 정한 범주 가운데 하나 이상에 배정한다. 이메일을 스팸과 정상 메일로 나누거나, 의료 영상을 여러 질환 범주로 구별하는 것이 그 예이다.
• 회귀는 집값, 온도, 수요처럼 연속적인 수치를 예측한다.
• 순위화는 검색 결과나 추천 후보처럼 여러 항목을 적합한 순서로 배열한다.
• 군집화는 정답 범주가 주어지지 않은 자료에서 서로 비슷한 사례들을 묶는다.
• 이상 탐지는 대부분의 자료와 크게 다른 거래, 장비 상태나 통신 기록을 찾는다.

기계 학습의 예측은 대체로 데이터에서 관찰된 통계적 관계에 근거한다. 두 현상이 함께 나타난다고 해서 하나가 다른 하나의 원인이라는 뜻은 아니며, 학습 자료에서 잘 작동한 관계가 다른 시대·지역·집단에서도 그대로 유지된다는 보장도 없다. 예를 들어 과거의 대출 기록으로 학습한 모델은 당시의 심사 관행과 사회적 불평등까지 함께 반영할 수 있다. 따라서 예측 성능은 별도의 시험 자료와 실제 사용 환경에서 평가해야 하며, 전체 평균뿐 아니라 중요한 집단과 상황별 오류도 살펴보아야 한다.

언어와 지각

 이 부분의 본문은 자연어 처리, 컴퓨터 비전 및 음성 인식입니다.

언어와 지각 분야는 글·말소리·사진·영상에서 필요한 정보를 찾거나 새로운 표현을 만드는 방법을 연구한다. 자연어 처리는 사람이 쓰는 언어를 분석하고 생성하는 분야로, 정보 검색, 기계 번역, 질의 응답, 문서 요약과 대화 시스템 등에 쓰인다. 자연어는 문맥과 생략, 사람들이 공유하는 지식에 크게 의존하므로 같은 표현도 상황에 따라 다르게 해석될 수 있다.

언어를 처리하는 여러 과제는 서로 다른 능력을 요구한다. 음성 인식은 소리의 파형에서 말소리와 단어열을 찾아 글자로 바꾸는 데 초점을 맞추며, 화자가 누구인지 판별하는 화자 인식이나 음악·환경음을 구분하는 오디오 분류와는 다른 과제이다. 기계 번역은 원문의 단어를 하나씩 바꾸는 데 그치지 않고, 문장의 의미와 문법에 맞는 다른 언어의 문장을 만들어야 한다. 질의 응답 시스템은 질문의 뜻을 분석한 뒤 내부 지식, 주어진 문서 또는 검색 결과에서 관련 정보를 찾아 답을 구성할 수 있다.

지각은 센서로 얻은 신호에서 환경에 관한 정보를 추출하는 능력을 뜻한다. 그중 컴퓨터 비전은 사진과 영상에서 물체, 사람, 문자, 움직임과 공간 구조 등을 분석한다. 영상 분류는 영상 전체가 어떤 범주에 속하는지 예측하고, 객체 탐지는 영상 안의 여러 물체의 종류와 위치를 찾는다. 영상 분할은 각 화소가 어느 물체나 영역에 속하는지를 구분하며, 물체 추적은 시간에 따라 움직이는 대상의 위치를 이어서 추정한다.

사진의 화소값이나 소리의 파형 자체에는 ‘고양이’나 ‘말소리’ 같은 의미가 적혀 있지 않다. 시스템은 학습 자료, 미리 입력한 지식과 현재 문맥을 이용해 그 신호가 무엇을 나타내는지 추정한다. 조명·배경·억양·잡음이 달라지거나 물체의 일부가 가려지면 같은 대상도 매우 다른 입력으로 나타날 수 있고, 서로 다른 대상이 비슷한 신호를 만들 수도 있다. 이러한 모호성 때문에 지각 결과는 확률이나 신뢰도와 함께 표현되기도 한다.

텍스트·영상·음성을 함께 다루는 멀티모달 학습에서는 한 종류의 입력에서 얻은 정보가 다른 입력의 해석을 도울 수 있다. 예를 들어 영상의 사물을 설명하는 시스템은 영상 지각과 자연어 생성을 함께 사용하며, 음성이 포함된 영상에 관한 질문에 답하려면 영상·소리·언어 정보를 결합해야 한다.

계획, 의사 결정과 로봇공학

 이 부분의 본문은 자동화된 계획 및 스케줄링 및 로봇공학입니다.

 지능형 에이전트, 마르코프 결정 과정 및 의사결정 문서를 참고하십시오.

계획은 현재 상태에서 목표에 이르기 위해 어떤 행동을 어떤 순서로 할지 정하는 일이고, 의사 결정은 가능한 행동 가운데 하나를 고르는 일이다. 로봇공학에서는 이러한 판단을 센서와 물리적 장치의 움직임에 연결한다. 예를 들어 창고 로봇은 자신의 위치와 주변 장애물을 파악하고, 물건을 집어 목적지까지 옮길 행동 순서를 정해야 한다.

스케줄링은 해야 할 작업을 시간과 자원에 맞게 배치하는 문제이며, 학교 시간표와 공장의 생산 일정이 대표적인 예이다.

의사결정은 가능한 행동 가운데 하나를 선택하는 과정이다. 결과가 확실한 상황에서는 목표에 가장 가까운 행동을 고르면 되지만, 현실의 행동은 여러 결과를 낳을 가능성이 있다. 마르코프 결정 과정과 같은 수학적 모형은 환경의 상태, 가능한 행동, 행동 뒤에 각 상태로 이동할 확률과 보상을 나타낸다. 이를 이용하면 당장의 이익뿐 아니라 이후에 이어질 결과까지 고려하여 기대되는 총보상이 큰 행동 방식을 찾을 수 있다.

로봇공학은 물리적 환경에서 움직이거나 물체를 조작하는 기계를 설계하고 제어하는 분야이다. 인공지능을 사용하는 로봇은 카메라와 거리 센서 등으로 환경을 관측하고, 자신의 위치와 주변 물체를 추정하며, 목표에 맞는 행동을 계획한 뒤, 제어 장치를 통해 바퀴·관절·집게 등을 움직일 수 있다. 예를 들어 로봇 청소기는 방의 지도를 만들고 자신의 위치를 추정하며, 청소할 경로를 계획하고, 장애물을 감지하면 이동 방향을 바꾼다. 이러한 과정에서는 지각·학습·계획·의사 결정이 반복적으로 연결된다.

탐색, 논리와 확률적 추론

 검색 알고리즘, 자동 추론 및 베이즈 네트워크 문서를 참고하십시오.

탐색, 논리와 확률적 추론은 문제를 명시적으로 나타내고 가능한 해답이나 결론을 계산하는 대표적인 접근이다. 상태 공간 탐색은 가능한 상황을 ‘상태’로, 한 상태에서 다른 상태로 옮기는 선택을 ‘행동’으로 나타내어 목표에 이르는 경로를 찾는다. 길 찾기에서는 장소가 상태이고 도로를 따라 이동하는 것이 행동이 된다. 상태가 많아지면 모든 가능성을 조사하기 어려워지므로, 탐색 순서를 정하는 방법이 중요해진다.

휴리스틱은 목표까지 얼마나 남았는지를 빠르게 추정하여 가능성이 높은 경로부터 조사하도록 탐색을 이끈다. A* 알고리즘은 현재까지 든 비용과 목표까지 남은 비용의 추정값을 함께 고려한다. 휴리스틱이 일정한 조건을 만족하면 최소 비용의 해답을 찾을 수 있다.

자동 추론은 사실과 규칙을 형식 논리로 나타내고, 그 규칙에 따라 새로운 결론을 찾는 접근이다. 예를 들어 명제 ${\displaystyle A}$와 ‘${\displaystyle A}$이면 ${\displaystyle B}$이다’라는 규칙 ${\displaystyle A\to B}$가 주어지면 ${\displaystyle B}$를 결론으로 얻을 수 있다. 자동 정리 증명은 공리와 이미 증명된 정리에서 목표 명제를 이끌어 내는 증명을 탐색하고, 충족 가능성 문제를 푸는 알고리즘은 주어진 논리식이 참이 되게 하는 변수의 값을 찾는다. 이러한 방법은 전제와 추론 규칙이 명확할 때 엄밀한 결론을 낼 수 있다. 결론의 신뢰성은 전제와 형식 표현이 실제 상황을 얼마나 정확히 담았는지에도 달려 있다.

확률적 추론은 가능한 상태나 설명에 확률을 부여하고, 새로운 증거가 들어오면 그 확률을 갱신한다. 베이즈 정리는 기존의 확률과 새로 관측한 증거를 결합하는 기본적인 방법을 제공한다. 예를 들어 의료 검사 결과를 해석할 때에는 검사의 정확도뿐 아니라 질병이 원래 얼마나 드문지도 함께 고려해야 한다.

베이즈 네트워크는 여러 확률 변수 사이의 관계를 유향 비순환 그래프와 각 변수의 조건부 확률로 나타낸다. 그래프의 각 꼭짓점은 변수를 나타내고, 각 변수에는 부모 변수의 값이 주어졌을 때의 조건부 확률이 대응된다. 이러한 구조는 변수 사이의 조건부 독립성을 이용하여 전체 결합 확률 분포를 하나의 거대한 표 대신 여러 개의 작은 확률표로 표현할 수 있게 한다. 이 화살표는 조건부 의존 구조를 나타내며, 인과 관계로 해석하려면 별도의 가정이 필요하다.

탐색·논리·확률 모형은 서로 따로 사용되기도 하지만 함께 결합될 수도 있다. 예를 들어 진단 시스템은 의학 지식을 논리적 규칙으로 나타내면서도, 검사 결과의 불확실성은 확률로 표현할 수 있다. 게임 프로그램은 가능한 수를 탐색하되, 모든 상태를 끝까지 조사하는 대신 학습된 모델로 각 상태의 가치를 추정할 수 있다. 이처럼 어떤 정보를 사람이 명시적으로 제공하고 어떤 부분을 데이터에서 학습할지는 시스템마다 다르다.

기계 학습과 딥 러닝

 이 부분의 본문은 기계 학습 및 딥 러닝입니다.

기계 학습은 사람이 모든 규칙을 직접 정하는 대신, 데이터에서 입력과 출력 사이의 관계나 행동 방식을 학습한다. 모델은 입력을 결과로 바꾸는 계산 구조이고, 학습 알고리즘은 데이터에 맞게 모델이나 그 매개변수를 정한다. 선형 회귀, 결정 트리, 서포트 벡터 머신, 최근접 이웃 방법과 인공 신경망은 서로 다른 방식으로 학습하는 모델의 예이다. 딥 러닝은 이 가운데 여러 층의 인공 신경망을 사용하는 방법이다.

많은 기계 학습 모델은 예측과 정답의 차이를 나타내는 손실 함수가 작아지도록 매개변수를 조정한다. 경사 하강법은 현재 위치에서 손실이 증가하는 방향의 반대쪽으로 매개변수를 조금씩 이동시키는 대표적인 최적화 방법이다.

딥 러닝은 여러 처리 층으로 이루어진 인공 신경망을 사용하는 기계 학습의 한 갈래이다. 각 층은 앞 층의 표현을 바꾸면서 과제에 유용한 내부 표현을 만든다. 일부 영상 인식 신경망에서는 앞쪽 층이 단순한 무늬와 경계에, 뒤쪽 층이 더 복잡한 형태에 반응하는 경향이 관찰된다. 이러한 내부 표현은 사람이 쓰는 개념과 정확히 일치하지 않을 수 있고 해석도 쉽지 않다.

신경망의 학습에는 흔히 역전파가 사용된다. 역전파는 출력에서 계산된 손실이 각 층과 매개변수에 얼마나 영향을 받았는지를 연쇄 법칙으로 효율적으로 계산한다. 이렇게 얻은 기울기를 경사 하강법 계열의 최적화 알고리즘에 사용하여 여러 층의 매개변수를 함께 조정할 수 있다. 역전파는 기울기를 계산하는 방법이며, 매개변수를 실제로 어떻게 갱신할지 정하는 경사 하강법이나 Adam 등의 최적화 알고리즘과는 구별된다.

딥 러닝 구조는 입력 자료와 필요한 정보의 관계에 따라 여러 형태로 발전하였다. 합성곱 신경망은 가까운 위치의 패턴을 반복해서 찾는 연산을 이용해 영상 처리에 널리 사용되었고, 순환 신경망은 앞선 상태를 다음 계산에 전달하여 순서가 있는 데이터를 처리한다. 트랜스포머는 어텐션을 이용해 데이터의 서로 다른 위치에 있는 정보를 결합한다. 이러한 구조들은 서로 배타적이지 않으며, 하나의 시스템 안에서 함께 사용되기도 한다.

강화 학습과 에이전트

 이 부분의 본문은 강화 학습입니다.

 지능형 에이전트, AI 에이전트 및 마르코프 결정 과정 문서를 참고하십시오.

강화 학습에서는 에이전트가 환경의 상태를 관측하고 행동한 뒤, 그 결과로 다음 상태와 보상을 받는다. 상태 ${\displaystyle s}$에서 행동 ${\displaystyle a}$를 고르는 규칙을 정책이라 하며, 확률적인 정책은 ${\displaystyle \pi (a\mid s)}$로 나타낼 수 있다. 목표는 한 번의 보상만 크게 만드는 것이 아니라, 여러 단계에 걸쳐 받는 보상의 합이 커지도록 행동 방식을 학습하는 것이다.

강화 학습에서는 새로운 행동을 시도하여 정보를 얻는 탐험과, 지금까지 좋다고 알려진 행동을 선택하는 활용 사이의 균형이 필요하다. 또한 최종 결과가 여러 행동 뒤에 나타날 때 어느 행동이 그 결과에 기여했는지 판단하는 신용 할당 문제가 생긴다. 일부 방법은 상태나 행동의 장기적 가치를 추정하고, 일부는 정책을 직접 조정하며, 환경이 어떻게 변하는지를 나타내는 모델을 학습하여 계획에 이용하기도 한다.

지능형 에이전트는 환경을 관측하고 목표를 이루기 위해 행동하는 시스템을 넓게 가리킨다. 모든 에이전트가 강화 학습을 사용하는 것은 아니다. 에이전트는 사람이 작성한 규칙, 탐색과 계획, 기계 학습 모델 또는 이들의 조합으로 행동을 정할 수 있다. 물리적 환경에서 움직이는 로봇뿐 아니라, 게임 속에서 행동하는 프로그램이나 디지털 환경에서 검색·계산·문서 작성을 수행하는 소프트웨어도 에이전트로 볼 수 있다.

2020년대에는 대형 언어 모델을 중심으로 검색 엔진, 계산기, 코드 실행기나 외부 프로그램을 호출하는 AI 에이전트가 널리 연구되었다. 이러한 시스템은 이용자의 목표와 현재까지의 결과를 언어 모델의 입력에 넣고, 다음 행동이나 도구 호출을 생성한 뒤, 그 실행 결과를 다시 입력으로 받아 과정을 반복할 수 있다. ReAct는 언어 모델이 문제 해결을 위한 추론 단계와 외부 환경에서 수행할 행동을 번갈아 생성하도록 한 한 가지 방법이다.

대형 언어 모델을 이용한 에이전트 시스템은 언어 모델에 외부 도구, 작업 상태와 행동을 반복하는 제어 절차를 결합한다.

파운데이션 모델과 생성형 인공지능

 이 부분의 본문은 파운데이션 모델 및 생성형 인공지능입니다.

 대형 언어 모델, 트랜스포머 (기계 학습) 및 검색증강생성 문서를 참고하십시오.

파운데이션 모델은 다양하고 방대한 데이터로 미리 학습한 뒤 여러 과제에 다시 활용할 수 있는 모델이다. 과제마다 모델을 처음부터 새로 만드는 대신, 다양한 자료에서 공통으로 쓸 수 있는 표현과 예측 규칙을 먼저 학습하고 이를 필요한 용도에 맞게 조정한다. 파운데이션 모델은 언어뿐 아니라 영상·음성·생물학적 서열 등 여러 종류의 자료를 대상으로 만들 수 있다.

미리 학습한 모델은 여러 방식으로 특정 과제에 맞출 수 있다. 모델에 주는 지시문인 프롬프트에 문맥과 예시를 넣으면 매개변수를 바꾸지 않고도 원하는 과제를 설명할 수 있다. 미세 조정은 과제별 데이터로 모델 매개변수의 일부 또는 전부를 다시 학습하는 방법이다. 별도의 작은 모듈이나 출력층만 학습해 기존 모델에 붙이기도 한다. 프롬프트를 처리하는 동안에는 보통 모델의 매개변수가 바뀌지 않는다.

생성형 인공지능은 주어진 입력이나 조건에 따라 글·그림·음성·영상·코드 등의 새로운 결과물을 만든다. 생성 모델은 학습 데이터의 구조와 특성을 나타내는 확률 분포 또는 생성 과정을 학습해 새로운 표본을 만든다. 언어 모델은 앞선 글을 바탕으로 다음에 올 토큰의 확률을 계산하고 이 과정을 반복해 문장을 만든다. 영상 생성 모델은 잡음이나 입력의 특징을 압축한 내부 표현에서 시작해 문장과 관련된 영상을 만들 수 있다.

파운데이션 모델은 학습 규모와 여러 과제에 다시 쓰이는 성격을 기준으로 한 개념이고, 생성형 인공지능은 새 결과물을 만드는 기능을 기준으로 한 개념이다. 두 범주는 겹칠 수 있지만, 모든 파운데이션 모델이 생성을 주목적으로 하거나 모든 생성 모델이 파운데이션 모델인 것은 아니다. 이용자가 접하는 대화·영상 편집·검색 서비스는 기반 모델에 입력 처리, 데이터베이스, 안전 규칙과 사용자 화면을 더한 전체 시스템이다.

검색 증강 생성(영어: retrieval-augmented generation, RAG)은 생성 모델이 답을 만들기 전에 외부 문서나 데이터베이스에서 관련 자료를 검색하고, 검색된 내용을 입력 문맥에 포함하는 방식이다. 외부 자료를 바꾸면 모델 전체를 다시 학습하지 않고도 최신 정보나 특정 기관의 자료를 활용할 수 있다. 검색 결과가 부정확하거나 모델이 자료를 잘못 해석하면 답변에도 오류가 생길 수 있다.

신경 기호 접근

 이 부분의 본문은 신경-기호 AI입니다.

신경 기호 인공지능은 데이터에서 패턴을 찾는 인공 신경망과, 사실·개념·규칙을 명시적으로 다루는 기호적 방법을 결합한다. 신경망은 영상·음성·자연어처럼 규칙을 직접 작성하기 어려운 자료를 처리하는 데 유용하고, 기호적 방법은 관계와 제약을 분명히 나타내어 정해진 추론 규칙을 적용하는 데 적합하다. 신경 기호 접근은 두 방법 가운데 하나를 없애기보다 서로의 장점을 함께 이용하려 한다.

두 방법을 결합하는 방식은 하나로 정해져 있지 않다. 신경망이 사진에서 사물과 그 위치를 찾은 뒤 기호적 규칙이 사물 사이의 관계를 추론할 수 있고, 논리 규칙을 위반하는 예측에 벌점을 주어 신경망의 학습을 제한할 수도 있다. 자동 정리 증명에서는 신경망이 다음에 시도할 추론 규칙이나 보조 정리를 제안하고, 형식적 증명 검사기가 그 결과가 실제로 올바른지 확인할 수 있다. 또 기호로 표현된 지식을 신경망의 입력으로 바꾸거나, 신경망이 학습한 표현에서 사람이 다룰 수 있는 규칙을 추출하려는 연구도 포함된다.

학문 분야의 성립

현대 인공지능은 형식 논리, 확률론, 계산 이론, 사이버네틱스와 초기 신경망 연구가 만난 데서 출발하였다. 논리학은 추론을 형식적인 규칙으로 나타냈고, 계산 이론은 어떤 문제가 기계적인 절차로 풀릴 수 있는지를 연구하였다. 1940년대와 1950년대에는 신경세포를 단순화한 계산 모형, 되먹임을 이용하는 제어 체계와 디지털 컴퓨터가 함께 발전하면서 지능적인 행동을 기계로 구현한다는 생각이 구체적인 연구 주제가 되었다.

1950년 앨런 튜링은 논문 〈Computing Machinery and Intelligence〉에서 “기계가 생각할 수 있는가”라는 질문을 다루고, 뒤에 튜링 검사라고 불리게 된 모방 게임을 제안하였다. 이 논문은 학습하는 기계의 가능성과 기계의 지능을 어떻게 논의할 것인지에 관한 연구 방향을 제시하였다.

‘인공지능’이라는 명칭은 존 매카시, 마빈 민스키, 너새니얼 로체스터와 클로드 섀넌이 작성한 1955년 연구 계획서에서 사용되었다. 이 계획서를 바탕으로 1956년 미국 다트머스 대학교에서 다트머스 여름 인공지능 연구 프로젝트가 열렸다. 연구자들은 학습과 지능의 여러 측면을 충분히 정확하게 기술할 수 있다면 기계로 이를 모의할 수 있다는 가정 아래, 언어·추상화·문제 해결·신경망과 자기 개선 등을 연구 주제로 제시하였다. 이 회의는 서로 흩어져 있던 관련 연구를 ‘인공지능’이라는 하나의 분야로 묶은 사건으로 여겨진다.

• 
  1951년 무렵의 앨런 튜링.
• 
  컴퓨터 과학자 존 매카시.
• 
  문자와 무늬를 학습해 식별하도록 설계된 초기 신경망 기계인 마크 1 퍼셉트론.

1950년대부터 1960년대에는 사람이 문제를 풀 때 사용하는 기호와 규칙을 컴퓨터 프로그램으로 나타내는 연구가 활발했다. 앨런 뉴얼과 허버트 사이먼 등이 개발한 로직 시어리스트(영어: Logic Theorist)는 수학 정리의 증명을 탐색했고, 뒤이은 일반 문제 해결기(영어: General Problem Solver)는 여러 문제에 공통적인 탐색 절차를 만들려 했다. 아서 새뮤얼의 체커 프로그램은 대국 경험을 이용해 성능을 개선했으며, 프랭크 로젠블랫의 퍼셉트론은 자료에서 분류 규칙을 학습하는 초기 인공 신경망 모형을 제시하였다. 이동 로봇 셰이키(영어: Shakey)와 초기 자연어 처리 프로그램도 이 시기에 개발되었다.

이러한 초기 프로그램들은 제한된 환경에서 인상적인 결과를 보였지만, 실제 세계의 복잡성과 상식을 폭넓게 다루지는 못했다. 당시의 컴퓨터는 연산 능력과 메모리가 제한되어 있었고, 많은 문제에서는 가능한 경우의 수가 너무 빠르게 늘어났다. 초기의 성공을 바탕으로 가까운 미래에 사람과 비슷한 수준의 인공지능이 실현될 것이라는 낙관적인 전망도 제시되었으나, 이러한 기대와 실제 시스템의 능력 사이에는 큰 차이가 있었다.

기호주의 인공지능과 인공지능의 겨울

기호주의 인공지능은 지식을 기호와 규칙으로 나타내고 이를 조작하여 문제를 푸는 접근이다. 1950년대부터 1980년대까지 주요 연구 흐름 가운데 하나였으며, 연구자들은 가능한 상태를 탐색하거나 사실과 논리 규칙에서 결론을 이끌어 내는 프로그램을 만들었다. 1960년대 말의 SHRDLU는 작은 가상 블록 세계에서 영어 명령을 해석하고 물체를 조작했지만, 그 환경 밖의 일반적인 대화와 현실 지식까지 다루지는 못했다.

1970년대와 1980년대에는 특정 분야의 전문가 지식을 규칙으로 저장하는 전문가 시스템이 발전하였다. 화학 구조를 추론하는 DENDRAL과 세균 감염을 진단하고 항생제를 추천하도록 설계된 MYCIN 등이 대표적인 사례이다. 전문가 시스템은 범용 지능을 한꺼번에 구현하기보다, 한정된 분야의 지식을 충분히 많이 입력하면 실제 문제를 해결할 수 있다는 방향을 보여 주었다. 1980년대에는 기업들이 장비 고장 진단, 생산 계획과 금융 판단 등에 전문가 시스템을 도입하면서 상업적 관심도 커졌다.

기술에 대한 높은 기대가 실제 성과로 이어지지 못하면서 1970년대 중반에는 여러 나라에서 연구비와 관심이 줄었다. 전문가 시스템 시장이 빠르게 성장한 뒤 기대에 미치지 못하고 관련 기업과 전용 하드웨어 시장이 위축된 1980년대 후반에도 투자가 크게 감소하였다. 이러한 침체기는 각각 첫 번째와 두 번째 인공지능의 겨울이라고 불린다. 이 시기에도 신경망·확률적 추론·로봇공학·기계 학습 연구는 계속되었다.

1980년대에는 이후 인공지능 발전에 중요한 여러 방법도 정립되었다. 1986년 데이비드 럼멜하트, 제프리 힌턴과 로널드 윌리엄스는 다층 신경망에서 출력 오차를 각 층으로 전달하여 연결 가중치를 조정하는 역전파 학습법을 널리 알렸다. 이 방법은 여러 층의 신경망이 입력으로부터 내부 표현을 학습할 수 있게 하였다. 또한 주데아 펄 등의 연구를 통해 베이즈 네트워크와 같은 확률적 모형이 발전하면서, 참과 거짓만으로 표현하기 어려운 불확실성을 체계적으로 다루는 방법이 인공지능의 중요한 축이 되었다.

통계적 기계 학습과 딥 러닝

1990년대부터 인공지능 연구에서는 사람이 모든 규칙을 직접 작성하는 방식에 더해, 실제 데이터에서 규칙성을 배우는 기계 학습이 널리 쓰이기 시작했다. 인터넷과 디지털 기기의 확산으로 데이터가 늘고 컴퓨터의 연산 능력과 저장 공간도 커지면서, 확률 모형·결정 트리·서포트 벡터 머신·신경망이 음성 인식, 검색, 추천과 영상 분석 등에 적용되었다. 그 결과 인공지능 연구에서 명시적인 지식뿐 아니라 데이터와 시험 성능도 중요한 기준이 되었다.

1997년 IBM의 딥 블루는 표준 대회 조건의 경기에서 당시 세계 체스 챔피언 가리 카스파로프를 이긴 최초의 컴퓨터가 되었다. 딥 블루는 오늘날의 딥 러닝 모델과 달리, 많은 수의 다음 수를 빠르게 탐색하는 전용 하드웨어, 사람이 설계한 평가 함수와 축적된 체스 지식을 결합하였다. 이 승리는 탐색·전문 지식·대규모 계산을 결합한 시스템이 체스에서 최고 수준의 인간을 넘어설 수 있음을 보여 주었다. 딥 블루의 능력은 체스에 특화되어 있었다.

2000년대에는 더 많은 데이터와 향상된 연산 장치, 신경망 학습 기법이 결합되면서 딥 러닝이 다시 주목받았다. 2012년 알렉스 크리제브스키, 일리야 수츠케버와 제프리 힌턴이 발표한 깊은 합성곱 신경망은 대규모 영상 자료인 이미지넷의 물체 분류 과제에서 기존 방법보다 크게 낮은 오류율을 기록하였다. 이 모델은 그래픽 처리 장치를 이용해 대규모 신경망의 학습을 빠르게 수행했으며, 이후 영상·음성·자연어 처리에서 깊은 신경망의 사용이 빠르게 확대되는 계기가 되었다.

2016년 알파고는 깊은 신경망, 강화 학습과 몬테카를로 트리 탐색을 결합하여 이세돌과의 바둑 경기에서 4승 1패로 승리하였다. 이는 신경망이 탐색을 완전히 대체한 사례가 아니라, 데이터 학습·자기 대국·가치 추정과 고전적인 탐색 방법을 결합하여 매우 큰 상태 공간을 다룬 사례였다.

• 
  컴퓨터 역사 박물관에 전시된 딥 블루와 유사한 컴퓨터. 딥 블루는 1997년 세계 체스 챔피언 가리 카스파로프와의 대결에서 승리하였다.
• 
  2016년 이세돌과 알파고의 제3국 기보. 알파고가 백으로 승리하였다.

딥 러닝의 성과는 한 가지 알고리즘의 발명만으로 이루어진 것은 아니다. 인공 신경망과 역전파에 관한 아이디어는 오래전부터 연구되었지만, 대규모 데이터, 병렬 연산 장치, 개선된 학습 방법과 공개 벤치마크가 함께 발전하면서 더 깊고 큰 모델을 실제로 학습할 수 있게 되었다. 이에 따라 인공지능 연구에서 알고리즘뿐 아니라 데이터의 품질, 연산 자원, 평가 방법과 모델을 실제 서비스에 도입하는 기술의 중요성도 커졌다.

트랜스포머와 생성형 인공지능의 확산

2017년 바스와니 등이 발표한 〈어텐션 이즈 올 유 니드〉는 문장처럼 순서가 있는 데이터를 셀프 어텐션으로 처리하는 트랜스포머를 제안하였다. 트랜스포머는 멀리 떨어진 위치의 정보를 한 층에서 직접 연결하고, 학습할 때 여러 위치를 병렬로 계산할 수 있었다. 이후 인코더 전용 모델인 BERT와 디코더 전용 GPT 계열이 발전하면서, 대규모 텍스트로 먼저 학습한 모델을 여러 과제에 적용하는 방식이 자연어 처리의 주요 접근으로 자리 잡았다.

2020년 발표된 GPT-3는 매우 큰 언어 모델에 과제 설명과 몇 개의 예시를 텍스트로 제시하는 것만으로 번역·질의 응답·문장 완성 등 여러 과제를 수행할 수 있음을 보였다. 이는 모든 과제에 대해 모델의 매개변수를 다시 학습하는 대신, 입력 지시문과 예시로 모델이 수행할 일을 정하는 프롬프트 기반 사용을 널리 알리는 계기가 되었다.

생성 모델의 발전은 언어에만 한정되지 않았다. 2014년 제안된 생성적 적대 신경망은 생성 모델과 판별 모델을 서로 경쟁시키는 방식으로 영상 등의 자료를 생성하였고, 2020년대에는 잡음에서 시작하여 여러 단계의 잡음 제거를 거치는 확산 모델이 고품질 영상 생성에 널리 사용되었다. 언어·영상·음성 등 여러 종류의 자료를 함께 처리하는 멀티모달 모델도 발전하면서, 생성형 인공지능은 텍스트 생성뿐 아니라 그림·음성·영상·코드의 생성과 편집으로 범위를 넓혔다.

챗GPT는 2022년 11월 30일 공개되어 대화 형식으로 질문에 답하고 글을 작성하거나 코드를 설명하는 생성형 언어 모델 서비스를 제공하였다. 이후 대화형 생성 인공지능의 이용과 조직의 인공지능 도입이 빠르게 늘었다.

2020년대에는 대규모 데이터와 연산 장치를 보유한 기업의 역할도 커졌다. 《AI Index 2026》이 ‘주목할 만한 최첨단 모델’로 분류한 2025년 사례 가운데 90% 이상은 산업계에서 개발되었다. 같은 보고서의 조사에서는 응답 조직의 88%가 적어도 한 업무에서 인공지능을 사용한다고 답했다.

일상생활과 정보 서비스

 검색 엔진, 추천 시스템, 기계 번역 및 음성 인식 문서를 참고하십시오.

일상에서 인공지능은 검색 결과와 추천 목록의 순서를 정하고, 언어를 번역하거나 음성을 글자로 바꾸며, 문서와 코드를 만드는 데 쓰인다. 검색 엔진은 이용자의 검색어와 문서를 비교하여 관련성이 높은 결과를 찾고 순서를 정한다. 최근의 검색 시스템은 단어가 그대로 일치하는지만 보지 않고 문장의 의미와 문맥을 숫자로 나타낸 표현도 이용하며, 생성형 언어 모델이 여러 검색 결과를 요약해 하나의 답변을 만들기도 한다.

추천 시스템은 영상·음악·기사·상품처럼 매우 많은 항목 가운데 이용자가 관심을 가질 가능성이 높은 항목을 고른다. 추천에는 이용자가 이전에 선택한 항목과 비슷한 항목을 찾는 방식, 비슷한 이용자들의 선택을 함께 이용하는 방식 등이 쓰인다. 대규모 추천 시스템은 흔히 전체 항목에서 비교적 적은 수의 후보를 먼저 찾고, 각 후보에 점수를 매긴 뒤, 다양성·최신성·안전 기준 등을 고려해 순서를 다시 조정한다. 추천은 이용자가 직접 찾지 않은 정보를 발견하게 한다. 한편 어떤 자료와 목표로 순위를 정했는지에 따라 특정 종류의 내용이 반복해서 노출되거나 다른 선택지가 잘 보이지 않을 수 있다.

기계 번역, 음성 인식, 자동 자막과 문자 인식은 서로 다른 형태의 정보를 사람이 이용하기 쉬운 형태로 바꾸는 데 사용된다. 음성 인식은 말소리를 문자로 바꾸어 받아쓰기와 음성 명령을 가능하게 하고, 기계 번역은 서로 다른 언어를 사용하는 사람들의 의사소통을 돕는다. 화면의 글을 음성으로 읽거나 영상에 자동 자막을 붙이는 기능은 장애가 있거나 특정 언어에 익숙하지 않은 사람의 정보 접근성을 높이는 데에도 쓰인다.

• 
  후보 생성과 점수화·순위화로 이루어진 두 단계 추천 시스템.
• 
  통계적 기계 번역의 예.

생성형 인공지능은 글의 초안 작성, 문서 요약, 번역, 코드 작성과 설명, 회의 내용 정리 등에 사용된다. 이용자는 일상 언어로 원하는 결과를 지시하고 생성된 내용을 고쳐 쓸 수 있다. 자연스러운 문장과 사실에 맞는 내용은 별도로 평가해야 하며, 법률·의료·재정처럼 오류의 영향이 큰 분야에서는 원문과 전문 자료, 전문가의 검토가 중요하다.

과학, 의료와 교육

 과학적 방법, 단백질 구조 예측, 일기예보, 의학촬영 및 교육 기술 문서를 참고하십시오.

과학·의료·교육에서는 인공지능이 많은 자료를 분석해 예측이나 후보를 제시하고 사람의 판단을 돕는다. 과학 연구에서는 대규모 관측 자료에서 규칙성을 찾고, 실험 결과를 예측하며, 조사할 가설이나 물질의 후보를 좁히는 데 쓰인다. 천문 자료에서 특이한 천체를 찾거나 현미경 영상에서 세포를 구별하고, 물질의 성질과 화학 반응을 예측하는 것이 그 예이다. 이러한 계산 결과는 과학적 설명이나 실험을 대신하기보다 다음 조사와 검증의 방향을 정하는 데 활용된다.

알파폴드는 아미노산 서열과 관련 서열 정보를 바탕으로 단백질의 3차원 구조를 예측하였다. 2021년에 발표된 알파폴드 2는 기존 방법보다 구조 예측의 정확도를 크게 높였고, 2024년에 발표된 알파폴드 3은 단백질뿐 아니라 핵산·작은 분자·이온 등을 포함한 여러 생체분자 복합체의 구조 예측으로 범위를 넓혔다. 이러한 예측은 실험할 단백질이나 상호작용의 후보를 고르는 데 도움을 줄 수 있지만, 생물학적 기능과 치료 효과를 확정하려면 별도의 실험과 검증이 필요하다.

기계 학습은 복잡한 물리계의 상태를 예측하거나 기존 수치 모형의 일부 계산을 빠르게 근사하는 데에도 사용된다. 예를 들어 GraphCast는 과거의 대기 재분석 자료로 학습하여 전 지구의 여러 기상 변수를 최대 10일 앞까지 예측하도록 설계되었다. 2023년 논문에서 GraphCast는 당시 유럽중기예보센터의 결정론적 예보 체계와 비교한 다수의 평가 항목에서 더 높은 정확도를 보고하였다. 이러한 모델은 물리 법칙에 기반한 수치 예보와 함께 사용하거나 빠른 보조 예보를 만드는 데 활용될 수 있다.

의학에서는 인공지능이 엑스선·컴퓨터단층촬영·자기공명영상 등의 의학 영상을 분석하고, 환자의 위험도를 예측하며, 임상 기록을 정리하거나 치료·검사 후보를 제시하는 데 사용된다. 의약품 후보 물질 탐색, 임상 시험 설계, 감염병 감시와 의료기관의 인력·일정 관리에도 활용될 수 있다. 세계보건기구는 인공지능이 진단·치료·보건 연구·신약 개발과 공중보건 기능을 지원할 가능성을 인정하면서도, 의료진과 환자에게 영향을 주는 만큼 인권·윤리·책임성을 설계와 사용 전반에 반영해야 한다고 강조하였다.

의료 인공지능의 출력은 보통 환자의 상태를 확정하는 진단 그 자체라기보다, 의료진이 살펴볼 이상 부위나 위험도·가능한 선택지를 제시하는 임상 지원 정보로 사용될 수 있다. 성능은 병원·장비·환자 집단과 자료 수집 방식에 따라 달라질 수 있으므로, 실제 사용 환경에 맞는 검증과 지속적인 관찰이 필요하다.

교육에서는 학습자의 풀이 과정과 성취 수준을 분석하여 알맞은 문제나 설명을 제시하고, 교사가 자료를 만들거나 학생의 학습 상태를 확인하는 일을 도울 수 있다. 음성 인식·번역·문자 읽기 기능은 언어와 장애로 인한 학습 장벽을 낮출 수 있고, 생성형 인공지능은 질문에 대한 설명, 글쓰기 피드백, 외국어 대화 연습과 학습 자료의 초안 작성에 쓰일 수 있다. 연구자는 문헌을 분류하거나 연구 자료를 요약하고, 프로그램 코드를 작성하는 데에도 인공지능을 이용할 수 있다.

교육용 인공지능의 설명과 채점에도 오류가 생길 수 있고, 서비스는 학습자의 개인정보와 활동 기록을 수집할 수 있다. 생성된 답을 그대로 제출하면 학생의 실제 이해와 수행 능력을 평가하기 어려워진다. 유네스코는 교육과 연구에서 생성형 인공지능을 사용할 때 교육 목표, 데이터 보호, 연령에 맞는 사용, 도구의 검증과 교사·학습자의 역량을 함께 살피도록 권고하였다. 인공지능은 교사의 설명과 판단을 도울 수 있으며, 교육 목표와 평가 방식은 교사·학습자와 교육 기관이 정한다.

산업, 행정과 로봇공학

 스마트팩토리, 물류, 전자정부 및 로봇공학 문서를 참고하십시오.

산업과 공공 행정에서는 인공지능을 품질 검사, 수요와 고장 예측, 생산·물류 계획, 문서 처리와 로봇 제어에 활용한다. 제조업에서는 카메라 영상으로 제품의 흠집과 조립 오류를 찾거나, 센서의 진동·온도·소리에서 장비의 이상 징후를 찾을 수 있다. 장비 상태에 따라 점검 시점을 정하는 방식을 예측 정비라고 하며, 생산 일정·에너지 소비·재고와 공급망을 조정하는 데에도 인공지능이 쓰인다.

물류에서는 상품의 수요와 도착 시간을 예측하고, 창고 안의 물건 배치와 배송 차량의 경로를 정하는 데 인공지능이 사용된다. 전력·교통 분야에서는 시간대별 수요를 예측하거나 신호와 운행 계획을 조정할 수 있으며, 농업에서는 위성·드론·센서 자료를 바탕으로 작물의 생육 상태나 병해 가능성을 분석할 수 있다. 이러한 최적화는 비용과 자원 소비를 줄일 수 있지만, 시스템이 어떤 목표를 우선하도록 설계되었는지에 따라 안전·노동 조건·환경과 같은 요소가 충분히 반영되지 않을 수도 있다.

공공 행정에서는 민원과 문서를 분류하고 법령·지침을 검색하며, 세금·복지·조달 자료에서 오류나 이상 징후를 찾는 데 인공지능을 활용한다. 공공기관이 개인의 자격·혜택·제재를 정할 때에는 단순한 문서 처리보다 높은 수준의 검증과 책임이 필요하다. 담당자가 결과를 검토하고 시민이 오류에 이의를 제기할 수 있는 절차도 중요하다.

로봇공학에서는 인공지능이 카메라·라이다·힘 센서 등의 정보를 해석하고, 로봇의 위치를 추정하며, 이동 경로나 물체를 잡는 방법을 정하는 데 사용된다. 공장의 로봇은 부품을 구별하고 조립·검사·분류를 수행할 수 있으며, 이동 로봇은 창고나 병원에서 주변 장애물을 피해 이동할 수 있다. 사람과 같은 공간에서 일하는 협동 로봇이나 서비스 로봇에는 음성 명령 이해, 사람과 물체의 인식, 충돌 방지와 동작 계획이 함께 필요할 수 있다.

창작과 미디어

 생성형 인공지능, 컴퓨터 아트, 딥페이크 및 인공지능과 저작권 문서를 참고하십시오.

인공지능은 글·그림·사진·음악·음성·영상·애니메이션과 프로그램 코드를 새로 만들거나 편집하는 데 쓰인다. 창작자는 아이디어를 탐색하고 여러 시안을 비교하거나, 배경 제거·색 보정·음질 개선·자막 생성처럼 반복적인 작업을 줄이는 데 이를 활용할 수 있다. 생성형 모델은 짧은 설명을 바탕으로 영상이나 음악의 초안을 만들고, 기존 작품의 일부를 고치거나 다른 형식으로 바꿀 수도 있다.

• 
  StyleGAN이 생성한 인물 이미지. 사진처럼 보이지만 실제 인물의 사진이 아니라 인공 신경망이 생성한 합성 이미지이다.
• 
  문장 입력으로 생성된 디지털 이미지의 예.

인공지능은 문화유산의 보존과 접근성 향상에도 사용될 수 있다. 훼손된 사진·음원·문서를 복원하고, 손으로 쓴 기록을 문자로 바꾸며, 박물관과 기록관의 자료를 분류하거나 여러 언어로 설명할 수 있다. 유네스코는 인공지능이 유물과 기록의 디지털화·복원, 역사 자료 분석과 문화유산의 소개에 활용될 수 있다고 설명한다.

생성형 인공지능과 저작권에는 서로 다른 문제가 있다. 모델 학습에 저작물을 사용할 수 있는지, 생성 결과가 기존 작품의 보호되는 표현과 얼마나 비슷한지, 사람이 인공지능을 이용해 만든 결과를 누구의 저작물로 볼 것인지는 각각 다른 법적 판단을 요구한다. 결론은 국가의 법률과 구체적인 사용 방식에 따라 달라질 수 있다. 대한민국 한국저작권위원회는 인공지능 학습, 생성 결과물의 이용, 인공지능을 활용한 저작물의 등록과 분쟁 예방을 구분하여 안내하고 있다.

평가 방법

 혼동 행렬, 정밀도와 재현율, 일반화 오차 및 러닝 커브 (기계 학습) 문서를 참고하십시오.

기계 학습에서는 보통 데이터를 학습 집합, 검증 집합, 시험 집합으로 나눈다. 학습 집합은 모델의 매개변수를 조정하는 데, 검증 집합은 모델 구조와 하이퍼파라미터를 고르는 데 사용한다. 시험 집합은 모든 선택을 마친 뒤 새로운 자료에서의 최종 성능을 추정하는 데 사용한다. 시험 결과를 보면서 모델을 계속 바꾸면 그 점수가 실제 성능보다 높게 나타날 수 있다.

자료를 나눌 때에는 같은 사람·장소·시간대에서 얻은 매우 비슷한 사례가 학습 집합과 시험 집합에 함께 들어가지 않도록 해야 한다. 시험 자료의 정보가 직접 또는 간접적으로 학습 과정에 들어가는 데이터 누출이 생기면 실제보다 높은 성능이 나타날 수 있다.

분류 모델은 전체 예측 가운데 맞힌 비율인 정확도뿐 아니라, 양성이라고 예측한 사례가 실제 양성인 비율인 정밀도와 실제 양성 사례를 찾아낸 비율인 재현율 등으로 평가한다. 예를 들어 거래 10,000건 가운데 사기 거래가 10건일 때 모든 거래를 정상으로 분류하면 정확도는 99.9%이지만 사기 거래는 하나도 찾아내지 못한다. 따라서 실제 오류의 비용에 맞는 지표를 선택해야 한다.

번역·요약·대화·영상 생성처럼 정답이 하나로 정해지지 않는 과제는 평가하기가 더 어렵다. 번역에서는 후보 번역과 사람이 작성한 번역의 겹침을 측정하는 BLEU를 사용할 수 있고, 질의 응답에서는 정답 문자열과 정확히 일치하는지 또는 핵심 내용이 포함되었는지를 평가할 수 있다. 생성형 인공지능은 내용의 사실성, 주어진 자료에 근거하는 정도, 지시 준수, 유해한 출력의 빈도와 사람에게 실제로 도움이 되는지 등을 서로 다른 평가로 측정한다. 하나의 자동 지표가 이 모든 성질을 나타내지는 못하므로, 사람의 평가·전문가 검토·현장 시험과 자동 평가를 함께 사용할 수 있다.

벤치마크는 같은 과제와 자료에서 여러 모델을 비교할 수 있게 하지만, 그 점수가 실제 능력을 완전히 나타내지는 않는다. 시험 자료의 정답 자체에 오류가 있을 수 있고, 공개된 문제와 정답이 학습 데이터에 포함되면 모델이 문제의 원리를 해결하지 않고 기억한 내용을 재현할 수 있다. 널리 쓰이는 벤치마크의 점수가 상한에 가까워지면 모델 사이의 차이를 구별하기 어려워지고, 특정 시험에 맞춘 개선이 실제 환경의 향상으로 이어지지 않을 수도 있다.

실제 사용 전후의 평가에는 예상되는 이용자와 입력을 반영한 현장 시험, 극단적이거나 드문 상황을 확인하는 스트레스 시험, 취약점을 의도적으로 찾는 레드팀 평가 등이 포함될 수 있다. 전체 평균뿐 아니라 연령·언어·지역·장애·장비와 같은 관련 집단 및 조건별 결과도 살펴보아야 한다. 실제 서비스에 도입한 뒤에는 입력의 변화, 오류와 사고, 사람이 모델의 제안을 무시하거나 수정한 사례, 이용자의 신고를 지속적으로 관찰하여 성능이 허용 범위를 벗어나는지 확인할 수 있다.

일반화와 분포 변화

 일반화 오차, 과적합, 러닝 커브 (기계 학습) 및 온라인 기계 학습 문서를 참고하십시오.

기계 학습에서 일반화는 학습에 쓰지 않은 새로운 사례에도 유용한 결과를 내는 능력이다. 모델이 학습 자료의 우연한 특징이나 잡음까지 지나치게 따라가 학습 자료에서는 잘 작동하지만 새로운 자료에서는 성능이 낮아지는 현상을 과적합이라고 한다. 과적합의 위험은 모델의 복잡성만이 아니라 자료의 양과 다양성, 평가 자료를 반복해서 참고했는지에도 영향을 받는다.

실제 사용 환경의 자료는 시간, 장소, 장비와 이용자 집단이 달라지면서 학습 자료와 다른 특성을 보일 수 있다. 이를 분포 변화라고 한다. 예를 들어 다른 병원에서 촬영한 영상이나 시간이 지나 새롭게 나타난 스팸은 학습 자료와 다른 분포를 가질 수 있다.

WILDS 벤치마크는 병원마다 다른 종양 영상, 서로 다른 장소의 야생동물 카메라, 시간과 지역이 달라지는 위성 영상 등 실제 환경에서 나타나는 분포 변화를 모은 자료이다. 이 연구에서 표준적인 학습 방법으로 얻은 모델들은 학습 자료와 비슷한 시험 집합보다 분포가 다른 시험 집합에서 대체로 낮은 성능을 보였다. 이는 무작위로 나눈 하나의 시험 집합에서 높은 점수를 얻는 것만으로 장소·시간·집단이 달라진 환경의 성능을 보장하기 어렵다는 점을 보여 준다.

분포 변화에 대비하려면 실제 이용 환경을 반영해 시험 자료를 구성해야 한다. 미래의 사례를 예측하는 시스템은 시간 순서에 따라 학습·시험 자료를 나누고, 여러 병원에서 사용할 모델은 병원별 성능을 따로 확인할 수 있다. 데이터의 변화와 오류율을 계속 관찰하고 필요하면 새로운 자료로 모델을 다시 학습한다. 모델을 바꾼 뒤에는 기존 조건과 새로운 조건에서 성능과 편향을 다시 평가한다.

오류와 환각

 이 부분의 본문은 환각 (인공지능)입니다.

인공지능의 오류는 생성형 인공지능에만 생기는 문제가 아니다. 분류 모델은 정상 사례를 위험하다고 판단하거나 실제 위험을 놓칠 수 있고, 수치 예측 모델은 값을 지나치게 높거나 낮게 내놓을 수 있으며, 로봇은 물체의 위치를 잘못 파악할 수 있다. 이러한 오류는 잘못된 정답 표시, 부족하거나 치우친 학습 자료, 모호한 입력, 모델과 학습 방법의 한계, 분포 변화 또는 시스템 구성 요소 사이의 문제에서 생긴다.

생성형 인공지능이 사실과 다르거나 주어진 자료에서 뒷받침되지 않는 내용을 자연스럽고 확신에 찬 형태로 만드는 현상은 흔히 환각(영어: hallucination)이라고 한다. 미국 국립표준기술연구소는 이를 영문 보고서에서 confabulation이라고 부르며, 이용자를 오도할 수 있는 오류나 거짓 내용을 확신 있게 제시하는 위험으로 설명한다. 이 표현들은 모델이 실제 감각 경험이나 믿음을 갖는다는 뜻으로 쓰이지 않는다.

환각은 여러 원인에서 생긴다. 학습 자료에는 잘못되거나 서로 모순되는 설명이 들어 있을 수 있고, 언어 모델은 보통 문맥에 이어질 가능성이 높은 표현을 예측하도록 학습되므로 사실성을 따로 확인해야 한다. 질문이 모호하거나 필요한 정보가 학습 자료와 입력 문맥에 없을 때에도 모델은 답을 추측할 수 있다. 외부 문서를 검색하는 시스템에서는 검색된 자료가 관련 없거나 오래되었거나, 모델이 자료의 내용을 잘못 결합하여 오류가 생길 수 있다.

TruthfulQA 연구에서는 언어 모델이 웹 문서에 자주 나타나는 잘못된 믿음을 답변에 재현할 수 있음이 관찰되었다. 이는 자연스러운 문장을 생성하는 능력과 사실에 맞는 내용을 말하는 능력이 서로 다른 평가 대상임을 보여 준다.

환각을 줄이기 위해 신뢰할 수 있는 문서를 입력에 제공하거나 검색 증강 생성을 사용하고, 계산기·데이터베이스·프로그램 실행기 같은 외부 도구로 결과를 확인할 수 있다. 모델이 근거를 인용하거나 모르는 질문에 답변을 거부하도록 학습시키고, 여러 번의 결과를 비교하거나 별도의 검증 모델과 전문가가 답을 확인하는 방법도 사용된다. 검색 자료나 검증기 자체가 틀리거나 인용문이 실제 주장을 뒷받침하지 않으면 이러한 방법을 사용한 답변에도 오류가 남는다.

오류의 허용 범위는 용도에 따라 달라진다. 이야기의 초안을 만드는 과정에서는 잘못된 세부 내용을 쉽게 고칠 수 있지만, 약물 용량·법적 권리·금융 거래나 기계 제어에 관한 오류는 큰 피해로 이어질 수 있다. 오류의 영향이 큰 환경에서는 인공지능의 출력을 단독 결정으로 사용하기보다 근거 자료와 함께 제시하고, 사람이 검토하며, 필요한 경우 안전한 기본 동작으로 전환하도록 설계할 수 있다.

견고성, 해석 가능성과 자원 사용

 AI 안전, 적대적 기계 학습, 설명가능 인공지능 및 모델 압축 문서를 참고하십시오.

신뢰성은 시스템이 예상한 조건에서 필요한 기능을 꾸준히 수행하는 정도이고, 견고성은 잡음·환경 변화·예상하지 못한 입력이나 공격에도 성능이 크게 무너지지 않는 성질이다. 평균 정확도가 높은 모델도 조명, 억양, 문장 표현이나 센서 상태가 달라졌을 때 쉽게 실패한다면 실제 사용에서는 신뢰하기 어렵다. 어느 정도의 견고성이 필요한지는 시스템의 용도와 오류가 낳을 피해에 따라 달라진다.

일부 기계 학습 모델은 사람이 거의 알아차리기 어려운 작은 입력 변화에도 전혀 다른 결과를 낼 수 있다. 적대적 예시는 모델이 틀린 결과를 내도록 의도적으로 만든 입력이다. 초기 연구에서는 원래 올바르게 분류되던 영상에 작고 정교한 변화를 더했을 때 여러 신경망이 높은 신뢰도로 오분류할 수 있음이 나타났다. 공격자는 학습 자료를 오염시키거나, 모델의 정보를 빼내거나, 생성형 시스템의 지시를 우회하는 입력을 만들 수도 있다. 이러한 문제는 적대적 기계 학습과 인공지능 보안에서 연구한다.

공격 사례를 학습에 포함하고, 입력과 출력의 이상 징후를 검사하며, 모델·데이터·외부 도구에 대한 접근 권한을 제한하면 위험을 줄일 수 있다. 방어 기법은 알려진 공격에 맞추어져 있어 새로운 공격에는 효과가 다를 수 있고 정상 입력의 성능을 낮추기도 한다. 보안 평가는 서비스 도입 전후에 시스템 변경과 새로운 공격을 반영해 반복한다. 한국인터넷진흥원은 「인공지능 보안 안내서」를 2025년 12월 발간하고 2026년 3월 수정본과 정오표를 배포하였다.

복잡한 인공지능이 어떤 근거로 결과를 냈는지를 사람이 이해하기 어려운 문제도 있다. 설명가능 인공지능은 모델의 출력이나 처리 과정에 관한 이유와 근거를 사람이 이해할 수 있는 형태로 제공하는 방법을 연구한다. 미국 국립표준기술연구소는 설명 가능한 시스템의 원칙으로 결과에 관한 설명을 제공할 것, 대상 이용자가 이해할 수 있을 것, 설명이 실제 시스템의 처리 과정을 정확히 반영할 것, 시스템이 자신의 지식과 적용 범위를 벗어난 상황을 구별할 것을 제시하였다.

설명은 실제 계산 과정을 정확히 반영하는지 따로 검증해야 한다. 설명 가능성은 정확성과 안전성을 대신하지 않지만, 오류를 조사하고 결과에 이의를 제기하는 데 도움을 준다.

인공지능의 사용에는 계산 자원도 필요하다. 모델을 학습할 때에는 학습 자료를 저장하고 반복해서 처리해야 하며, 추론할 때에도 모델의 매개변수와 중간 결과를 메모리에 보관하고 계산해야 한다. 필요한 시간·메모리·전력은 모델 구조와 크기, 입력의 길이와 해상도, 동시에 처리하는 이용자 수, 사용한 하드웨어에 따라 크게 달라진다. 같은 모델이라도 한 번의 짧은 분류와 긴 영상 생성 또는 수백만 번의 반복 실행은 자원 사용량이 다르다.

대규모 인공지능의 자원 사용은 데이터 센터의 전력 소비와 냉각, 반도체 생산 및 장비 교체에 따른 환경 영향으로 이어질 수 있다. 데이터 센터는 인공지능 이외의 디지털 서비스에도 쓰이며, 실제 영향은 모델의 크기와 사용 횟수, 전력 생산 방식과 하드웨어 효율에 따라 달라진다.

편향과 공정성

 알고리즘 편향 및 얼굴 인식 시스템 문서를 참고하십시오.

알고리즘 편향은 인공지능 시스템의 결과가 특정 개인이나 집단에 반복적으로 불리하게 나타나는 문제를 가리킨다. 이러한 차이는 학습 자료, 정답을 붙이는 방식, 최적화한 목표, 평가 기준과 실제 사용 절차에서 생길 수 있다. 모든 오류가 곧 차별인 것은 아니지만, 집단에 따라 오류의 크기나 피해가 달라지고 교육·고용·금융·의료·사법의 기회에 영향을 주면 공정성의 문제가 된다.

해로운 편향은 학습 데이터 한 곳에서만 생기지 않는다. 과거의 고용 자료에 이미 차별적인 채용 관행이 반영되어 있을 수 있고, 소득이나 거주 지역처럼 다른 사회적 조건과 밀접한 변수를 목표의 대리값으로 사용할 수도 있다. 정답을 붙이는 사람들의 판단, 어떤 오류를 더 중요하게 보는지 정한 손실 함수, 일부 집단이 적게 포함된 시험 자료와 시스템을 사용하는 기관의 절차도 결과에 영향을 준다. 미국 국립표준기술연구소는 인공지능의 편향을 통계·계산상의 편향뿐 아니라 제도와 사회 구조에서 비롯되는 체계적 편향, 사람의 인지와 행동에서 비롯되는 편향까지 포함하는 문제로 설명한다.

얼굴 인식 시스템은 집단별 성능 차이가 실제로 측정된 사례이다. 미국 국립표준기술연구소가 2019년에 99개 개발자가 제출한 189개 얼굴 인식 알고리즘을 시험한 결과, 조사된 알고리즘의 다수에서 나이·성별·인종에 따른 정확도 차이가 관찰되었다. 차이의 크기와 방향은 알고리즘, 데이터와 얼굴 인식의 용도에 따라 달랐다. 이 결과는 얼굴 인식의 집단별 오류가 알고리즘과 사용 환경에 따라 달라지므로, 실제로 사용할 시스템을 조건별로 따로 평가해야 함을 보여 준다.

편향을 줄이기 위해서는 자료의 출처와 대표성을 조사하고, 전체 평균뿐 아니라 영향을 받는 집단별 성능을 평가할 수 있다. 목표와 대리 변수가 적절한지 확인하고, 시스템 도입 전에 영향 평가를 하고, 운영을 시작한 뒤에도 오류와 민원을 계속 관찰할 필요가 있다. 영향을 받는 사람과 분야 전문가가 설계와 평가에 참여하고, 개인이 결정의 이유를 확인하거나 오류에 이의를 제기할 수 있는 절차를 마련하는 것도 중요하다. 사람이 최종 결정을 내리도록 할 때에도 검토자가 필요한 정보와 권한·시간을 실제로 갖추어야 한다.

개인정보, 감시와 보안

 정보 프라이버시, 대중감시 및 생체인증 문서를 참고하십시오.

인공지능 시스템은 이름·주소처럼 사람을 직접 식별하는 정보뿐 아니라 얼굴·목소리·위치·검색 기록·구매 내역과 대화 내용도 학습과 운영에 사용할 수 있다. 여러 자료를 함께 분석하면 각각의 자료만으로는 알기 어려운 건강 상태, 정치적 성향이나 생활 습관을 추정할 수도 있다. 따라서 개인정보 문제는 자료의 유출뿐 아니라 수집 목적, 보관 기간, 예상하지 못한 분석과 재사용까지 포함한다.

생성형 인공지능에서는 학습 데이터, 이용자가 입력한 프롬프트, 업로드한 문서와 사진, 대화 기록, 외부 서비스와 주고받은 정보가 서로 다른 단계에서 처리될 수 있다. 이용자는 입력 내용이 저장되는지, 모델 학습에 사용되는지, 얼마나 오래 보관되는지 알기 어려울 수 있다. 모델이 학습 자료의 일부를 그대로 재현하거나, 출력과 다른 자료를 결합하여 개인을 다시 식별할 가능성도 고려해야 한다. 대한민국 개인정보보호위원회는 2025년 안내서에서 생성형 인공지능의 데이터 수집·개발·제공·이용에 이르는 단계별 개인정보 처리 기준과 안전조치를 정리하였다.

얼굴 인식·보행 분석·음성 인식과 위치 추적을 카메라·통신 기록과 결합하면 많은 사람을 지속적으로 식별하고 행동을 분석할 수 있다. 생체 정보는 비밀번호처럼 쉽게 바꾸기 어렵고, 감시가 이루어진다는 사실만으로도 표현·집회와 이동의 자유가 위축될 수 있다. 따라서 안전이나 편의를 위한 사용이라도 목적, 대상, 보관 기간, 접근 권한과 오인식에 대한 구제 절차를 따져야 한다.

개인정보 위험을 줄이기 위한 방법에는 필요한 자료만 수집하는 데이터 최소화, 이용 목적과 보관 기간의 제한, 가명처리·암호화·접근 통제, 처리 기록의 관리와 삭제 절차 등이 있다. 모델을 공개하거나 다른 기관에 제공할 때에는 학습 자료의 개인 정보가 출력으로 재현될 가능성도 시험할 수 있다. 이러한 조치는 개발 단계에서 한 번 적용하고 끝내는 것이 아니라 데이터와 모델, 서비스 이용 방식이 바뀔 때마다 다시 검토할 필요가 있다.

허위 정보, 딥페이크와 저작권

 가짜뉴스, 딥페이크 및 인공지능과 저작권 문서를 참고하십시오.

사실과 다른 정보는 의도 없이 퍼지는 잘못된 정보(영어: misinformation)와, 사람을 속이거나 여론에 영향을 주려고 일부러 만드는 허위조작정보(영어: disinformation)로 나누기도 한다. 생성형 인공지능은 많은 글·사진·음성·영상을 짧은 시간에 만들고 대상에 맞게 바꾸는 비용을 낮춘다. 자동 계정과 추천 시스템이 결합되면 이러한 정보가 빠르게 퍼질 수 있지만, 인공지능은 조작된 자료와 의심스러운 계정을 탐지하는 데에도 쓰인다.

딥페이크는 신경망 등을 이용해 실제처럼 보이거나 들리는 합성 영상·사진·음성을 만드는 기술과 그 결과물을 가리킨다. 영화 제작, 더빙, 교육과 문화유산 복원처럼 당사자의 동의 아래 유용하게 쓰일 수 있지만, 다른 사람을 사칭한 사기, 명예 훼손, 정치적 조작과 동의 없이 만든 성적 이미지에도 악용될 수 있다. 특히 실제 인물의 얼굴이나 목소리를 사용한 합성물은 내용이 거짓이라는 사실이 나중에 밝혀져도 당사자에게 피해를 줄 수 있다.

합성물임을 표시하는 워터마크, 파일의 제작·편집 이력을 기록하는 출처 정보, 딥페이크 탐지 모델과 사실 확인은 피해를 줄이기 위한 방법이다. 그러나 화면을 다시 촬영하거나 파일을 변환하면 표시가 사라질 수 있고, 탐지 기술과 생성 기술이 함께 바뀌기 때문에 하나의 탐지기가 모든 합성물을 정확히 구별하지는 못한다. 실제 영상도 편집되었다는 의심만으로 부정될 수 있으므로, 파일 자체의 특징뿐 아니라 최초 출처, 촬영 맥락과 독립적인 증거를 함께 확인해야 한다.

생성형 인공지능과 저작권의 관계에는 서로 다른 쟁점이 있다. 첫째는 모델 학습에 저작물을 복제·이용하는 일이 허용되는지, 둘째는 생성된 결과가 기존 저작물의 보호되는 표현과 지나치게 비슷한지, 셋째는 사람이 인공지능을 이용해 만든 결과를 누구의 저작물로 볼 것인지이다. 세 문제는 각각 다른 법적 판단을 요구하며, 결론은 국가의 법률과 구체적인 이용 방식에 따라 달라질 수 있다. 저작권과 별개로 실제 인물의 얼굴·목소리·명예·사생활과 관련된 인격권 문제도 생길 수 있다.

노동, 불평등과 권력 집중

 기술적 실업 및 정보 격차 문서를 참고하십시오.

한 직업은 여러 작업으로 이루어지므로, 인공지능이 노동에 미치는 영향은 직업 전체와 개별 작업을 나누어 살펴야 한다. 인공지능은 일부 일을 자동화하고 노동자의 판단과 생산성을 도우며 새로운 직무를 만들 수 있지만, 업무 내용, 필요한 기술, 고용 규모, 임금과 노동 조건도 바꿀 수 있다. 직업의 이름이 그대로 남더라도 핵심 업무와 노동자의 자율성·책임은 크게 달라질 수 있다.

국제노동기구가 2025년에 발표한 지수에서는 전 세계 일자리의 약 24%가 생성형 인공지능에 어느 정도 노출된 직업에 속했고, 고소득 국가에서는 그 비율이 약 3분의 1이었다. 사무·행정 직종의 노출도가 가장 높았으며, 직업 분포의 차이 때문에 여성 노동자가 높은 노출 범주에 속하는 비율도 더 높게 나타났다. 그러나 이 지수의 ‘노출’은 해당 직무의 일부 작업을 기술적으로 수행할 가능성을 뜻하며, 실제 자동화나 해고의 수를 예측한 것은 아니다. 보고서는 가까운 시기의 주된 변화가 직업 전체의 대체보다 업무 내용의 변형일 가능성이 더 크다고 보았다.

인공지능은 정보 격차를 줄이기도 하고 넓히기도 한다. 번역·음성 인식·읽기 보조 기술은 장애나 언어로 인한 장벽을 낮출 수 있지만, 고성능 서비스·빠른 통신망·컴퓨팅 장비와 교육에 접근할 수 있는 사람만 혜택을 더 많이 받을 수도 있다. 데이터가 적은 언어와 지역, 소수 집단의 문화와 생활 방식은 모델에 충분히 반영되지 않아 성능이 낮거나 고정관념에 가까운 결과가 나타날 수 있다. 서비스의 비용과 접근성, 지원하는 언어, 이용자가 기술을 이해하고 통제할 수 있는지도 혜택의 분배에 영향을 준다.

대규모 파운데이션 모델의 개발에는 많은 데이터·연산 장치·전문 인력과 자본이 필요하다. 이러한 자원을 가진 소수 기관이 기반 모델을 제공하고 많은 기업과 공공기관이 이를 재사용하면 새로운 서비스를 만들기 쉬워지지만, 기반 모델의 오류와 정책 변경이 여러 하위 시스템에 동시에 영향을 줄 수 있다. 《AI Index 2026》이 ‘주목할 만한 최첨단 모델’로 분류한 2025년 사례 가운데 90% 이상은 산업계에서 개발되었다. 이는 학계나 시민사회가 연구 의제, 데이터와 모델의 검증에 참여할 기회가 줄어들거나 시장의 영향력이 소수 기업에 집중될 가능성과도 관련된다.

안전과 악용

인공지능의 위험에는 의도하지 않은 실패와 의도적인 악용이 모두 포함된다. 잘못된 의료 조언이나 제어 시스템의 오작동은 실패의 예이고, 사기·사칭, 허위조작정보의 대량 생성, 사이버 공격 지원과 동의 없는 합성 이미지 제작은 악용의 예이다. 같은 기능이 방어와 공격에 모두 쓰이는 이중 용도를 가질 수 있으므로, 위험을 평가할 때에는 기능뿐 아니라 이용자, 권한과 사용 환경도 함께 살펴야 한다.

모델이 외부 프로그램이나 데이터베이스를 사용하고 실제 행동을 반복해서 수행하는 에이전트 시스템에서는 한 번의 잘못된 출력이 다음 행동의 입력이 될 수 있다. 이메일을 잘못 보내거나 파일을 삭제하고, 허용되지 않은 정보를 외부로 전달하는 등의 피해가 생길 수 있으므로, 중요한 행동에는 별도의 확인을 요구하고 접근 권한을 필요한 범위로 제한할 수 있다. 안전한 기본 동작, 사용량 제한, 실행 기록, 사람의 중단 수단과 사고 대응 절차도 전체 시스템의 일부이다. 실제 서비스의 안전은 벤치마크 점수뿐 아니라 접근 권한, 확인 절차와 운영 환경을 함께 시험해 평가한다.

동일하거나 비슷한 기반 모델이 많은 서비스에 사용되면 한 모델의 취약점이나 잘못된 정보가 여러 영역으로 동시에 퍼질 수 있다. 외부 데이터·소프트웨어·모델이 서로 연결된 공급망에서는 어느 구성 요소가 문제를 일으켰는지 확인하기 어려울 수도 있다. 《AI Index 2026》은 공개 데이터베이스에 기록된 인공지능 관련 사고가 2024년 233건에서 2025년 362건으로 늘었다고 집계하였다. 이 수치는 모든 사고를 빠짐없이 센 통계가 아니며 신고와 기록 방식의 변화에도 영향을 받지만, 인공지능의 사용 확대와 함께 피해 사례를 체계적으로 기록하고 조사할 필요가 커지고 있음을 보여 준다.

국제 원칙과 규범

국제적인 인공지능 규범에는 법적 구속력이 없는 원칙·권고, 국가가 비준하는 조약, 특정 지역에 직접 적용되는 법률이 함께 있다. 경제협력개발기구의 인공지능 원칙은 2019년에 채택되고 2024년에 개정된 정부 간 권고로, 포용적 성장과 복지, 인권·공정성, 투명성과 설명 가능성, 견고성·보안·안전, 책임성을 주요 원칙으로 제시한다. 또한 각국 정부에 연구개발 투자, 정책 환경 정비, 노동 전환과 역량 개발, 국제 협력을 권고한다.

유네스코의 「인공지능 윤리 권고」는 인권과 인간의 존엄, 환경과 생태계, 다양성과 포용성, 평화롭고 공정한 사회를 주요 가치로 제시하고 회원국에 영향 평가, 개인정보 보호, 교육·연구와 국제 협력 등의 정책을 권고한다.

유럽 평의회는 2024년 인공지능과 인권·민주주의·법치주의에 관한 기본협약을 채택하였다. 이 협약은 인공지능 활동이 인권, 민주주의와 법치주의에 부합하도록 일반 원칙과 위험·영향 평가, 구제 수단 등의 의무를 정한 최초의 법적 구속력이 있는 국제 조약이다.

유럽 연합 인공지능법은 사용 목적과 위험에 따라 금지되는 관행, 고위험 시스템, 투명성 의무가 있는 시스템과 범용 인공지능 모델에 서로 다른 규칙을 적용한다. 사회적 점수화나 일정한 생체인식 이용 등 일부 관행을 금지하고, 고위험 시스템에는 위험 관리·데이터 관리·기술 문서·기록·사람의 감독과 견고성 등의 의무를 둔다. 여기서 ‘범용 인공지능 모델’은 여러 용도로 쓸 수 있는 모델을 뜻하는 법률 용어이며, 인간과 비슷한 폭넓은 지능을 뜻하는 인공 일반 지능과는 다르다.

대한민국

대한민국의 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2025년 1월 21일 공포되어 2026년 1월 22일 시행되었다. 일부 개정 법률은 2026년 7월 21일부터 시행되었고, 현재 시행령은 같은 해 8월 20일 시행된 대통령령 제36580호이다. 이 법은 인공지능 산업과 연구를 지원하는 제도와 함께 안전성·신뢰성을 확보하기 위한 기본 틀을 마련한다.

법은 사람의 생명·신체의 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 일정한 시스템을 고영향 인공지능으로 정한다. 에너지와 먹는물의 공급, 보건의료와 의료기기, 원자력 시설, 범죄 수사·체포를 위한 생체인식, 채용과 대출 심사, 교통 체계의 주요 운영, 공공 서비스의 자격·비용 결정과 유아·초등·중등교육의 학생 평가 등이 그 대상 영역에 포함된다. 고영향 인공지능에 해당하는지는 사용 영역뿐 아니라 사람의 권리와 안전에 미칠 영향, 법령상의 세부 요건을 함께 따져 판단한다.

법은 고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스에 이용자 고지와 생성물 표시 등의 투명성 의무를 두고 있다. 고영향 인공지능 사업자에게는 위험 관리, 결과 설명, 이용자 보호와 사람에 의한 관리·감독 등의 조치가 요구되며, 일정한 대규모 최첨단 인공지능 시스템에는 위험을 식별·평가·완화하고 안전사고에 대응하는 추가 의무가 적용된다.

법은 국가 인공지능 경쟁력 강화와 생태계 조성을 위해 연구개발, 인공지능 데이터·기반 시설, 전문 인력 양성, 중소기업과 창업 지원, 국제 협력과 공공부문의 활용에 관한 정책도 규정한다.

법률상 의무는 모델의 이름보다 어디에 어떤 목적으로 쓰이는지에 따라 달라진다. 같은 모델도 의료기기, 학생 평가와 일반 문서 작성 도구에서 예상되는 위험과 적용 규정이 다를 수 있다. 법률·시행령·고시와 해석 지침은 기술 변화에 따라 개정될 수 있다.

기계의 지능과 튜링 검사

 이 부분의 본문은 튜링 검사입니다.

1950년 앨런 튜링은 논문 〈Computing Machinery and Intelligence〉에서 ‘생각’이라는 말을 먼저 정의하는 대신, 문자 대화만으로 사람과 기계를 구별할 수 있는지를 묻는 모방 게임을 제안하였다. 심사자는 보이지 않는 사람과 기계에게 질문하고 답변을 비교한다. 기계를 사람과 안정적으로 구별하지 못한다면, 그 기계는 이 시험에서 사람과 구별하기 어려운 대화 행동을 보인 것이다. 이 제안은 뒤에 튜링 검사라고 불리게 되었다.

튜링 검사는 대화 행동을 평가할 뿐, 지능의 모든 형태나 이해·의식을 직접 측정하지 않는다. 또한 대화 시간, 심사자와 합격 기준이 다른 여러 변형이 있어, 한 번의 짧은 대화 결과만으로 표준화된 튜링 검사를 통과했다고 단정하기 어렵다.

이해, 의식과 중국어 방

 이 부분의 본문은 중국어 방 및 인공 의식입니다.

 기호 접지 문제 문서를 참고하십시오.

존 설은 1980년 논문 〈Minds, Brains, and Programs〉에서 중국어 방 사고 실험을 제시하였다. 중국어를 모르는 사람이 방 안에서 중국어 기호와 영어로 적힌 규칙집을 받고, 규칙에 따라 입력 기호에 대응하는 출력 기호를 내보낸다고 하자. 규칙이 충분히 정교하면 방 밖의 중국어 사용자는 답변이 자연스럽다고 판단할 수 있지만, 방 안의 사람은 기호가 무엇을 뜻하는지 이해하지 못한다.

설은 이 사고 실험을 근거로, 형식적인 기호 조작만으로는 의미의 이해가 생기지 않으며 적절한 프로그램을 실행한다는 사실만으로 마음을 가졌다고 볼 수 없다고 주장하였다.

이에 대한 시스템 반론은 방 안의 사람 한 명이 아니라 규칙집·기호·처리 과정으로 이루어진 전체 시스템이 중국어를 이해한다고 볼 수 있다고 주장한다. 로봇 반론은 기호 조작이 실제 환경을 보고 움직이는 감각·행동과 연결되면 이해가 가능할 수 있다고 본다. 중국어 방 논증을 둘러싼 논쟁은 행동, 내부 과정과 의미 가운데 무엇을 이해의 증거로 볼 것인지에 관한 견해 차이를 보여 준다.

강한 인공지능(영어: strong AI)과 약한 인공지능(영어: weak AI)이라는 말은 일상적으로 각각 인공 일반 지능과 특화형 인공지능의 뜻으로 쓰이기도 하지만, 철학에서는 다른 구별을 나타낼 수 있다. 존 설이 제시한 구분에서 강한 인공지능은 적절하게 프로그램된 컴퓨터가 언어를 실제로 이해하는 등 마음의 능력을 가질 수 있다는 입장이고, 약한 인공지능은 컴퓨터가 정신 능력을 모의하고 연구하는 데 유용한 도구가 될 수 있다는 입장이다. 이 철학적 구분은 시스템이 수행할 수 있는 과제의 범위를 나타내는 특화형 인공지능과 인공 일반 지능의 구분과 동일하지 않다.

의식은 주관적인 경험이 있는 상태를 가리킨다. 사람과 동물의 의식은 행동, 신경계와 생물학적 구조를 함께 근거로 연구하지만, 인공지능에 어떤 증거를 적용해야 하는지는 합의되어 있지 않다. 언어 모델이 고통이나 감정을 표현하는 문장을 만든다는 사실만으로 실제 경험을 확인할 수는 없다.

버틀린 등은 여러 의식 이론에서 인공지능에 적용할 수 있는 잠정적인 지표를 제안하였다. 저자들은 조사 당시의 인공지능 시스템에서 의식을 뒷받침할 강한 근거를 찾지 못했다고 밝혔다.

인공지능에 책임이나 도덕적 지위를 부여할 수 있는지도 별도의 문제이다. 현재의 법과 제도는 대체로 개발자·제공자·사용자와 기관의 설계·도입·운영 책임을 다룬다. 자율성이 큰 시스템의 행동을 누구에게 귀속할지, 의식이 있을 가능성이 있는 인공지능을 어떻게 대해야 할지는 별도의 철학적 논쟁이다.

인공 일반 지능, 정렬과 초지능

인공 일반 지능은 특정 과제에만 한정되지 않고, 여러 영역에서 새로운 과제를 배우며 한 영역의 지식을 다른 상황에 적용해 폭넓게 문제를 해결할 수 있는 인공지능을 가리킨다. 다만 어느 범위의 과제를 어느 수준으로 수행해야 일반 지능이라고 부를 수 있는지에 관해서는 표준 정의나 합의된 시험이 없다.

AI 정렬(영어: AI alignment)은 인공지능 시스템의 행동이 사람이 의도한 목표·선호와 가치에 부합하도록 만드는 문제를 다룬다. 시스템이 주어진 수치 목표를 정확히 최적화하더라도 그 목표가 사람이 실제로 원한 결과를 제대로 나타내지 않으면 문제가 생길 수 있다. 예를 들어 추천 시스템에 이용자의 클릭 수만 최대화하도록 요구하면, 이용자에게 장기적으로 유익한 정보보다 자극적이거나 오해를 부르는 내용을 반복해서 추천할 수 있다. 이 경우 계산이 실패한 것이 아니라, 측정하기 쉬운 대리 목표와 실제 목적이 일치하지 않은 것이다.

정렬을 위한 방법에는 규칙과 금지 조건, 인간의 평가와 피드백을 이용한 학습, 불확실한 상황에서 사람에게 판단을 넘기는 절차, 레드팀 평가, 해석 가능성 연구, 행동 감시와 접근 권한 제한 등이 있다. 정렬과 안전은 학습뿐 아니라 서비스 도입 뒤의 감시, 수정과 중단 절차까지 포함한다.

무엇에 ‘정렬’시킬 것인지도 단순하지 않다. 사람들의 가치와 이해관계는 서로 다를 수 있고, 자유·안전·공정성·개인정보·효율과 같은 가치가 충돌할 수도 있다. 개발자의 선호, 다수 이용자의 선호와 사회의 법률이 언제나 일치하는 것도 아니다. 따라서 AI 정렬은 기술적으로 사람의 명령을 더 정확히 따르게 하는 문제인 동시에, 어떤 가치와 절차가 정당하며 영향을 받는 사람이 결정에 어떻게 참여할지 묻는 사회적·정치적 문제이기도 하다.

초지능은 거의 모든 지적 영역에서 인간보다 훨씬 높은 능력을 가진 가설적인 지능을 가리킨다.

초지능의 가능성과 위험을 둘러싼 견해는 크게 다르다. 일부 연구자는 매우 강력한 인공지능이 인간의 목표와 일치하지 않으면 통제하기 어려운 피해를 일으킬 수 있으므로 현재부터 정렬과 안전을 연구해야 한다고 본다. 다른 연구자는 그러한 시나리오의 능력·시점과 발생 가능성이 매우 불확실하며, 현재의 차별·감시·노동·권력 집중처럼 관찰 가능한 문제를 우선해야 한다고 주장한다.

현재 관찰되는 차별·개인정보 침해·사기·노동 변화와 가설적인 장기 위험은 나누어 검토한다. 초지능의 실현 가능성과 시점에는 합의가 없지만, 통제 가능성과 안전을 연구하는 일도 이어지고 있다.