[AI 역사 6편] 기계가 스스로 규칙을 찾다: 머신러닝(Machine Learning)의 부상

지난 5편에서는 막대한 비용과 인간이 일일이 모든 규칙을 수작업으로 코딩해야 하는 한계에 부딪혀 몰락해 버린 '전문가 시스템'과 두 번째 AI 겨울에 대해 이야기했습니다. 무수히 쏟아지는 현실의 예외 상황들을 컴퓨터 프로그램에 전부 입력하는 것은 애초에 불가능한 미션이었습니다.

하지만 절망의 끝에서 과학자들은 발상을 완전히 뒤집는 도전을 시작합니다. "사람이 기계에게 정답과 규칙을 하나하나 떠먹여 주는 대신, 기계가 수많은 데이터 속에서 스스로 규칙을 찾아내게 만들면 어떨까?"라는 혁명적인 아이디어였습니다. 오늘 6편에서는 인공지능의 완벽한 부활을 알린 '머신러닝(기계 학습)'의 화려한 등장과 그 작동 원리에 대해 파헤쳐 보겠습니다.

발상의 전환: 연역법에서 귀납법으로

최근 매일 실행될 자동화 스크립트를 직접 짜보거나 스프레드시트에 복잡한 조건부 함수를 설계해 본 경험이 있으시다면 깊이 공감하실 겁니다. 변수나 조건(IF)이 하나만 추가되어도 얽혀있는 전체 수식을 뜯어고쳐야 하는 막막함을 말입니다. 1980년대 전문가 시스템을 유지보수하던 개발자들의 심정이 딱 그랬습니다.

전통적인 프로그래밍 방식은 사람이 '데이터'와 '규칙(코드)'을 컴퓨터에 입력하면, 컴퓨터가 이를 계산해 '해답'을 내놓는 구조였습니다.

하지만 머신러닝은 이 순서를 완전히 뒤바꿨습니다. 컴퓨터에 방대한 '데이터'와 이미 알고 있는 '해답'을 동시에 던져줍니다. 그러면 컴퓨터가 이 둘 사이의 패턴을 스스로 분석하여 '규칙(알고리즘)'을 도출해 냅니다. 이렇게 만들어진 규칙에 새로운 데이터를 넣으면 미래의 결과값을 예측할 수 있게 되는 것이죠. 일일이 공식을 알려주지 않아도 수많은 문제와 정답지(기출문제)를 풀게 함으로써 문제 해결의 요령을 스스로 터득하게 만드는 셈입니다.

완벽함 대신 '확률'을 선택하다

머신러닝이 가능해진 배경에는 수학, 그중에서도 통계학과 확률론의 적극적인 도입이 있었습니다. 기존의 AI는 "이것은 참(True)인가, 거짓(False)인가?"라는 이분법적인 논리에 집착했습니다. 하지만 세상일이 무 자르듯 명확하게 나뉘던가요?

그래서 머신러닝 연구자들은 100%의 완벽한 논리를 포기하는 대신, "이 사진이 고양이일 확률은 85%다"라는 식으로 확률에 기반한 추론을 채택했습니다.

가장 대표적인 초기 성공 사례가 바로 이메일의 '스팸 필터'입니다. 수만 통의 정상 메일과 스팸 메일을 머신러닝 알고리즘에 학습시키면, 기계는 "대출, 무료, 당첨 같은 단어가 많이 포함될수록 스팸일 확률이 높다"는 규칙을 스스로 만들어냅니다. 사람이 "이 단어가 들어가면 스팸 차단해"라고 일일이 규칙을 짤 필요 없이, 기계가 통계적으로 가장 높은 확률의 정답을 유연하게 찾아내기 시작한 것입니다.

빅데이터의 시대, 머신러닝에 날개를 달다

1990년대 후반부터 2000년대에 접어들며 머신러닝은 폭발적으로 성장합니다. 이전까지는 기계를 똑똑하게 만들고 싶어도 학습시킬 데이터 자체가 부족했습니다. 하지만 인터넷이 전 세계적으로 보급되고 사람들이 웹 검색, 이메일, 온라인 쇼핑을 시작하면서, 디지털 세상에는 이전에 없던 어마어마한 양의 '빅데이터'가 쌓이기 시작했습니다.

알고리즘은 데이터가 많으면 많을수록 더 정교한 규칙을 찾아냅니다. 구글, 아마존 같은 IT 공룡들은 이 방대한 데이터를 머신러닝에 쏟아부어 검색 결과를 최적화하고, 사용자가 좋아할 만한 상품을 귀신같이 찾아내는 추천 시스템을 완성했습니다. 드디어 인공지능이 실험실을 벗어나 우리 일상 깊숙한 곳에서 실질적인 돈을 벌어다 주는 강력한 도구로 자리 잡은 것입니다.

남겨진 숙제: 사람이 특징을 잡아줘야 하는 한계 (Feature Engineering)

머신러닝 덕분에 AI는 길고 길었던 두 번째 겨울에서 깨어났지만, 여전히 넘어야 할 산이 존재했습니다. 머신러닝 알고리즘이 아무리 뛰어나도, 초기 단계에서는 사람이 직접 데이터의 '특징(Feature)'을 추출해서 떠먹여 줘야 했기 때문입니다.

예를 들어, 기계에게 사과 사진을 인식시키려면 사람이 먼저 "둥근 모양인지, 붉은색인지 확인해"라는 식의 기준점(특징)을 수동으로 세팅해 줘야 했습니다. 이것을 '특징 공학(Feature Engineering)'이라고 부르는데, 다루는 데이터가 이미지나 음성처럼 복잡해질수록 사람이 특징을 하나하나 잡아내는 데 엄청난 시간과 한계가 따랐습니다. "특징마저도 기계가 스스로 알아서 뽑아낼 수는 없을까?" 과학자들은 또 다른 돌파구를 찾아야만 했습니다.

핵심 요약 3줄

• 머신러닝은 사람이 규칙을 입력하는 대신, 기계가 방대한 데이터와 정답 속에서 스스로 패턴(규칙)을 찾아내는 혁신적인 방식입니다.

• 100% 완벽한 논리 대신 확률과 통계를 도입하여 스팸 메일 필터링, 상품 추천 등 현실의 복잡한 문제를 유연하게 해결하기 시작했습니다.

• 인터넷 보급에 따른 '빅데이터'의 축적으로 급성장했지만, 여전히 사람이 데이터의 주요 특징(Feature)을 수동으로 추출해 줘야 하는 한계가 있었습니다.

다음 편 예고: 사람이 데이터의 특징을 추출해 줘야 했던 머신러닝의 한계를 극복하기 위해, 과학자들은 인간의 뇌 구조를 모방한 기술을 부활시킵니다. 다음 7편에서는 오늘날 AI 혁명의 진짜 주인공, '인공신경망과 딥러닝'에 대해 알아보겠습니다.

💬 생각 나누기: 넷플릭스나 유튜브, 쇼핑몰의 '추천 알고리즘'이 내 취향을 너무 정확히 맞춰서 소름 돋았던 적이 있으신가요? 여러분이 겪은 신기한 머신러닝 경험을 댓글로 들려주세요!