'진화 가능한 AI' 나왔다…새로운 생물학적 알고리즘 개발

[아이뉴스24 최상국 기자] 실제 인간의 뇌 내부 메커니즘을 모방해 신경망이 진화 알고리즘을 통해 학습할 수 있는 새로운 생물학적 인공지능(AI) 알고리즘이 개발됐다.

고려대학교 이성환 교수와 폴 베르텐스(Paul Bertens) 박사과정 연구팀은 실제 생물학적인 뉴런과 시냅스의 작동원리를 모방하고 진화 알고리즘을 통해 학습할 수 있는 '진화 가능한 신경망 단위 (Evolvable Neural Unit)'에 대한 연구결과를 발표했다. 논문은 12월10일자 네이처 머신 인텔리전스(Nature Machine Intelligence) 표지 논문으로 실렸다.(논문명: Network of evolvable neural units can learn synaptic learning rules and spiking dynamics)

연구팀은 "기존의 인공신경망 모델은 다양한 분야에서 성공을 거두고 있으나, 이는 인간 뇌의 아주 일부분인 뉴런과 시냅스의 원리를 수학적으로 모델링하는 것에 그쳐, 스스로 학습하고 자가 진화하는 능력은 부족했다. 이번에 발표한 진화 가능한 신경망 모델은 실제 인간의 뇌에서 뉴런과 시냅스가 복잡하고 긴 진화의 과정을 통해 학습하는 과정을 모방해 만들었다. 인간의 뇌가 수학적 모델링 및 인위적으로 구조화된 패턴을 기반으로 학습하지 않는 것처럼, 제안된 방법은 구현된 신경망 단위가 실제 진화 과정을 토대로 학습하는 새로운 인공지능의 기술"이라고 설명했다.

인간의 뇌는 뉴런과 시냅스가 긴 진화 및 학습 과정을 거친 결과이며, 이는 순수 수학이나 알고리즘을 통해 구조화된 패턴이 아닌 시행착오, 경험, 기억을 통해 매우 추상적이고 복잡한 패턴에 기반한다.

연구팀은 논문에서 생물학적인 뉴런과 시냅스를 더 잘 모방할 수 있는 알고리즘을 제안했다. 핵심 아이디어는 기존의 인공신경망은 하나의 뇌를 모델링한 반면, 실제 뇌에 존재하는 개별 뉴런과 시냅스를 각각 인공신경망으로 구조화해 학습하는 것이다. 각각의 뉴런과 시냅스는 전체 뇌의 내부에 존재하는 일종의 인공적인 미니-뇌의 역할을 하며, 이러한 인공 미니-뇌는 주어진 문제를 해결하기 위해 서로 협력해 하나의 거대한 네트워크로 자가 진화를 한다.

미니-뇌의 구조는 수만 가지의 형태가 존재할 수 있으나, 기존의 인공신경망과 같이 사람에 의해 디자인되는 방법이 아닌, 진화 알고리즘 (Evolutionary algorithm)을 통해 최적의 형태로 도출된다. 진화 알고리즘은 생식, 무작위 돌연변이 및 적자 생존의 원칙에 따라 인공신경망을 주어진 문제에 맞는 유형으로 구조화할 수 있다. 이를 통해 각각의 미니-뇌는 수학적인 알고리즘을 기반으로 하지 않고, 모든 학습 유형의 행동에 최적화되도록 서로 간에 협력 및 진화하면서 주어진 문제를 해결한다. 연구팀은 이러한 진화 가능한 미니-뇌를 '진화 가능한 신경 단위 (Evolvable Neural Units: ENU)'라고 부르고, 이를 통해 네트워크를 구조화하면서 진화 가능한 신경 단위 네트워크 (Network of Evolvable Neural Units)를 구상했다.

연구팀은 논문에서 ENU가 뇌와 같은 정보 처리 및 시냅스 학습 행동을 모방할 수 있음을 시뮬레이션 실험으로 제시했다. 실험에서는 행동에 따라 주어지는 보상과 벌점을 기반으로 한 강화학습으로 진화하는 ENU를 보여준다. 쥐가 미로를 푸는 문제에서 기존의 신경망에서 사용되는 가중치를 수정하는 방식이 아닌, 미니-뇌들의 협력 관계를 수정함으로써 보상과 벌점에 대한 기준을 파악하고 문제를 해결했다.

논문의 교신 저자인 이성환 고려대 교수는 “인간의 뇌는 여전히 풀리지 않는 많은 미스테리를 갖고 있는 미지의 영역”이라며 “이번 논문은 기존의 신경망보다 한 단계 더 가까이 인간의 뇌를 모방하고 그 내부에 진화, 강화학습 등 실제 인간의 생물학적 메커니즘을 많이 내포한 새로운 인공지능의 기술”이라고 말했다.

또한, “현재 빠른 속도로 발전하고 있는 기계학습 기반 인공지능 기술은 뇌 학습기전의 극히 일부분을 수학적으로 모델링한 것이며, 분명히 한계점이 존재한다. 이번 연구는 아직 많은 실험과 연구가 추가적으로 필요하지만 앞으로 인공지능이 실제 인간의 복잡도를 갖는 수준으로 발전할 수 있는 시발점이 될 수 있는 성과"라고 연구 의의를 밝혔다.

이번 연구는 과학기술정보통신부/정보통신기획평가원 ‘인공지능대학원지원사업’과 ‘ICT융합산업원천기술개발사업‘의 지원을 받아 수행됐다.

최상국 기자의 다른 기사 보기