우리는 새로운 것을 어떻게 배울까? 최신 유행하는 K-팝 가사와 안무, 새로운 직장에서의 업무, SNS에서 핫한 카페나 레스토랑 가는 길 같은 정보는 어떻게 뇌에 인코딩될까? 이에 대한 넓은 의미의 답은 뇌가 새로운 정보를 수용하기 위해 적응 과정을 거친다는 것이다. 새로운 행동을 따르거나 새로 도입된 정보를 기억하기 위해 뇌의 회로는 변화한다.

이러한 변화는 수조 개의 시냅스, 즉 뉴런들이 서로 신호를 주고받는 연결 지점에서 세심하게 조율된 과정을 통해 일어난다. 새로운 정보는 특정 시냅스를 강화하는 반면 다른 시냅스는 약화시키는데, 이를 시냅스 가소성이라고 불리며 학습과 기억의 핵심 기전으로 여겨진다. 시냅스 가소성에는 시냅스가 강해지는 장기 강화(LTP, Long-Term Potentiation)와 약해지는 장기 억제(LTD, Long-Term Depression)가 대표적이다.

미국 UC샌디에이고대학 연구팀이 뇌가 새로운 정보를 학습할 때 신경세포(뉴런)의 연결 지점인 시냅스(synapse)가 기존 학설과 달리 위치에 따라 다양한 규칙을 적용하며 변화한다는 사실을 과학적으로 규명했다고 사이테크 데일리가 최근 보도했다. 

미국 국립보건원(NIH)과 미국 국립과학재단(NSF) 등의 지원을 받은 이 연구는 뇌 학습 및 기억의 핵심 기전인 시냅스 가소성(synaptic plasticity)에 대한 이해를 근본적으로 변화시키는 발견이다. 차세대 인공지능(AI) 시스템 개발과 알츠하이머병 등 다양한 뇌 질환 치료 연구에 중요한 통찰을 제공할 전망이다.

과거 신경과학계는 뇌의 한 영역 또는 한 뉴런 안에서 시냅스 변화가 동일한 규칙에 따라 일어난다고 생각했다. 즉, 뉴런 전체가 같은 방식으로 정보를 저장하고 처리한다고 여겨졌다. 하지만 실제 뇌가 복잡한 정보를 매우 효율적으로 학습하고 기억하는 과정에서 어떤 시냅스가 변화해야 하는지, 어떤 규칙이 적용되는지에 대한 세부 원리는 명확하지 않았다. 특히 개별 시냅스가 전체 행동이나 결과에 대해 어떻게 '책임'을 배분받고 변화하는지 설명하기 어렵다는 난제인 '크레딧 할당 문제(credit assignment problem)'가 남아있었다.

UC 샌디에이고 연구팀, 생쥐 뇌의 뉴런·시냅스 실시간 추적

UC샌디에이고 신경생물학자 윌리엄 '제이크' 라이트(William 'Jake' Wright), 네이선 헤드릭(Nathan Hedrick), 코미야마 타카키(Takaki Komiyama) 박사 연구팀은 국립보건원과 국립과학재단, 글로벌 브레인 시범상 사이먼스 협력, 에릭 및 웬디 슈미트 과학 분야 AI 펠로우십 등의 주요 재정 지원을 받아 수년간 이 연구를 수행했다. 연구 결과는 4월 17일 학술지 '사이언스(Science)'에 게재됐다.

연구팀은 생쥐(mouse)를 실험 모델로 사용했다. 생쥐는 인간과 유사한 뇌 구조와 학습 능력을 가지고 있어 뇌과학 연구에 널리 활용된다. 연구팀은 2광자 현미경이라는 첨단 이미징 기술을 이용해 살아있는 생쥐의 뇌 속 개별 뉴런과 시냅스의 변화를 실시간으로 관찰했다. 이 기술은 뇌 깊숙한 곳까지 고해상도로 이미지를 얻을 수 있어 기존의 한계를 극복할 수 있었다.

연구 과정에서 생쥐에게 새로운 행동 과제(예: 특정 신호에 반응해 레버를 누르기 등)를 학습시키는 동안, 뇌의 특정 영역(대뇌 피질)에서 뉴런의 가지돌기(덴드라이트, dendrite)와 그 위의 시냅스(돌기, spine)를 실시간으로 추적했다. 시냅스의 크기, 모양, 신호 강도 변화 등을 시간에 따라 정밀하게 측정했다.

시냅스에서 획기적인 핵심 발견

이전에는 불가능했던 수준으로 개별 시냅스를 시각화한 결과, 뉴런이 학습 과정 중 기존 생각에서 가정했던 것처럼 하나의 규칙 세트만 따르지 않는다는 사실이 드러났다. 데이터는 개별 뉴런이 여러 규칙을 따르며, 특히 가지돌기의 서로 다른 구역에 위치한 시냅스가 서로 다른 학습 규칙(장기 강화 또는 장기 억제 등)에 따라 변화함을 보여줬다. 이는 뉴런 하나가 여러 '연산 모듈'을 병렬로 갖는다는 의미다.

뇌는 수많은 시냅스가 각자 '지역 정보'만 가지고 변화하지만, 전체적으로는 복잡한 행동을 학습한다. 연구팀은 뉴런이 서로 다른 규칙을 동시에 적용함으로써, 각 시냅스가 자신의 역할(크레딧)을 효율적으로 배분받아 변화할 수 있음을 확인하며 신경과학계의 난제였던 '크레딧 할당 문제'에 대한 새로운 해법을 제시했다. 

연구진은 시냅스가 실제로 변화하는 순간, 그 주변 환경(자극의 종류, 시간, 위치 등)을 모두 기록하며 시냅스 변화의 '규칙성'과 '다양성'을 동시에 입증할 수 있었다.

뇌 학습 연구의 파급 효과와 의미

연구 책임 저자인 코미야마 타카키 교수는 "이번 연구는 뇌가 학습 과정에서 복잡한 신호를 어떻게 효율적으로 처리하는지, 그리고 그 과정에서 각 시냅스가 어떤 역할을 하는지를 근본적으로 새롭게 이해하게 해준다"며 "앞으로 뇌 질환 치료와 인공지능 발전에 큰 영향을 미칠 것으로 기대한다"고 강조했다. 그는 신경생물학 및 신경과학 부서의 교수이며, 할르지오글루 데이터 과학 연구소와 카블리 뇌-마음 연구소에서도 재직 중이다.

이번 발견은 인공지능과 뇌와 유사한 신경망 개발에 중요한 시사점을 던진다. 현재의 인공 신경망(딥러닝 등)은 보통 모든 노드(뉴런)가 동일한 학습 규칙을 따르지만, 이 연구 결과는 하나의 인공 뉴런에 여러 학습 규칙을 적용하는 새로운 설계 방식이 가능함을 시사한다. 이는 더 유연하고 효율적인 인공지능(AI), 즉 인간 뇌와 유사한 '적응형' 인공지능 개발로 이어질 전망이다.

건강 및 행동 측면에서 이번 발견은 중독, 외상 후 스트레스 장애(PTSD), 알츠하이머병은 물론 자폐증 등 다양한 신경 발달 장애 치료에 새로운 접근 방식을 제시할 수 있다. 알츠하이머병 등 다양한 뇌 질환은 시냅스 가소성의 이상과 밀접한 관련이 있는데, 이번 연구는 질환별로 영향을 받는 시냅스 규칙이 다를 수 있음을 시사하며, 특정 시냅스 영역만을 타겟으로 하는 맞춤형 치료법 개발에 새로운 길을 제시한다.

연구의 제1 저자인 라이트 박사는 "시냅스 가소성은 일반적으로 뇌 내에서 균일하다고 여겨졌지만, 우리 연구는 학습 중 시냅스가 어떻게 수정되는지 더 명확히 이해하게 해주고, 많은 뇌 질환이 어떤 형태의 시냅스 기능 장애를 포함하고 있기 때문에 건강에 잠재적으로 중요한 영향을 미칠 수 있다"고 덧붙였다.

그는 "이번 연구는 뇌가 정상적으로 작동하는 방식을 이해하는 잠재적 기초를 마련하며, 이는 다양한 질병에서 무엇이 잘못되는지를 더 잘 이해하는 데 도움이 될 것"이라고 말했다.

뉴련 관련 향후 연구 방향과 전망

이 새로운 발견은 이제 연구자들을 뉴런이 왜, 어떻게 여러 규칙을 동시에 사용할 수 있는지, 여러 규칙 사용이 에너지 효율성이나 정보 저장 용량 극대화 등 어떤 이점을 주는지, 그리고 질환별 시냅스 규칙 차이는 무엇인지 등 근본 원리에 대한 심층 후속 연구로 이끌고 있다.

이 연구는 뇌가 학습할 때 '한 개의 뉴런=하나의 규칙'이라는 기존 통념을 깨고, '한개의 뉴런=여러 규칙 병행'이라는 새로운 패러다임을 제시했다. 이는 뇌과학, 의학, 인공지능 등 다양한 분야에 혁신적 영감을 주는 발견으로, 앞으로 관련 연구와 기술 발전에 중요한 이정표가 될 것이다.