검색
-
-
AI의 판도를 바꾸는 MIT의 '액체 신경망'
- 오픈AI의 챗GPT는 자연어 처리 분야에서 혁명적인 변화를 가져왔다. 이를 바탕으로 중국, 한국 등 전세계 여러 국가들이 생성형 인공지능(AI) 개발에 본격적으로 나섰다. 프랑스 기술 전문 매체 르빅데이터프랑스에 따르면 MIT의 컴퓨터과학 및 인공지능 연구소(CSAIL) 팀은 AI, 로봇공학, 자율주행차 분야의 혁신이 가능한 '액체 신경망(LNN, Liquid neural network)'이라는 새로운 딥 러닝 모델을 선보였다. 전통적인 딥 네트워크는, 예를 들어 차선 유지 같은 기능을 수행하기 위해 약 10만 개의 인공뉴런과 50만 개의 매개변수가 필요했다. 그러나 액체 신경망을 이용하면 불과 19개의 뉴런만으로 동일한 작업을 처리할 수 있을 정도로 효율적이다. 더불어 기존 딥 러닝 시스템이 인과 관계 파악에 한계가 있었던 반면 액체 신경망은 인과 관계를 더욱 깊게 이해하며, 다양한 상황에 유연하게 대응할 수 있다. 이러한 액체 신경망 개발의 배경은 로봇이 대규모 언어 모델을 실행하기에는 필요한 컴퓨팅 능력과 저장 공간이 부족하다는 점에서 출발했다. MIT CSAIL의 다니엘 러스(Daniel Rus) 이사는 로봇에 적합하며 실시간으로 실행 가능한 효율적인 신경망 개발의 필요성을 강조했다. 기존 신경망과는 다르게, 동적으로 조절 가능한 미분 방정식을 활용하여 새로운 상황에 유연하게 대응할 수 있게 됐다. 이는 기본적인 수학 방정식과 함께 새로운 하드웨어 구조를 통해 동적 학습이 가능하도록 설계된 결과이다. 연구팀은 여름 동안 숲에서 촬영한 비디오 스트림에서 물체를 인식하기 위해 LNN 및 다양한 딥 러닝 모델을 훈련시켰다. LNN은 높은 정확도를 유지했지만, 다른 신경망 모델들의 성능은 크게 저하되었다. 이러한 차이는 유동 네트워크가 작업 자체에 중점을 두는 반면, 다른 모델들은 작업의 맥락과 테스트 환경 분석에 지나치게 의존하기 때문으로 해석된다. 실제로 LNN에서 분석한 어텐션 맵을 보면, 도로 감지를 위한 운전 작업이나 객체 감지를 위한 작업에서 주요 요소에 높은 값을 할당했다. 이러한 특징이 상황 변화에도 과제를 유연하게 적응할 수 있었던 배경이다. 이들의 핵심적인 용도는 바로 비디오, 오디오 스트림, 온도 측정 시퀀스 등 지속적인 데이터 스트림 지원이다. 이러한 특성 덕분에 로봇공학이나 자율주행차와 같은 강력한 보안이 필요한 애플리케이션에 적합할 것으로 예상하고 있다. MIT 연구팀은 앞으로 다중 로봇 시스템과 다양한 데이터 유형에 대한 연구를 통해 이 네트워크의 새로운 기능과 한계를 탐색할 예정이다.
-
- IT/바이오
-
AI의 판도를 바꾸는 MIT의 '액체 신경망'
-
-
오픈AI의 GPT-4 경쟁자 구글 '제미니', 올해 말 공개 예정
- 기술 대기업 구글에서 오픈AI의 생성형 인공지능(AI) 챗GPT의 대항마인 '제미니(Gemini)'를 출시한다. 현재 생성형 AI 시장의 예상 가치는 2032년까지 1조 3000억 달러에 달할 것으로 전망된다. 지난해 11월 첫선을 보인 오픈AI의 챗GPT는 이미 월간 활성 사용자 수가 1억 명을 돌파하며 그 성장세를 이어가고 있다. 이러한 상황에서 구글이 자체 개발한 대화형 AI 챗봇 '바드(Bard)'와 새로운 언어 모델(PaLM 2 LLM)을 선보이며 시장에서의 존재감을 확대하고 있다. 4일(현지시간) 기술 전문매체 더 테크아웃룩에 따르면 구글이 올해 말 오픈AI의 챗GPT의 GPT-4와 직접적으로 경쟁할 수 있는 '제미니'를 공개할 예정이라는 소식이 전해졌다. GPT-4는 오픈AI에서 개발한 자연어 처리(NLP) 모델로, GPT(Generative Pre-trained Transformer) 시리즈의 네 번째 버전으로 5000억 개의 파라미터를 가지고 있는 것으로 알려졌다. 이전 버전인 언어 기반 인공지능 모델 GPT-3는 약 1750억 개의 파라미터를 가지고 있다. 제미니는 구글이 보유한 TPUv5 칩, 총 1만6384개의 칩을 활용해 훈련되었으며, 훈련 데이터는 압도적인 65조 개의 토큰으로 이뤄져 있다. 또한 유튜브 콘텐츠와 알파고의 훈련 기법 역시 활용되었다. 시장 전문가들은 구글 제미니가 GPT-4를 능가할 세 가지 주요 이유를 지적한다. 첫째, 텍스트와 이미지 생성 능력, 둘째, 구글 서비스에서 확보한 독점적 학습 데이터, 그리고 셋째, 세르게이 브린(구글 공동 창업자)과 폴 바햄(딥마인드 수석 AI 과학자 겸 머신러닝 전문가) 등 AI 분야의 석학들이 구글의 딥마인드와 브레인 팀의 협력으로 더 많은 것을 기대할 수 있다는 점이다. 아직 결과는 미지수지만, 구글의 '제미니'가 얼마나 GPT-4에 버금가는 성능을 보여줄 것인지에 대한 관심이 높아지고 있다.
-
- IT/바이오
-
오픈AI의 GPT-4 경쟁자 구글 '제미니', 올해 말 공개 예정
검색 결과가 없습니다.