딥마인드 – 포커스온경제 통합 검색

전체기사보기
2025-05-01 (목)

검색

[퓨처 Eyes(28)] 챗GPT와 제미나이도 무너뜨리는 AI 웜 모리스 II 등장

생성 인공지능(AI) 시스템을 악용하여 악성코드를 확산시키고 데이터를 탈취할 수 있는 새로운 형태의 AI웜(멀웨어·malware, 악성 소프트웨어의 줄임말) 개발이 가능하다는 사실이 밝혀졌다. 이는 생성 AI 활용의 취약점을 보여주며, 빠르게 발전하는 AI 분야에서 보안 위험에 대한 중요성을 강조한다. 뉴욕주 이타카에 위치한 코넬 테크(Cornel Tech) 대학 연구팀은 '모리스 II'라는 AI웜을 개발해 생성 AI 시스템 악용 시나리오를 제시했다. 스스로 확산되는 AI 기반 멀웨어를 개발한 연구원들은 "이 기술이 이전에는 불가능했던 새로운 종류의 사이버 공격을 수행하거나 수행할 수 있는 능력을 갖게 되었다는 것을 의미한다"고 우려했다. 아직 동료 검사 과정을 거치지 않았지만, 이 연구는 생성 AI가 악성코드 개발에 활용될 수 있다는 심각한 우려를 낳고 있다. 이메일 가상 비서 대상 테스트 와이어드, 퓨처리즘 등 다수 외신에 따르면 연구팀은 제어된 환경에서 실험을 진행해 오픈AI의 챗GPT 최신버전인 GPT-4, 구글의 제미나이 프로, 그리고 라바(LLaVA)라는 오픈소스 대형 언어 모델을 사용하는 이메일 가상 비서를 공격 대상으로 삼았다. 코넬대 연구팀은 '적대적 자기 복제 프롬프트(adversarial self-replicating prompt)'라는 기술을 사용해 악의적인 프롬프트를 주입했다. 인터레스팅엔지니어링에 따르면, 모리스 II는 악성 프롬프트(prompts)를 주입하여 생성 AI 모델을 조작하고, 이를 통해 스팸 메시지 전송, 허위 정보 유포, 개인 정보 탈취 등의 악의적인 활동을 수행할 수 있다. 와이어드의 보도에 따르면 이 웜은 AI 기반 이메일 비서를 공격해 이메일에서 개인 정보와 관련된 민감한 데이터를 얻고 다른 시스템을 감염시키는 스팸 메시지를 발송할 수 있다. 이 논문의 공동 저자인 코넬 테크 연구원 벤 나시는 와이어드에 "AI웜의 출현은 기본적으로 이전에는 볼 수 없었던 새로운 종류의 사이버 공격을 수행할 수 있는 능력을 갖게 되었다는 것을 의미한다"고 말했다. 연구팀은 생성 AI 활용 방식에 따라 두 가지 유형의 취약점을 제시했다. 첫 번째는 생성 AI 서비스 결과에 의존하는 프로그램이다. 이러한 프로그램은 악성 소프트웨어에 의해 조작되거나 악용될 수 있다. 두 번째는 RAG(Recurrent Aggregation of Generative Models, 생성 모델의 반복적 집합) 기술을 사용하여 AI 쿼리를 향상시키는 프로그램이다. 이러한 프로그램은 특히 RAG 기반 생성 AI 웜 공격에 취약하다. 이 연구는 생성 AI 시스템의 보안 취약점을 식별하고 새로운 종류의 멀웨어 공격 가능성을 제시한다. 이를 통해 향후 생성 AI 개발 시 보안을 강화하는 데 기여할 수 있다. 아직까지 실제 환경에서 생성 AI 웜 멀웨어가 발견된 사례는 없다. 심각한 사생활 침해 우려 연구팀은 논문에서 "생성 AI 웜이 '가까운 미래'에 실제 환경에 확산될 경우 '심각하고 불가피한 악영향'을 초래할 수 있다"고 지적했다. 이는 기업들이 생성 AI 가상 비서를 서비스에 도입하기 전에 사이버 보안 위험에 대한 철저한 사전 검토가 필수임을 시사한다. 나시는 와이어드 인터뷰에서 "이름, 전화번호, 신용카드 번호, 주민등록번호 등 기밀 정보가 포함될 수 있다"고 밝혔다. 즉, 이러한 AI 비서는 방대한 양의 개인 데이터에 접근할 수 있으며, 이는 사용자의 사생활 침해로 이어질 수 있다. 연구팀은 새롭게 구축된 메시지 전송 시스템을 활용하여 전송된 이메일 데이터베이스를 효과적으로 '오염'시키고, 이메일 수신인의 가상 비서 AI가 이메일에서 사용자의 이름, 전화 번호, 신용카드 번호, 사회 보장 번호 등 민감한 정보를 탈취하도록 유도했다. 더욱 심각한 문제는 이 과정을 통해 AI 웜이 새로운 컴퓨터로 전파될 수 있다는 점이다. 연구팀은 심지어 이미지에 악성 프롬프트를 삽입해 AI가 다른 이메일 클라이언트를 감염시키도록 유도하는 데 성공했다. 나시는 "사용자의 민감한 데이터가 포함된 응답은 새 클라이언트(고객)로 전송된 이메일에 회신하여 저장될 때 새로운 호스트를 감염시킨다"고 설명했다. 그는 "자체 복제 프롬프트를 이미지에 인코딩하면 스팸, 악용 자료 또는 광고 이미지를 최초 이메일 후 새로운 클라이언트에게 추가로 전달할 수 있다"고 덧붙였다. 연구 결과는 오픈AI와 구글에 전달됐다. 오픈AI 대변인은 와이어드와의 인터뷰에서 "시스템의 탄력성 향상을 위해 노력하고 있다"고 밝혔다. 나시와 동료들은 논문에서 "AI 웜이 향후 몇 년 안에 확산될 수 있으며 심각하고 예상치 못한 결과를 초래할 것"이라고 주장했다. 이는 기업들이 사이버 보안 위험을 사전에 예방하지 않은 채 생성 AI 비서를 깊숙히 통합하려는 움직임에 대한 경고다. AI 웜 피해 규모 예측 AI 웜은 아직 등장하지 않아 정확한 피해 규모를 예측하기는 어렵다. 그러나 기존 웜과 달리 다양한 공격 방식을 사용할 수 있어 피해 범위가 더욱 크고, 예측하기가 더 힘들 수 있다. 또한 AI 웜 공격을 감지하고 차단하는 보안 시스템은 빠르게 발전하고 있지만 아직 완벽하지 않아 공격을 막는 데 어려움을 겪을 수 있다. 연구팀의 지적처럼 AI 웜은 스스로 복제 및 배포 기능을 갖추고 있어 빠르게 확산될 수 있다. 이는 기업, 정부기관, 개인 사용자 등 다양한 시스템에 심각한 피해를 입힐 수 있다. 또한 AI 웜은 네트워크를 공격해 서비스 중단을 유발할 가능성도 존재한다. 유명한 인공지능 선구자인 무스타파 술레이만(구글 소유 딥마인드 연구소 공동 창립자, 현 마이크로소프트 소비자 AI 사업 부문 총괄 책임자)은 과거 AI 기술이 "상상할 수 없는 규모의 재앙"이 될 수 있다고 경고했다. 20일 뉴욕포스트에 따르면 술레이만은 2023년에 출간된 저서 『다가오는 물결(The Coming Wave)』에서 AI, 합성생물학 및 기타 급성장하는 기술을 통해 "다양한 악의적 행위자들이 상상할 수 없는 규모의 혼란과 불안정, 심지어 재앙을 일으킬 수 있다"고 주장했다. 잘못된 정보의 확산을 촉진하고 경제적 격변을 일으킬 수 있는 AI의 잠재력도 그가 우려하는 부분 중 하나다. 술래이만은 지난해 FT와의 인터뷰에서 AI가 사무직 일자리를 뒤흔들고 고용 시장에서 "심각한 수의 패자를 양산할 수 있다"고 경고했다. 동시에 지난해 가을 월스트리트 저널의 책 리뷰에 따르면, 술레이만은 AI를 제대로 활용하면 "인류의 새로운 여명을 열고 사업을 운영하고 질병을 치료하며 전쟁을 치르는 데 도움이 될 수 있다"며 AI의 잠재적 이점에 대해 낙관적인 전망을 내놓기도 했다. 코넬 테크 연구팀이 제안한 AI 웜 시나리오는 초기 단계에 있는 AI 사업 분야에 양날의 검으로 작용할 수 있음을 시사하고 있다.
- 포커스온
2024-03-21 13:12:00
'MWC 2024', AI·최첨단 기술 선보인다

세계 최대 정보통신기술(ICT) 박람회 모바일월드콩그레스(MWC)가 26일(현지 시간) 스페인 바르셀로나에서 열린다. 국내외 기업들은 AI와 6세대(6G) 이동통신, 도심항공교통(UAM)을 비롯한 최첨단 디지털 혁신 기술을 공개할 예정이다. 18일 세계이동통신사업자연합회(GSMA)에 따르면 MWC 2024는 예년과 마찬가지로 스페인 바르셀로나 '피라 그란 비아'에서 오는 26∼29일 열린다. 이번 MWC에는 전 세계 200여개 국에서 2400여개 기업이 참가하고, 방문객은 10만명에 근접할 것으로 주최 측은 예상한다. 올해 MWC의 '미래가 먼저다(Future First)'로, 6개의 하위 주제로는 ▲ 5G와 그 너머 ▲ 모든 것을 연결하기 ▲ AI의 인간화 ▲ 제조업 디지털 전환 ▲ 게임체인저 ▲ 우리의 디지털 DNA 등이 선정됐다. 모바일 전시회인 만큼 5G와 6G, 사물인터넷(IoT) 등 다양한 무선통신 기술이 주를 이룰 예정이지만, AI와 모빌리티는 물론 핀테크와 스포츠 등 다양한 산업 기술도 함께 전시된다. MWC를 주최하는 GSMA의 라라 디워 최고마케팅책임자(CMO)는 지난달 말 기자회견에서 "MWC는 더 이상 모바일 퍼스트 또는 디지털 퍼스트 행사가 아니고, 미래가 먼저다"라며 "이번 행사는 우리 사회와 전 지구의 지속가능성을 위한 미래의 잠재력을 실현하고자 여러 산업, 기술, 공동체를 한데 모으는 자리"라고 말했다. 전체 참석자의 절반 이상이 모바일 업계 외부에서 올 것으로 주최 측은 보고 있다. 특히, 이번 MWC에서는 AI 기반 최첨단 기술이 전격 공개될 것이란 예상이 우세하다. 마이크로소프트(MS), 구글 클라우드, 아마존웹서비스(AWS), 엔비디아, 퀄컴 등 AI 관련 빅테크·반도체 기업들과 통신사, 통신장비 업체들도 저마다 AI 관련 기술을 선보일 전망이다. MS의 실비아 칸디아니 부사장은 MWC 참가에 앞서 블로그를 통해 "AI는 통신기업들이 경쟁 우위를 확보하고 시장에서 번성하기 위한 전략적으로 반드시 해야 하는 시급한 일이 됐다"고 말했다. 데미스 허사비스 구글 딥마인드 최고경영자(CEO)와 브래드 스미스 MS 부회장, 델 테크놀로지스의 창업자 마이클 델 CEO가 기조연설자 명단에 포함된 것은 그만큼 올해 행사에서 AI의 비중이 높아졌음을 의미한다. 전시회에서 부스를 여는 국내 기업들도 AI에 집중하고 있다. SK텔레콤은 '새로운 변화의 시작, 변곡점이 될 AI'를 주제로 통신사업에 특화한 거대언어모델(LLM) 개발과 적용 사례를 선보이고, KT는 전시관을 ‘넥스트 5G’와 ‘AI 라이프’ 2개 테마존으로 구성해 초거대 AI를 적용한 다양한 사례를 공개한다. 삼성전자도 지난달 출시한 첫 AI 스마트폰 갤럭시 S24 시리즈를 선보일 것으로 보인다. 대기업 외에 스타트업 등 130여개 국내 기업이 MWC 2024에 참가할 전망이다. 최태원 SK그룹 회장이 2년 연속 바르셀로나를 찾는 등 통신 3사 CEO를 포함한 산업계 주요 인사들이 MWC를 참관하고, 이종호 과학기술정보통신부 장관도 참가 여부를 검토하는 것으로 전해졌다. 화웨이와 샤오미 등 중국 기업들도 대거 참가해 최신 스마트폰을 공개할 예정이다.
- IT/바이오
2024-02-19 07:31:00
구글 딥마인드, IMO 금메달리스트 수준 기하학 문제 해결 AI 개발

구글 딥마인드가 캘리포니아대학교 버클리(UC 버클리)와 협력하여 국제 수학 경시대회 수준의 기하학 문제를 해결할 수 있는 인공지능(AI) 시스템인 알파지오메트리(AlphaGeometry)를 개발했다. 미국 매체 미디엄(Medium)은 구글 딥마인드가 개발한 알파지오메트리가 국제 수학 올림피아드(IMO)에서 출제된 기하학 문제 30개 중 25개를 해결하는 데 성공했다고 최근 보도했다. 이는 IMO 금메달리스트 수준의 성능이다. 알파지오메트리는 신경 언어 모델과 기호 추론 엔진을 결합한 시스템이다. 신경 언어 모델은 직관적인 아이디어를 생성하고, 기호 추론 엔진은 형식 논리와 규칙을 사용하여 이를 검증한다. 기하 도형 문제가 발생하면 알파지오메트리는 먼저 기호 엔진을 사용해 증명을 생성하려고 시도한다. 기호 엔진만으로는 증명을 생성할 수 없는 경우 언어 모델은 다이어그램에 새로운 점이나 선을 추가하여 기호 엔진이 솔루션을 계속 검색할 수 있는 추가 가능성을 열어준다. 알파지오메트리의 개발에는 수십 개의 기본 기하학 규칙이 포함된 사용자 지정 언어를 만드는 작업이 포함됐다. 그런 다음 연구팀은 1억 개의 '증명'을 자동으로 생성하는 프로그램을 작성했는데, 이는 본질적으로 단순하지만 논리적으로 반박할 수 없는 단계의 무작위 시퀀스였다. 알파지오메트리는 이러한 기계 생성 증명에 대해 훈련되어 한 단계씩 추측하여 문제를 해결할 수 있다. 알파지오메트리의 대표 연구자인 UC 버클리의 컴퓨터 과학과 마틴 리베르만(Martin Lieberman,) 교수는 "알파지오메트리는 수학 문제 해결에 있어 인공지능의 잠재력을 보여주는 중요한 진전"이라며 "알파지오메트리는 수학 연구에 새로운 아이디어를 발견하는 데 도움이 될 수 있으며, 수학 교육에 있어 학생들의 이해를 돕는 도구로 활용될 수 있을 것"이라고 말했다. 알파지오메트리의 성능과 한계 최근 기하학 문제 해결에 획기적인 성과를 보이고 있는 알파지오메트리는 그 성능과 한계에 대해 업계의 주목을 받고 있다. 이 시스템은 국제 수학 올림피아드에 준하는 고난도 기하학 문제를 해결할 수 있는 뛰어난 성능을 자랑한다. 또한 창의적인 문제 해결을 위한 직관적인 아이디어 생성 능력을 갖추고 있다는 점에서 주목할 만하다. 알파지오메트리는 형식 논리와 규칙을 활용하여 문제를 효율적으로 해결하는 능력을 갖추고 있다. 1억 개가 넘는 증명 데이터 세트를 통해 훈련되어 일반적인 증명 패턴을 학습하는 뛰어난 학습 능력을 보여준다. 하지만, 이 시스템은 여전히 인간이 이해하기 쉬운 형태의 증명을 생성하는 데는 한계가 있다. 기계가 생성한 증명은 종종 복잡하고 이해하기 어려운 면이 있다. 또한, 더 복잡한 문제, 예를 들어 대수학이나 미분 기하학 문제에 대한 확장성이 부족하다는 점도 지적되고 있다. 현재로서는 기하학 문제에 한정하여 효과적으로 작동하는 것으로 평가된다. 수학 연구·교육 분야 혁신 기대 알파지오메트리는 수학 연구 및 교육 분야에 혁신을 가져올 잠재력을 지닌 기술로 평가되고 있다. 수학 연구 분야에서 알파지오메트리는 새로운 수학적 아이디어의 발굴과 기존 증명의 검증에 유용하게 사용될 수 있다. 이 기술을 통해 기존 증명을 자동으로 생성하거나, 새로운 수학적 개념을 시각화하고, 수학적 문제에 대한 새로운 접근 방식을 모색하는 것이 가능하다. 또한 수학 교육 분야에서는 학생들의 수학적 이해를 증진시키고 수학에 대한 흥미를 유발하는 데에 알파지오메트리가 기여할 수 있다. 기하학 개념의 시각화, 증명 설명, 문제 해결을 돕는 도구로서의 역할이 기대된다. 기타 분야에서의 적용 가능성도 주목할 만하다. 알파지오메트리는 과학, 공학, 비즈니스, 법률 등 다양한 영역에서의 문제 해결에도 기여할 수 있는 범용성을 지닐 가능성이 있다. 현재 개발 초기 단계에 있는 알파지오메트리는 그 잠재력이 크게 평가되고 있으며, 향후 연구를 통해 기술의 한계를 극복한다면 수학 연구와 교육 분야에 큰 변화를 가져올 것으로 예상된다. 이러한 전망은 알파지오메트리가 수학적 사고와 해결 방식에 혁신적인 변화를 가져올 수 있는 가능성을 시사한다.
- IT/바이오
2024-01-24 12:01:00
구글, 차세대AI 제미나이 전격 투입⋯오픈AI 챗GPT에 도전장

미국 알파벳의 계열사 구글은 6일(현지시간) 인공지능(AI) 기반으로 한 차세대 대형언어모델(LLM) '제미나(Gemini)'를 공개했다. 이날 로이터통신 등 외신들에 따르면 구글은 이날 '제미나이 울트라', '제미나이 프로', '제미나이 나노' 등 3개 종류의 버전을 공개했으며 제미나이가 동영상과 음성, 문장 등을 학습해 복잡한 처리를 해낼 수 있다고 밝혔다. 최상위급 버전인 제미나이 울트라는 높은 처리능력을 보유하고 있어 데이터센터에서 활용할 수 있으며 낮은 레벨의 제미나이 나노는 스마프폰 등 모바일기기에서 효율적으로 구동된다고 설명했다. 구글은 제미나이가 동영상과 음성, 문장 등을 학습해 복잡한 처리를 해낼 수 있다고 밝혔다. 구글은 제미나이의 일부를 자체적으로 개발한 생성형AI '바드(Bard)'에 내년초에 탑재해 고객들에게 시판될 것이라고 덧붙였다. 구글은 이번 제미나이 3개 버전 공개를 계기로 선행주자 오픈AI에 공세를 펼칠 태세다. 일라이 콜린스 구글 딥마인드 제품담당 부사장은 "이들 3개 버전으로 모바일 단말부터 대규모 데이터센터까지 모든 것에 대응 가능하다"고 말했다. 안드로이드 개발자는 6일부터 스마트폰과 타블렛용에 제미니 대응 앱을 개발하는데 있어 '제미나이 나노'의 AI모델을 사용하는 절차를 진행할 수 있다고 지적했다. 구글은 또한 자사 스마트폰 '픽셀8 프로'에 제미니를 즉시 사용할 수 있도록 할 방침이다. 이에 따라 전화에서의 녹음회화부터 요점을 정리하는 새로운 생성AI기능을 제공할 수 있게 됐다고 설명했다. 구글은 다음주에는 자사 '버텍스AI'와 'AI스타지오' 플랫폼을 통해 제미니 프로의 고객용으로 제공할 계획이다. 구글 AI모델로 최대인 '제미나이 울트라'는 개발자와 법인용으로 조기 억세스프로그램을 제공한다. 프로그램의 구체적인 내용은 다음주 발표할 예정이다. 제미나이는 또한 구글의 대화형 AI로 오픈AI의 챗GPT 경쟁자인 바드를 통해 구글이 다루는 일련의 앱과 서비스에도 통합할 수 있게 될 것으로 보인다.
- IT/바이오
2023-12-07 07:22:00
구글 딥마인드 "AI, 전혀 지능적이지 않다"

생성형 인공지능(AI)이 전혀 지능적이지 않다는 연구 결과가 나왔다. 구글의 모회사 알파벳 산하 AI 기업 딥마인드의 연구진이 최근 발표한 연구 논문에 따르면, AI 모델은 훈련 데이터 외의 새로운 상황에서는 지능적 능력이 제한적이라는 결과가 도출되었다고 독일매체 베이직 싱킹(BASIC thinking)이 보도했다. 연구 결과에 따르면, AI 모델은 훈련된 데이터에 대해서는 높은 성과를 보일 수 있지만, 훈련 데이터 외의 새로운 상황에서는 적응하기 어려운 한계를 가지고 있다. 이번 조사는 챗GPT 개발사 오픈AI의 GPT-2를 참고했다. 연구진은 그들의 연구 결과가 기본적으로 트랜스포머 모델에 적용된다고 강조했다. 챗GPT의 T는 '트랜스포머(Transformer)'를 의미한다. 이러한 모델은 입력에서 출력을 독립적으로 계산할 수 있다. 이는 과학에서 진정으로 지능적일 수 있는 잠재력을 가진 AI의 한 형태로 간주될 가능성이 가장 높다. 그러나 방대한 데이터 세트에도 불구하고 입증가능한 자율성을 개발한 인공지능은 아직까지는 없다. 딥마인드의 연구원들은 "트랜스포머 모델이 학습한 데이터의 영역을 벗어난 작업이나 기능에 직면했을 때 모델의 성능이 저하되는 모습을 관찰할 수 있다"고 설명했다. 이러한 결과는 현재의 AI가 훈련 데이터에 지나치게 의존하며, 새로운 도전에 대처하기 어렵다는 측면에서 지능적인 한계를 보여주고 있다. 그러나 트랜스포머 모델은 여전히 훈련된 데이터를 뛰어넘을 수 있는 가능성을 가지고 있다는 점에서 기대를 모으고 있다. 앞으로의 연구와 발전을 통해 이러한 모델의 한계를 극복할 가능성이 여전히 열려 있다. 딥마인드의 이번 연구는 AI의 한계를 드러내면서도, 향후 더 나은 지능적 모델의 개발에 대한 기대를 증폭시키고 있다. 인공지능 분야에서의 지속적인 연구와 혁신은 앞으로의 기술 발전에서 중요한 역할을 할 것으로 예측된다.
- IT/바이오
2023-11-28 11:37:00
AI 기반 그래프캐스트, 기존 기술 능가하며 날씨 예측 혁신

딥마인드(DeepMind) 연구진이 개발한 머신러닝 기반 날씨 예측 프로그램 '그래프캐스트(GraphCast)'는 기존의 날씨 예측 기술을 능가하는 성과를 보여주고 있다고 기술 전문 매체인 엔가젯(engadget)이 최 보도했다. 이 프로그램은 10일 동안의 날씨 변수를 1분 이내에 예측할 수 있는 능력을 갖추고 있으며 연구자들은 이 프로그램이 90%의 검증률로 기존 날씨 패턴 예측 기술을 능가했다고 강조했다. 그래프캐스트는 지구 날씨의 가장 최근 두 가지 상태를 포함하는 테스트 시점과 6시간 전의 변수를 활용하여 작동한다. 이 데이터를 기반으로 그래프캐스트는 6시간 후의 날씨 상태를 예측할 수 있다. 이 프로그램은 현실 세계에서의 적용 가능성을 입증했다. 예를 들어, 그래프캐스트는 허리케인 리가 발생하기 10일 전에 롱아일랜드에 상륙할 것을 정확하게 예측했는데, 이는 당시 기상학자들이 사용하던 전통적인 기상 예측 기술보다 뛰어난 성과를 보여줬다. 그래프캐스트의 강점은 속도와 규모 측면에서 날씨 패턴을 예측하는 데 있어 기존 기술을 능가하는 데 머물지 않고, 열대성 저기압과 지역의 극한 온도 파도를 비롯한 심각한 기상 현상도 예측이 가능하다. 또한, 이 알고리즘은 최근 데이터로 재훈련될 수 있어 기후 변화와 관련된 더 큰 변화에 대한 날씨 패턴의 진동을 더 정확하게 예측할 수 있을 것으로 기대된다. 미래에는 그래프캐스트나 비슷한 인공지능(AI) 알고리즘이 더 많은 주류 서비스에 등장할 것으로 예상된다. 구글(Google)은 이미 그래프캐스트를 제품에 통합하는 방법을 모색하고 있으며, 이러한 기술은 미국 국립해양대기청(NOAA)과 같은 기관에서도 활용될 것으로 기대된다. AI의 발전은 날씨 예측 분야에도 큰 변화를 가져올 것으로 전망된다. AI 기반 날씨 예측 모델은 더 정확하고 빠른 예측을 제공함으로써 기상 이변에 대한 조기 경보와 대응에 기여할 수 있을 것이다.
- IT/바이오
2023-11-27 09:05:00
AI 워터마크, 뚫기 쉽다⋯보안 강화 촉구

디지털 워터마크는 다양한 분야에서 활용되는 보안 기술로, 우표부터 현금, 이미지까지 폭넓게 적용되며 그 핵심 역할은 정보의 신뢰성 확보와 위조 방지에 있다. 최근 '엔가제트(engadget)' 매체에 따르면 디지털 워터마크의 취약점에 대한 우려가 커지고 있다. 인공지능(AI)을 활용한 딥 페이크와 생성 예술 등의 확산으로 인해 디지털 워터마크의 중요성이 갈수록 커지고 있다. 특히 AI로 만들어진 콘텐츠를 정확히 식별하고, 해당 콘텐츠가 실제로 AI에 의해 생성됐는지 확인하는 것이 중요한 과제로 부상했다. 이러한 워터마크는 AI에 의한 콘텐츠의 오용을 방지하는 목적으로 이미지 등에 적용되기도 한다. 딥 페이크나 허위 정보의 생성이 급증하자 이를 방어하고 정보의 신뢰성을 보장하기 위해 많은 기업들이 워터마크 기술의 개발에 힘쓰고 있다. 구체적으로 오픈AI, 메타, 아마존 등 주요 기업들이 이러한 문제점에 대응하기 위한 워터마킹 기술 개발에 앞장서고 있다. 메릴랜드 대학교(UMD)의 컴퓨터 과학 연구팀은 워터마크의 추가나 제거에 관한 연구를 수행했다. UMD의 쇼헤이 페이지(Soheil Feizi) 교수는 와이어드(Wired)와의 인터뷰에서 현재 신뢰할 수 있는 워터마킹 응용 프로그램이 없다는 연구 결과를 얻었다고 밝혔다. 실제로, AI를 사용하지 않고 이미지에 가짜 워터마크를 추가하는 것은 상대적으로 간단한 일이었다. 반면, 워터마크를 완전히 제거하는 것은 여전히 복잡한 작업으로 판명되었다. 일부 연구진은 워터마크를 거의 완전히 제거하기 어렵게 만드는 기술의 개발에 힘쓰고 있으며, 이런 기술은 제품의 도난 감지에도 활용될 전망이다. 캘리포니아 대학교 산타 바바라 캠퍼스와 카네기 멜론 대학교의 연구팀은 디지털 워터마크의 제거 방법에 대한 공동 연구를 진행했다. 이 연구에서는 디지털 워터마크를 쉽게 제거할 수 있다는 사실을 확인했다. 두 가지 주요 워터마크 제거 방법, 즉 파괴적 접근과 건설적 접근이 탐색되었다. 파괴적 접근은 워터마크를 이미지의 일부로 간주하고 이를 조정하여 제거하는 방식인데, 이 과정에서 이미지 품질이 떨어질 수 있다. 반면, 건설적 접근은 워터마크를 유지한 채로 제거하는 복잡한 방법을 취한다. 이 연구는 디지털 워터마크의 취약성을 드러내면서 그 개선의 필요성을 부각시켰다. 디지털 워터마킹 기술은 지속적으로 발전해야 하며, 특히 AI가 잠재적으로 잘못된 정보를 만들어내어 사회에 혼란을 줄 수 있기 때문에, AI 생성 콘텐츠의 식별 도구와 기술의 발전이 필요하다.
- IT/바이오
2023-10-07 15:29:00
오픈AI의 GPT-4 경쟁자 구글 '제미니', 올해 말 공개 예정

기술 대기업 구글에서 오픈AI의 생성형 인공지능(AI) 챗GPT의 대항마인 '제미니(Gemini)'를 출시한다. 현재 생성형 AI 시장의 예상 가치는 2032년까지 1조 3000억 달러에 달할 것으로 전망된다. 지난해 11월 첫선을 보인 오픈AI의 챗GPT는 이미 월간 활성 사용자 수가 1억 명을 돌파하며 그 성장세를 이어가고 있다. 이러한 상황에서 구글이 자체 개발한 대화형 AI 챗봇 '바드(Bard)'와 새로운 언어 모델(PaLM 2 LLM)을 선보이며 시장에서의 존재감을 확대하고 있다. 4일(현지시간) 기술 전문매체 더 테크아웃룩에 따르면 구글이 올해 말 오픈AI의 챗GPT의 GPT-4와 직접적으로 경쟁할 수 있는 '제미니'를 공개할 예정이라는 소식이 전해졌다. GPT-4는 오픈AI에서 개발한 자연어 처리(NLP) 모델로, GPT(Generative Pre-trained Transformer) 시리즈의 네 번째 버전으로 5000억 개의 파라미터를 가지고 있는 것으로 알려졌다. 이전 버전인 언어 기반 인공지능 모델 GPT-3는 약 1750억 개의 파라미터를 가지고 있다. 제미니는 구글이 보유한 TPUv5 칩, 총 1만6384개의 칩을 활용해 훈련되었으며, 훈련 데이터는 압도적인 65조 개의 토큰으로 이뤄져 있다. 또한 유튜브 콘텐츠와 알파고의 훈련 기법 역시 활용되었다. 시장 전문가들은 구글 제미니가 GPT-4를 능가할 세 가지 주요 이유를 지적한다. 첫째, 텍스트와 이미지 생성 능력, 둘째, 구글 서비스에서 확보한 독점적 학습 데이터, 그리고 셋째, 세르게이 브린(구글 공동 창업자)과 폴 바햄(딥마인드 수석 AI 과학자 겸 머신러닝 전문가) 등 AI 분야의 석학들이 구글의 딥마인드와 브레인 팀의 협력으로 더 많은 것을 기대할 수 있다는 점이다. 아직 결과는 미지수지만, 구글의 '제미니'가 얼마나 GPT-4에 버금가는 성능을 보여줄 것인지에 대한 관심이 높아지고 있다.
- IT/바이오
2023-09-06 09:51:00