애저 – 포커스온경제 통합 검색

전체기사보기
2026-03-17 (화)

검색

마이크로소프트, 챗봇 악용 방지 도구 개발

마이크로소프트(MS)가 사용자가 인공지능(AI) 챗봇을 속이는 것을 방지하는 도구를 개발한다. 28일 야후 파이낸스에 따르면 마이크로소프트는 이날 블로그 게시물을 통해 개발자가 자신의 데이터를 사용해 맞춤형 AI 도우미를 구축할 수 있도록 새로운 보안 기능이 애저 AI 스튜디오(Azure AI Studio)에 탑재될 예정이라고 밝혔다. 이 도구에는 악의적인 조작 시도, 즉 프롬프트 인젝션 공격 또는 제일브레이크라고도 알려진 시도를 탐지하고 차단하도록 설계된 '프롬프트 보호 기능'이 포함된다. 이러한 공격은 AI 모델이 의도하지 않은 방식으로 작동하도록 한다. 마이크로소프트는 또한 해커가 모델이 학습하는 데이터에 악성 명령을 삽입해 사용자 정보를 탈취하거나 시스템을 공격하는 등 부적합한 작업을 수행하도록 속이는 '간접적인 프롬프트 인젝션' 문제에도 대응하고 있다. 마이크로소프트는 대화형 AI 챗봇인 챗GPT를 개발한 오픈AI의 최대 투자자이다. 사라 버드(Sarah Bird) 마이크로소프트의 책임 AI 최고 제품 책임자는 "이러한 공격은 독특한 과제이자 위협"이라고 말했다. 새로운 방어 기능은 의심스러운 입력을 실시간으로 감지하고 차단하도록 설계됐다. 또한 모델이 허위 정보를 만들거나 잘못된 응답을 생성할 때 사용자에게 경고하는 기능도 출시된다. 마이크로소프트는 현재 개인과 기업 고객 모두가 사용하고 있는 생성형 AI 도구에 대한 신뢰를 높이기 위해 노력하고 있다. 지난 2월에는 회사가 해로운 범위의 응답을 생성하는 코파일럿 챗봇과 관련된 사건을 조사했다. 검토 결과, 마이크로소프트는 사용자가 의도적으로 코파일럿을 속여 응답을 생성하려고 했다고 설명했다. 코파일럿 공격은 AI 모델, 특히 대규모 언어 모델을 악의적으로 조작하여 의도하지 않은 작업을 수행하도록 만드는 공격을 의미한다. 공격자는 모델에 잘못된 정보를 주입하거나 모델 학습 데이터를 조작하여 모델이 원하는 대로 작동하도록 속일 수 있다. 버드는 "도구 사용이 증가함에 따라 이러한 기술에 대한 인식이 늘어나면서 확실히 증가하고 있다"고 말했다. 이러한 공격의 징후는 챗봇에게 질문을 여러 번 반복하거나 롤 플레잉을 설명하는 프롬프트를 포함한다.
- IT·과학
2024-03-29 13:05:21
MS, 프랑스AI 미스트랄과 전략적 제휴 성장동력 강화

마이크로소프트(MS)가 26일(현지시간) 프랑스 인공지능(AI) 스타트업 미스트랄AI와 '전략적 파트너십'을 맺었다. 이날 파이낸셜타임스(FT) 등 외신들에 따르면 MS가 창사 10개월짜리 미스트랄AI 소수지분도 갖게 된다. 다만 MS가 미스트랄에 얼마나 많은 자금을 지원하는지 구체적인 재정지원 조건은 공개되지 않았다. 미스트랄AI는 MS와 이번 제휴로 MS 클라우드 플랫폼인 애저(Azure)에 오픈AI에 이어 두번째로 상용 대형언어모델(LLM)을 제공하는 업체가 됐다. 미스트랄은 챗GPT-3로 전세계에 AI 돌풍을 몰고 온 미국 오픈AI의 유럽 경쟁사다. 챗봇과 같은 AI 서비스에 사용되는 오픈 AI의 알고리즘 모델과 유사한 것을 미스트랄도 개발하고 있지만 미스트랄의 모델은 오픈 소스형이다. 미스트랄은 이날 독특한 논리적 사고능력을 갖고 5개의 언어에 능통하다는 '미스트라지'라고 불리는 모델도 발표했다. MS는 오픈AI 최대 후원사로 오픈AI의 AI 기술을 자사 제품들에 접목해 두드러진 성과를 보이는 가운데 이제 그 영향력을 유럽 경쟁사 미스트랄로까지 확대하게 됐다. AI를 현금화하는데 가장 능숙한 기업이라는 평가를 받으며 애플을 누르고 전세계 시가총액 1위로 올라선 MS가 오픈AI와 미스트랄의 기술을 모두 거머쥐면서 AI 성장동력을 강화했다. MS는 AI 분야에서 주로 오픈 AI와 협력하고 있으며 이 회사에 약 130억 달러(약 17조3180억원)를 투자하고 있다. MS의 문어발식 AI 스타트업 투자는 규제당국의 대응을 재촉할 전망이다. MS는 샌프란시스코에 본사가 있는 오픈AI에 대한 투자로 이미 미국과 유럽연합(EU), 영국 경쟁당국의 예비조사를 받고 있다. 알파벳 산하 구글, 아마존 등 다른 빅테크들 역시 생성형 AI 구축에 막대한 자금을 쏟아붓고 있지만 MS의 행보가 두드러진다. 미스트랄은 유럽의 떠오르는 AI 스타트업으로 지난해 12월 4억유로(약 5780억원) 자본을 확보하는 과정에서 기업가치가 20억유로(약 2조8900억원)로 평가받은 바 있다. 이에 앞서 MS는 유럽 전반에 대한 투자 확대의 일환으로 독일 데이터센터에 32억 유로(약 5200억엔)를 투입할 방침을 이달 발표했다.
- IT·과학
2024-02-27 06:00:44
MS, 자체 개발 AI·클라우드 칩 공개⋯대만 TSMC가 제조

기술 대기업 마이크로소프트(MS)가 인공지능(AI) 기술과 클라우드 서비스를 위한 반도체 칩을 자체 개발해 공개했다. MS는 15일(현지시간) 연례 개발자 회의 '이그나이트 콘퍼런스'에서 자체 개발한 AI 그래픽처리장치(GPU) '마이아 100'과 고성능 컴퓨팅 작업용 중앙처리장치(CPU) '코발트 100'을 내놓았다. '마이아 100'은 엔비디아 GPU와 유사한 형태로 생성형 AI의 기본 기술인 대규모 언어모델(LLM)을 훈련하고 실행하는 데이터센터 서버 구동을 위해 설계됐다. MS는 이 칩을 개발하기 위해 챗GPT 개발사 오픈AI와 협력했다고 설명했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 "MS와 협력해 우리의 (AI) 모델로 마이아 칩을 정제하고 테스트했다"며 "이제 마이아를 통해 최적화된 애저의 AI 기반은 더 뛰어난 성능의 모델을 학습하고 고객에게 더 저렴한 가격으로 제공할 수 있다"고 말했다. 다만 MS는 '마이아 100'을 외부에 판매할 계획은 아직 없으며, 자체 AI 기반 소프트웨어 제품과 애저 클라우드 서비스의 성능을 높이는 데 활용할 계획이라고 밝혔다. CNBC 등 미국 매체들은 MS가 개발한 '마이아 100'이 엔비디아의 GPU 제품과 경쟁할 수 있을 것으로 전망했다. 세계 생성형 AI 훈련에 필요한 AI 칩 시장은 엔비디아가 80% 이상을 차지하고 있으며 수요에 비해 공급이 크게 부족한 상황이다. MS가 이날 공개한 다른 제품인 '코발트 100'은 낮은 전력을 사용하도록 설계된 '암(Arm) 아키텍처'를 기반으로 만든 CPU다. 클라우드 서비스에서 더 높은 효율성과 성능을 내도록 설계된 제품이다. 데이터센터 전체에서 '와트(전력단위)당 성능'을 최적화하는 것을 목표로 하며, 이는 소비되는 에너지 단위당 더 많은 컴퓨팅 성능을 얻는 것을 의미한다고 회사 측은 설명했다. 사티아 나델라 MS 최고경영자(CEO)는 "이 128코어의 칩은 모든 클라우드 공급업체를 통틀어 가장 빠르다"며 "이 칩은 이미 MS 서비스의 일부를 구동하고 있으며, 전체에 적용한 뒤 내년에는 고객에게도 판매할 예정"이라고 말했다. 이 제품은 아마존웹서비스(AWS)가 개발한 고성능 컴퓨터 구동용 칩인 '그래비톤' 시리즈나 인텔 프로세서 제품 등과 경쟁할 수 있다고 미 언론은 전망했다. 외신에 따르면 MS가 개발한 두 칩 모두 대만 반도체 회사 TSMC가 제조하는 것으로 알려졌다. MS는 자체 칩 개발을 이어가는 한편 엔비디아와 AMD가 각각 개발한 최신 GPU 제품 H200과 MI300X도 자사의 AI·클라우드 서비스에 내년 중 도입한다는 계획도 밝혔다. 칩을 자체 제작하면 서비스 구동을 위한 하드웨어 성능을 높일 수 있을 뿐만 아니라 비용도 크게 낮출 수 있다.
- 경제
2023-11-16 10:51:37
MS, 의료 지원 AI 도구 공개

마이크로소프트(MS)는 10일(현지시간) 의료 서비스용 인공지능(AI) 제품을 공개했다. MS는 미국 네바다주 라스베이거스에서 열린 헬스케어(HLTH) 2023 콘퍼런스에서 데이터 및 분석 플랫폼인 자사의 패브릭(Fabric) 내에 새로운 의료 서비스 전용 도구를 추가했다고 밝혔다. 이 도구는 전자 의료 기록과 이미지, 연구실 시스템, 의료 기기, 클레임 시스템 등 모든 정보를 결합해 의료 기관이 데이터를 표준화하고 손쉽게 이용할 수 있도록 지원한다. MS는 새로운 도구가 의료진이 데이터를 하나씩 검색하는 '시간 소모적인' 프로세스를 제거하는 데 도움이 될 수 있으므로 의료 제공자가 치료에 집중할 수 있다고 설명했다. 세계경제포럼(World Economic Forum)에 따르면 병원에서는 연간 50페타바이트(petabyte, pb)의 고립된 데이터를 생성한다. 이는 약 100억 개의 음악 파일에 해당한다. 많은 귀중한 통찰력이 담겨 있는 이 데이터의 97%는 사용되지 않는다. MS는 이 모든 데이터를 잘 활용하는 것이 환자의 삶과 의료 여정에 의미 있는 변화를 가져올 수 있는 임상과 운영상의 혁신을 여는 열쇠라고 강조했다. 의료용 패브릭은 시카고 통합 학술의료시스템인 노스웨스턴 메디슨(Northwestern Medicine)을 비롯해 캐나다의 아서 헬스(Arthur Health), 싱가포르 최대 공공 의료기관 네트워크인 싱헬스(SingHealth) 등 일부 의료 기관에서 시범 사용해 오고 있다. 노스웨스턴 메디슨의 최고정보책임자인 더그 킹(Doug King)은 "MS 기술은 우리가 살고 있는 방법과 환자를 돌보는 방법을 바꿀 것"이라며 더 많은 환자들을 진료하는 데 도움이 될 것으로 기대했다. MS는 또 환자 진료에 도움을 주는 생성형 AI 챗봇인 '애저(Azure) AI 헬스봇'도 출시할 예정이라고 밝혔다. 이 AI 챗봇은 미 식품의약국(FDA)과 같은 외부 기관의 데이터뿐만 아니라 의료 기관 자체 내부 데이터로부터 정보를 추출할 수 있다. 리니샤 바즈 MS 건강 및 생명 과학의 수석 제품 관리자는 챗봇을 사용하여 조직 내 직원이 특정 질병을 치료하는 방법, 내부 프로토콜 및 프로세스와 같은 질문을 할 수 있다고 말했다. 또 환자도 환자 포털 내에서 챗봇을 사용하여 자신의 증상과 의학 용어에 대해 명확하게 질문할 수 있다고 덧붙였다. 바즈는 언론 브리핑에서 "정말 중요한 것은 이 프로세스에 가드레일과 안전장치를 구축했다는 점"이라고 말했다. MS는 임상 문서와 메모 등과 같은 다양한 비정형 데이터 원본에서 중요한 의료 정보에 레이블을 지정하고 추출할 수 있는 '의료용 텍스트 분석(Text Analytics for health)'이라는 또 다른 솔루션을 발표했다. 바즈는 이 도구가 영어 외에 스페인어, 프랑스어, 이탈리아어, 독일어, 포르투갈어, 히브리어로도 출시될 예정이라고 전했다. 이를 통해 의료진이 특정 질병을 어떻게 치료하는지 내부 프로토콜과 프로세스에 대해 질문해 답을 얻을 수 있고, 환자들도 자신의 증상과 의료 용어에 대해 명확한 질문을 할 수도 있다고 MS는 설명했다. MS는 이와 함께 의사, 간호사 등이 더 많은 정보를 기반으로 의사 결정을 내리는 데 도움을 주는 '애저 AI 헬스 인사이트(Azure AI Health Insights)' 모델도 공개했다. 이 모델은 생성형 AI를 사용해 의료진에게 환자의 의료 기록에 대한 개요를 제공하고, 복잡한 의학 용어로 된 보고서를 환자가 더 잘 이해할 수 있는 언어로 풀어준다. 또 여러 보고서에서 발생할 수 있는 오류와 불일치를 식별해 의료진을 지원한다고 MS는 설명했다. 바즈는 "애저 AI에 포함된 마이크로소프트의 새로운 의료 서비스 도구가 환자 경험을 개선하고 임상의가 더 나은 치료를 제공하는 데 집중할 수 있도록 도울 것"이라고 말했다. MS 측은 새로운 솔루션은 10일부터 미리 보기로 사용할 수 있다고 밝혔다.
- IT·과학
2023-10-11 13:33:54
미국, 중국에 반도체칩‧AI칩 수출 통제 추가 조치

미국 바이든 행정부는 이르면 10월 초 중국으로의 반도체 장비와 인공지능(AI) 칩에 대한 추가적인 수출 통제 규칙을 발표할 계획으로 알려졌다. 미국 정부 관계자는 이러한 결정은 강대국 간의 관계를 안정화하기 위한 정책이라고 말했다. 연합뉴스는 3일 로이터통신을 인용, 이를 위해 미국은 중국에 이르면 이달 초 대(對) 중국 반도체 장비 등에 대한 수출통제를 업데이트할 수 있다고 중국측에 경고했다고 보도했다. 앞서 상무부는 지난해 10월 7일 미국 기술을 사용한 첨단 반도체 장비나 인공지능 칩 등의 중국 수출을 포괄적으로 제한하는 수출통제를 발표했다. 구체적으로 △ 핀펫(FinFET) 기술 등을 사용한 로직칩(16nm 내지 14nm 이하), △18nm(나노 미터) 이하 D램, △ 128단 이상 낸드플래시를 생산할 수 있는 장비·기술을 중국 기업에 판매할 경우 허가를 받도록 했다. 다만 당시 발표는 잠정 규정이었으며 상무부는 그동안 최종 규정 발표를 준비해왔다. 또 다른 소식통은 "이번 업데이트는 새로운 네덜란드와 일본의 규칙에 따라 미국은 칩 제조 도구에 도구에 대한 액세스를 더욱 제한하고 인공 지능 (AI) 칩에 대한 수출 제한의 일부 허점을 메우려고한다"고 전했다. 미국 관리는 "중화 인민 공화국과의 대화를 바탕으로, 행정부는 약 1년 후에 규칙 업데이트를 예상하고 있다"고 말했다. 해당 관리는 최근 몇 주 동안 미국 관리들이 중국에 정보를 제공했다고 밝혔지만 구체적인 대화 내용은 공개되지 않았다. 바이든 행정부는 중국과의 관계 안정화를 위한 전략의 일환으로 중국에 이 규칙 변경에 대해 미리 경고했다. 이러한 조치는 미국이 지난 2월 중국 스파이 풍선을 격추한 이후 양국 간에 긴장감이 고조된 상황에서 이루어졌다. 바이든 행정부는 지난 8월 지나 러몬도 상무부 장관 등 고위 관리들을 중국에 파견하였으며, 제이크 설리반 국가 안보 보좌관은 9월에 중국 왕이 외교부장과 회담을 진행했다. 지난해 10월 발표된 제한 조치는 첨단 AI 칩 접근을 제한하고, 미국의 고급 칩 제조 도구 수입을 제한함으로써, 미국의 기술이 중국 군대 강화에 이용되는 것을 방지하려 했다. 주미 중국 대사관 류펑위 대변인은 "중국은 미국이 국가 안보 개념을 과도하게 확장하고, 수출 통제 조치를 남용하여 중국 기업을 억압하는 행위에 반대한다"고 강조했다. 전 백악관 관리인 피터 해럴은 바이든 행정부가 중국에 새로운 규칙을 경고했는지에 대한 확신은 없지만, 경고했다면 그것은 행정부의 "전략적 변화"를 의미할 수 있다고 말했다. 재닛 옐런 재무장관 역시 지난 7월 중국 관리들에게 8월에 발표될 미국의 대중국 투자 제한에 대한 정보를 전달했다. 바이든 행정부는 오는 11월 샌프란시스코에서 열리는 아시아태평양경제협력체(APEC) 정상회의에 중국 국가주석 시진핑의 참석을 기대하고 있으며, 이는 다가오는 수출 규칙 발표에 영향을 줄 수 있다. 소식통에 따르면, 중국 당국은 시 주석의 참석이 위태로울 수 있어 정상회의 직전에 규칙 발표를 피하려 노력했다고 한다. 10월 초까지 아직 완벽하게 준비되지 않은 이 규칙은 중국과의 관계를 위해 정상회담 종료 후까지 발표를 미룰 가능성이 있는 것으로 전해졌다. 바이든과 시 주석은 지난달 인도에서 열린 G20 회의에 시 주석이 참석하지 않으면서 작년 11월 인도네시아의 발리 섬에서 열린 G20 정상 회담 이후 약 10개월 동안 만나지 않았다. 한편, 미국은 구체적으로 AI 반도체 칩의 수출통제를 더 강화할 것으로 보인다. 예를 들어, 미국 엔비디아는 상무부의 대중국 수출통제에 따라 기존 A100보다 성능을 낮춘 A800을 중국에 수출하고 있는데 이와 같은 저사양 AI 반도체도 금지될 것으로 보인다고 월스트리트저널(WSJ)이 지난 6월 보도했다. 미국 정부가 중국 기업들이 이용하는 클라우드 서비스 임대도 차단하는 방안 역시 고려하고 있다는 보도도 나왔다. 아마존 웹 서비스와 마이크로소프트(MS) 애저 등과 같은 클라우드 서비스를 이용할 경우 미국의 수출통제를 우회해 강력한 컴퓨팅 능력에 접근할 수 있다는 판단에 따른 것으로 알려졌다. 나아가 반도체 장비에 대한 수출 제한 조치도 업데이트될 것으로 보인다고 로이터통신은 보도했다. 미국은 지난해 10월에 수출 통제 조치를 발표한 이후, 반도체 장비 강국인 네덜란드와 일본에도 동참을 촉구하여 성공적으로 이끌어냈다. 일본은 7월부터 첨단 반도체 노광 및 세정 장비를 포함한 23개 품목에 대한 수출 통제 조치를 시행했고, 네덜란드도 수출 규제를 강화했다. 미국의 최신 규정은 이와 같은 변경 사항을 반영할 것으로 예상된다. 한국 정부는 이러한 조치가 한국 기업에 큰 영향을 미치지 않을 것으로 보고 있다. 이는 한국 기업들이 AI용 반도체 제조에 참여하지 않으며, 반도체 장비의 반입에 대한 유예 조치가 사실상 확정되었기 때문이다.
- 경제
2023-10-03 10:30:04