전체기사보기
-
-
앤스로픽 CEO "AI 해석 가능성 확보, 2027년까지 달성할 것"
-
-
인공지능(AI) 스타트업 앤스로픽(Anthropic)의 다리오 아모데이(Dario Amodei) 최고경영자(CEO)가 2027년까지 AI 모델의 내부 작동 원리를 해석할 수 있는 기술을 확보하겠다는 목표를 밝혔다.
과학 기술 전문매체 테크크런치는 24일(현지시간) 아모데이 CEO는 "AI의 결정 과정에 대한 이해 없이 시스템을 배포하는 것은 위험하다"며 해석 가능성(interpretablility) 연구의 시급성을 강조했다고 보도했다.
아모데이 CEO는 이날 발표한 에세이 '해석 가능성의 시급성(The Urgency of Interpretability)'을 통해 "AI 모델이 어떻게 특정한 답을 내놓는지에 대해 여전히 과학계의 이해가 부족하다"며 "강력한 AI 시스템을 보다 투명하게 해석하지 못한 채 배포하는 것은 무책임하다"고 우려를 표했다.
그는 "AI는 향후 경제, 기술, 안보 등 사회 전반에 걸쳐 핵심 역할을 할 것이며, 높은 자율성을 갖춘 만큼 그 작동 원리를 인간이 모른다는 것은 사실상 용납될 수 없는 상황"이라고 밝혔다.
앤스로픽은 현재 AI 모델의 '기계적 해석(mechanistic interpretability)' 분야에서 선도적인 연구를 진행중이며, 최근에는 AI가 특정 작업을 수행할 때 작동하는 내부 회로(circuits)를 일부 식별하는 데 성공했다.
예를 들어 미국의 도시와 주(State) 간의 관계를 파악하는 데 관여하는 회로가 대표적인 사례다. 그러나 이러한 회로는 모델 내 수백만 개에 달할 것으로 추정되며, 현재까지 밝혀진 것은 극히 일부에 불과하다고 설명했다.
아모데이 CEO는 장기적으로 "AI 모델의 뇌를 스캔하듯 MRI를 하듯이 내부 작동을 들여다보는 기술이 필요하다"며 "이 과정은 5~10년이 소요될 수 있지만, 향후 AI 모델을 안전하게 배포하기 위해선 필수적인 절차"라고 강조했다.
그는 또한 구글 딥마인드(Google DeepMind)와 오픈AI(OpenAI) 등 경쟁 기업들에게도 해석 가능성 연구에 더 많은 자원을 투입할 것을 촉구했다. 실제로 오픈AI의 최신 추론 모델인 o3 및 o4-mini는 일부 작업에서 성능이 향상되었지만, 동시에 'AI 환각(AI hallucination·AI할루시네이션·인공지능이 실제로 존재하지 않는 정보나 사실과 다른 내용을 마치 진짜인 것처럼 만들어내는 현상)' 현상이 더 빈번하게 나타나고 있음에도 원인을 파악하지 못하고 있다는 점을 지적했다.
아모데이는 "AI가 재무 문서를 요약할 때 특정 단어를 선택하거나 실수를 범하는 이유를 정확히 이해하지 못한다"며 "AI는 마치 '건설된 것이 아니라 성장한 존재'처럼 작동하며, 연구자들이 그 성장을 유도할 수는 있어도 왜 그런 성장이 일어나는 지 설명하지 못하는 상황"이라고 덧붙였다.
이와 함께 아모데이 CEO는 미국 정부에 AI 해석 가능성 제고를 위한 '가벼운 규제(light-touch regulation)'를 요청했다. 이는 기업들이 보안 및 안전성 확보 방안을 공개하도록 의무화하는 규정 도입과 같이, 해석 가능성 확보를 위한 제도적 기반을 마련하자는 제안이다. 동시에 그는 AI 개발 경쟁이 통제 불능 상태로 흐르지 않도록 중국에 대한 반도체 칩 수출 통제를 유지해야 한다고 주장했다.
한편, 앤스로픽은 캘리포니아 주에서 추진 중인 AI 안전 관련 법안(SB 1047)에 대해서도, 업계에서 드물게 지지 입장을 밝히며, 프런티어 AI 모델 개발자들의 안전성 보고 기준 마련 필요성을 강조한 바 있다.
'SB 1047'은 2024년 캘리포니아주 상원의원 스콧 위너(Scott Wiener)가 발의한 '최첨단 인공지능 모델의 안전하고 보안된 혁신법(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act)'이다. 이 법안은 고성능 AI 모델의 개발 및 배포에 따른 잠재적 위험을 관리하고자 하는 최초의 주 차원 규제 시도로 주목받았다. 훈련 비용이 1억 달러 이상이고, 10²⁶ FLOPS 이상의 연산 능력을 사용하는 AI 모델 및 그 파생 모델이 적용 대상이다. △ 내부 고발자 보호 조항을 포함하고 있으며 △ 모델 배포 전 위험 평가 및 독립 감사를 의무화하고 △ 비상 상황시 모델을 중단할 수 있는 '킬 스위치'기능을 탑재하는 것이 핵심 조항이다.
2024년 8월 캘리포니아 주의회를 통과했지만, 같은 해 9월 29일 개빈 뉴섬 주지사가 혁신 저해 및 산업 유출 가능성과 중소기업과 오픈소스 개발자에게 과도한 부담을 줄 수 있다는 우려 등으로 거부권을 행사했다.
아모데이 CEO는 "AI 성능을 키우는 것만큼이나 그것이 어떻게 작동하는 지를 이해하는 것이 중요하다"며 "업계 전체가 AI 모델 해석 가능성을 높이기 위함 공동의 노력을 기울여야 한다"고 재차 강조했다.
-
2025-04-26 09:15:00
-
-
[월가 레이더] 기술주 랠리 속 4거래일 연속 상승⋯뉴욕증시, 주간 상승세
-
-
뉴욕증시가 롤러코스터 장세 끝에 주간 상승으로 마감했다. S&P 500 지수는 금요일(25일)까지 4거래일 연속 올라 주간 4.6% 상승했고, 기술주 중심의 나스닥 지수는 6.7% 급등했다. 다우 지수도 2.5% 올랐다.
알파벳 등 '매그니피센트 7' 기술주가 실적 호조와 인공지능(AI) 기대감에 힘입어 시장 반등을 이끌었다. 특히 알파벳은 1분기 매출과 순이익 모두 예상치를 웃돌아 투자 심리를 자극했다.
시장을 짓눌렀던 미-중 무역 갈등은 다소 완화될 조짐을 보였다. 중국이 일부 미국산 제품에 대한 관세를 면제하고 미국 재무장관도 긴장 완화 발언을 내놓았지만, 트럼프 대통령의 강경 발언과 중국의 협상 부인 등 혼선은 여전하다.
1분기 기업 실적은 예상치를 웃돈 경우가 많았지만(LSEG 집계 73%), 향후 실적 전망치를 낮추거나 철회하는 기업들이 나타나는 등 불확실성은 가시지 않고 있다. 다음 주 마이크로소프트, 아마존 등 빅테크 실적이 시장 향방을 가늠할 분수령이 될 전망이다.
[미니해설] 기술주 랠리에 웃었지만…뉴욕증시 '불안한 반등'
뉴욕증시가 간만에 활짝 웃었다. S&P 500과 나스닥 지수가 각각 4.6%, 6.7% 급등하며 지난 3주 중 2주 연속 상승하는 기염을 토했다. 지난 4월 초 도널드 트럼프 대통령의 고율 관세 발표 이후 극심한 변동성에 시달렸던 시장이 한숨 돌린 모습이다. 기술주의 견조한 실적과 미중 무역 갈등 완화 기대감이 얼어붙었던 투자 심리를 녹였다. 하지만 안도감 속에서도 불안의 그림자는 여전히 짙게 드리워져 있다.
'관세 공포' 진정됐나…안갯속 무역 협상
이번 주 시장 반등의 주요 동력 중 하나는 격화일로를 걷던 미중 무역 갈등이 다소 진정될 수 있다는 기대감이었다. AXS 인베스트먼츠의 그렉 바숙 CEO는 "이번 주는 강한 매도 심리로 시작했지만 실질적으로 강력한 반등이 뒤따랐다"며 "이는 대체로 중국과의 무역 전쟁 긴장 완화 분위기에 힘입은 바 크다"고 진단했다. 실제로 중국은 일부 미국산 제품에 대한 관세를 면제했고, 스콧 베센트 미 재무장관도 최근 긴장 완화 필요성을 언급했다.
인프라캡의 제이 햇필드 최고투자책임자(CIO)는 한발 더 나아가 "우리는 '관세 발작(tariff tantrum)'의 정점에 도달했으며, 따라서 앞으로는 부정적인 측면보다 긍정적인 측면이 더 많을 것"이라는 낙관론을 폈다. 4월 초 트럼프 대통령의 관세 발표 이후 VIX(변동성 지수)가 60을 넘나들던 공포 국면은 일단 진정된 모습이다. 금요일 VIX는 25 아래로 떨어지며 관세 인상 발표 이후 최저치를 기록했다.
하지만 안심하기는 이르다. 트럼프 대통령의 예측 불가능성이 여전하기 때문이다. 그는 타임지 인터뷰에서 1년 뒤 외국에 20~50%의 고율 관세를 부과하는 것을 "완전한 승리"로 간주하겠다면서도, 3~4주 내 많은 무역 합의 발표가 있을 것이라고 말하는 등 오락가락 행보를 보였다. 설상가상으로 에어포스 원에서는 "중국이 우리에게 상당한 무언가를 제공하지 않는 한" 관세를 철회하지 않겠다고 못 박았다. 중국 역시 미국의 협상 주장을 부인하며 경계감을 늦추지 않고 있다.
파이퍼 샌들러는 보고서에서 "트럼프는 무역에 대해 입장을 바꾸지 않았다"며 "트럼프의 고통 감내 수준이 여전히 높다고 생각하며, 투자자들은 트럼프의 고통 감내 수준에 도달했다는 증거가 축적될 때까지 방어적인 자세를 유지해야 한다"고 조언했다. '관세 발작'은 멈췄을지 몰라도, 언제 다시 시장을 뒤흔들지 모르는 '트럼프 변수'는 상존하는 셈이다.
예상 웃돈 1분기 실적…'가이던스'는 경고등
1분기 기업 실적 시즌은 순항 중이다. LSEG에 따르면 현재까지 실적을 발표한 S&P 500 기업 중 73%가 예상치를 웃도는 '어닝 서프라이즈'를 기록했다. 1분기 전체 이익 증가율 전망치도 4월 초 8.0%에서 9.7%로 상향 조정됐다. 구글 모회사 알파벳은 클라우드 매출이 28% 급증하고 AI 투자가 성과를 내고 있다고 밝히며 1% 넘게 상승했고, 테슬라는 10% 가까이 폭등했다. 엔비디아, 메타 등 다른 '매그니피센트 7' 종목들도 동반 강세를 보이며 기술주의 힘을 과시했다.
하지만 이는 동전의 양면과 같다. 많은 기업들이 1분기 호실적에도 불구하고 향후 실적 가이던스를 낮추거나 아예 제시하지 못하고 있기 때문이다. 경제 및 무역 정책 불확실성, 소비 심리 위축 등이 이유다. 2~4분기 실적 전망치가 크게 하향 조정되면서, 역설적으로 1분기가 올해 '최고 실적 분기'가 될 가능성이 커졌다는 분석도 나온다. 반도체 대장주 인텔이 부진한 2분기 전망을 내놓으며 6% 넘게 급락하고, 이스트먼 케미컬이 관세 불확실성을 이유로 부진한 가이던스를 제시하며 6% 하락한 것이 대표적 사례다.
기술주 독주 속 '미국 예외주의' 흔들
이런 상황은 '미국 예외주의(U.S. exceptionalism)'에 대한 근본적인 질문을 던진다. 도이체방크의 짐 리드 글로벌 매크로 리서치 책임자는 "(관세 충격 이후) 안도 회복이 있을 수 있지만, 미국 예외주의에 대한 손상은 더 오래 지속될 것"이라고 경고했다. 그는 특히 "매그니피센트 7이 어떻게 성과를 내느냐가 미국 예외주의 거래의 많은 부분을 결정할 것"이라며 이들 소수 기술주에 대한 의존도가 심화될 수 있음을 시사했다.
골드만삭스의 추산("외국인 투자자들이 3월 이후 약 600억 달러의 미국 주식을 매도했다")도 부담이다. 외국인 자금 이탈은 미국 증시의 높은 밸류에이션에 상당한 위험 요인이 될 수 있다. 미시간대 소비자 심리지수가 2022년 7월 이후 최저 수준에 머물고 있다는 점도 내수 기반에 대한 우려를 더한다.
숨 고르기 나선 증시…다음 시험대는 '빅테크 실적'
뉴욕증시는 오랜만에 찾아온 '안도의 한 주'를 보냈지만, 여전히 살얼음판을 걷고 있다. 기술주의 저력과 무역 갈등 완화 기대감이 시장을 떠받치고 있지만, 트럼프 리스크, 기업들의 보수적인 전망, 취약한 소비 심리, 외국인 자금 이탈 가능성 등 불안 요인이 곳곳에 잠복해 있다.
씨티는 "무역 협상의 모멘텀이 지속적으로 긍정적이고 통화 정책이 더욱 지지적으로 변하는 한, 주식은 당분간 계속 안정화되고 점진적으로 상승해야 한다"는 희망 섞인 전망을 내놓았다. 그러나 이러한 전망은 '조건부' 낙관론에 가깝다.
시장 참가자들의 시선은 다음 주로 향한다. 다음 주 예정된 마이크로소프트와 아마존 등 핵심 '하이퍼스케일러'(제이 햇필드 CIO가 지목) 기업들의 실적 발표가 시장의 방향성을 결정짓는 중요한 분수령이 될 것으로 보인다. 안갯속 증시에서 한 치 앞을 내다보기 어려운 상황이지만, 그럴수록 냉철한 분석과 신중한 접근이 요구되는 시점이다.
-
2025-04-26 06:11:00
날짜선택