인도 금융당국과 글로벌 연구기관이 AI 역량 집중(concentration of AI capabilities) 으로 인한 시스템 리스크를 경고하고 나섰다. AI 기술이 소수 기업·국가에 집중되면서, 데이터·컴퓨팅 자원·의사결정 알고리즘이 글로벌 경제·정책 구조에 잠재적 불안 요인으로 작용할 수 있다는 우려가 커지고 있다.

《타임스 오브 인디아》에 따르면, 인도 국가결제공사(NPCI) 의 딜리프 아스베 의장(Dilip Asbe) 은 최근 포럼에서 “AI 기술과 데이터 처리 능력이 특정 소수 기업에 집중되는 현상은 새로운 형태의 시스템 리스크를 초래할 수 있다”고 경고했다.

그는 특히 “금융결제·데이터보안·공공정책 결정에 AI가 관여하는 비중이 늘면서, 한두 개의 모델 혹은 기업이 오류를 일으킬 경우 전 세계 서비스가 동시에 마비될 가능성”을 지적했다.

이러한 우려는 AI Now Institute, OECD AI Policy Observatory 등에서도 반복 제기되고 있다.
AI Now의 2025년 보고서에 따르면, 글로벌 AI 컴퓨팅 자원의 70% 이상이 미국 3대 기업(OpenAI, Google DeepMind, Anthropic)에 집중되어 있으며, 그 중 OpenAI와 Microsoft 연합이 40% 이상을 점유하고 있는 것으로 분석됐다.

이는 단순한 기술 독점 문제가 아니라, 정책 결정과 사회적 의사결정 과정에 특정 알고리즘이 미치는 영향력이 커지는 구조적 문제로 연결된다.

AI Now는 이를 “디지털 시대의 새로운 권력 집중(new power concentration)”으로 규정하며, 국제 규제와 투명성 확보를 위한 거버넌스 프레임워크 구축을 촉구했다.

기술·경제적 배경

AI 생태계의 불균형은 세 가지 구조에서 비롯된다.

1. 컴퓨팅 자원 집중: 초대형 GPU 클러스터와 데이터센터를 운영할 수 있는 기업이 극소수에 한정.

2. 데이터 독점: 대규모 학습 데이터 확보·관리 비용이 높아 중소기업의 진입 장벽 강화.

3. 표준 및 프로토콜 통제: 오픈소스 AI조차 대형 플랫폼의 API·클라우드에 의존하는 구조로 변모.

이로 인해 AI 시장은 ‘수직 통합형 권력 구조(vertical monopoly)’로 수렴하고 있으며, 기술 발전 속도보다 사회적 대응 속도가 뒤처지고 있다.

“AI 집중은 기술 문제가 아니라 거버넌스의 위기입니다.
공공 이익을 위해 알고리즘의 투명성과 접근성을 보장하지 않으면,
글로벌 의사결정의 민주성이 훼손될 수 있습니다.”
— Meredith Whittaker, AI Now Institute 대표

또한 금융·보험·공공 행정 등 AI 자동화 의존도가 높은 부문에서 단일 모델 오류가 발생하면,
동시 다발적 시스템 장애(systemic shock) 로 이어질 가능성이 제기되고 있다.
특히 AI를 통해 생성된 의사결정 결과가 블랙박스처럼 작동할 경우,
책임 추적이 어려워지는 “책임의 사각지대(accountability gap)” 문제가 부상 중이다.

시사점

• 정책적 측면: AI 집중 현상 완화를 위한 국제 협력 및 공정 경쟁 규제 필요.

• 경제적 측면: 소수 기술기업에 대한 의존이 금융·공공 부문 시스템 리스크로 확산 가능.

• 윤리적 측면: 알고리즘 투명성 확보와 공공 데이터 접근권 강화가 필수.

• 거버넌스 측면: 민주적 AI 관리체계 구축 없이는 AGI 시대의 신뢰 기반이 흔들릴 수 있음.

[보도출처: Times of India – “Concentration of AI capabilities poses systemic risks: NPCI chairman”AI Now Institute – AI Landscape Report 2025]

태그: #정책 #AI거버넌스 #AI위험 #시스템리스크 #AI집중 #AI투명성 #AI윤리 #AI정책