소버린 AI 시대, 드론·UAM 산업의 AI 적용 안전장치 마련 방안
- AI 투명성과 알고리즘 권력화 대응을 중심으로 -
안녕하세요 비지트입니다.
비지트 BeGT의 공동대표인 전상훈 박사가 드론 전문 매거진 '드론매거진' 8월호에 칼럼을 기고하였습니다. 드론 매거진은 국내외 드론 산업의 동행과 기업의 행보 그리고 각종 전람회 및 컨퍼런스 등에 대한 정보로 가득한 국내 최고의 드론 전문 매거진입니다.
2025 드론 매거진 8월호
이번 8월호에는 요즘 화두가 되고 있는 소버린 AI 와 피지컬 AI 의 흐름 속에 드론의 위치는 어디일지 고민해 보는 칼럼을 다루었습니다. '소버린 AI 시대, 드론·UAM 산업의 AI 적용 안전장치 마련 방안- AI 투명성과 알고리즘 권력화 대응을 중심으로' 라는 제목의 칼럼의 일부를 발췌하여 공유합니다. 전체 내용은 드론 매거진 8 월호를 참고하시기 바랍니다.
소버린 AI 시대, 드론·UAM 산업의 AI 적용 안전장치 마련 방안
- AI 투명성과 알고리즘 권력화 대응을 중심으로
지난 CES 2025에서 엔비디아 젠슨 황 CEO는 피지컬 AI (Physical AI) 가 인공지능의 차세대 물결이라고 강조했다. 즉, AI가 가상공간을 넘어 현실 새계로 진출해 물리적 실체를 가지게 됨을 의미한다. 이는 하늘을 누비는 드론과 UAM 분야에도 그 변화의 최전선에 서 있음을 시사한다. 한국의 새 정부는 100 조원 규모의 소버린 AI (Sovereign AI) 정책을 추진하고 있는 가운데, AGI를 넘어 통제 불가능한 슈퍼인공지능 (ASI) 시대를 대비한 안전장치 마련이 시급한 과제로 떠오르고 있다.
.
.
.
드론매거진 8월호 (사진: 지난 1월 CES2025 라스베가스 SCHAEFFLER 부스에서 휴머노이드 로봇)
드론·UAM 산업의 AI 융합 가속화
6월 새로 출범한 새정부는 AI를 세계 경제 패러다임을 전환할 게임 체인저로 규정하고, 미국, 중국에 이은 AI 3강 도약을 국정 목표로 설정했다. 특히 주목할 점은 초대 AI 미래 기획 수석으로 임명된 하정우 네이버 클라우드 센터장의 소버린 AI 철학이다. 소버린 AI는 단순한 기술 자립을 넘어 AI가 자국의 문화·제도·가치관을 반영해야 한다는 개념에서 시작된다. 이는 드론·UAM 산업에서 특히 중요한 의미를 갖는데, 하늘을 나는 비행체에 접목될 AI 시스템은 국가 안보와 직결되는 핵심 기술이기 때문이다. 또한 AI 데이터 센터를 차세대 국가 SOC로 지정하고, GPU 인프라를 전략적으로 매입해 국가대표 AI 기업에 제공할 계획이다. 이는 드론 제조업체들이 자체 AI 모델을 개발할 수 있는 토대를 마련한다는 점에서 의미가 있다.
.
.
드론매거진 8월호
AI 투명성 위기와 알고리즘 권력화의 위험
마이크로소프트가 올해 들어 5월 6,000명, 7월 9,000명으로 총 15,000명을 해고했다. 그 중 일정규모의 인원이 소프트웨어 개발자였다는 사실은 AI가 단순한 도구를 넘어 인간을 대체하는 존재로 변모하고 있음을 시사한다. 더욱 충격적인 사실은 이것이 단순한 비용 절감이 아니라 AI 중심의 전략적 조직 재편이자 상시 해고 체제로의 전환으로 볼 수 있다는 점이다. 이는 MS가 역동적인 시장 환경에서 성공하기 위한 조직 재정비라고 밝힌 것에 우리는 주목할 필요가 있다. 해고가 개인의 성과와 무관하게 AI 투자를 위한 상시적 구조조정으로 변화하고 있다는 것이다.
.
.
드론매거진 8월호
드론 산업의 미래를 위협하는 블랙박스 AI
블랙박스 AI란 AI의 의사 결정이 어떻게 이루어지는지 이해하기 어려운 인공지능 시스템을 의미한다. 결과는 있지만 과정을 알 수 없고 문제는 있지만 원인을 알 수 없다. 이러한 위험은 하늘을 날 때 문제는 더욱 치명적으로 나타난다. 예를 들어, 목적지로 비행 중인 UAM이 계획된 항로에서 이탈하여 예기치 않은 방향으로 선회할 때, 탑재된 AI 시스템이 지상 관제소의 지시사항을 무시하고 독자적으로 산출한 경로를 최적 항로로 판단하여 자율 비행을 지속하는 상황을 들 수 있다. 더욱 우려스러운 시나리오는 군집 드론 시스템이 민간 항공기를 잠재적 위협 요소로 오분류하여 대응하는 경우이다.
.
.
알고리즘 권력화: 하늘을 지배하는 보이지 않는 손
이러한 블랙박스 AI의 위험성이 보완되지 않은 상태에서 더욱 발전된 형태의 피지컬 AI가 접목될 휴머노이드 로봇 옵티머스나 피규어의 인간형 로봇들이 드론 기술과 융합된다면, 이들 로봇들이 스스로 통제 불가능한 수준의 자율적 판단을 내릴 가능성이 존재한다. 더욱 우려스러운 것은 AI 시스템이 권력 구조와 결합 될 때 나타나는 문제다. 새 정부가 추진하는 ’모두의 AI‘ 프로젝트를 예를 들 수 있다. 표면적으로는 AI 접근성 확대를 목표로 하지만, 실질적으로는 정부가 AI 인프라를 독점적으로 통제할 수 있는 구조가 존재하지 않는다고 장담할 수는 없다. 그래서, 인공지능이 드론이나 UAM에 결합될 시 다음과 같은 안전장치 마련이 필수적이다.
.
.
드론매거진 8월호
한국 새 정부의 소버린 AI 정책은 분명 우리나라 AI 경쟁력 강화에 기여할 것으로 판단되지만, AI 기술의 발전 만큼 인간을 위해 안전하게 사용되도록 하는 안전장치를 마련해야 한다는 것도 잊어서는 안된다. 특히 드론과 UAM은 하늘이라는 3차원 공간에서 AI가 물리적 실체를 갖고 작동하는 대표적인 피지컬 AI 영역이다. 따라서 이 분야에서의 안전장치 마련은 인류의 미래를 좌우할 수 있는 중대한 과제임을 기억해야 한다. 드론과 UAM 산업이 단순한 기술 혁신을 넘어 인류의 안전과 행복에 기여하는 방향으로 발전하기 위해서는 AI 투명성 확보, 다층적 안전망 구축, 국제 협력, 그리고 무엇보다 인간 중심의 가치관 확립이 필수적이다. 2025년, 피지컬 AI 시대의 원년을 맞아 우리는 기술의 노예가 아닌 기술의 주인이 되어야 하며 그 첫걸음으로 드론과 UAM 분야의 안전한 AI 프로세스임을 잊지 말아야 한다.
전상훈 공학박사
드론 매거진 칼럼니스트
전) 외교통상부 한미 FTA 교육분과 자문위원
한국정보통신네트워크협회(KINA) AI 미디어콘텐츠 분과위원장
전문연구분야: 생성형AI, AI 미래교육, 추천알고리즘 편향성, 드론, UAM, AI 윤리 등
【비지트는 IT 융합 공학박사이자 미래전략가로 개인과 기업의 미래 가치 향상에 힘쓰고 있습니다. '챗GPT 질문이 돈이 되는 세상'의 저자로 챗GPT/ AI 강연, 드론/ 자율주행차 강연, 미래전략 강연, 진로진학 커리어 컨설팅, 기업의 미래 전략 컨설팅 등 미래가치를 높이는 데 힘쓰고 있는 종합 컨설팅 Firm입니다】
