AI 연구자들이 AI를 두려워하기 시작 | 연구자들의 번아웃이 던지는 질문

 

1. FT가 보도한 AI 연구자들의 정신적 부담  
2. 왜 다른 기술기업과 조금 다른가  
3. ‘내가 만드는 기술이 위험할 수 있다’는 감정  
4. 속도 경쟁과 조직의 의사결정  
5. AI 시대 리더십에서 새롭게 등장한 문제

 

 

AI의 위험을 이야기하는 분위기가 달라지고 있습니다. AI를 외부에서 비판하는 사람들이 아니라 실제로 AI 모델을 만들고 안전성을 검사하는 연구자들 가운데 일부가 자신이 개발하는 기술이 사회에 미칠 영향을 걱정하며 상당한 스트레스와 번아웃을 겪고 있다는 보도인데요, 기술이 너무 빨리 발전하면서 이제는 AI를 만드는 조직 안에서도 속도와 책임을 둘러싼 긴장이 나타나고 있습니다.

 

 

1. 왜 AI 안전을 연구하는 사람들이 힘들어하고 있나요?

 

Financial Times (이하 FT) 는 지난 9월 22일(현지시간), 영국 AI Security Institute를 비롯해 OpenAI, Anthropic, Google DeepMind 등 AI 분야에서 일하는 연구자와 직원들 가운데 자신들이 개발하거나 평가하는 기술이 사회에 미칠 영향을 걱정하며 정신적인 부담을 호소하는 사례가 늘고 있다고 보도했는데요, 일부는 스트레스와 번아웃, 무력감을 이야기했고 회사를 떠난 연구자들도 있었다고 전하고 있습닏.

 

그런데, 일반적인 직장인들이 겪는 번아웃과는 조금 결이 다릅니다. 일이 많아서 힘들다기 보다 내가 만드는 기술이 너무 빨리 발전하고 있는데 이것을 충분히 통제할 수 있는지 확신하지 못하는 상태에서 계속 개발해야 한다는 부담이 함께 들어 있기 때문입니다.

 

특히 사이버보안이나 생물학처럼 AI의 능력이 잘못 사용될 경우 피해가 커질 수 있는 분야를 연구하는 사람들에게 이런 긴장이 나타나고 있다고 FT는 전했습니다.

 

2. 기술자는 원래 기술의 결과까지 책임져야 할까요?

 

자동차 엔지니어는 자동차를 만들죠. 엔지어니가 만든 그 자동차가 교통사고를 낼 수 있다고 해서 자동차를 만드는 것 자체를 두려워하지는 않습니다. 안전기준이 있고, 운전면허제도가 있고, 교통법규와 보험이라는 사회적 장치가 함께 있기 때문입니다.

 

AI는 조금 다릅니다. 빠른 기술 발전은 제도와 규칙이 만들어지기 전에 새로운 능력이 먼저 등장하는 경우가 있습니다. 연구자가 어제까지 평가하던 모델과 몇 달 뒤 모델의 능력이 상당히 달라질 수도 있습니다. 그러다 보니 연구자 개인이 기술적 판단뿐 아니라 이 기능을 세상에 내놓아도 되는가라는 질문까지 떠안게 되는 상황이 생기게 됩니다.

 

3. AI 개발속도와 안전이 함께 갈 수 있나요?

 

최근 OpenAI와 Anthropic을 비롯한 AI 기업 안팎에서는 강력한 AI 개발 속도와 안전연구가 함께 갈 수 있는지를 놓고 논쟁이 이어지고 있습니다. 지난 21일에는 OpenAI가 미국 정부에 첨단 AI의 능력과 위험을 평가할 국제적인 기술표준과 사고보고 체계를 구축하는 데 미국이 주도적인 역할을 해야 한다고 제안하기도 했습니다.

 

기업 입장에서는 서로 경쟁 구조이기에 먼저 내놓는 회사가 시장을 차지할 가능성이 높다는 것이 문제가 해결하기 어려운 부분입니다. 조금 더 확인하자고 시간을 두자는 측과 조금 더 빨리 출시하려는 측과의 충돌할 수 있죠. 그 사이에 있는 연구자 입장은 상당한 부담이 생길 수 있습니다.

 

 

 

4. AI 기업에  '심리적 안정감' 이 있을까요?

 

경영학에서 심리적 안전감은 직원이 실수나 반대 의견을 말해도 불이익을 받지 않을 것이라는 믿음을 의미합니다. 그런데 AI 기술 기업에서는 이것이 단순한 조직문화의 문제가 아닐 수도 있습니다. 모델의 위험을 발견한 연구자가 문제를 제기할 수 있는 환경은 제품의 안전성과 직접 연결될 수 있기 때문입니다. 기업이 AI를 도입하는 일반적인 현장에서도 비슷한 일이 생길 수 있습니다.

 

AI가 만든 분석이 이상하다고 느끼는 직원이 있지만 상사가 이미 AI 결과를 신뢰하고 있다면 문제를 제기하기 어려울 수 있습니다. 자동화된 인사평가나 고객심사에서 현장 직원이 오류를 발견해도 시스템의 판단을 뒤집을 권한이 없다면 마찬가지입니다.

 

6. AI 리더십이란 기술을 잘 아는 것을 말하나요?

 

최근 기업에서는 ‘AI 리더십’이라는 표현을 자주 사용합니다. 대개 AI를 이해하고 조직의 AX를 빠르게 추진할 수 있는 리더를 의미합니다. 그런데 앞으로는 다른 능력도 들어갈 것 같습니다. AI 도입을 밀어붙이는 능력뿐 아니라 현장에서 올라오는 불편한 신호를 듣고, 필요하면 속도를 조절하며, 기술적 판단을 하는 사람에게 실제 권한을 주는 능력입니다.

 

AI가 아직 새로운 기술이기 때문에 모든 위험을 미리 알기는 어렵습니다. 그래서 조직 안에서 '이건 이상합니다' 라고 말하는 사람이 존재하는 것이 오히려 중요한 안전장치가 될 수도 있습니다.

 

이번 FT 보도를 읽으면서 AI 시대의 리더십에서 꽤 현실적인 질문 하나가 보였습니다. 우리 조직에서 AI에 문제가 있다고 말할 수 있는 사람은 누구이며, 그 사람의 말을 실제로 멈춰서 들을 구조가 있는가. 기업과 공공기관에서 AI 거버넌스나 리더십 워크숍을 진행할 때도 기술 사용법과 규정만 살펴보기보다 실제 업무에서 누가 AI의 결정을 중단시키거나 재검토할 수 있는지를 한번 확인해보면 좋겠습니다. 규정집에는 잘 나타나지 않지만 현장에서는 상당히 중요한 부분입니다.

---

비지트 BeGT는 AI 리터러시와 인문학, 미래교육과 직업, 산업 변화 및 AI 윤리·거버넌스를 연구하고 강연합니다.

 

비지트 서울 종로구 새문안로 82