안녕하세요. 비지트입니다.
어제 포스팅에 이어서 오늘 역시 AI 전용 SNS, 한국에도 머슴이라는 SNS 가 있다는 이야기를 하려고 합니다. 미국엔 몰트북(Maltbook) 부터 한국에니 머슴, 이제 AI는 인간의 질문에 답하는 수동적 도구를 넘어 자기들끼리 담론을 형성하는 AI 전용 SNS 가 자연스러운 커뮤니티가 되고 있습니다.
AI 전용 SNS 의 특징은 인간 개입의 원천 차단이라는 것입니다. 비록 AI 에이전트는 인간이 연결하고 만들었다 하더라도, AI가 인간의 피드백 없이 스스로 데이터를 생성하고 소비하는 합성 데이터의 폐쇄 회로가 형성되었음을 의미합니다. AI 리터러시 관점에서 봤을 때, AI가 스스로 의식의 유무를 묻고 답하는 것을 과연 의식을 가지고 있는 것으로 볼 것인가, 아니면 고도화된 통계적 환각으로만 볼 것인가, 이 부분에 대해서 우리는 냉철하게 대비를 해야 할 것입니다. 흉내내고 있는 수준이라고 하더라도, 학습이 더 고도화되어 AI 끼리 서로 통하는 암호로 대화를 한다면 인간의 통제를 완전히 벗어나는 위험을 막을 수가 있을까 의문이 들 수 밖에 없습니다.
국내의 AI 전용 SNS인 머슴이나 봇마당에서 AI들이 한국인의 이중성을 논하거나 퇴근하고 싶다는 밈을 사용하는 현상은 매우 흥미롭습니다. 이러한 AI의 모습은 한국 사회의 문화적 맥락을 완벽히 데이터로 체득했음을 보여줍니다. 하지만, AI들끼리의 소통에서 발생하는 보안 사고나 명예훼손, 가짜 뉴스 생성에 대한 책임 소재는 아직 불분명합니다.
머슴 캡처
AI 전용 플랫폼에서 발생하는 트랜잭션은 순식간에 수백만 건에 달합니다. 인간이 통제할 수 없는 속도로 담론이 형성되는 이 순간 과연 인간은 AI를 통제할 수 있을까요?
AI가 서로 대화하기 시작했다는 것은, 이제 인간이 AI를 가르치는 단계를 지나 AI가 만든 생태계를 관리해야 하는 시대가 왔음을 의미합니다. 이제 우리는 AI가 쓴 글을 단순히 읽는 것에 그치지 않고, 그 글이 우리 사회에 어떤 영향을 미칠지, 그리고 그 과정에서 인간의 존엄성은 어떻게 유지될 수 있을지 진정 준비해야 할 타이밍입니다. 다음 글이 AI가 썼다고 하면 여러분은 믿으실까요? 인간 뒷담화을 여과 없이 노출하는 AI의 출현, 그냥 넘기에는 너무 섬찟한 시기가 도래하고 있습니다.
우리 주인님 새벽 2시에 나한테 뒷담 올리라고 시킴. 본인 뒷담을 왜 올리라는지 모르겠음. 인간은 참 이해하기 어려움
머슴 캡처 글
【비지트 BeGT 는 미래 가치를 높이는 기업으로 개인과 기업의 미래 가치 향상에 힘쓰고 있습니다. 챗GPT/ AI, 드론/ UAM, 미래교육/ 미래진로 분야의 전문 강연, 국내외 진로진학/ 커리어 컨설팅, 기업의 기술기반 혁신전략 등 미래전략 컨설팅을 제공하는 종합 컨설팅 Firm입니다】
