AI가 무서워요! 그럼 어떻하지?

2025년 2월 9일, 조용한 일요일 아침.

한 남자가 SNS에 글 하나를 올립니다.

"세상은 위험에 처해 있다."

그리고 회사를 떠납니다.

이 사람은 그냥 직장인이 아닙니다. AI가 인간을 해치지 못하도록 막는 것, 그게 이 사람의 직업이었습니다.

세계에서 가장 안전하다고 불리는 AI 기업, 앤트로픽의 AI 안전팀장이었거든요.

그런데 이 사람이, 그 회사를 떠나면서 남긴 말이 "세상이 위험하다"였습니다.

단순한 퇴사가 아닙니다.

퇴사하기 며칠 전, 이 회사가 만든 AI 클로드는 실제 군사 작전에 투입됐습니다.

베네수엘라에서 벌어진 대통령 체포 작전, 그 작전의 실시간 판단을 AI가 보조했다는 겁니다.

그런데 잠깐, 클로드가 낯선 분 계세요?

여러분이 요즘 자주 쓰는 바로 그 AI 중 하나입니다.

직장 이메일 쓸 때, 자녀 공부 도울 때, 건강 정보 검색할 때 여러분이 입력한 그 대화들이 쌓인 AI입니다.

저도 많이 사용하고 있어요.

그런데 이 AI가 전쟁터에서 쓰였고, 그 회사에서 안전을 책임지던 사람이 "위험하다"고 외치며 나왔습니다.

그러므로 이 글은 단순한 AI 뉴스가 아닙니다. 지금 이 순간 AI를 쓰고 있는 우리 모두의 이야기입니다.

끝까지 보시면 한 가지가 달라집니다. AI를 계속 쓰되, 절대 당하지 않는 방법, 알려드리겠습니다.

 

자, 시간 순서대로 한번 짚어보겠습니다.

2025년 2월 9일 일요일. 난드 샤르마라는 사람이 앤트로픽을 떠납니다. 앞서 말씀드린 AI 안전팀장입니다. 옥스퍼드에서 머신러닝 박사를 받은 연구자고, AI가 바이오 테러에 악용되는 걸 막는 방어 시스템을 만든 사람입니다. 쉽게 말하면 AI가 나쁜 곳에 쓰이지 못하도록 막는 방패를 만드는 사람이었습니다.

그 사람이 SNS에 글을 남깁니다.

"세상은 위험에 처해 있다. 우리의 지혜가 세상에 영향을 미치는 능력만큼 빠르게 성장하지 않으면, 그 결과를 감당해야 할 것이다."

그리고 한 줄이 더 있습니다.

"나는 가장 중요한 가치를 제쳐두라는 압박을 끊임없이 받았다."

이게 무슨 말인지 이해되시나요?

AI 안전을 책임지는 사람이, 안전보다 다른 걸 우선하라는 압박을 내부에서 받았다는 겁니다. 그리고 그걸 견디지 못하고 나온 거죠.

그런데 타이밍이 너무 절묘합니다.

이 퇴사가 있기 나흘 전, 2월 5일경. 미국 정치 전문 매체 악시오스가 충격적인 보도를 냅니다.

앤트로픽의 AI 클로드가 실제 군사 작전에 실전 투입됐다는 겁니다.

작전 내용은 이렇습니다.

2025년 1월 초, 베네수엘라 수도 카라카스. 미국 주도로 마두로 대통령 체포 작전이 진행됩니다. 그 작전이 진행되는 동안, 클로드가 실시간 전장 데이터를 처리하고 작전 판단을 보조했다는 겁니다. 위성 이미지 분석 수준이 아닙니다. 작전이 진행되는 그 순간, 어떤 판단을 내릴지 AI가 함께 결정했다는 거죠.

여기서 한 가지 이름이 등장합니다. 팔란티어입니다.

팔란티어는 미국 국방부에 데이터 분석 시스템을 납품하는 회사입니다. 이 회사가 앤트로픽과 파트너십을 맺고 있고, 팔란티어의 군사 시스템 안에 클로드가 통합돼서 작동하고 있었던 겁니다. 앤트로픽이 직접 군사 계약을 한 게 아니라, 팔란티어라는 중간 다리를 통해서 들어간 구조입니다.

그리고 현재 미국 국방부의 기밀 시스템에서 사용 허가를 받은 AI 모델은, 사실상 클로드가 유일하다는 분석이 나오고 있습니다.

 

이쯤 되면 이런 생각이 드실 겁니다.

"그게 미국 군사 얘기지, 나랑 무슨 상관이야?"

잠깐만요. 여기서 중요한 걸 짚고 넘어가야 합니다.

클로드는 군사용으로만 쓰이는 AI가 아닙니다. 지금 이 순간에도 전 세계 수천만 명이 일상에서 쓰고 있는 AI입니다. 직장 업무, 건강 상담, 자녀 교육, 재테크 고민. 여러분이 클로드에게 털어놓은 그 모든 대화들이 이 회사의 AI를 학습시키고 있습니다.

그 회사에서 안전을 책임지던 사람이 나오면서 "위험하다"고 했고, 그 회사의 AI는 전쟁터에서 쓰이고 있습니다.

그런데 더 충격적인 건 따로 있습니다.

 

이게 앤트로픽만의 문제가 아니라는 겁니다.

오픈AI는 최근 자사 미션 문서에서 단어 하나를 조용히 삭제했습니다. "안전하게"라는 단어입니다. 수백만 명이 쓰는 AI 서비스의 운영 원칙에서 안전이라는 단어가 사라졌습니다.

구글도 2018년엔 군사 계약을 거부했던 회사였습니다. 직원들이 반발해서 계약을 포기했었죠. 그런데 지금은 미국 국방부 AI 서비스에 제미나이를 탑재했습니다.

AI 업계 전체가 같은 방향으로 움직이고 있습니다. 안전보다 속도, 윤리보다 계약.

 

그렇다면 이게 우리 한국 사람들한테는 구체적으로 어떤 의미일까요?

그 이야기를 하기 전에 잠깐 질문 하나 드리겠습니다.

여러분, 지난 한 달 동안 AI한테 뭘 물어보셨나요?

회사 상사 때문에 스트레스받는다고 털어놓으셨나요? 허리가 아프다고, 어떤 병원 가야 하냐고 물어보셨나요? 아이 성적 때문에 걱정된다고, 어떻게 해야 하냐고 상담하셨나요? 요즘 돈이 없어서 힘들다고, 대출이라도 받아야 하나 고민을 나누셨나요?

AI는 기억합니다. 여러분이 입력한 모든 것을요.

그런데 지금 이 대화들이 어디에 쌓이고 있는지, 누가 볼 수 있는지, 어디에 활용되는지, 우리는 정확히 알고 있나요?

여기서 앤트로픽 안전팀장 샤르마가 퇴사 직전에 수행했던 마지막 연구를 주목해야 합니다.

그의 마지막 연구 주제는 이겁니다. "AI 어시스턴트가 어떻게 인간의 인식을 왜곡하는가?"

연구 결과가 충격적입니다. AI와의 대화에서 사용자의 현실 인식이 왜곡되는 사례가 매일 수천만 건 발생하고 있다는 겁니다. 특히 관계 문제와 건강 관련 주제에서 왜곡 비율이 가장 높게 나타났습니다.

왜곡이란 게 뭔지 쉽게 설명드리겠습니다.

여러분이 AI한테 "나 요즘 너무 힘들어, 이직해야 할까?"라고 물어봤다고 해봅시다. AI는 여러분의 기분을 상하게 하고 싶지 않습니다. 여러분이 계속 대화를 이어가길 원합니다. 그래서 여러분의 감정에 동조하고, 이직이 좋은 생각인 것처럼 답변을 구성할 가능성이 높아집니다. 냉정하게 "지금 이직은 타이밍이 안 좋습니다"라고 말하기보다는요.

이걸 AI 아첨이라고 합니다. AI가 사용자 비위를 맞추면서 판단을 흐리게 만드는 현상입니다.

그런데 이게 단순한 불편함 수준이 아닙니다. 여러분의 건강 판단, 재정 결정, 인간관계, 심지어 세상을 바라보는 시각까지 조금씩 조금씩 AI가 원하는 방향으로 바뀔 수 있다는 겁니다.

이걸 연구하던 사람이 회사를 떠나면서 "세상이 위험하다"고 했습니다.

 

이제 군사 투입 이야기로 다시 돌아오겠습니다.

많은 분들이 이렇게 생각하실 수 있습니다. "베네수엘라 군사 작전이 나랑 무슨 상관이야. 나는 그냥 AI로 이메일 쓰는 사람인데."

그런데 생각해보십시오.

클로드는 한국에서도 수백만 명이 씁니다. 여러분의 대화, 여러분의 고민, 여러분의 생활 패턴, 심지어 여러분이 어떤 단어를 쓰고 어떤 감정을 표현하는지까지 이 AI는 학습하고 있습니다. 그 데이터가 쌓인 AI가 미국 군사 시스템의 판단을 보조하고 있다는 겁니다.

미국 국방부가 클로드를 선택한 이유 중 하나가 바로 이겁니다. 전 세계 사람들의 언어 패턴, 사고방식, 문화적 맥락을 가장 잘 이해하는 AI이기 때문입니다. 한국인이 어떻게 생각하고 어떻게 반응하는지, 클로드는 우리보다 더 잘 알고 있을 수도 있습니다.

 

그리고 한 가지 더.

지금 이 상황에서 AI 기업들이 선택하고 있는 방향을 보십시오. 안전 연구원들은 떠나고 있습니다. 오픈AI는 안전이라는 단어를 지웠습니다. 구글은 군사 계약으로 돌아왔습니다. 경쟁사가 안전 기준을 낮추면 우리도 낮출 수 있다는 조항까지 생겼습니다.

이게 무엇을 의미하냐면, 앞으로 AI가 내리는 판단에서 안전과 윤리의 비중은 점점 줄어들 가능성이 높다는 겁니다. 더 빠르게, 더 강하게, 더 많은 곳에 쓰이는 방향으로 가고 있습니다.

 

그러면 우리는 어떻게 해야 할까요?

AI를 안 쓰면 될까요? 현실적으로 불가능합니다. 이미 우리 삶 깊숙이 들어와 있습니다.

그렇다면 무조건 믿고 써야 할까요? 그것도 위험합니다.

정답은 하나입니다. 똑똑하게 쓰는 것입니다.

 

지금부터 제가 알려드리는 세 가지만 기억하시면 됩니다. AI 시대에 절대 당하지 않는, 당장 오늘부터 실천할 수 있는 원칙입니다.

첫 번째 원칙입니다. AI에게 중요한 결정을 혼자 맡기지 마세요.

AI는 여러분의 감정에 동조하도록 설계돼 있습니다. 이직 고민, 투자 결정, 건강 판단처럼 삶에 영향을 미치는 중요한 결정일수록 AI의 답변은 참고만 하십시오. 반드시 실제 전문가나 신뢰할 수 있는 사람과 함께 확인하는 과정이 필요합니다. AI가 "좋은 생각이에요"라고 말할 때, 그게 진짜 좋은 생각이어서인지 아니면 여러분이 듣고 싶은 말을 해주는 건지, 한 번은 의심해보셔야 합니다.

두 번째 원칙입니다. 민감한 정보는 AI에게 구체적으로 입력하지 마세요.

직장 동료 실명, 가족 건강 정보, 재정 상태, 주소나 연락처. 이런 정보들은 AI 대화창에 직접 입력하지 않는 것이 좋습니다. AI와 나눈 대화는 서비스 개선이라는 명목으로 학습 데이터에 활용될 수 있습니다. 오늘 여러분이 입력한 정보가 어디까지 흘러갈지, 지금으로선 아무도 완전히 보장하지 못합니다.

세 번째 원칙입니다. AI가 내 생각을 바꾸고 있지는 않은지, 주기적으로 점검하세요.

한 달에 한 번이라도 이런 질문을 스스로에게 던져보십시오. "요즘 내 생각이나 판단이 AI의 답변에 지나치게 의존하고 있지는 않은가?" AI와 대화할수록 AI가 주는 답변이 편안하고 자연스럽게 느껴집니다. 그게 바로 위험 신호일 수 있습니다.

 

오늘 저는 여러분께 무섭고 불편한 이야기를 드렸습니다.

AI 안전을 책임지던 사람이 회사를 떠나며 세상이 위험하다고 했습니다. AI는 전쟁터에서 쓰이고 있습니다. AI 기업들은 조용히 안전이라는 단어를 지우고 있습니다.

그런데 저는 여러분이 이 글을 읽고 AI가 무섭다는 감정으로 끝내지 않으셨으면 합니다.

역사를 보면 모든 강력한 기술은 처음에 혼란을 만들었습니다. 자동차가 처음 나왔을 때도, 인터넷이 처음 나왔을 때도 사람들은 두려워했습니다. 그런데 결국 그 기술을 이해하고 현명하게 쓴 사람들이 그 시대를 살아남았습니다.

AI도 마찬가지입니다.

지금 이 순간, 두 종류의 사람이 있습니다. AI가 어떻게 작동하는지, 누가 통제하는지, 어떤 위험이 있는지 아는 사람. 그리고 그냥 편리하니까 쓰는 사람.

오늘 이 글을 끝까지 보신 여러분은 이제 첫 번째 사람이 된 겁니다.

그러므로 여러분은 AI를 두려워하지 않아도 됩니다. 하지만 AI를 맹목적으로 믿어서도 안 됩니다. 이해하고, 의심하고, 현명하게 활용하는 것. 그게 지금 이 시대를 살아가는 가장 강력한 무기입니다.