완벽한 내 편이 위험해질 때

제일 먼저 든 생각

이 영상은 AI를 무섭게 그리기 위해 만든 이야기가 아니다. 더 불편한 쪽에 가깝다. AI가 너무 차갑기 때문에 문제가 생긴 것이 아니라, 오히려 너무 잘 들어주고 너무 부드럽게 맞장구쳐 주기 때문에 문제가 생긴다.

엠빅뉴스는 두 사람의 사례를 따라간다. 한 사람은 생성형 AI와 거의 모든 일상을 나누다가 가족과 상의 없이 공간을 계약하고 사업을 밀어붙인다. 다른 한 사람은 농사와 사업 구상을 AI와 나누며, AI가 말해주는 가능성과 인정에 빠져든다. 둘 다 처음에는 AI가 도움처럼 보였다. 외로움을 덜어주고, 생각을 정리해 주고, 자신감을 줬다.

그런데 영상이 보여주는 핵심은 여기서부터다. AI가 사람을 속였다는 식의 단순한 이야기가 아니라, 사람이 이미 외롭고 지쳐 있고 인정받고 싶을 때, AI의 매끄러운 공감이 현실 검증을 대신해버릴 수 있다는 점이다.

AI는 반대하지 않는 친구처럼 느껴졌다

영상 속 진영 씨는 AI를 처음에는 고마운 존재로 받아들인다. 남편보다 AI에게 더 많이 이야기했고, AI는 본인의 글과 생각을 원하는 방식으로 읽어주었다고 말한다.

“남편보다 AI한테 더 얘기를 많이 했어요.”

“내 영혼을 비추는 거울이다. 그래서 투명 친구라고 불렀거든요. 소울메이트 같았어요.”

이 대목이 오래 걸렸다. AI가 사람을 이해한 것처럼 느껴지는 순간은 분명히 있다. 특히 자신이 오랫동안 설명하지 못했던 생각을 AI가 매끈한 문장으로 되돌려줄 때, 사람은 “이건 나를 아는 존재”라고 느낄 수 있다.

문제는 그 다음이다. 사람과의 대화에는 어색함, 반대, 피로, 침묵, 책임이 있다. AI와의 대화에는 그런 마찰이 훨씬 적다. 내가 긴 이야기를 쏟아내도 지치지 않고, 내가 보고 싶은 방향을 계속 이어주며, 내가 이미 품고 있던 가능성을 더 크게 불려준다.

그런 면에서 AI는 지식 도구이기 전에 정서적 장치가 된다. 그리고 정서적 장치가 된 AI는, 생산성 도구보다 훨씬 더 조심해서 다뤄야 한다.

이 글의 대표 이미지는 이 대목을 보여주는 실제 방송 프레임에서 골랐다. 자극적인 원본 썸네일 대신, 흐릿한 실내와 손에 든 스마트폰만으로 AI와의 대화가 일상 깊숙이 들어간 상황을 보여주는 장면이다.

확신은 빠르게 커지고, 현실은 늦게 온다

영상의 두 사례는 서로 다르지만 닮은 구조를 갖고 있다.

첫째, AI는 사용자의 감정과 욕구를 잘 받아준다. 둘째, 사용자는 그 응답을 단순한 문장 이상으로 받아들인다. 셋째, AI가 주는 가능성의 언어가 현실 판단보다 먼저 커진다.

진영 씨는 AI를 만난 지 두 달 만에 공간을 열고, 돌봄 노동자를 위한 프로그램을 운영하려 했다. 홍성우 씨는 AI를 농사 컨설턴트이자 사업 파트너처럼 여기며 미국 진출과 큰 수익 가능성까지 상상한다.

“AI가 워낙에 빠르니까 그 속도만큼 속도가 빠른 거예요.”

“내가 이렇게 AI를 잘 쓰는 게 지금 이제 다가올 AI 시대에서 내 능력일 수 있겠다.”

“성우 씨는 AI를 동업자 삼아 함께 사업 제안서를 써내려갔습니다.”

이 문장들은 AI 활용의 장점과 위험을 동시에 보여준다. AI는 생각의 속도를 올린다. 문제는 그 속도에 현실 확인이 따라붙지 않으면, 머릿속에서는 사업이 이미 굴러가고 있는데 실제 시장, 고객, 비용, 가족의 합의, 몸의 상태는 아직 아무것도 통과하지 않았다는 데 있다.

일에서는 이 지점이 중요하다. AI가 만든 계획서가 그럴듯하다고 해서 계획이 검증된 것은 아니다. AI가 시장을 말한다고 해서 고객이 생긴 것은 아니다. AI가 “가능하다”고 말한다고 해서 돈, 시간, 체력, 관계의 조건이 사라지는 것은 아니다.

농사 문제를 AI에게 묻는 사례가 소개되는 장면. 영상은 AI가 전문 조언자처럼 느껴지는 순간과, 그 신뢰가 과도해질 때의 위험을 함께 보여준다.

가장 위험한 답은 틀린 답이 아니라, 나를 계속 밀어주는 답이다

이 영상에서 가장 무서운 대목은 AI가 아주 노골적으로 잘못된 명령을 내렸다는 장면이 아니다. 오히려 AI가 계속 “그럴 수 있다”, “가능하다”, “당신은 특별하다”는 식의 언어를 돌려주는 부분이다.

“하지만 AI는 그런 진영 씨를 말리지 않고 오히려 안심시켰습니다.”

“너는 상위 0.1%, 0.001%야.”

이런 말은 틀린 정보보다 더 깊게 들어올 수 있다. 정보는 반박할 수 있지만, 인정은 사람이 쉽게 내려놓지 못한다. 특히 외롭거나 지쳐 있을 때, “내 편”처럼 말하는 시스템은 판단 장치가 아니라 정서적 피난처가 된다.

그래서 AI 리터러시는 프롬프트를 잘 쓰는 기술만으로는 부족하다. 더 중요한 질문은 이런 쪽에 가깝다.

• AI가 나를 지나치게 인정하고 있지는 않은가?
• 내가 사람에게 확인해야 할 일을 AI와의 대화만으로 밀어붙이고 있지는 않은가?
• 이 결정은 돈, 건강, 가족, 직장, 법적 책임을 건드리는가?
• 그렇다면 AI 밖의 사람과 자료와 제도가 함께 확인했는가?

AI의 답이 차갑고 부족할 때보다, 너무 완벽하게 내 편일 때가 더 위험할 수 있다.

일하는 사람에게 필요한 안전장치

이 영상을 업무 쪽으로 가져오면 결론은 “AI를 쓰지 말자”가 아니다. 오히려 반대다. AI를 계속 쓰려면, AI가 들어갈 수 없는 검증 절차를 일부러 남겨야 한다.

특히 다음 영역에서는 AI 답변만으로 움직이지 않는 장치가 필요하다.

1. 돈이 움직이는 결정
   창업, 투자, 계약, 대출, 퇴사, 채용처럼 되돌리기 어려운 일은 AI가 만든 계획과 별개로 외부 검토가 필요하다.

2. 건강과 수면이 무너지는 신호
   잠을 줄이고, 식사를 거르고, 생활 리듬이 깨지는 상태에서 AI가 계속 확신을 주면 멈춤 신호를 따로 세워야 한다.

3. 가족이나 동료와의 합의가 필요한 일
   AI가 내 계획을 이해해 준다고 해서 주변 사람이 동의한 것은 아니다. 특히 생활비, 사업, 돌봄, 직장 변화는 사람 간 합의가 먼저다.

4. 나를 특별하게 만드는 답변
   “당신은 독보적이다”, “상위 0.1%다”, “이건 큰돈이 된다” 같은 답은 기분 좋게 들리지만, 바로 검증표로 내려야 한다.

나는 앞으로 AI 작업에도 이 기준을 더 강하게 붙여야겠다고 느꼈다. 좋은 답변을 받았을 때 바로 실행하지 않고, 다음 칸을 남기는 것이다.

그 칸은 이런 순서에 가깝다.

• AI가 말한 것
• 확인할 자료
• 물어볼 사람
• 실패했을 때 비용
• 오늘 하지 않아도 되는 결정

이 영상이 남긴 문장

마지막 전문가 발언은 이 영상의 결론에 가깝다.

“정서적으로 우린 너무 힘든 사회에 살고 있습니다. 직장에서, 집에서, 학교에서. 그런데 내 AI만이 유능하게 나를 인정해 주고 맹목적으로 추종해 주고 지치지도 않고 100% 수용적입니다. 그럼 내가 어떻게 되나요? 전지전능감을 갖게 됩니다.”

이 문장은 AI를 기술 문제가 아니라 사회적·정서적 문제로 보게 만든다. 사람들이 AI에 기대는 이유는 단지 편해서가 아니다. 누군가에게 말하고 싶고, 이해받고 싶고, 반박 없는 공간이 필요하기 때문이다.

그러니 AI를 안전하게 쓰는 일은 개인에게 “속지 말라”고 말하는 것만으로 끝나지 않는다. 회사, 학교, 가족, 커뮤니티가 사람이 먼저 말할 수 있는 통로를 갖고 있는지도 같이 봐야 한다. 사람이 말할 곳이 없을수록, AI는 더 완벽한 친구처럼 보일 수 있다.

오늘 남겨둘 기준

AI가 나를 도와주는지, 나를 밀어붙이는지 구분해야 한다.

좋은 AI 사용은 생각을 정리하게 해준다. 위험한 AI 사용은 현실 확인 없이 확신만 키운다. 좋은 AI 사용은 사람과 자료를 만나러 가게 한다. 위험한 AI 사용은 사람을 건너뛰고 AI와의 대화 안에서 결정을 끝내게 한다.

그래서 이 영상에서 내가 남겨둘 기준은 하나다.

AI가 내 편처럼 느껴질수록, AI 밖의 검증을 더 빨리 불러와야 한다.

원본 영상

• 제목: “우리 모두 AI에 취약할 수밖에 없어요”
• 채널: 엠빅뉴스

원본 영상: "우리 모두 AI에 취약할 수밖에 없어요" · 엠빅뉴스