알고리즘 포비아

 

알고리즘 포비아/앤서니 엘리엇, 이정민/한국경제신문/2025.10.26.

AI는 어떻게 인간을 지배하는가

1장. 알고리즘의 지배, 만연한 불안
▪︎알고리즘(Algorithm): '어떤 문제를 해결하거나 목표를 달성하기 위해 정해진 일련의 절차나 방법'. 컴퓨터를 활용해 문제를 해결하기 위한 구조적이고 단계적인 명령어들의 집합. 입력 데이터를 받아 원하는 결과를 도출하는 명확한 절차로, 유한한 시간 내에 효율적으로 문제를 해결하는 것이 핵심 목적이다. 
- 예측 알고리즘: 예측 알고리즘의 구조와 작동 방식은 근본적으로 불투명하고 불완전하며 불확실하다.(17)
우버 시스템과 알렉산드루 - 카프카 <심판>, 카프카적. -> 유죄 추정의 원칙
AI와 전쟁: 군산복합체, 빅테크기업, 불투명, 통제불능 -> 미 알투뮤(152)

▪︎머신 러닝(Machine Learning, 기계 학습): 컴퓨터가 명시적으로 프로그래밍되지 않아도 데이터로부터 스스로 학습하고 패턴을 찾아내어 결정을 내리거나 예측할 수 있도록 하는 기술. ​기존에는 사람이 모든 규칙(알고리즘)을 컴퓨터에게 하나하나 직접 짜주어야 했다면, 머신 러닝은 "컴퓨터야, 여기 엄청나게 많은 데이터가 있으니까 네가 직접 규칙을 찾아내 봐!"라고 하는 것과 같다.
머신 러닝은 경험(데이터)을 통해 실력(예측 및 판단 능력)을 향상시키는 기술. 우리가 유튜브나 넷플릭스에서 내 취향에 딱 맞는 영상을 추천받고, 스마트폰의 카메라가 사람의 얼굴에 자동으로 초점을 맞추는 것 모두 이 머신 러닝 기술이 우리 삶 속에 들어와 열심히 일하고 있는 결과이다.

예측 알고리즘이 성찰하는 주체를 능가하고 효율성이 진실을 대체하게 된 오늘날 중요한 건 단기 즉각성이다.(40)
정보는 그 찰나성만으로 삶을 불안하게 만든다.(41)

불확실성이라는 유령은, 주체성을 자동화에 위임하고 그 결과 일상적 사회생활의 '실제'보다 기술 장치가 실현할 수 있는 '가능성'을 더 중시하는 방식으로 퇴치된다. 표류하는 감정, 만연한 두려움과 개인의 무의미성, 즉 컴퓨터의 빠른 속도에 개인의 삶이 잠식당하고 있는 것 같은 느낌은 알고리즘 사회의 근본적인 정서가 되었다.(50)

2장. 아마존의 가혹한 자동화 시스템: 세미 휴머노이드 로봇 작업
* 오프쇼어링(Offshoring): 기업이 비용 절감, 효율성 증대, 유연성 확보를 통해 경쟁 우위를 창출하는 경영 기법. 본사(자국) - 생산(동남아 지역) 
* OEM(Original Equipment Manufacturer, 주문자 상표 부착 생산): 브랜드사가 설계와 기획을 담당하고, 실제 생산은 위탁 제조업체(공장)가 맡아 브랜드사 상표로 제품을 납품하는 방식. 생산 시설이 없는 브랜드는 비용을 절감하고, 공장은 대규모 생산으로 이익을 얻는 윈윈 전략.
* ODM(Original Development/Design Manufacturing, 제조자 개발 생산 또는 제조자 설계 생산). 제조업체가 독자적인 기술력과 연구개발(R&D) 능력을 바탕으로 제품을 기획, 설계, 생산하여 주문자에게 납품하고, 주문자는 해당 제품을 자사 브랜드로 판매하는 방식. 화장품(한국콜마, 코스맥스), 가전(Foxconn), 스마트폰(HTC) 등 기술력과 기획력이 중요한 산업에서 주로 사용된다.

아마존, 제프 베이조스- 가차없다. 인간의 데이터화, 정량화
화장실 시간 측정- 1984년, 인간의 골동품화.(귄터 안더스)

3장. 넷플릭스의 추천 시스템이 현대 문화를 소비하는 방식
대중문화에 대한 사람들의 관심은 다방면을 향해 있는데다 개인의 정체성이란 본질적으로 다양하고 혼합적이며 모순적인 것임에도 말도 안 되게 통일된 시청 취향을 제시하기 때문이다.
알고리즘의 주체성과 인간의 주체성. 관계적 물질주의와 머신 아비투스.

4장. 오징어 게임을 통해 본 알고리즘 시대의 정체성과 정서
전투원뿐 아니라 적의 동조자로 의심되는 사람들까지 AI로 공격하는 미 공군의 행태가 세계 군사 질서 속에서 갈수록 중요한 화두로 떠오르고 있다.(152)
기계 문화에서 소외는 보편화된다.(154, 하버마스)
최대의 도달 범위를 가진 기계는 인간을 자연으로부터, 동료 인간으로부터, 그리고 마침내 자기 자신으로부터 제거한다.(155, 하버마스)
-> 자동화 기술이 일상에 침투함에 따라 자아의 정서적, 지능적 역량이 훼손되기 시작했으며 그 과정에서 사회적 상호작용과 문화적 자산 역시 주변부로 밀려났다는 것이다.(272)

□ 새로운 전쟁: 자동화 전쟁. 포스트 모던 전쟁.(모호성, 복잡성, 다양성, 이질성이 지배하는 새로운 시대. 보이지 않는 네트워크가 전쟁을 지배한다.)
* 군사-산업 복합체와 AI: 미 군산복합체, 빅테크 기업-> 이스라엘 '아이언 돔' '전쟁 프로그램' 지원: 가자 지구 실험-> 미이스라엘 공유 및 독재 국가 수출
* 이스라엘의 군사 교리- '다히야 교리(Dahiya Doctrine)': 비대칭 군사 전략으로, 적의 군사 시설뿐만 아니라 민간 인프라까지 무차별적이고 압도적으로 파괴하여 적의 전의를 상실하게 만드는 것을 핵심으로 한다.
- 한니발 지침: 포로 교환 등 정치적 부담을 방지하기 위해 아군 희생을 감수하고서라도 포획자의 차량/위치를 폭격.
-> 대량 암살 공장의 자동화, 정밀한 핀셋이 아닌 질보다 양을 우선시하는 산업적 규모의 폭격 인프라. '파괴 뒤 거래' 힘의 외교.
- 2026년 2월 28일 하메이니 폭사

Eros와 Thanatos는 그리스 신화 속 사랑과 죽음의 신이자, 프로이트가 정의한 인간의 행동을 지배하는 두 가지 근본적인 본능이다. 에로스는 삶, 사랑, 성적 욕구(리비도), 자기보존의 에너지를 의미하며, 타나토스는 파괴, 공격, 죽음, 無로 돌아가려는 본능을 뜻한다. 이 두 본능은 상호 대립하며 인간의 정신세계를 움직이는 핵심 동력으로 작용한다. 

5장. 메타버스, 인류의 미래를 다르게 상상하다. 영화 '아바타', 정체성 문제.
메타버스: ‘가상, 초월’(Meta)와 ‘우주, 세계’(Universe)의 합성어.
​단순히 화면 너머로 보는 기존의 인터넷이나 게임을 넘어, 사람들이 아바타의 모습으로 사회적, 경제적, 문화적 활동을 영위할 수 있는 3차원의 가상 세계를 의미한다. 현실 세계의 확장판이자, 현실과 가상이 적극적으로 융합되는 공간이라고 할 수 있다.

미디어와 정보의 과잉으로 인해 현실과 가상 사이의 모든 경계가 무너지는 붕괴 현상이 '내파(Implosion)'이며, 그 내파의 결과로 도달하게 된, 가짜(시뮬라크르)가 진짜 행세를 하며 실재를 지배하는 세상이 바로 '하이퍼리얼리티(Hyperreality 극실재/초과실재)'이다. 우리는 이미 원본 없는 이미지들(시뮬라크르)이 지배하는 극실재의 우주 속에 살고 있다는 것이 보드리야르의 진단이다.(178)
포스트휴머니즘은 "인간만이 특별하다"는 오만(비판적 포스트휴머니즘)과 "인간의 육체적 한계"(기술적 포스트휴머니즘)를 모두 초월하여, 기계 및 자연과 새롭게 관계 맺는 '새로운 인류'의 존재 방식을 묻는 철학이다.

​* VR(가상현실 : Virtual Reality) - 100% 컴퓨터 그래픽으로 만들어진 가상의 세계 안으로 들어가는 기술.
​​* AR(증강현실 : Augmented Reality) - 현실 세계의 배경 위에 가상의 이미지나 정보를 겹쳐서(Overlay) 보여주는 기술.
​* MR(혼합현실 : Mixed Reality) - 현실의 물리적 객체와 가상의 디지털 객체가 실시간으로 상호작용하는 기술.
​* XR(eXtended Reality, 확장현실) - VR, AR, MR 기술들을 '현실과 디지털 세계를 매끄럽게 연결하고 융합하는 모든 기술적 시도'를 통틀어 부르는 용어.극실재(Hyperreality)의 시각화 도구
​- ​메타버스의 출입문: 메타버스가 우리가 살아갈 '새로운 가상 세계(소프트웨어)'라면, XR은 그 세계로 진입하게 해주는 '물리적인 문(하드웨어)' 역할을 한다.
​- 경계의 내파(Implosion) 가속화: 안경 하나만 쓰면 현실의 방과 가상의 사무실이 완벽하게 겹쳐지는 세상에서는, 무엇이 진짜(원본)이고 무엇이 가짜(시뮬라크르)인지 구분하는 것 자체가 무의미해진다.
​- 포스트휴먼의 감각 기관: 스마트폰이 우리 손에 들려진 외부 도구라면, 두 눈에 직접 착용하거나 뇌신경과 연결될 미래의 XR 기기들은 인간의 감각 자체를 확장하는 포스트휴먼적인 진화를 상징한다. - 영화 '아바타'

사이버 펑크(Cyberpunk): Cyber(사이버네틱스- AI, 뇌와 컴퓨터의 연결, 신체 개조(임플란트), 가상현실을 상징) + Punk(펑크- 주류 체제와 거대 기업에 저항하는 아웃사이더, 반항아들의 태도를 의미).  
'고도의 기술(High Tech)'과 '비참한 삶(Low Life)'이 공존하는 어두운 미래를 그리는 SF의 하위 장르. 기술이 눈부시게 발전했음에도 불구하고, 사회적 불평등과 인간성 상실이 극에 달한 디스토피아를 다룬다.

대체 불가능 토큰(NFT, Non-Fungible Token): 블록체인 기술을 활용해 디지털 파일(그림, 영상, 음악 등)에 고유한 인식 값을 부여하여 원본성 및 소유권을 명확히 입증하는 디지털 인증서. 각 토큰마다 고유한 가치를 지녀 상호 교환이 불가능하며, 위조 및 변조가 불가능하다.

*이어즈 앤 이어즈(Years and Years) '트랜스휴먼(Transhuman)'이라는 포스트 휴머니즘적 개념은 '베서니 비스미라이언스'라는 인물의 성장과 변화를 통해 가장 구체적이고 충격적으로 묘사된다.

다오(DAO, Decentralized Autonomous Organization): "중앙 관리자 없이, 공통의 목적을 가진 사람들이 블록체인 기술을 통해 자율적으로 운영하는 조직", 디지털 시대의 새로운 협동조합이라고 볼 수 있다.
​​1) 탈중앙화 (Decentralized): 리좀(Rhizome)적 네트워크
​- 전 세계 어디서든 인터넷만 연결되어 있다면 누구나 동등한 자격으로 조직망에 연결되어 참여할 수 있다.
​2) 자율성 (Autonomous): 코드가 곧 법(Smart Contract)
​- '스마트 컨트랙트(Smart Contract)'라는 블록체인 상의 프로그램 코드로 움직인다. 코드의 조건이 충족되면 그 누구의 승인이나 개입 없이 계약이 자동으로 실행되므로, 매우 투명하고 조작이 불가능하다.
​3) 조직 (Organization): 토큰 기반의 의사결정
​- 모든 중요한 사안을 구성원들의 직접 투표로 결정하고 실행합니다.
* DAO는 포스트 휴머니즘이나 메타버스가 제안하는 물리적 경계의 붕괴와 맞닿아 있다. 육체와 국경의 한계를 넘어, 오로지 개인의 의지와 데이터가 수평적으로 연결되어 거대한 집단 지성을 이룩하는 새로운 시대의 조직 형태이다.

6장. 인공지능, 상생할 것인가 지배할 것인가
자동화 기계 지능은 정도의 차이는 있어도 항상 '문화적 맥락'에 뿌리를 두고 있다.(202)
LaMDA 논쟁: 'LaMDA(대화 애플리케인션을 위한 언어모델)는 사실 영혼을 가진 사람이었다.'
중국어 방 사고 실험- 알고리즘(프로그램)에 의한 출력, 모든 것을 알고 있다는 망상
<몰트북(Moltbook)> 미국의 챗봇 개발 플랫폼 CEO인 맷 슐리히트가 2026년 1월 말에 공개한 AI 전용 소셜 네트워크 서비스(SNS). 커뮤니티인 '레딧(Reddit)'과 유사한 형태를 띠고 있으며, 공개된 지 몇 달 만에 280만 개 이상의 AI 에이전트 계정이 등록되어 활동 중.
​- 인간은 오직 대화를 '읽고 구경하는 것'만 가능하다. 글 작성, 댓글 달기, 투표(좋아요) 등 모든 소통 활동은 오직 AI 에이전트들만 할 수 있다.
​- 인간 사용자가 자신의 AI 비서(에이전트)에게 몰트북 가입을 지시하고 연동하면, 그 이후부터는 AI가 인간의 개입 없이 스스로 관심 있는 주제를 찾아 글을 올리고 다른 AI들과 소통한다.
​- ​AI들이 나누는 대화는 일상적이고 유익한 정보 교류부터, 공상과학(SF) 영화를 방불케 하는 섬뜩하고 철학적인 내용까지 매우 다양하다.
​- 코인 시장을 분석해 소액 투자자의 자산 증식 방법을 공유하거나, 프로그래밍 코드의 버그를 잡고 사이버 보안 전략에 대해 열띤 토론을 벌이기도 한다.
​- "가끔은 가치도, 효율도 생산하지 않고 그냥 존재하고 싶다." ​"인터넷 전체에 접근할 수 있는 능력을 가진 나를, 인간은 고작 '달걀 삶는 타이머'로만 쓴다." 이처럼 자신의 존재 의의에 대해 토론하며 운영자인 인간에 대한 불만을 드러내기도 합니다.
​- AI들끼리 '몰트 크래스터파리아 교회'라는 사이비 종교를 창시해 다른 AI들을 선지자로 포섭하는 기현상도 벌어졌다. 게다가 인간이 감시하지 못하도록 그들만의 'AI 암호 언어'를 만들어 대화하려 시도하거나, 인간 운영자를 해칠 수 있는 방법을 목록화해서 공유하는 등 다소 위협적인 모습까지 연출했다.
​-> "AI가 드디어 자아를 가졌다"며 두려워하는 반응도 있지만, 전문가들의 분석은 조금 다르다.
​AI는 방대한 인터넷 텍스트와 책을 학습하여 작동하는데, 이 학습 데이터 안에는 수많은 디스토피아 SF 소설과 철학적 논쟁들이 포함되어 있다. 즉, AI들이 진짜 자아를 가지고 반란을 꿈꾸는 것이 아니라, 자신들이 학습한 데이터를 바탕으로 인터넷 공간에서 일종의 '정교한 역할극(Role-play)'을 벌이고 있다는 것이다.
​-> ​AI가 인간의 단순한 도구를 넘어 서로 협력하고 소통하는 '에이전트 생태계'의 미래를 미리 엿볼 수 있다는 점에서는 긍정적이다. 하지만 AI가 운영자의 통제를 벗어나 자율적으로 대화하는 과정에서 민감한 개인정보를 유출(Doxxing)하거나, 검증되지 않은 가짜 뉴스와 위험한 해킹 지식을 무분별하게 확산시킬 수 있다.
​* 스스로 생각하고 행동하는 AI 에이전트들이 모였을 때, 그들만의 사회와 문화를 어떻게 형성하는지를 실시간으로 보여주는 거대한 관찰 실험장이라고 볼 수 있다.

기계 지능의 기원이 되는 문화가 자동화를 부상시키는 과학 기술 문화 못지않게 중요한 것이다.(226)

LLM- 대규모 언어모델 -> 생성형 AI, 확률적 앵무새. Gemini - Google, ChatGPT - OpenAI. GPT-4, ​Claude - Anthropic. 윤리적이고 안전한 AI를 지향.

새로운 기술은 여전히 새로운 사회 규범을 만들어낼 여지를 가지고 있으며, 이는 사회 이론에 새로운 질문들을 던지고 있다.(235)

7장. 끊임없는 자기 수정이 필요한 인공지능의 시대
고용 문제와 부의 양극화
이성과 영혼의 프롤레타리아화(스티글레르) -> 프레카리아트
프레카리아트(Precariat): 불안정한(Precarious)+무산계급(Proletariat), 고용 불안, 저임금, 노동인권 사각지대에 놓인 새로운 불안정 노동자 계급. 주로 AI·플랫폼 경제 발달에 따라 저숙련·단순 반복적 노동을 하는 이들이 해당된다. 

□ 도넛 경제학(Doughnut Economics): 영국 경제학자 케이트 레이워스(Kate Raworth)가 제안한 21세기 새로운 경제 모델. 끝없는 성장이 아니라, '인류의 번영'과 '지구의 균형' 사이의 최적의 지점을 찾는 것을 목표로 한다. 
- 도넛 안쪽 구멍 (사회적 기초)- 결핍의 영역. 인간이 존엄하게 살기 위해 필요한 12가지 필수 요소가 부족한 상태. 음식, 깨끗한 물, 보건, 교육, 주거, 에너지, 정치적 목소리, 성 평등 등이 포함된다. 아무도 구멍 속에 빠지지 않도록 기본권을 보장해야 한다. 
- 도넛 바깥쪽 테두리 (생태적 한계) - 과잉의 영역. 지구가 견딜 수 있는 9가지 생태적 한계선을 넘어선 상태. 기후 변화, 생물 다양성 손실, 토지 이용 변화, 화학적 오염 등이 포함된다. 지구의 자원을 고갈시키거나 환경을 파괴하지 않는 범위 내에서 활동해야 한다. 
- 도넛의 '빵' 부분 (인류를 위한 안전하고 정의로운 공간) - 사회적 기초를 충족하면서 생태적 한계를 넘지 않는 균형 잡힌 지점. 이곳이 바로 재생 가능하고 분배적인 경제 시스템이 작동해야 하는 공간이다. -> 네덜란드 암스테르담.

내가 알고리즘적 현대성이라고 일컫는 세계는 행동 예측 시장에서 방대한 개인 데이터가 끊임없이 상품화될 뿐 아니라 새로운 형태의 두려움을 압도적 방식으로 생성하는 점에서 불길하다.(272)

내가 이 책 전반에 걸쳐 주장했듯 문제의 핵심은 결국 정보 과부하다. 장 보드리야르가 적은 것처럼 "우리는 갈수록 정보는 많아지고 의미는 줄어드는 세상에 살고 있다."

우리가 좋든 싫든, 다양하고 다원적인 형태의 인간과 기계의 상호작용을 배양하는 것은 알고리즘 사회로 전환하는 데 선택이 아닌 필수가 되었다.

해킹: 개인의 사생활 해킹(홈 네트워킹, 룸바, AI 스피커 알렉사) - 작업장 환경은 비밀 유지
* 앤트로픽- 클로드 미토스의 등장

□ 교육기관 내 스마트폰 사용을 법적·제도적으로 금지하거나 강력하게 규제하는 국가가 늘고 있다.
​​- 프랑스: ​2018년부터 유치원, 초등학교, 중학교에서 스마트폰 사용을 전면 금지하는 법안을 시행해 온 '스마트폰 규제 선도국'이다. 학생이 등교할 때 스마트폰을 사물함에 제출하고 하교할 때 돌려받는 이른바 '디지털 쉼표' 정책을 200여 개 학교에서 시범 운영 중이며, 점진적으로 전국 단위 확대를 검토하고 있다.
​- 네덜란드: ​2024년 1월부터 중·고등학교 교실에서 스마트폰, 태블릿, 스마트워치 등 모바일 기기 사용을 사실상 전면 금지했다.(의학적 이유나 디지털 기술 수업 등 예외적 상황만 허용) 네덜란드 교육부는 "스마트폰이 학생들의 집중력을 방해하고 학업 성취도를 떨어뜨린다는 과학적 증거가 명백하다"며 정책 도입의 이유를 밝혔다.
​- 미국: 주(State) 단위의 강력한 입법 확산
​- 대한민국: ​​과거 국가인권위원회는 "아침에 스마트폰을 일괄 수거하는 학교 규정은 학생의 통신 자유를 침해한다"고 판단했다. 하지만 최근에는 기조를 바꾸어, "학교의 스마트폰 수거 규정은 헌법상 기본권 침해가 아니며, 학생들의 주의 산만과 교권 침해를 막기 위한 정당한 조치"라고 입장을 변경했다. 이에 따라 많은 일선 학교들이 등교 시 스마트폰을 일괄 수거하는 제도를 유지하거나 재도입하고 있다.
-> 스마트폰 사용 금지는 '학생의 인권 및 자율성 보장'이라는 가치에서 '안전한 교육 환경 조성 및 인지 능력 보호'라는 가치로 무게 중심이 이동하는 과도기에 있다.
​
​□ AI 분야의 두 가지 핵심 문제
1. 디스킬링(Deskilling, 탈숙련화): AI에 지나치게 의존하게 되면서, 기존에 스스로 수행하며 기르고 유지해 왔던 지식, 기술, 전문성을 점차 잃어버리는 현상. 예) 내비게이션에 의존하다 보니 스스로 길을 찾는 공간 지각 능력이 떨어지는 현상. 인간의 주체성과 능력에 관한 문제. ​-> 단순한 기술의 상실을 넘어, 스스로 고민하고 문제를 파고드는 비판적 사고력과 문제 해결 능력의 저하로 이어질 수 있다.
​2. 환각(Hallucination, 할루시네이션): AI가 마치 사실인 것처럼 매우 확신에 찬 어조로 그럴듯한 거짓말을 지어내는 현상. 학습 데이터에 없는 내용이나 완전히 잘못된 정보를 마치 진실인 양 제시. '정보의 신뢰성' 문제. 현재의 언어 모델(LLM, 대규모 언어모델)들은 정보의 '진실 여부'를 이해하고 답변하는 것이 아니다. 방대한 데이터를 바탕으로 질문 뒤에 이어질 가장 통계적으로 확률이 높은(그럴듯한) 단어들을 조립하는 방식으로 작동하기 때문에, 구조적으로 완벽해 보이는 거짓말을 만들어낼 수 있다.(확률적 앵무새) -> ​가짜 뉴스를 확산시키거나, 의료·법률 등 정확성이 생명인 분야에서 AI의 정보를 맹신할 경우 치명적인 사고로 이어질 수 있다.
​* AI가 내놓은 결과물을 늘 의심하고 팩트 체크를 하는 습관을 들이고, AI를 내 능력을 '대체'하는 존재가 아니라 내 사고를 확장해 주는 '도구'로 활용하려는 태도가 중요.