읽지 못하는 사람의 미래

읽지 못하는 사람의 미래/전병근/유유/2024.11.4.

-주의 침탈의 시대를 돌파하는 돌봄의 읽기를 위하여

책의 크기와 부피가 부담이 없고 재생종이가 주는 부드러움과 가벼운 느낌이 좋았다. AI시대의 특징과 책읽기의 필요성을 차근차근 풀어나가지만 너무 많은 낯선 사람들과 저서가 나와 읽는데 조금 불편하기도 했다. 어쨌든 "인공 지능 시대에 책을 굳이 왜 읽어야 하나"라는 누구나 한번쯤은 생각해봤을 질문은 주목을 받기에 충분하다.
이 질문에 대한 답은 '돌봄의 읽기'를 해야한다는 것이다. 그것은 짜임새 있는 긴 글, 바로 책 읽기를 통해 돌보는 눈을 기르는 것이고, 자신의 주의력을 능동적으로 행사함으로써 이기적 자아의 근시안을 벗어나 타자와 세계를 호기심과 애정의 눈으로 둘러보고 돌아보고 살펴보는 것이다.(21) 대상을 자신의 기준으로 판단하려고만 하지말고 애정어린 시선으로 이해하려고 노력해야겠다고 생각했다.

스튜어트 러셀에 의하면 '자율성은 인간의 근본적인 가치인데(14), 인공지능에 길들여지면 사람들은 문명의 경영능력을 상실하고, 개개인의 삶에 대한 자율성도 잃게 된다. AI 통제 시스템의 확보로 (사람들이) 기계 관리자에게 의존하는 위협적인 신파시즘이 등장한다.

디지털 주의 경제(attention economy)는 <주의 침탈>을 기반으로 하며 그 결과 주의를 상실하게 되고 , 자유의지의 침식으로 귀결된다. 결국 집단적 아크라시아(acrasia- 자제력 없음, 의지박약을 뜻하는 고대 그리스어)로 이어질 수 있다.

개인은 자기 자신(의 이익과 관심사)에게 과몰입하고 국가나 세계 차원의 대형 사건에 대해 거창한 논평만 내놓을 뿐, 정작 자기 주변은 제대로 돌아보지 않는 <주변의 상실>(項飆xiàngbiāo)을 당하게 된다. 그 배경에는 모든 중간 '마찰'을 장애물로 보는 플랫폼 경제가 있다. 사람들은 손에 쥔 스마트폰에 탑재된 소셜미디어나 각종 앱으로 다른 이들과 쉽게 연결된다. 이 과정에서 자기 부근의 여러 층위에 있는 감각을 잃고 만다. 신체로 직접 감지할 수 있었던 물리적 '주변'이 데이터화된 '주변'으로 바뀐 결과다. '지금, 바로, 스크린 안의 것'을 원하는 사람들은 즉각적인 일회성 거래(소비)만 가능할 뿐이다.

대니얼 데닛에 따르면 진짜 위험은 기계가 정말 똑똑해져 우리 운명의 선장으로 등극하는 게 아니라, 우리 스스로 기계에 과잉 의존하고 지력을 방기해 기계에 합당하지 않은 권위를 섣부르게 넘겨주는 것이다. 지금도 인공지능은 빅데이터를 토대로 학습 속도를 높여 가는데 인간은 주체적 사고의 의지와 동기를 잃고 순간의 확실한 즐거움만 앞다퉈 효율적으로 추구한다. 니체가 말한 '마지막 인간', 아무것도 시도하지 않는 수동적 인간이 요즘 우리의 모습이다.(19)

<쿠라신화> 에서 보듯 인간은 본질적으로 불안한 존재지만 또한 돌봄의 존재이기도 하다. 여신 Cura: 근심, 걱정, 불안, 염려 + 돌봄(care)과 보살핌, 주의(attention), 호기심(curiosity) --> 마음 씀(take care), 돌봄의 인간
'마음 씀'은 인간 심리의 기본구조이다. <사랑의 이유> 해리 G. 프랭크퍼트.
'마음 씀'의 출발점이자 토대는 '주의'이다.(31) 주의=관심

<자기 돌봄>은 필연적으로 타자와 세계에 대한 돌봄을 통해서만 이뤄질 수 있다. 돌봄은 인간의 근본적인 취약성과 상호의존성 때문에 우리에게 요구되는 것으로, 자신에게만 집중되거나 머물러선 불완전할 수밖에 없고 반드시 자기 밖으로 확장되어야만 한다.(35-6)
소크라테스를 비롯해 옛 현인들이 말했던 자기 돌봄도 통합적인 자아, 총체적인 삶의 주체로서 자신에 대한 돌봄을 뜻했다.(36)-->관계를 맺고 소통하며 새로운 것을 만들어가는 존재 <--> 초개인, 핵개인

기술은 약이면서 독(파르마콘- 자크 데리다)이다.
<프로메테우스 신화>는 기술의 인간과 혁신적 사고를 보여주지만 성찰적 사고에는 이르지 못한다.
인간을 상대로 점점 힘을 키워 가는 기술 이면에는 그런 흐름을 주도하는 소수 기술 자본 권력 집단이 존재한다.-- 신파시즘(예, 트럼프와 앨런 머스크)

사람과 사람의 접촉은 일종의 사회적 접착제로서 그 역할을 톡톡히 한다. 접촉을 통해 사람이 연결되고, 고마움, 연민, 신뢰와 같은 정서가 함양된다.(데이비드 린든, 터치) 손은 밖으로 드러난 뇌의 일부이다(칸트), <손으로 생각하기> 매슈 크로퍼드.

<스펙터클 사회> 현실보다 가상이 지배하는 현대사회-기 드보르. 스펙터클이란 상품 간의 관계가 사람 간의 관계를 대체한 사회에서 현실 대신 위력을 발휘하는 전도된 이미지를 말한다. 스펙터클은 이미지의 집합이 아니라 이미지로 중재되는 사람들 간의 관계이다.

<감시자본주의> 주의 경제는 한 사람이 주의를 얻으면 다른 사람은 배제된다는 점에서 제로섬게임이다.(60)-> 스타 시스템과 팬덤문화
이러한 주의 경제의 부작용은 민주주의에도 치명적인 위협이 될 수 있다. 정치인은 유권자의 주의를 끌기 위해 점점 더 극단적인 입장을 표명하고 자극적인 발언으로 조명을 받으려 경쟁한다. 복잡미묘한 정책 논의가 온라인에서는 지극히 단순한 슬로건으로 생각 없이 유통된다. 2020년 대를 사는 우리가 지금 직면한 문제와 정확히 맞아떨어 진다.(62)- 진보는 설명하려고 하고, 보수는 구호를 외친다.

딥러닝의 '딥'deep은 다분히 비유적이다. 인공지능이 발휘하는 사고능력의 '깊이'를 말하는 것이 아니라, 인공 뉴런으로 된 하드웨어적 신경망의 층(퍼셉트론층)이 여러 겹이라는 뜻이다. 입력층과 출력층 사이에 존재하는 중간층을 숨어 있는 층이라 해서 은닉층이라 한다.(77)

기계의 학습 알고리즘은 데이터를 처리하고 피드백을 받는 방식으로 문제 해결 방법을 스스로 찾아가는 과정에서 복잡한 신경망을 구축해 가기 때문이다. 인공지능의 학습 과정이 고도화되어 복잡해질수록 그 과정을 인간은(심지어 개발자까지) 이해할 수 없게 된다. 힌턴의 두려움은 바로 이 점에서 기인한다.(90)

AI가 정확히 모르는 것도 마치 아는 척 둘러대며 답하는 '환각' hallucination(최근 영국 글래스고대학 연구진은 '환각'이 아니라 '헛소리'bullshit가 더 정확한 표현이라고 주장했다) 현상, 기계학습의 원천 자료인 데이터에 내재한 편견의 재생산 같은 문제가 있다. --- 더 심각한 문제는 AI를 악용한 허위 정보의 무차별 확산이다.(보이스 피싱, 딥페이스와 딥보이스)
톰 행크스 주연 '히어'-디에어징(청년-중년-노년), 브루탈리스트(이민자의 삶-발음교정)

AI의 악영향: 일자리 감소, 전쟁무기- AI 자율살상무기(메이븐 프로젝트: 구글과 국방부, 드론)

대니얼 데닛은 <박테리아에서 바흐까지, 그리고 다시 다시 박테리아로>에서 AI 개발과 관련해 지금 인류가 직면한 진짜 위험은 언젠가 도래할지 모르는 잠재적 초지능이 아니라 그것에 현혹되어 자신의 주체적 능력을 방기하는 인간의 어리석음이라고 말한다.(98)

테크마니아와 테크포비아
러다이트 운동(Luddite Movement)은 1811년~1817년에 일어난 기계 파괴 폭동이다. 당시 나타나기 시작한 방직기가 노동자의 일거리를 줄인다는 생각이 배경이 되었다.
*기여소득제 는 소득을 얻기 위해 사회적 가치를 인정받는 활동을 해야 하는 제도. 참여소득제라고도 불림. 기본소득+기여소득
-소득을 얻기 위해 사회적 가치를 인정받는 활동을 해야 한다는 의무가 부과됨.
-돌봄, 학습, 마을공동체 기여, 생태위기를 경감시키는 활동 등이 사회적 가치를 인정받는 활동에 해당한다.

기술은 결코 스스로 발전하지 않는다. 이면에는 언제나 기술의 목표와 방향을 정하고 규모와 속도를 지원하는 자본과 산업의 논리가 숨어 있다. 요컨데 모든 기술 뒤에는 인간의 선택과 결정이 자리잡고 있다. 대런 아세모글루와 사이먼 존슨은 <권력과진보>에서 기술의 발전은 인류 역사에서 언제나 소수 지배권력의 이해관계가 주도했으며, 뒤이어 결성된 대항 권력이 벌인 투쟁 끝에 그 혜택이 모두에게로 확산될 수있었음을 논증한다.(114-5)
테크마니아와 테크포비아의 협곡을 무사히 지나려면 지금의 첨단 기술보다 더 오랜 기술을 다시 소환해야 한다. 바로 읽기와 쓰기를 통한 생각의 기술말이다.(116)
호모 부쿠스homo bookus(책 읽는 존재)

효과적 이타주의(effective altruism)- 정량적 효율적 사고방식.<냉정한 이타주의> 윌리엄 매캐스킬
효과적 이타주의는 대개 비용대효과를 따지는 투자자의 사고방식을 따른다. 여기서 비용대효과는 정량적인 것으로, 대개 화폐가치로 환산되는 것을 따진다. 효과적 이타주의자는 경험적 증거와 논리적 추론을 바탕으로 결정을 내리는 것을 중시한다.
문제는 이들의 '효과'와 '효율' 중심 사고가 갖는 한계다. 사회시스템의 변화나 정량적으로 측정하기 어려운 구조적 문제는 관심에서 배제된다.
효과적 이타주의는 오늘날 자유주의 사회가 내세우는 능력주의 이데올로기와도 연결된다. 어떤 식으로든 돈과 권력을 많이 가진 자가 도덕적으로도 우월한 지위에서 자선 능력을 발휘하여 나머지 구성원에게 시혜하듯 선행을 베푼다. 중요한 것은 비용과 효과이며, 이것을 계산하는 과정에서 대화와 협의는 불필요하거나 비효율적이다. 제왕적 이타주의.
과정과 종합적 사고를 중시하는 실천적 지혜(아리스토텔레스)가 필요하다.

문화사학자 린 헌트는 <인권의 발명>에서 지금 우리가 당연하게 여기는 보편적 인권 개념도 18세기 유럽 대중 사이에서 소설 읽기가 확산되면서 자라난 공감 능력이 인도주의적 감정으로 발전한 결과였다고 말한다.
그 어떤 것이든 90%는 쓰레기다(스터전의 법칙).
텍스트의 모호함과 복잡함은 결함이 아니라 본질에 속한다. -> 체험으로서의 독서
*현실은 복잡계이다. 주체가 봤을 때는 혼돈의 상태다. -> 문해력(literacy)이 필요하다.

조지프 헨릭은 심리학을 비롯한 많은 설문이라든가, 행동 조사를 통한 연구가 보편적인 것이 아니라 특정 지역의 특정 계층만을 대상으로 한 것이란 것을 밝혀냈다. 그와 그의 공저자들은 심리와 행동 실험에서 가장 흔하게 활용되는 인구 집단에 위워드WEIRD라는 이름을 붙였다. "서구의(Western), 교육 수준 높고(Educated), 산업화된(Industrial), 부유하고(Rich), 민주적인(Democratic)"의 약자다. 이 말의 원래 뜻은 '기이한, 기묘한'이다. 그러니까 WEIRD 사회 자체가 보편적인 게 아니라 오히려 유별난 사회이며, WEIRD한 심리도 마찬가지라는 의미다.

플라통의 <대화편> 중 '파이드로스' 테우트 신과 타무스 왕의 대화
"문자는 실은 그것을 익히는 사람들에게 망각을 줄 것이오. 그들은 글로 쓰인 것을 믿은 나머지 기억력을 활용해 스스로, 자력으로 기억하려 하는 대신 남이 만든 기호를 사용해 외부에서 기억하려고 하니 말이오. 그러니 그대가 발명한 것은 기억의 영약이 아니라 想起(기억을 일깨우는 것)의 영약이오. 그대가 제자들에게 주는 것은 지혜가 아니라 지혜처럼 보이는 것이오. 그대의 제자들은 그대 덕분에 제대로 가르침을 받지 않고도 많은 것을 읽을 수 있어 대개는 아무것도 모르면서 자신이 많이 알고 있는 것처럼 보일 테니 말이오. 또한 그들은 실제로 지혜롭기보다는 지혜로워 보이기만 하므로 함께 하기가 어려울 것이오."(146-7) -> 기억의 약화와 피상적 사고. 체험으로서의 독서, 배경지식의 필요성.

"일단 글로 적힌 것은 사방으로 떠돌아다니면서 그것을 이해하는 사람뿐 아니라 그것과 무관한 사람의 손으로도 굴러 들어가며, 누구에게 말을 걸어야 하고 누구에게 말을 걸어서는 안 되는지 전혀 분간하지 못한다네."(소크라테스 148) -> 지속적인 부분적 주의와 멀티태스킹이 특징인 흝어보기.
그(소크라테스)는 무엇을 놓쳤을까. 후대의 뇌과학자들이 발견한 인간 뇌의 타고난 기적과 같은 특성, 바로 가소성(可塑性 plasticity)이다.

<독서는 고독 속의 대화>
독서는 대화와 정반대로 혼자 있는 상태에서 다른 사람의 생각을 받아들이는 것이다.(마르셀 프루스트)
책의 진정한 가치는 저자의 생각을 일방적으로 '전달'하는 데 있지 않고 읽는 사람의 생각을 '촉발'하는 데 있다.(155)

"외부의 도움이 없는 경우, 그들은 자신을 영원히 망각한 채 피상적 삶에 머무르게 된다. 그러면서 온갖 쾌락의 장난감이 되어 주위 사람들에게 휘둘리며, 주변의 수준에 맞추는 수동적인 삶을 살게 된다. 피상적인 삶을 사는 사람들은 그들이 가진 고결한 정신을 깡그리 잃고, 결국에는 그것에 대한 기억조차 잊게 될 것이다. 이런 사람
들이 스스로 생각할 힘과 창조할 능력을 되찾으려면 외부 충동이 작용하여 반강제적으로 그들을 능동적인 정신세계로 인도해야만 한다. (.......) 이때 필요한 것은 외부에서 오는 그러나 그 작용 자체는 우리 내면에서 이루어지는 개입이다. 말하자면 이때 충동은 외부 즉 우리가 아닌 다른 데서 오지만 그 개입 행위 자체는 완전한 고독 속, 즉 홀로 있는 상황에서 이루어진다."(156-7) -고독 속의 정신 일깨움, 고독 속의 대화

"이 모든 능력의 발달에 촉진제 역할을 한 것은 읽는 뇌의 설계에서 핵심인 '생각할 수 있는 시간'이라는 비밀스러운 선물이었다." '초월적 사고를 하는 시간'이라는 이 신비한 무형적 선물이 바로 읽는 뇌가 이룩한 가장 큰 업적이다.(158) <프루스트와 오징어> 메리언 울프

"시간이라는 선물은 '끝없이 기상천외한 사고''를 할 수 있는 능력의 생리적 기반이 된다. 독서 행위에서 이보다 더 중요한 것은 없다. 순간의, 단 0.5초의 독서 행위일지라도 거기에는 막대하고 복잡하고 광대하게 분포된 뇌 신경망의 기저 작용이 필요하다. 이때 인지적, 언어적, 감정적 프로세스에 참여하는 뉴런들이 거의 동시에 발화한다. 이 소중한 찰나의 지연 덕분에 우리 뇌는 순서와 질서에 맞춰 현상을 이해할 수 있게 된다."(159-60)

책이 우리를 변화시키는 속도는 꽃이 피는 속도, 풀이 자라는 속도와 같다. 가만히 지켜보고 있으면 아무런 변화가 없는 것 같지만, 어느새 꽃은 활짝 피고 풀은 훌쩍 자라 있다. 책은 그처럼 느리게 서서히 자기만의 속도로 영향을 미친다.(164)

책을 읽는다는 것은 텍스트의 해석을 통해 자신의 기억을 해석하는 일이다.(168)-베르나르 스티글레르, 1차기억-유전정보, 2차기억-신경계를 통해 얻은 정보, 3차기억- 글쓰기

글쓰기는 우리의 경험과 지식을 저장하게 해 주기도 하지만 기억을 위한 정신 능력을 저해하기도 한다. 뿐만 아니라 글은 인식 주체의 생생한 경험과 그 즉시 내면에 저장 되는 기억 사이의 즉각적인 연결을 단절시킨다. 그 결과 글은 우리의 인지적 한계, 즉 기억력의 한계를 '치료'하지만, 동시에 인지능력을 제한함으로써 '독살'하기도한다. 그런 점에서 파르마콘, 즉 약이자 독이다.(170)

생성형 AI가 토대로 삼는 대규모 학습 데이터의 깊숙한 곳, 다양한 알고리즘이 결합되는 방식의 기저에는 우연성, 무작위성, 마치 개성처럼 느껴지는 무언가를 부여하는 새로운 특성이 있다.(173)
유발 하라리는 앞으로 AI의 치명적인 강점은 똑똑함보다 친밀감이 될 거라고 예측한다.(174)

책을 읽지 않고 스스로 생각하지 않는 사람이 많아지면 소수의 자본-기술 권력은 다시 다중의 몽매를 이유로 더 똑똑해진 기술에 의한 지배 관리를 정당화하려 들 것이다. 그러면 민주주의는 자본-기술 권력에 의한 사실상의 디지털 전체주의(어떤 이들은 디지털 봉건제라고도 부른다)로 전락할 위험에 처할 것이다.(179)
디지털매체의 약점: 피상화shallowing, 화면열등효과screen inferiority effect
-안구 건조증과 시각적 피로

중요한 것은 우리의 지향점이다. 우리가 독서를 통해 이루고자 하는 것이 무엇이냐는 것이다. 기술은 인간이 지향하는 것을 지원하고 그 힘을 증폭할 뿐이다. 오랜 전통을 자랑하는 책도, 무한한 가능성을 지닌 첨단의 디지털기기도 인간의 기술이다. 관건은 어떤 기술적 조건에서는 우리 앞에 펼쳐지는 삶과 세상을 차분히 읽어보겠다는 마음가짐을 보존하고 계승하는 것이다. 그것에 인류의 미래가 달려 있기 때문이다.(199)
목적이 없기 때문에 끊임없는 생산 과정을 절대화하게 되었다.(248) <인간의 조건> 헤나 아렌트

<앎의 두 갈래 길> 아는 것이 힘이다. 너 자신을 알라.
앞에서 지금 우리를 지배하는 앎은 '도구적 지식'으로만 기능한다고 했다. 어느새 수단적 앎, 도구적 앎, 계산적 앎, 효율적 앎이 앎의 모든 것이 된 것만 같다. 이는 아리스토텔레스가 말한 '노예의 앎', 즉 노예에게 요구 되는 앎이다. 그런 것은 AI가 더 많이 알고, 챗GPT가 더 잘 답한다. 정작 중요한 질문에 대한 답은 AI가 줄 수 없다. 인간이 찾아야 한다. 좋은 것이란 본래 불확정적이다. 확정될 수 없다. 확정된 듯싶어도 잠정적일 뿐이다. 다시 캐묻는 과정에서 더 나은 것을 생각하게 된다. 자연스럽게 대화와 상호 검토로 이어진다.(206)

글쓰기와 읽기를 통해 고양된 의식의 결실 중 하나가 돌봄의 눈이다.(223)
머독은 1992년 저서 <도덕의 길잡이로서 형이상학Metaphysics as a Guide to Morals>에서 이렇게 말한다. "도덕적 변화는 세계에 대한 관심에서 비롯되며, 자연스러운 결과는 주로 다른 사람뿐만 아니라 다른 것의 실재에 대한 감각이 늘어남으로써 이기주의가 줄어든다는 것이다."
따라서 머독에게 도덕적 진보란 세상에 올바른 관심을 기울이려고 지속적으로 노력하는 것이다. 머독은 저서 <선의 군림>에서 도덕적 삶은 그저 위대한 순간의 용기나 희생이 아니라 계속해서 진행되는 것, 즉 일상생활의 복잡한 상황에서 사람들을 사려 깊게 대하는 것이며, 다른 사람에게 '정의롭고 애정 어린' 주의를 기울이는 것이라고 말한다.(225-6)

살찌고 완고한 자아(fat, relentless ego)를 줄이는 방법: 자연과 예술(문학)의 아름다움 관조 -> 탈아(unselfing)
'나는 읽기가 바로 탈아의 과정이라고 생각한다. 인간 되기는 주의에서 시작되며, 읽기는 주의 깊게 보는 눈을 길러 준다. 탈아란 자신으로부터 눈을 돌려 반대편에 있는 타자와 세상에 주의를 기울이는 것이다.(227)

과학적 휴머니즘의 주창자인 핑커는 <지금 다시 계몽>에서 이렇게 답한다. "지혜를 향한 첫걸음은 '우주의 법칙은 당신을 개의치 않는다'는 사실을 깨닫는 것이다. 그다음은 '그렇다고 해서 삶이 무의미하다는 뜻은 아니다'란 사실을 깨달는 것이다. 왜냐하면 '사람들이' 당신에게 관심을 갖기care about 때문이다." 그 반대도 마찬가지라고 했다. 인간적 감수성을 가진 사람이라면 누구나 당신에게 관심을 갖는다고, 그건 당신의 고통을 그대로 느낀다는 뜻이 아니라 당신이라는 존재가 이 우주에서 중요하고 우리 모두는 우주의 법칙을 토대로 번영을 누릴 조건을 발전시킬 책임이 있다는 뜻에서 그렇다고 했다. 나는 그의 말을 우리는 서로가 서로에게 유일한 희망이라는 뜻으로 이해한다.(251-2)- 인드라의 그물(망)
"위대한 예술가는 공정함과 연민을 담은 눈길로 앞에 놓인 대상을 본다. 그의 주의는 기적처럼 밖을 향한다.즉 모든 것을 거짓된 일원성으로 환원해 버리는 자아를 떠나 깜짝 놀랄 만큼 다양한 모습을 보여 주는 세계로 향하는 것이다. 그렇게 방향을 돌릴 수 있는 능력이 바로 사랑이다."(255)  머독

더 읽기: 더 케어 컬렉티브 <돌봄선언> - 난잡한 돌봄