케이트 크로퍼드, <AI 지도책>

케이트 크로퍼드, 2022, 소소의책, <AI 지도책>

AI 지도책

자기 분야가 확실한 좋은 작가는 이런 거구나 싶다.

지도 은유로 동시대 지구 전반으로 사고의 지평을 넓힌 그의 글은 광물과 노동, 데이터, 분류, 감정, 국가를 큰 주제로 글을 엮어 낸다. (동일 주제로 지도 데이터 시각화를 해보면 어떨까 싶었다.)

이 중 노동과 국가 두 주제를 짧은 기록으로 남긴다.

노동 파트를 읽을 때는 농담처럼 서러웠다. (농담이라 썼지만 진담이다. 농담만한 진담도 없는 법이다.) 새삼스럽게 노동자성을 각성했달까. 데이터 분석을 업으로 하면서 쿼리가 성공적으로 돌아가면 성공한 하루이고, 쿼리 속도가 빨라지면 더 빨리 일해야 하는 삶을 살고 있다. 나의 시간은 아마존 물류창고의 시간과 비슷하고, 아마존 물류창고는 모델T의 포드 공장과, 업튼 싱클레어의 정글과 크게 다르지 않다.

 

국가 이야기도 흥미롭다. 민간에 '혁신 솔루션' 제작, 운영을 위탁한 정부에게 어떤 책임을 물을 수 있을까? 정부는 현대사회의 '석유'인 데이터를 경제성장을 위해 기업에게 제공한다. 석유 은유 덕분에 데이터의 모든 맥락은 사라지고 다만 경제적 가치만 남는다. 기업은 온갖 종류의 효율적 관리(복지, 치안, 출입국, 전쟁 등)를 위해 데이터를 활용한다. 정부는 기업에게, 기업은 정부에게 책임을 돌린다. 더군다나 알고리즘이 '블랙박스'라는 생각은 설명이 불가하다는, 그래서 책임소지를 따지기 어렵다는 생각을 심는다.

번역을 원망하는 리뷰를 보았는데, 나는 이보다 더 좋은 번역을 할 자신이 없다. 근래 읽은 인공지능 관련 책들 중 가장 재미있다. 광고 아니다. 진심이다. 인공지능 윤리가 궁금하다면 꼭 읽어보시라 추천한다.

---

 

• p.81. 에스트라 테일러는 실제로는 자동화되지 않은 첨단 시스템을 과대 포장하는 행위를 '포토메이션(fauxtomation)'이라고 부른다. 자동화된 시스템은 예전에 인간이 수행하던 작업을 똑같이 수행하는 것처럼 보이지만 실은 배후에서 인간 노동을 조율하는 것에 불과하다.

 

• p.83. 1770년 헝가리의 발명가 볼프강 폰 켐펠렌은 정교환 기계 체스선수를 제작했다. 나무와 태엽 장치로 만든 캐비닛 위에는 실물 크기의 기계 인간이 앉아서 인간 상대방과 체스를 두어 승리를 거두었다. ... 사람을 빼닮은 이 기계는 터번, 통 넓은 바지, 모피로 장식된 가운을 입어 마치 '동방의 마법사'같은 인상을 풍겼다. 특정 인종을 연상시키는 이런 외모는 이국적 낯섦을 불러일으켰는데, 공교롭게도 당시 빈 상류층은 터키시 커피를 마시고 하인들에게 터키인 복장을 입혔다. 그리하여 이 기계는 '메커니컬 터크'로 불리게 되었다.

 

• p.121. 1969년 IBM을 상대로 대규모 연방 반독점 소송이 제기도었따. 소송은 13년간 계속되었으며, 1,000명 가까운 증인이 소환되었다. IBM은 인력을 대거 채용하여 증언 녹취록을 모조리 홀러리스 천공카드에 입력하여 디지털화했다. 이렇게 만들어진 말뭉치는 1980년대 중엽에 1억 단어 규모에 이르렀다. 악명 높은 반정부주의자 머서는 이를 일컬어 '정부가 우연히 본의 아니게 유용한 것을 만들어낸 사례'라고 표현했다.

 

• pp.61~62. 1960년대 후반 역사학자이자 기술철학자 루이스 멈퍼드는 크기를 막론하고 모든 시스템이 수많은 개별적 인간 행위자의 작업으로 이루어진다는 사실을 강조하기 위해 거대기계(megamachine)개념을 발전시켰다. 멈퍼드가 보기에 맨해튼 프로젝트는 대표적인 현대판 거대기계로, 그 복잡한 실상은 대중에게뿐 아니라 (미국 전역에 분산된) 보안 시설에서 근무한 수천 명에게도 비밀에 부쳐졌다. ... 원자탄의 토대는 복잡하고 은밀한 공급사슬, 물류, 인간 노동이었다. ... 인공지능은 또 다른 종류의 거대기계다. 전 세계에 뻗어 있지만 분명히 드러나지 않는 산업 인프라, 공급사슬, 인간 노동에 의존하는 기술적 접근법의 집합인 것이다.

 

• p.235. 국가는 조달된 AI 시스템으로 인한 문제에 대해 어떤 책임도 지지 않으려 하며 ‘이해하지 못하는 것에 대해서는 책임질 수 없다’라고 주장한다. 상업적 알고리즘 시스템이 유의미한 책임성 메커니즘 없이 정부의 의사 결정 과정에 관여한다.

 

• p.257. 이 책은 진짜 버팀목이 인공화, 추상화, 자동화라는 기술 관료적 가공물이 아니라 지구적으로 상호 연결된 추출과 권력의 체계라고 주장한다.