디지털 휴머니즘을 위하여

PER UN UMANESIMO DIGITALE

© La Civiltà Cattolica, Q 4069, 4 Gen 2020 I, 27-40
조반니 쿠치 Giovanni Cucci S.J.
국춘심 방그라시아 수녀(성삼의 딸들 수녀회) 옮김

  정확히 분리하기가 항상 쉽지는 않은 여러 측면들(컴퓨터, 웹, 로봇, 인공 지능)안으로 디지털이 진입하면서 인간 삶의 모든 분야에 소개한 새로움은 무한하고 매혹적이다. 이 모든 것은 동시에 중요한 물음들을 불러일으키기도 한다. 본지는 최근에도 이 주제들을 다루었다.1)

  이미 오래 전부터 새롭게 대두된 기술로 인해 인간 삶의 여러 과제들을 지극히 효과적인 방식으로 수행할 수 있게되었다. 인간 능력을 넘어서는 것으로 보이는 일상 생활의 점점 늘어나는 활동들을 처리해 나가기 위해 컴퓨터가 보장하는 속도와 효능은 의심할 바 없다. 데이터베이스에 의해 접근가능해진 연결망의 조직화, 계산의 속도, 대량의 정보를생각해 보라. 한 컴퓨터의 ‘기억’의 용량은 다른 방식으로는 복잡하고 힘든 과정을 필요로 할 정보를 짧은 시간 안에 발견할 수 있게 해 준다.

  의심할 바 없는 그런 유리한 점을 부정하지는 않지만 그럼에도 점점 더 넓어지는 결정의 폭을 기계에 맡기고자 하는순간에 염려를 불러일으키는 다른 측면들이 있다. 이 주제를 다루는 영화와 소설들뿐만 아니라 여러 과학 논문들도 역시 있을 수 있는 ‘디지털 독재’를 경계하도록 하는 것은 우연이 아닌 바, 그런 일은 인간 존재를 자기가 만든 기계의 노예로 전락시킬 것이다.

  그러한 문제의 광대함과 복잡성을 인식하면서, 하지만 또한 서로 다른 지식들을 교차시키는 이 문제의 현재성도 인식하면서 이 글에서는 통제하지 않을 경우 심각한 사회적 결과에 이를 수 있는 인간 삶의 특정 분야 몇 가지를 고찰하고자 한다. 또 인공 지능의 공헌이 유익할 뿐 아니라 인간의 불안정에 대해 교정의 기능을 제공할 수 있는 다른 분야들도 살펴볼 것이다. 끝으로 평범한 생활의 일부 활동이 어떻게 인공 지능에 비해 질적으로 다른 차원의 불가사의한 복합성을 드러내는지를 보여주도록 하겠다.

  자동화의 빛과 그림자

  2012년 아이다호 주(미국)의 여러 장애인들은 갑자기 의료보조금을 삭감 당했다. 주 정부의 해당부서는 경제적 지원을 받을 권리가 있는 사람을 계획적인 방식으로 책정하기 위해 예산 평가를 어떤 소프트웨어에 맡기기로 결정했던것이다. 당사자들의 항의를 받고 검증을 시작하자 대단히 자의적인 상황이 드러났다. 어떤 사람들은 이유 없이 꽤 큰금액을 받았고 다른 사람들은 그 동안에 상황이 악화되었음에도 불구하고 보조금이 잘려나갔던 것이다. 해당부서는특허기밀이라는 명목으로 설명을 거부하고 소프트웨어가 작업한 내용을 확인하는 것으로 그쳤다. 추후에이 사안이 법정에 가서야 끝났을 때(4년간의 법적 싸움과 4,000건의 고발과 하나의 법적 집단행동이 이루어진 후) 발견되었듯이 이에 이용된 프로그램은 공식적으로 불법이라고 간주되어야 할 정도로 최악의 부정확 투성이 품질이었다. 기초적인 두 가지 오류로 인해 많은 사람의 건강에 가져온 결과는 막대했다. 곧 소프트웨어의 계산 오류와 특히 기계에전적인 신뢰를 부여하여 검증의 이행을 거부했던 사람의 오류였다.2)

  두 번째 예는 그와 달리 인간의 판단이 어떻게 컴퓨터로부터 효과적으로 얻을 수 있는 교정을 받을 필요가 있는지를보여준다. 법정에서 토론되었던 사건들이 어떤 판사에게 배당되었는데 그의 답변은 극히 다양한 일련의 요소들에 연결된 것으로서 이는 오로지 (판사의) 능력과 경험과 사건의 세부사항에 대한 지식에만 의존할 수는 없는 것들이며, 피고에 대한 전반적인 인상, 그의 개인적 특성들(교육 수준, 사회적 위상, 민족, 성(性))에 대한 평가에도 그리고 또한 더단순하게 그 순간의 기분이나 하루의 일정 같은 순전히 주관적인 변수에도 의존할 수 있다. 영국의 판결들에 대해 이루어진 한 연구는 “보석금을 내고 석방될 수 있는 확률은 (판사의) 휴식 직후가 가장 크고 판사가 간식을 하기 조금 전이 가장 적다”3)는 것을 보여준다.

  기질의 차이를 넘어서서 한 사건의 평가는 일련의 가변적인 임의(任意) 요소들에 항상 노출된다. 이와 관련하여 2011년 런던에서 있었던 폭동에 이어 소송을 당한 두 사람의 피고(니콜라스 로빈슨Nicholas Robinson과 리처드 존슨 Richard Johnson)의 경우는 의미가 있다. 니콜라스 로빈슨은 공학을 공부하는 학생이었다. 사태가 벌어진 날 저녁 그는자동차로 귀가 중이었고 목이 말라서 수퍼마켓의 깨진 진열장을 보고 경찰들이 자기 뒤에 있는 것을 알아차리지 못한채 물병을 하나 집어 들었다. 리처드 존슨은 큰 백화점들이 난장판이 된 것을 알게 되자 사람들이 알아보지못하도록 얼굴을 가리고 비디오게임을 사재기하려고 나갔다. 둘 다 체포되어 소송을 당했는데 결과는 무척 달랐다. 절도의 사소함과 스스로 부끄러운 어떤 일을 했다는 충분한 인식에도 불구하고 무엇보다도 전과가 없는데도 니콜라스는6개월의 실형을 선고받았다. 미리 범행을 계획하고 혼란을 거들었던 존슨은 풀려났다. 그는 대략 3주 정도의 사회봉사를 수행하도록 요구 받았다.4)

  이 두 가지 결과의 예상할 수 없는 가변성은 형사 사법의 가장 복합적이고 논란이 많은 문제들 중 하나를 드러내 준다. 어떤 변수에 기초하여 판결을 부과하는 것인가? 사법적 추론의 주제는 오래 전부터 연구되어 왔고 엄격히 분석되어 왔다.5) 그렇지만 이에 관한 많은 양의 연구에도 불구하고 인간의 주관성 고유의 수많은 기괴한 일들의 해결은 까마득하다. 이에 관한 몇몇 연구의 결과는 다소 당혹감을 준다. 버지니아 주(미국)의 판사 47명에게 동일한 사건을 제시하면서 가능한 판결을 요구했다. 판매하기에 충분한 양의 마약을 소지하고 있다가 발각된 전과 없는 18세 소녀의 사건이었다. 답변의 다양성은 엄청났다. 29명의 판사는 무죄여야 한다고 주장했고 8명은 조건부를 적용했으며 4명은 벌금형을, 3명은 벌금과 조건부를 선택했고 3명은 수감(收監)을 요구했다.

  영국의 판사 81명에게 제시한 다른 가상의 사건에서도 마찬가지의 다양성이 나타났는데 유의미한 추가사항이 하나있었다. 그들 중 다수에게 자신들이 과거에 이미 판결했던 사건이 단지 이름과 성(性)만 바꾸어 제시되었다. 그런데 거의 아무도 같은 판결을 하는 사람이 없었다. 최종 백분율은 거의 우연성의 비율이었다(50%). 사실상 동전을 던져도 같은 결론에 도달했으리라는 것이다. 그렇다면 정의의 이행은 단지 행운(혹은 불운)의 문제일 뿐인가?6)

  알고리즘algoritmo의(곧 계산 방식의) 활용은 일종의 ‘전자 다이제스트’Digesto elettronico를 제공함으로써 상황에 대한그리고 유사한 환경에서 어떻게 행동했는지에 대한 더욱 분명한 개념을 갖게 해 줄 것이다. 어떤 죄수에게 형량 감소나조건부석방을 부여할 것인가 말 것인가 하는 결정을 생각해 보자. 이는 2019년 11월 29일 런던에서 벌어진 일이 극적으로 보여준 딜레마이다. 그날 칼로 무장한 한 남자가 두 사람을 살해하고 나서 행인 몇이 그를 막아서기 전에 다른 세 사람에게 상처를 입혔다. 가해자는 보호관찰 기간 중이었으며 테러로 인한 형량을 절반 못 되게 살았었다. 그에게서 흉기를 뺏은 ‘영웅들’ 중 한 사람 역시 보호관찰 기간 중이었는데 그는 장애 소녀를 살해하여 유죄판결을 받았었으며 그를풀어줄 때 (피해자의) 가족의 항의를 불러일으켰었다.7)

  하나의 동일한 이야기가 상징적인 방식으로 사건의 변수들을 보여준다. 곧 어떤 기준들에 근거하여 보호관찰을 허용할 것인가? 알고리즘algoritmo의 활용은 재범의 가능성을 더욱 정확하게 측정하는 데 도움이 될 수 있을 것인가? 혹은진정으로 삶을 바꾸기로 결심한 사람을 감옥에 잡아두기로 하는 데? 마지막 결정은 늘 판사에게 속한다는 것은 명백하지만 확률의 산출과 유사한 사건들에 대한 역사적 기억은 결정에 소중한 지표와 덜 가변적인 토대를 제공할 수있다.

  그렇지만 상상할 수 있는 가장 정교한 기계라 할지라도 앞으로도 기계가 재생할 수 없을 것으로 보이는 순수하게 인간적인 속성들이 남아 있다.

  언어

  인간의 언어는 엄청나고 신비스러운 복합성을 지니고 있는데, 언어는 어떤 이론이나 프로그램 혹은 축적된 일련의정보에 귀속시킬 수 없기 때문이다. 또한 언어는 정감, 상상, 환상, 상징, 발음의 미묘한 차이, 관계 등과 같은 ‘만져 볼수 없는’ 차원에 닿아 있다. 동시에 언어는 삶의 초기부터 쉽게 익힌다. 어린 아이는 계속되는 반복적 학습의 힘으로 말하기 시작하는 것이 아니고 기본 구조를 스스로 가지고 있기 때문에 말하기 시작한다. “5세의 어린이가 갖추고 있는 언어능력의 복합성은 중단 없이 백 년 이상 지속되는 학습이 필요할 만큼이다.”8) 백 년 동안의 학습도 충분치 않을 것이다. 그런데도 모든 아이는 몇 년 안 걸려 말을 할 수 있게 된다.

  신체성corporeità의 영향이 특별히 중요한데 이는 음성의 다양성과 발음의 미묘한 차이를 가능케 하는 입술 구조와혀의 움직임의 복합성 때문만이 아니다. 어린 아이는 화면 앞에서 혹은 녹화된 프로그램을 그에게 보여주면서 말하기를 배우는 것이 아니라 오로지 관계 안에서만, 곧 어떤 사람과의 접촉을 통해서만, 그의 얼굴의 미묘한 변화와 입술의움직임을 관찰하면서 그리고 그의 음성을 들으면서 말하기를 배운다.9) 다니엘 시겔Daniel Siegel이 말한 것처럼 인간 정신은 애정적 관계 안에서 변화하고 발전하면서 새로운 시냅스 연결을 낳고 이 체험들에서 그 이상의 의미를 포착하는것을 배운다.10)

  언어와 정신 건강

  언어와 그 속성들이 얼마나 정신 건강의 지표가 되는지는 75세에서 107세 사이의 연령대인 678명의 수녀들(성모의학교 수도회Scuole scolastiche di Nostra Signora소속)에 대한 켄터키 대학의 연구가 보여준다. 연구의 목적은 삶의 양식(하루의 일과표, 윤리적 · 종교적 가치의 존재, 영양 섭취, 함께 하는 활동)을 정신건강 상태와 비교하는 것이었다. 계약 조건은 수녀들이 죽을 때 자신의 뇌를 기증한다는 것도 규정해 놓고 있었는데 이는 병의, 특별히 알츠하이머의 가능한 징표들을 알아보기 위해 뇌를 분석하도록 하기 위함이었다.

  하지만 연구자들은 특히 다른 소중한 변수에 의존할 수 있었는데, 그것은 수녀들의 글이었다. 수도회에 들어갈 때수도회 측은 모든 후보자에게 자신의 전기를 쓸 것을 요구했다. 그렇게 해서 수련자들의 표현능력과 그들의 정신건강의 역사를 그 후 수십 년 동안 나타나게 되는 상태로 비교하는 일이 가능했던 것이다. 결과는 그 글에 나타난 언어적 자질(그들이 받은 교육정도와는 무관하게)과 정신 질환에 걸릴 가능성 사이에 상당히 가까운 관계가 있음을 보여주었는데 이는 하나의 놀라운 예후지표가 되었다. “알츠하이머가 진전되었던 수녀들의 90%가 젊은 시절 ‘제한된 언어능력’을 보여주었던 반면 많은 나이에도 인지능력을 보존하고 있던 수녀들의 13%만이 ‘개념밀도densità concettuale가 낮은’ 글을 썼었다.”11)

  연구자들은 또 두 요소 중 어느 것이 다른 요소를 조건 지우는지 의문을 가졌다. 달리 말하자면 내성(內省)inrospezione과 소통의 수준이 낮은 것이 정신 질환을 좌우하는지 혹은 반대로 그것은 현재의 어떤 결함이 가져온 결과가 아닌지 하는 것이다(그 경우에는 알츠하이머 병과 같은 기능장해가 어린 나이 때부터 있었다는 뜻이 된다). 어쨌든 강조할 만한것은 두 요소 사이의 상관관계이다.

  소통하기와 이해하기

  언어와 정신 건강 사이의 관계는 본질적으로 인간 언어의 생물학적이고 신체적이며 살아 있는 차원에 대해서 말해주는데, 인간 언어의 의미론은 극단적으로 복잡하고 부호화가 불가능한 규칙들의 총체를 나타내지만 동시에 모든 이에게 알려져 있다. 이러한 관점에서 어떤 기계나 로봇도 결코 인간 존재처럼 ‘말할’ 수 없을 것이다. 그것들은언어를 이해하지 못하며 일련의 정보를 이용하기 때문이다. 곧 기계 안의 의식의 가능성은 정신과 뇌의 관계라는 풀릴수 없는 해묵은 문제와 인간 존재의 정신과 신체 사이의 관계라는 똑같이 복잡한 다른 문제로 이어지는 것이다. 서로다른 분야의 학문들(철학, 언어학, 심리학, 정신분석학, 신경학, 유전학, 물리학, 화학, 신경 과학의 전체 분야)에 걸쳐있을 뿐 아니라 그 복잡성과 보편적으로 공유될 수 있는 궁극적 결론에 도달하기 어려움을 확인해 주는 여러 가지 상반되는 가설과 이론을 내부에서 보여주는 주제들이다. 또한 두 용어 중 하나를, 곧 정신을 없애려는 시도 역시 성공하지못했다. 뇌와는 달리 정신은 구체적으로 밝히기 어려운, 그리고 뇌로 연결할 수 없고 몸의 조직 전체와 관련되는 수많은 의미들(의식, 영혼)을 제시한다.12) 인공 지능과 관련해서는 기계가 ‘뇌’ 외에 인간에게 있어 몸과 긴밀한 관계를 지닌 ‘정신’, 의식도 가질 수 있는지를 묻는다.13)

  이 기본적인 차이를 이해하기 위해 정신 철학자 존 서얼John Searle은 ‘중국어 방’stanza cinese이라고 불리는 정신 실험을 고안해 냈는데 이는 유명해진 실험이다. 자원한 사람 하나가 자신이 알지 못하는 중국어로 쓰인 질문지가 놓여 있는 방에 보내진다. 이어서 그는 그 글의 각 항목에 응답하기 위해 어떤 기호들을 사용해야 하는지를 가리키는 교재를 받는다. 그가 계속해서 중국어를 모르더라도 결국 답변들은 정확한 것으로 끝난다. 방의 실험은 인간의 언어와 이해하지 못한 채로 받고 보내는 정보의 프로그램 사이의 차이를 보여준다.

  프로그램은 프로세스를 이용하는 반면 언어는 무엇보다도 단어의 의미에 준거하고 상징들을 이용하는데, 이는 언어학에서 ‘의미론’이라는 용어에 포함되어 있는 것이며, 컴퓨터의 프로그램 안에는 없는 것이다. 바로 ‘프로그램화할수’ 없기 때문이며, 특히 생물학적·정감적 함의(含意)를 드러내기 때문이다. 앞에서 지적했듯이 이는 언어학의 커다란수수께끼들 중 하나이자 또한 인간 존재의 독특한 요소이다.

  서얼은 이에 관한 자신의 입장을 이렇게 요약한다. “1) 프로그램은 완전히 통사론적(統辭論的)sintattici이다. 2) 정신은 의미론semantica을 가지고 있다. 3) 통사론은 (의미론과) 같은 것이 아니며 그 자체로는 의미론을 위해 충분치 않다.”14) 다른 말로 하면 프로그램과 의미 사이에는 질적인 도약이 있는 것이다. 인간 존재들은 기계와는 달리 알고리즘algoritmi에 의해 프로그램화되어 있지 않다. 그래서 대체로 하나의 알고리즘이나 기계로 축소할 수 없을 뿐만 아니라순전히 물질적인 차원으로도 축소할 수 없는 어떤 차원을 가리켜 ‘창발’emergenza(뭔가 초과하여 발생한 어떤것이라는 의미에서)이라는 용어를 사용한다.15)

  이 질적인 도약은 스탠리 큐브릭Stanley Kubrick의 유명한 영화 ‘2001: 스페이스 오디세이Odissea nello spazio’에 의해 시각적으로 표본이 되는 방식으로 드러났다. 이 영화에서는 우주비행사와 우주선 안에 있는 메가컴퓨터할Hal 9000 사이의 대화가 나오는데 이 메가컴퓨터는 모든 작동을 절대적으로 조종한다. 어떤 계산착오에 이어 사령관이 그것을 제거하기로 결정할 때 할은 팀의 구성원들을 죽이기 시작한다. 살아남은 우주비행사는 그에게 우주비행사들의 사명의 의미와 삶의 가치를 보여주고자 하나 헛일이다. 할은 이런 문제를 이해할 능력이 없으며 연결이 끊어질 때까지 프로그램화된 것을 계속하여 반복한다.

  기계에는 도덕이 있는가?

  언어처럼 도덕적 체험 역시 어떤 체계나 철저한 이론으로 귀속시키려는 어떤 시도로도 축소될 수 없는 복합성을 드러낸다. 이는 오랫동안 철학을 성가시도록 괴롭혀 온 문제이다. 이에 관한 칸트의 생각은 상징적이다. 그는 앎과 행동의 최고 법칙을 정립하고자 했으나 결국에는 도덕의 독특한 특징은 스스로 자신을 부과하는 선험적a priori 이상(理想)으로 나타난다는 것임을 인정하지 않을 수 없게 된다. 곧 도덕은 학습될 수 없으며 동시에 모든 사람에게 존재하는 것이다.

  『윤리 형이상학 정초(定礎)』Fondazione della metafisica dei costumi에서 칸트는 윤리적 요구의 복합성을 “정언(定言)명령”imperativo categorico이라는 용어로 요약하는데, 이는 체험을 규제하는 동시에 항상 체험을 넘어서 있다. 그는 도덕성의 가능성을 위한 조건을 명확히 제시할 수 없기에 도덕성은 하나의 신비라는 것을 주목하면서 자신의 분석을 마친다. 그것은 결코 온전히 실현되는 일 없이 선택을 방향 짓는 어떤 것이다. 그리고 그것은 또한 인간의 존엄성을 증명하는것이기도 하다.16)

  이와 유사한 수수께끼 하나는 도덕적 악(惡)의 체험에서 나온다. ‘근원적인 악에 대한 논문’Saggio sul male radicale에서쾨니히스베르크의 철학자는 악의 뿌리는 행할 바에 대한 무지가 아님을 인정한다. 윤리적인 문제는 활용할 수 있는 정보의 실체와 연관되어 있는 것이 아니기 때문이다. 오히려 이성은 개입하기 위한 요인들을 가지고 있음에도 이상하게그렇게 하지 않는다. 왜 그럴까? 칸트는 그것을 말할 능력은 없지만 무지가 아니라 오히려 악함cattiveria인 것은 확실하다.17) 그래서 도덕적 체험은 ―다른 말로 하면 선악의 존재는― 인간 행동에 대한 순전히 이성적인 접근을 부정한다. 규범으로 환원될 수 없는 불가사의한 어떤 ‘밑바탕’이 있다. “이 악은 근원적이다. 모든 기본 원칙의 원리를 부패시키기 때문이다. 동시에 다른 한편으로는 자연적 성향으로서 인간의 힘으로 파괴될 수 없는데, 이 파괴는 선한 원칙을 통해서가 아니면 일어날 수 없기 때문이다. 그런데 모든 원칙 중 최고인 주관적 원리가 부패한 것으로 추정된다면이는 불가능하다…). 우리에게는 도덕적 악이 처음으로 우리 안에 들어올 수 있었던 그 어떤 이해할 만한 원인도 없다”.18)

  하나의 언어를 익히는 것과 유사한 방식으로 도덕에 있어서도 일종의 “보편적 문법”이 있는데, 양심은 이에 접근할수 없으며, 단순히 그 자체를 발견할 뿐이며 이는 능력보다는 오히려 감정에 연결되어 있다. 사실 정감적이지 않고 정신병을 가진 사람들은 바로 이 분야에서 결핍을 드러낸다. 대뇌신경학 분야에서 안토니오 다마시오Antonio Damasio에의해 이루어진 연구는 뇌엽절제수술lobotomizzazione이, 곧 뇌신 피질의 전두엽(감정의 자리)의 제거가 평가능력에 중대한 결핍을 가져온다는 것을 보여주면서 차갑고 감정이 없는 정신이 현명한 결정을 하기 위한 최상의 조건에 든다는 다소 공통된 편견을 거부한다. 실제로는 정확히 그 반대임이 발견된다. 다마시오는(종양을 제거하기 위해서 행했던) 뇌엽절제수술 후에 지적 능력, 언어능력, 소통능력과 이해력을 고스란히 보존하고 있지만 감정은 완전히 사라져 버린 엘리오트Elliot라는 어떤 환자의 경우를 이야기한다. 그와 같은 감정의 박탈은 그를 “상상할 수 있는 가장 차갑고 가장 감정적이지 않은 지적인 인간이 되게 했다. 하지만 그의 실천이성은 대단히 손상되어 일상생활의 일들 안에서 연속적 실수들을 낳고 여러분과 내가 개인적인 관점에서 사회적으로 적절하고 유익하다고 여길 만한 것들을 지속적으로어겼다”.19)

  다마시오는 손상이 발달연령에서 발생한다면 사람들은 심지어 기초적인 윤리규정조차 익히지 못하게 된다고 덧붙인다. 이 포르투갈 의사의 결론은 도덕적 행동은 본질적으로 정감에 닿아 있으며 정감이 결핍될 때 어떤 형태의 교육으로도 보충될 수 없다는 것이다. “그러니까 더 놀랍고 새로운 것은 정서와 감정의 부재가 덜 해로운 것이 아니고 우리를고유하게 인간답게 하고 개인적 미래와 사회적 관습 그리고 도덕에 대한 감각과 조화를 이루는 결정을 할 수 있게 해주는 합리성을 덜 위태롭게 하는 것이 아니라는 것이다. 이는 어떤 행동을 할 때 우리에게 있어 결정을 하는 것이 감정이라거나 우리가 이성적 존재가 아니라고 말하는 것과 같은 것도 아니다. 나는 그저 정서와 감정의 프로세스가 지닌 어떤 요소들은 합리성에 불가결하다는 것을 시사하는 것이다”.20)

  칸트의 분석과 다마시오의 연구는 인공 지능의 진행방식에 관해 또 다른 의미있는 차이를 가려내는 데 도움을 줄 수있다. 이는 곧 소위 ‘윤리적 딜레마’의 경우인 것이다.

  윤리적 딜레마

  윤리적 딜레마는 이중 효과에 대한 숙고와 연결되어 있는데,21) 이는 특히 영국의 철학자 필리파 룻풋Philippa Ruth Foot의 작품으로 유명해졌다. 그녀는 통제를 벗어난 기차의 한 차량의 예를 든다. 이 차량은 작업 중인 한무리의 노동자들 위로 덮칠 위험이 있는데 노동자들에게 이를 알려 줄 어떤 방법도 없다. 하지만 교환 레버를 작동시킬수는 있으며 그렇게 하면 그 차량은 폐기된 철로로 들어서게 되는데 거기서는 노동자가 한 명만 일하고 있을 뿐이다.무서운 하지만 불가피한 차악(次惡)의 선택인 것이다. 차이는 단지 수(數)에만 있지는(한 무리의 사람들과 단 한 사람의차이) 않으며, 무엇보다 책임의 관점에서 차이가 나타나는데 후자의 경우에는 의도적으로volutamente 차량을 폐기된 철로 쪽으로 돌림으로써 노동자 한 사람을 죽게 하기 때문이다.22) 더 비극적인 형태의 딜레마는 그가 레버를 작동하는사람과 애정으로 연결된 사람(친구나 친척)일 경우이다.

  기계는 윤리적 딜레마에 어떻게 반응하는가? 운전기사가 없는 자동차 역시 더 적은 악을 선택할 것이지만 사람을죽인 데 대해 죄책감을 느끼지는 않을 것이다. 인간 존재에게는 그렇지 않다. 다른 방도가 없었다고 해서 끔찍한 선택을 한 데 대한 유감과 비탄이 경감되지 않는다. 이는 앨런 파쿨러Alan Pakula 감독의 유명한 영화로 만들어진 윌리엄 클라크 스타이런William Clark Styron의 소설 『소피의 선택』La scelta di Sophie의 사건이 잘 보여준다. 주인공 소피는아우슈비츠로 이송될 때 무시무시한 선택 앞에 서게 된다. 한 가학적 감시병이 두 자녀 중 누구의 삶을 가스실에서 끝나게 할 것인지를 결정하도록 그녀에게 강요하는 것이다. 거절하면 둘 다 죽을 것이었다. 절망에 빠진 소피는 아들을자신이 데리고 있는 쪽을 선택하면서 간수가 생각을 바꾸기를 바라지만 그런 일은 안타깝게도 일어나지 않는다. 소피는 이어지는 세월내내 마음 안에서 이 일의 무게를 견디다 못해 결국 자살하고 만다.

  윤리적 딜레마는 알고리즘에 기초하여, 곧 최소의 경비로 최대의 결과를 계산함으로써 해결될 수는 없다. 인간 존재에게는 이것으로 충분치 않다. 책임을 느낀다는 것 은 질적으로 다른 어떤 것, 곧 양심의 가책, 후회, 슬픔, 죄책감, 속죄로 이어지는 것이다. “공리주의적(결과론적) 윤리는 진정한 도덕적 딜레마의 존재를 부정한다. 이 부정의 이유는명백하다. 행동이 최적화의 기준을 토대로 하여 평가된다면 어떤 갈등도 있을 수 없다…). 디지털 컴퓨터는 튜링 기계macchine di Turing (옮긴이: 이론전산학에서 긴 테이프에 쓰여진 여러가지 기호들을 일정한 규칙에 따라 바꾸는 기계)로정의되며 일의적(一意的)인 결과를 제공한다. 이것만으로도 이미 실천 이성의 모델이 될 수 없다.”23) 딜레마 앞에서 기계는 불확실한 상태가 될 것이지만 죄책감을 느끼지는 않을 것이다. 그리고 소피와는 반대로 자살에 이르지도 않을 것이다.

  디지털 휴머니즘을 위하여

  새로운 발견들이 인간의 삶에 가져올 수 있는 혁신과 있을 수 있는 퇴보ricadute는 모든 시대의 철학과 문학이, 모든혁신은 새로운 가능성들을 펼치는 반면에 오래 된 질문들을 다시 제기한다는 사실에 초점을 맞추면서, 오랫동안 탐구해 온 주제이다. 이 주제들 중 특별히 몇 가지가 이 글에서 언급되었다. 양심, 책임, 소통, 권력, 윤리 라는 주제는 모든시대와 사회에 질문을 던지는 문제들이요 무시될 수 없는 것들이다.

  마르틴 하이데거Martin Heidegger는 현대의 기술 지배에 대한 유명한 분석에서, 중심이 되는 문제는 그런 지배를 알아차리는 데 있지 않고 오히려 인간이 있을 수 있는 유익함과 손실을 가늠하면서 그런 현실을 비판적이고 의식적인 방식으로 살아갈 준비가 되어 있지 않다는 사실에 있음을 주목한다. 하지만 삶의 지혜적 차원과의 대조를 배제하면 기술적사고mentalità tecnologica는 위험하게 어리석음과 의미의 상실에 다가설 위험이 있다.24)

  율리안 니다뤼멜린Julian Nida-Rümelin과 나탈리 바이덴펠트Nathalie Weidenfeld는 영화 ‘2001: 스페이스 오디세이Odissea nello spazio’에 나오는 우주 비행사와 할HAL 9000 사이의 대화를 해설하면서 컴퓨터가 빨갛고 검은 ―그리스도교적 상상이 지옥의 색이라고 간주하는― 유리 눈의 모습을 가진 것은 우연이 아니라는 점에 주목한다. “지옥은 인간이 삶과 죽음에 대한 권력을 결과주의적 방식으로 프로그래밍된 컴퓨터에게 부여한 곳이다. 컴퓨터는 진정으로 생각할 능력이 없다.”25)

  데이터와 자원의 늘어난 양은 결국에 가서는 인공 지능이 최대한 제안할 수는 있지만 결코 최종적 국면이 될 수는없다는 평가를 하게 한다. 문제가 되는 도전은 나예프 예햐Naief Yehya가 효과적으로 잘 요약해 주었다. “컴퓨터로 우리는 인간의 거의 모든 문제를 통계, 그래프, 방정식으로 변형시킬 수 있다. 하지만 참으로 우리를 불안하게 하는것은 그렇게 함으로써 우리는 이 문제들이 컴퓨터로 해결할 수 있는 문제들이라는 환상을 만들어 낸다는 것이다.”26)

  “디지털 휴머니즘”(니다뤼멜린Nida-Rümelin과 바이덴펠트Weidenfeld의 책의 제목을 따라)을 내다보면서 기술적 혁신과 인문학 사이의 대화가 전점 더 주의 깊게 이루어져야 할 필요가 여기에서 나온다. 문제가 되는 도전에 대한 토론과실행해야 할 결정은 궁극적으로는 애초부터 항상 호모 사피엔스Homo sapiens인 인간의 손에 언제나 남아 있어야 하는것이다.


 

성경·교회 문헌 © 한국천주교중앙협의회
1) Cfr A. Spadaro – Th. Banchoff, «Intelligenza artificiale e persona umana. Prospettive cinesi e occidentali» 인공 지능과 인간 존재. 중국과 서구의 관점), in Civ. Catt. 2019 II 432-443. 이 주제를 다루는 데 있어 주요한 문제들(공학, 심리학, 철학의 여러 학문 분야에 질문을 던지는) 중 하나는 정확한 정의를 제공하는 문제이다. 로베르토 코르데스키Roberto Cordeschi는 인간 지능의 개념으로 거슬러 올라가면서 인공 지능을 “계산기를 위한 프로그램으로, 혹은 움직이는 로봇으로 인간들 안에서, 더 일반적으로는 생명체들 안에서 관찰될 때 ‘지능적’intelligenti이라고 정의될 만한 행위를 재생하는” 능력으로 정의한다“(R. Cordeschi, «Intelligenza artificiale» 인공 지능), in Enciclopedia filosofica, Milano, Bompiani, 2006, vol. 6, 5734).
2) H. Fry, Hello World. Essere umani nell’era delle macchine 헬로 월드. 기계의 시대에 인간이기), Torino, Bollati Boringhieri, 2019, 25s.
3) Cfr S. Danziger – J. Levav – L. Avnaim- P e s so – D. Kahneman , «Extraneous factors in judicial decisions» 사법 결정에 있어서의 외부요인들), in Proceedings of the National Academy of Sciences of the United States of America 미국의 국립 과학 아카데미의 소송) 108 (2011) 688-692; K. Weinshall-Margel – J. Shapard, «Overlooked factors in the analysis of parole decisions» 가석방 결정 분석에서 간과된 요소들), ivi 108 (2011) E 833; H. Fry, Hello World…, cit., 77.
4) Cfr J. Rojas, «London riots: Lidl water thief jailed for six months» 6개월간 감옥에 갇힌 물좀도둑), in The Telegraph,  11 agosto 2011; D. Mills, «Paul and Richard Johnson avoid prison over riots» 폴과 존슨은 폭동에 대해 감옥을 피하다), in News Shopper, 13 gennaio 2012; H. Fry, Hello World…, cit., 55 s.
5) Cfr, 예컨대, P. Garbolino, Probabilità e logica della prova 확률과 증거의 논리), Milano, Giuffrè, 2014; A. Costanzo , L’argomentazione giuridica 법적 주장), ivi, 2003 ; Id., Logica giudiziaria 사법 논리), Roma, Aracne, 2015.
6) Cfr W. Austin – Th. A. Williams III, «A Survey of Judges’ Responses to Simulated Legal Cases: Research Note on Sentencing Disparity» 법률 소송사건들의 시뮬레이션에 대한 판사들의 답변 개요), in Journal of Criminal Law and Criminology 68 (1977/ 2) 306-310; M. K. Dhami, «Bailing and jailing the fast and frugal way» 빠르고 경제적인 방식의 보석과 투옥), in Journal of Behavioral Decision Making 14 (2001/2) 141-168; H. Fry, Hello World…, cit., 56s.
7) «Londra, l’attentatore era in libertà vigilata. L’uomo che lo ha bloccato è un omicida» 가해자는 보호관찰 기간 중이었다. 그를 막아선 사람은 살인범이다.), in http://www.rainews.it/dl/rainews/articoli/Londra-attentatore-era28enne-Usman-Khan-in-liberta-vigilata-era-stato-c ondannato-per-terrorismo-Attacco-anche-Aja-1ff39587-f84e-496f-a4a6-8149e5110959.html
8) E. Rigotti, «La linguistica strutturale» 구조 언어학), in S. Vanni Rovighi (ed.), Storia della filosofia contemporanea 현대철학의 역사), Brescia, La Scuola, 1980, 647 s; cfr N. Chomsky – G. Miller, «Modelli finiti di utenti linguistici» 언어사용자의 종료된 모델), in N. Chomsky, Saggi linguistici. I. L’analisi formale del linguaggio 언어학 논문집 I. 언어의 형태분석), Torino, Boringhieri, 1969, 288-375.
9) Cfr P. K. Kuhl – F. M. Tsao – H. Liu, «Foreign-language experience in infancy: Effects of short-term exposure and social interaction on phonetic learning» 유아기의 외국어 체험: 단기간의 노출과 사회적 상호작용이 음성학습에 미치는 효과), in Proceedings of the National Academy of Sciences 100 (2003) 9096-9101; M. Spitzer, Demenza digitale 디지털 치매), Milano, Corbaccio, 2016, 191 s.
10) “인간관계의 체험은 뇌에 근본적인 영향을 미친다. 사회적 인지를 중재하는 회로들이 의미의 귀속을 조종하는 과정, 신체 기관의 기능 조절, 감정의 조절, 기억의 구성 그리고 소통의 능력을 통합하는 역할을 담당하고 있는 신경들과 긴밀하게 상호연관을 맺고 있기 때문이다. 인간 상호관계의 체험은 유년기의 뇌구조의 발달을 규정함에 있어 그리고 우리의 삶이 지속되는 동안 뇌의 활동을 형성함에 있어 결정적인 조직적 역할을 수행한다”(D. J. Siegel, La mente relazionale. Neurobiologia dell’esperienza interpersonale 관계적 정신. 대인관계 체험의 신경생 물학 ), Milano, Raffaello Cortina, 2013, 32).
11) H. Fry, Hello World..., cit., 92; cfr D. Snowdon, «건강한 노화와 치매: 수녀들에 대한 연구를 통한 발견», in Annals of Internal Medicine 139 (2003) 450-454. «지적 밀도Densità intellettuale»는 언어 복합성의 정도를, 예를 들어 한 문장 안에 얼마나 많은 개념이 들어 있는지, 그리고 그 개념들이 적절한 방식으로 쓰였는지를 가리키기 위해 사용된 하나의 변수이다(cfr L. Frazier, «Syntactic complexity» 구문의 복합성), in D. Dowty – L. Karttunen – A. Zwicky eds), Natural Language Parsing. Psychological, Computational, and Theoretical Perspectives 자연언어의 구문분석. 심리학적, 전산적, 이론적 관점), Cambridge, CUP, 1985, 129-189; O. Dahl, The Growth and Maintenance of Linguistic Complexity 성장과 언어 복합성의 보존), Amsterdam – Philadelphia, Benjamins, 2004).
12) 일련의 질문들을 위해서는 다음을 참조하라. S. Moravia, «Mente» 정신), in Enciclopedia filosofica 철학 백과사전), Milano, Bompiani, 2006, vol. 8, 7268-7286; M. Käusbauer, «Mente, Filosofia della» 정신의 철학), ivi, 7286-7299; A. Antonietti, «La mente tra cervello e anima» 뇌와 영혼 사이의 정신), in Rivista di Filosofia Neo-scolastica 97 (2005/2) 211-242.
13) 시겔은 정신을 정의하면서 어떤 식으론가 “건강한 신체에 건강한 정신”이라는 격언의 진실을 가리키고 있다. “정신은 에너지의 흐름과 정보를규제하는 구현된 그리고 관계적인 과정이다(La mente relazionale…, 관계적 정신) cit., 1). 이 때문에 정신은 뇌의 활동으로 한정되지 않고 일단 뇌가발전을 멈추어도 확장을 멈추지 않으며, 인간의 전체성globalità에 그리고 고대인들과 중세인들이 ‘이성적 영혼’이라고 불렀던 인간의 의식에 관련된다(cfr Aristotele, De anima II, 2, 413 b 26; Sum. Theol. I, q. 75).
14) J. Searle, Il mistero della coscienza 의식의 신비), Milano, Raffaello Cortina, 1998, 9; cfr 8.
15) Cfr A. Ventura, «Inconsistenza fondativa dell’eraclitismo naturalistico», in Rivista di Filosofia Neo-scolastica 111 (2019/1) 45-49; S. Galvan, «Godel e il modello computazionale della mente», ivi 96 (2004/1) 145-174; A. Corradini – N. Gay – G. Lo Dico, «Emergenza: le origini di un concetto», ivi, 263-279. Sono grato al prof. Antonino Ventura, docente presso l’Università Cattolica di Brescia, per queste indicazioni.
16) «우리가 도덕적 명령의 무조건적 실천적 필요성을 확실히 알지 못한다면. 하지만 합리적인 것으로서 그 알 수 없음을 안다면 인간 이성의 한계에 이를 때까지 원칙들을 밀어가는 철학에 물을 수 있다» (I. Kant, Fondazione della metafisica dei costumi, Bari, Laterza, 1979, 108; cfr M. Kuehn,Kant. Una biografia, Bologna, il Mulino, 2011, 421 s).
17) «‘인간은 악하다’라는 문장은 ‘인간은 도덕의 법칙을 알고 있다. 그럼에도 원칙적으로 (때로는) 이 법에서 멀어지는 것을 채택했다’는 말에다름 아니다» (I. Kant, «악한 원리가 선한 원리 옆에 공존함에 대하여, 혹은 인간 본성 안의 근원적인 악에 대하여», in Id., La religione entro i limiti della sola ragione이성의 한계 안에서의 종교), Bari – Roma, Laterza, 1985, 32).
18) 같은 곳, 38.45-46; 강조는 원문에 있는 것임.
19) A. Damasio, L’errore di Cartesio 데카르트의 오류), Milano, Adelphi, 1995, 17s.
20) Ivi, 19.
21) 이중 효과(의 원리)는 두 가지 서로 다른 결과, 곧 긍정적인 결과(직접 의도된)와 부정적 결과(간접적인)를 가진 하나의 행동의 합법성을정당화하는 윤리 이론이다.
22) Cfr Ph. Foot, «The Problem of Abortion and the Doctrine of Double Effect», in Oxford Review 5 (1967) 5-15; Id., Moral Dilemmas: and Other Topics in Moral Philosophy, Oxford, Clarendon, 2002; D. Edmonds , Uccideresti l’uomo grasso? Il dilemma etico del male minore, Milano, Raffaello Cortina, 2014; J. D. Greene et Al., «An fMRI investigation of emotional engagement in moral judgment», in Science 293 (2001) 2105-2108.
23) J. Nida-Rümelin – N. Weidenfeld, Umanesimo digitale. Un’etica per l’epoca dell’Intelligenza Artificiale 디지털 휴머니즘. 인공 지능 시대를 위한 윤리). Milano, FrancoAngeli, 2019, 98; cfr J. J. Smart – B. Williams, Utilitarismo: un confronto 공리주의:하나의 대조), Napoli, Bibliopolis, 1985.
24) Cfr M. Heidegger, «La questione della tecnica» 기술의 문제), in Id., Saggi e discorsi 논문과 연설), Milano, Mursia, 1985, 5-27; Id., L’abbandono 버림), Genova, il melangolo, 1986, 36.
25) J. Nida-Rümelin – N. Weidenfeld, Umanesimo digitale… 디지털 휴머니즘), cit., 109.
26) N. Yehya, Homo cyborg. Il corpo postumano tra realtà e fantascienza 호모 사이보그. 실재와 공상과학 사이의 포스트휴먼 몸), Milano, Eleuthera, 2005, 15.