디지털 시대의 공유 윤리 추구

Una ricerca etica condivisa nell’era digitale

© La Civiltà Cattolica, Q 4075, 4 Apr 2020 II, 40-43
카를로 카살로네 Carlo Casalone 신부 (예수회)
안소근 실비아 수녀(성 도미니코 선교 수녀회) 옮김

  “문제는 과연 실제로 자유롭고 공정한 선거를 다시 할 수 있는지 여부입니다. 그래서 제가 묻고 싶습니다. ‘이것이 여러분이 원하는 것입니까?’. 역사가 여러분을 전세계에서 커져가고 있는 권위주의의 종들로 기억하기를 바랍니까?”1)이것은 영국 일간지 가디언Guardian의 기자 캐롤 캐드월래더Carole Cadwalladr가 유명한 TED 강연에서 실리콘밸리의 사람들에게 던진 질문이다. 이 강연은 조회수가 거의 4백만 회에 이르렀다.

  여기서 고찰한 사례는 광고회사인 케임브리지 애널리티카Cambridge Analytica 정보 유출 사건이었다. 이들은 수백만 명의 페이스북 프로필에서 취한 정보를 [본인들의 동의 없이 무단으로] 사용하여 2017년 미국 대통령 선거와 2018년 브렉시트 국민투표에 영향을 미쳤다. 가디언과 뉴욕타임즈는 이 소셜 네트워크가 적극적으로 정보 수집을 한 것은 아니라 하더라도 그것을 가능하게 했고, 그 다음에는 이를 과소평가하고 은폐했다고 비판했다. 한편 페이스북은 불법 정보수집을 케임브리지 애널리티카 탓으로 돌렸다. 이 사건은 인터넷에서 수집된 막대한 양의 정보에 감추어진 힘을 드러냈다. 적절한 알고리즘으로 그것을 처리한다면 개인적 결정들에 영향을 미치고 사회와 정치 영역에서 중대한 결과들을 초래할 수 있다.

    오늘날에 더 가까운 예로, 중국과 한국에서 앱을 이용한 지리-위치 정보로 사람들의 이동과 만남들을 추적했던 것을 생각해보자.2) 이는 한편으로는 코로나 19의 감염 확산을 막기 위한 예외적 상황때문에 도입된 것이지만, 다른 한편으로는 그로 인해 전례없이 정확하고 세밀한 사회적 감시가 정당화되었다.3) 우리는 새로운 기술의 사회적 수용을 선호하는 상황에 직면하고 있으며, 이는 일종의 생명정치biopolitica 논리로 가해지는 신체에 대한 통제 방식을 은폐할 위험이있다.

    이러한 사건들에서 드러나는 자유의 조작은 새로운 디지털 기술을 당연히 긍정적으로 또는 적어도 중립적인 것으로여기는 모든 순진한 해석에 장애물로 작용한다. 실상 새로운 기술들은 각각 고립된 영역에서 발전되는 것이 아니라, 서로 긴밀하게 연결되어 있다. 그래서 이들은 “등장하고 수렴되는 것들”emergenti e convergenti 로 정의된다.4) 이들은 NBIC라는 약자로 분류되는데, 여기에 속하는 것은 ‘나노미터’ 크기의5)  물질에 대한 체계적 연구, 생명공학 (유전학 포함), 정보기술, 그리고 인지과학이다[Nanotechnology, Biotechnology, Information technology and Cognitive science]. 한편으로 컴퓨터와 알고리즘이 유전자에 대하여 지금까지 상상할 수 없었던 개입을 기획할 수 있다면, 다른 한편으로 정보처리 시스템에 관한연구는 신경과학 연구 결과물에서 영감을 얻는다. “신경망”이나 기계학습, 또는 정보들을 보관하기 위하여 DNA와 같은 생물학 모델을 사용하는 아이디어를 생각해 보라.

  프란치스코 교황은 교황청 생명과학원 25주년에 보낸 서한 『인간 공동체』Humana communitas에서 이러한 변화의 깊이la profondità di questa trasformazione를 강조했다.6) 같은 서한에서 교황은 교황청 생명과학원이 이 문제를 더 유기적으로연구할 것을 촉구했다. 교황청 생명과학원이 최근 개최한 두 번의 연례 학술대회는 이러한 방향에 있는 것으로, 각각로봇 윤리7)와 인공지능8)을 주제로 했다.

  본고에서는 먼저 그 마지막 회합 참석자들에게 교황님이 하신 연설에 대해 다루고, 거기에서 몇 가지 요점을 지적할것이다.9) 둘째 부분에서는 그 회합을 끝맺으면서 이루어진 중요한 계기를 검토할 것이다. 그것은 기업들과 국제 기관및 교회 기관들이 서명한 디지털 세계의 윤리 규정에 관한 문헌이 제시된 것이다.

    디지털 세계와 윤리의 변화

   “‘디지털 은하’, 특히 소위 ‘인공지능’은 우리가 살고 있는 시대의 중심을 차지하고 있습니다. 디지털 혁신은 개인과 사회 생활의 모든 면들과 관련된다. 그것은 우리가 세상과 우리 자신을 이해하는 방식에도 영향을 미칩니다”(2020, 2.28 교황 연설). 프란치스코 교황은 곧바로 신기술을 너무도 자주 환원적인 방식으로 바라보는 순진한 해석을 피한다. 기술들을 개별 과제들을 더 신속하고 효율적으로 수행하는 능력을 기준으로만 고찰하고 그 긍정적 측면을 칭송하는것으로는 충분하지 않다. 지속적으로 향상되는 계산 성능과 일부 진단의 정확성을 생각해 보라. 알고리즘은 의사들보다 더 정확히 더 빠르게 진단하고 예측까지 가능하다.

  하지만 [새로운 기술들은] 우리 삶의 거의 모든 영역들에 스며들고 널리 퍼져 있어, 개별 영역들에 국한된 도구들로머물지 않고 오히려 이미 우리 눈에 띄지도 않는 힘들이 되었다. 이들은 우리 일상의 세계 안에 녹아들었다. 이들은 인식과 작용 능력을 강화할 뿐만 아니라 정신적 및 관계적 태도를 제어하고 방향 짓는 참되고 고유한 형식들을 결정할 수있게 되었다.

  여기에서부터 깊은 변화가 일어나게 된다. 새로운 기술들은 “지금까지 분명하게 구별되는 것으로 여겨졌던 경계들을 모호하게 만들기에 이른다. 무기물과 유기물, 현실과 가상, 고정된 정체성과 끊임없이 서로 관계를 맺는 사건들의경계가 흐려진다”(교황 연설). 인공물을 자연물로부터 구별하기가 점점 더 어려워지고(생체 기관을 만드는 것이나 생물학적 조직과 전자공학적 요소들의 결합을 생각해 보라), 사물들의 고립된 존재보다는 (변수들 사이에, 네트워크 안에서의) 관계를 점점 더 강조하게 된다.10)

    인간 존재의 자기 이해 역시, 관계와 정보의 중심성을 강조한다. 유기체는 정보에 근거하여 작용하며, 다른 유사한유기체들과 연결되어 있고, 다른 정보적, 자연적 및 인공적 주체들과 환경을 공유하고 있다. 이것이 ‘인포스피어’infosphere라는 단어가 지칭하는 것이다.11) 우리가 그 안에 살고 있고 연결들이 점점 많아지고 있는 현실 안에서는, ‘온라인’인지 ‘오프라인’ 인지를 묻는 것도 더 이상 의미가 없다. 우리가 ‘온라이프’onlife를 산다고 하는 편이 오히려 정확할 것이다. 일부에서는 삶과 디지털 세계 사이의 풀 수 없는 긴밀한 관계를 표현하기 위하여 그러한 신조어를 사용하기도 한다.12) 상호 작용들은 인간과 기계 장치 사이에서만 일어 나는 것이 아니라, 기계 장치들 사이에서도 일어난다. 소위 사물 인터넷의 경우에서와 같이, 흔히 우리는 그 작용들을 깨닫지도 못한다.

    개인적 영향과 사회적 결과

  이로써 우리의 지적인 전망과 상상도 변화되어, 많은 새로운 표상들이 생겨나고 각자의 신체적 기초의 내밀한 작은한 부분에까지도 영향을 미친다. 우리가 공간과 시간을 사는 방법도 변화시킨다. 거리는 축소되어, 멀리 있는 대상이나소식들을 우리가 바로 접할 수 있게 된다. 작용들은 빨라져서, 우리는 찾는 것을 신속하게 얻을 수 있게 되었다. 거리가축소되면서, 경계와 차이도 감지되지 않는다.13) 지리에 대한 우리의 이해도 달라진다. 우리는 우리가 살고 있는 그 영역으로부터 다른 지역들로 연결되기 때문이다. 역사 기록도 달라진다. 우리가 축적하는 정보들의 유산은 이제 더 이상여러 세기를 거치면서 전해 내려온 것이 아니라, 디지털화된 것이기 때문이다. 인간의 기억은 기억과 망각 사이에서 끊임없이 왔다 갔다 하지만, 기계는 정보가 삭제되지 않는다면 우리가 저장하는 모든 것을 보관한다. 망각과 삭제, 이 두가지는 과거를 다루는 매우 다른 두 방법으로서, 우리가 누구인지를 정의하고 집단 기억을 구성하는 데에 강한 영향을미친다.14) 그러므로 시간, 공간, 의식을 지각하는 방식에 대해 질문하는 것이 필요하게 된다.15)

    개인의 전망에서 사회경제적 차원으로 넘어간다면, 여기에서 더 주의 깊게 고려해야 할 것은 “소비자들”이 소수의사적 주체들의 이익에 종속될 위험이 있다는 것이다. 사이버 항해를 하는 이들이 – 대개는 알지 못한 채 – 남기게 되는디지털 상의 흔적들은 거대한 창고에 축적되고 보존된다. 알고리즘으로 검토된 자료들은 분석 대상이 된 사람의 행위와 감정들을 알고 예측할 수 있게 해줄 뿐만 아니라, 케임브리지 애널리티카(Cambridge Analytica) 정보 유출 사건에서보았듯이 그들의 결정과 태도를 조작할 수 있게 해 준다.16) 정보들을 또 하나의 석유처럼 보는 표상은, 그것을 행위들을 예측하는 시장에 판매함으로써 끌어낼 수 있는 엄청난 수익을 잘 부각시키기는 하지만 그 개념을 분명하게 보여주지는 못한다. 마이크로소프트 사의 현 사장이 말하듯이, 정보들은 오히려 “우리가 숨쉬는 공기”와 같다.17)

    “몇몇 사람들이 우리에 대해 모든 것을 알고 있고 반면 우리는 그들에 대해 전혀 알지 못한다는 이 비대칭성은, 비판적 사고와 의식적인 자유의 행사를 마비시킨다. 불평등은 극대화되고, 지식과 부는 소수의 손에 축적되며, 이는 민주사회에 중대한 위험을 가져온다”(교황 연설). 인간 가족이 사용할 수 있고 모든 이들이 거기에 접근할 수 있어야 하는그 선들에 대한 참여와 공유를 촉진하기 위하여, 새로운 기술들이 가져오는 엄청난 가능성을 흐리게 하는 이러한 왜곡들에 주의를 기울여야 한다.

    생명의 개념

  프란치스코 교황은, 새로운 검토가 필요한 개념들 가운데에서 교황청 생명 과학원에게 특별한 중요성을 갖는 두 가지를 지적한다. 그 첫째는 “인간 생명”이다. 다시 한번 우리는 살아있는 유기체에 개입할 수 있는 새로운 가능성을 볼수 있게 되고, 그뿐 아니라 해석의 새로운 방식들을 보게 된다. 우리는 생물학적 과정들을 섬세한 도구들로 탐구하고, 전대미문의 변화의 원천이 되는 세세한 크기의 질서로 내려간다. 예를 들어, “연장된 정신” 개념이나 동물들 안에서 그들의 유전적 발현이나 환경적 선택을 위해 존재하는 작은 기관들의 역할은, 개별 생명체들을 구별해 주는 경계가 전에우리가 생각하던 것보다 덜 뚜렷하다는 것을 보여 준다.18) 현대 문화의 배경 안에서 생명 개념을 다시 생각하기 위해서는, 실험적인 경험 과학들과 인문학적 지식 사이에 다리를 놓는 것이 필요하다. 인간 생명의 “생물학적인 구성적 차원”을 “그 축소할 수 없는 전기적 특성”과 연결해야 하는 것이다. “살고 있는 삶과 이미 살았던 삶 사이의 관련과 통합은, 기능적 측면의 단순한 이념적 계산을 위해 제거될 수 없다”(교황 연설). 현대의 연구가 이러한 의미의 심화를 위하여 제시하는 기준점들 가운데, 과학자들과 사상가들이 생성의 과정을 바라보는 다양한 입장들에 대한 관심을 언급할만하다.19) 이것은 생명과 육체성을 이해하는 데에 명백한 중요성을 지닌 주제이며, 임신기부터 어머니와 자녀 사이에 형성되는 관계 안에서 자연적으로 계속된다. 우리는 여기에서 이 점을 전개할 수는 없으며, 잠시 언급하는 것으로만족해야 한다. 또한, 인지 과학들의 신경 현상학적 입장에 대해서도 언급만 할 수 있을 뿐이다. 그것은 생리학적 연구와 체험된 경험 사이의 수렴점이 된다.20)

    인간의 책임성과 다수의 행위자들

    위에 서술된 변화들에 관한 고찰에서 결정적 역할을 하는 것은 “인격적 행위”의 개념이다. 한 편으로는 작용 능력을지닌 기계에 비하여 인간이 행위하는 것의 특성을 구별해야 하고, 다른 한편으로는 행해야 할 선에 대한 윤리적 판단이그 안에서 이루어지는 다양한 상호 작용들을 고려해야 한다. 우리가 사용하는 어휘도, 서로 다른 행위의 유형들을 고려하는 데에 불충분한 것으로 보인다. “행위의 분배된 형태들”, “확산된 책임성”, “다수 주체의 체계”와 같은 용어들로 이를 비슷하게나마 나타내려고 시도하기도 한다.21) 프란치스코 교황은 종합적이고도 간략한 한 문장으로 이를 부각시킨다. “인격적 행위는 고유한 의미의 인간적 기여와 자동적 계산 사이의 수렴점에서 찾아지고, 그래서 대상을 이해하고 결과를 예측하며 책임을 결정하기가 점점 더 복잡해진다”(교황 연설).

  윤리적 행위는 언제나 의식적이고 자유로운 책임 안에서 이루어진 결정들을 나타낸다. 인간은 의식과 자유의지를가지고 있고, 상호성의 논리 안에서 대인 관계를 맺을 수 있다. 상호성 안에서 타인은, 그도 역시 의식과 자유를 지니고있는 것으로 인정된다. 기계들도 다른 단위들과 상호작용을 할 수 있기는 하지만, 인간은 결정을 내리는 기준과 원리들을 논의에 부칠 수 있다는 특성을 갖고 있다. 인간은 비판적 성찰을 할 수 있고 윤리적 성격을 지닌 결정 과정을 행할 수있기 때문이다. 그러므로 윤리적 행위의 고유한 지향성은 엄밀한 의미에서는 오직 인간에게만 부여될 수 있다. 이는, 기계들의 행위가 그것이 실현하는 또는 무시하는 가치들을 기준으로 평가될 수 있음을 배제하지 않는다. 하지만 이는, 그 결과를 완전히 예견할 수 있는 것은 아니라도 외부에서 부여한 프로그램으로부터 나오는 것이다.

    마찬가지로, 윤리적 의미의 “자율성”도 그 바탕이 되는 인식적 및 감정적 과정으로 인하여 인 간에게만 귀속될 수 있다.22) 실상 자율성은 이성과 가치에 근거하는 책임 있는 결정을 가능하 게 하는 의식과 인식을 내포한다.23) 그러므로, 기계에 대하여 이 용어를 사용할 때에는 주의 가 필요하다. 흔히는 이를 유비적 의미로 이해한다는 것이 분명히 드러나지 않고, 기계들은 생각을 한다기보다는 계산을 하는 것이고 결정을 한다기보다는 선별을 한다는 점을 망각하게된다.

    학제간윤리를 위해, 그리고 복잡성에 주목하며

  그러므로 과학적 지식과 인문학적 지식의 결과들을 병렬하는 데에 만족하지 않고, 참되고 고 유한 의미의 간학문적작업을 이루는 것이 필요하다. 프란치스코 교황은 이를 강조한다.24) 위에서 제시한 노선에 따라, 우리는 현대 과학이체계적 접근을 통하여 우리에게 어떤 기여를 하고 있는지 평가할 수있다. 이러한 전망은 특히 관계를 강조하며, 관계의세 차원을 부각시킨다.

  첫째는, 각 체계를 구성하는 요소들 전체 안에서의 관계 차원이다. 이 차원 안에서, 각 개별 구성원이 고립된 상태에서 갖고 있는 속성들로부터 미리 귀납적으로 도출할 수 있는 것이 아닌 새로운 특성들이 나타난다. 인간 육체의 여러기관들에 속하는 개별 조직들 사이의 시너지를 생각해 보라. 둘째는, 서로 다른 체계들이 서로 상호 작용을 하는 관계들의 차원이다. 이 차원으로 인하여, 그 체계들은 그들 사이의 상호 작용과 무관하게 고찰될 수 없다. 앞의 예에서, 각기관은 다른 기관들과 그리고 유기체 전체와 상호 작용을 한다. 신경 체계와 내분비 체계 사이의 영향, 또는 뇌가 인식기능을 행하는 데에서 신체 전체의 역할을 생각해 보자. 마지막으로, 인식 주체와의 관계 차원이 있다. 이것은 고찰 대상인 체계의 영역을 규정한다. 모든 체계는 그러한 인식적 선택에 의존한다. 다시 말하면, 폐혈관을 심장-순환 기관에또는 호흡 기관에 속한다고 보는 것은 선택의 결과이다.

  윤리적 영역에서, 체계적 접근은 특수하고 독창적인 방법으로 제시되지 않고, 오히려 여러 학문들에서 풍요로운 결과를 보여 주었던 개념적 도구화에 영향을 받아, 인간과 현대 세계의 복합성을 고려하는 식별의 요구를 시사한다. 현대의 세계 안에서 인간과 인공물들은 “과도하게 서로 연결되어” 있다. 우리는 그 접근을, 전체가 부분들로 구성되면서 그부분들을 넘어서게 되는 원리의 특수한 경향이라고 여길 수 있을 것이다.25)

  새로운 기술들과 관련하여, 부각되는 과제는 여러 학문들과 능력들이 기술적 장치들이 작동하는 과정 전체 곧 연구, 기획, 생산, 분배, 개인적 및 집단적 사용을 고려하는 윤리적 성찰에 기여하게 되는 모니터링 모델을 찾아내는 것이다. 생산 과정의 개별 요소들의 예견할 수 있는 영향들은, 인간과 기계 사이에 설정되는 관계에 어떤 결과를 가져오는지를확인하면서 다양한 관점에서 검토되어야 한다.

  그러므로 기술적 진단의 과정 전체에서, 그 안에서 주체들이 참여하여 공유된 결과를 만들어 내는 데에 참여하게 되는 책임의 고유한 영역들을 찾아낼 수 있다. “이 목표들을 함께 추구하는 데에서, 인격의 존엄성, 정의, 보조성, 연대성이라는 교회의 사회 교리의 원리들은 결정적 기여를 한다. 이들은 차별이나 배제 없이 각각의 인격 전체와 모든 사람들에게 봉사하는 임무를 표현한다. 하지만 기술 세계의 복합성은, 이 임무가 실제로 효력을 발하게 하기 위하여 우리에게더 잘 조직된 윤리를 만들 것을 요구한다”(교황 연설). 우리는 “알고리즘들의 윤리적 발전”에 관련된 새로운 학문을, 간단히 말해서 “알고리즘 윤리”를 예견하고 있는 것이다.26)

  그러므로, 디지털 체계들의 올바른 사용을 위해서는 최종 사용자의 책임과 교육을 강조하는 것만으로는 충분치 않다. 알고리즘을 연구하고 계획하는 사람의 윤리적 감각을 신뢰하는 것으로도 충분치 않다. 중간 사회 조직들이, 과정의모든 단계들에서 사용자들의 윤리적 감수성을 대표하도록 보장하게 하는 작업이 필요하다. 이러한 선상에서 관심을끄는 예는 “국경 없는 기술자회”이다. 이 조직은 “국경없는 의사회”의 동생으로서, 기술자들이 이 영역에서 지니는 핵심적 역할을 고려하면서 그들이 자신들이 하는 일의 사회적 차원에 대해서도 책임감을 갖도록 하는 헌장을 제의했다. 이 헌장은 다른 것들과 함께, 대학 과정에서 사회 관계와 정치-문화적 영역 안에서 기술적 산물들이 지니는 의미를 이해하도록 도와주는 여러 전망들을 알게 하는 과목들을 포함시킬 것을 제안한다.27)

  “로마 요청”의 의미

  회합의 마지막 날은 “인공지능 윤리를 위한 로마 요청(Rome Call for AI Ethics)”28)을 소개하는 날이었다. 그 본문은 서로 다른 학문 분야와 세계들에서 온 전문가들에 의하여 작성되었다. 그 목적은 우리의 세계가 겪고 있는 깊은 변화에 대처하기 위하여 여러 역량들을 합치고, 인공지능에 대한 윤리적 접근을 지지하고 조직, 정부, 기관들이 책임을 갖도록 호소하는 것이다. 이 변화들은 개인으로서나 사회로서나 우리 삶의 인간적 특성 자체를 논의에 부치게 만드는 변화들이다. 다양한 주체들이 폭넓게 협력할 때에만, 디지털 혁신과 기술 발전이 인간의 창의성과 재능을 점차로 대체하는 것이 아니라 거기에 기여하는 미래를 만들려는 시도가 가능하다.

  이 문헌의 문체 형식에 주목해야 한다. 이것은 공동 선언도, 합의도, 논고도 아니다. “로마 요청”은 거기에 참여하는 주체들의 상호 작용이 없다면 그 자신의 생명을 가질 수 없다. 그 동반자들은 발전 속에서 각자가 만나게 되는 몇 가지 난점들을 알아보고, 협력을 통하여 이에 대처하고자 약속한다. 그러므로 그 본문은 어떤 특정한 사람의 소유물이 아니라, 거기에 함께 참여하는 모든 이들의 것이다. 다른 이들을 통제하거나 그 내용들을 존중하는 임무를 맡은 어떤 주체가 있는 것이 아니라, 모두가 같은 수준에서 각자가 같은 다면체의 한 면을 구성하는 것이다.

  모든 사람이 이미 “요청”에 표현된 권고들에 함께 하고 있는 것은 아닐 수 있지만, 여기에 서명하는 사람은 대가를 치르면서라도 그 권고들을 자신의 구체적인 활동 안에서 실현하도록 노력할 책임을 공적으로 떠맡게 된다.

  그리하여 새로운 디지털 기술로 가능하게 된 선택들의 중요성과 위험성으로부터 나오는 책임을 인식하고 감수해야 한다는 요구가 생겨났다. 교황청 생명과학원 역시 제2차 바티칸 공의회(사목 헌장 3항)의 권고에 따라 이 공동의 길에 동참했다. 교회는 진정으로 인간적이고 오늘날 세계 안에서 정의를 더욱 촉진할 수 있는 것을 모색하는 이러한 공동연구를 위해 자신의 전통과 경험을 제공한다.

  주요 노선

  본문 작성을 위해서는 서로에게 귀를 기울이는 것과 공통된 기준을 찾는 것이 필요했다. 이는 모든 이들에게 이해될수 있고 공유될 수 있는 언어를 찾는 데에서도 그러했다. 인권은 내용 면에서나, 중간 수준의 가능한 수렴점의 예로서나 유용했다. 실상 인권은, 인간학적 차원에서 기초가 되는 전제들과 무관하지 않으면서도 서로 다른 문화적 및 종교적배경을 갖는 세계관들이 수렴되는 토양을 찾을 수 있게 해 준다. 그리고 다른 한편으로 인권은 너무 상세하고 개별적인 법률 규범 형식 안에 다 담을 수 없다.29)

  문헌은 세 가지 주요한 지침들로 전개된다. 첫째 지침은 윤리적 지침으로, 세계 인권 선언의 바탕에 깔려 있는 근본적 가치들의 기본틀을 상기시킨다. 여기에서는, 윤리적으로 타당한 모 든 기술적 발전에는 그러한 기본틀이 필요하다고 선언하며, 특히 포용, 인류 전체와 각 개별 인간의 선에 대한 현대의 관심, “우리의 공동의 집”인 지구의 존중과 보호를 강조한다.

  두 번째 지침은 젊은 세대에 대한 교육의 중요성을 부각시킨다. 그 세대는 차별 없이 누구나 새로운 기술적 자원에접근할 수 있도록 보장되어야 할 것이다. 빠른 변화의 속도를 고려할 때, 특히 뒤떨어진 이들을 위한 지속적인 교육도필요할 것이다. 양성은 자신의 이익에 손해를 입더라도 공동체의 선을 위해 노력할 수 있게 해 주는 양심과 동기들에대해서도 관심을 가져야 할 것이다.

  마지막 지침은 법률적 지침으로, 여기에서는 언급된 원리들을 실제적인 규정들로 옮기고 디자인 곧 처음부터 기술의 생산 과정의 모든 단계들에 수반되는 윤리적 접근을 통하여 그것들이 효력을 발하게 해야 할 필요성이 나타난다.30)

  전제들에서 원리들로

  이렇게 표현된 목표들을 실현하고 인공지능 영역에서 어떻게 윤리적으로 행동할 것인지 더 구체적인 규정들을 제시하기 위하여, 몇 가지 원리들이 강조되었다. 1) 투명성: 무엇보다, 인공지능의 체계들은 설명될 수 있어야 한다. 2) 포괄성: 인간의 모든 필요들을 고려하여, 각자 거기에서 유익을 얻을 수 있고 모든 개인들에게 자신을 표현하고 발전시킬 가능한 최선의 조건들이 주어져야 한다. 3) 책임성: 이 기술들을 계획하고 작동시키는 이들은 책임감과 투명성을 가져야 한다. 4) 공평성: 편견에 따라 창조하고 행동하기를 피한다. 5) 신뢰성: 인공지능 시스템은 신뢰할 만한 수준으로 작동할 수 있어야 한다. 6) 안전과 사생활 보호: 인공지능의 시스템은 그 사용자들이 신중하게 보호되고 존중되는 방식으로 작동해야 한다.

  이 원리들은 선한 혁신을 위한 근본 요소들이다. 흥미로운 점은, 이들이 유럽 연합의 여러 기 관들이 작성한 문서들과 조화를 이룬다는 것이다. 이들이 미국 세계의 대기업들에게도 공유될 수 있었던 것은 당연한 것이 아니었다. 그들은여러 맥락들에 그 효력을 확장시켰다.31)

  그 행사는 교황청 생명 과학원 의장인 빈첸초 팔리아 몬시뇰, 마이크로소프트사 사장 브래드포드 리 스미스, IBM 부사장 존 켈리 3세, 식량 농업 기구 사무총장 취 동위, 이탈리아 정부 기술혁신부 장관 파올라 피사노가 이 문서에 서명하는 것으로 끝맺었다. 유럽의회 의장 다비드 사솔리도 참석했는데, 그는 이제 시작된 과정에 대한 유럽 기관들의 관심을 표명하며 로마요청 협력자들의 국제 협력의 중요성을 강조했다. 서명한 이들의 다양함에서 알 수 있듯이 생산, 기관, 정치, 과학, 학문계의 서로 다른 관심들을 대변하는 이들이 이에 참여했다. 각자는 자신의 고유한 역할을 통하여 로마요청을 알리고 더 많은 이들이 여기에 서명하도록 하며, 그럼으로써 지금 진행되고 있는 변화를 더 잘 이해하려는 노력을 공유하고, 거기에서 나오고 언제나 새로운 통합을 요구하는 책임을 함께 지도록 하고자 노력한다.

  ***

  끝으로, 생명윤리32)의 기원과 – 이것은 당시에는 신조어였으며, 오늘날에는 아주 명확히 정의되는 연구 영역을 지칭한다 – “알고리즘 윤리”33)라는 신조어로 제시되는 디지털 기술의 윤리의 개념 사이에서 병행점들을 찾아볼 수있을 것이다. 두 경우 모두 그 윤리적 성찰은 그 영역에 종사하고 그들 분야의 변화 과정의 중심에 있는 이들에 의하여시작되었다. 그때에는 유전학자들과 의사들이었고, 이번에는 정보와 컴퓨터 전문가들이었다. 하지만 이번에는 새로운요소가 더해졌다. 위에서 분명히 드러난 바와 같이, 생명공학과 정보학은 더 이상 서로 분리되어 있지 않고, 밀접한 연관 속에서 이루어진다. 그 둘 사이에서 그리고 다른 기술들과 함께 수렴되면서 그 영향도 커지고, 이론적으로나 실천적으로나 새로운 전망들이 나타난다. 이러한 역사적 맥락 안에서, 생명윤리는 알고리즘 윤리와 대화하고 협력할 수 있다. 그것은 새로운 “미래를 향한 다리”가 될 것이다.


성경·교회 문헌 © 한국천주교중앙협의회
1) «Lo scandalo di Cambridge Analytica», in Forward 16 (2019/4) 26, dal titolo (R)evolution, in
https://issuu.com/pensiero/docs/fwd-16-revolution. Carole Cadwalladr, 브렉시트에서 페이스북이 한 역할과 민주주의에 대한 위협 “Facebook’s role in Brexit – and the threat to democracy” (Apr 2019) https://www.ted.com/talks/carole_cadwalladr_facebook_s_role_in_brexit_and_the_threat_to_democracy
참조: B. Kaiser, La dittatura dei dati, Milano, HarperCollins, 2019
2) 참조: https://tg24.sky.it/tecnologia/software-app/2020/02/12/coronavirus-app-contagio.html/
https://www.wired.it/mobile/app/2020/02/12/app-coronavirus-avmap-covid-19/
https://www.internazionale.it/notizie/claudia-grisanti/2020/03/18/lezione-corea-sud-covid-19/
Altri esempi si possono ritrovare in G. Cucci, «Per un umanesimo digitale», in Civ. Catt. 2020 I 27-40.
3) 참조: D. Fassin, Le vite ineguali. Quanto vale un essere umano, Milano, Feltrinelli, 2019.
4) 참조: L. Caenaz zo – L. M ariani – R. Pegoraro (eds), Convergence of New Emerging Technologies. Ethical Challenges and New Responsibilities, Padova, Piccin, 2017.
5) 접두어 ‘나노’는 십억분의 일 미터에 상응하는 크기, 곧 밀리미터의 백만분의 일을 가리킨다.
6) 이 문헌의 소개는, 참조: Casalone, «“Humana communitas”. La vita umana nella trama delle relazioni», in Civ. Catt. 2019 I 209-221.
7) 자료는, V. Paglia – R. Pegoraro (eds), Robo-ethics. Humans, Machines and Health, Roma, PAV, 2020.
8) 학회 제목은, “‘선한’ 알고리즘? 인공지능: 윤리, 권리, 건강”이었다 (2020년 2월 26-28일). 인공지능의 정의에 관하여, 참조: Joint Research Centre, Defining Artificial Intelligence, European Union 2020; A. Spadaro – P. Twomey, «Intelligenza artificiale e giustizia sociale», in Civ. Catt. 2020 I 121-131.
9) 참조: 프란치스코, 교황청 생명 과학원 총회 참석자들에게 하신 연설 (2020년 2월 28일), in 2020/ february/documents/papa-francesco_20200228_accademia-perlavita.html/ 아래에서 “교황 연설”로 지칭한다.
10) 참조: L. Floridi (ed.), The Onlife Manifesto. Being Human in a Hyperconnected Era, Heidelberg – New York – Dortrecht – London, SpringerOpen, 2015, ed. Kindle, pos. 243. 이는 물리적 변수들과 그 상호 관계와 관련하여, 특히 시간 측면에서 양자 혁명이 가져오는 결과와 어떤 점에서 유사하다. 참조: C. Rovelli, L’ ordine del tempo, Milano, Adelphi, 2017.
11) L. Floridi, La quarta rivoluzione. Come l’infosfera sta trasformando il mondo, Milano, Raffaello Cortina, 2017.
12) 참조: L. Floridi (ed.), The Onlife Manifesto…, cit.
13) 참조: B.-C. Han, L’espulsione dell’Altro, Milano, nottetempo, 2017.
14) 참조: M. Doueihi, Qu’est-ce que le numérique?, Paris, Presses Universitaires de France, 2013.
15) 참조: C. Accoto, Il mondo dato. Cinque brevi lezioni di filosofia digitale, Milano, Egea, 2017, 81-103.
16) 참조: S. Zuboff, Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri, Roma, LUISS University Press, 2019.
17) B. Smith – C. A. Browne, Tools and Weapons. The Promise and the Peril of the Digital Age, New York (NY), Penguin Press, 2019, XIV.
18) 참조: Y. Laouris, «Reengineering and Reinventing both Democracy and the Concept of Life in the Digital Era», in L. Floridi (ed.), Onlife Manifesto…, cit., pos. 2756-3214; S. F. Gilbert, «A symbiotic View of Life: We Have Never Been Individuals», in The Quarterly Review of Biology 87 (2012/4) 325-341; S. A. Kauffman, A World Beyond Physics. The Emergence and Evolution of Life, Oxford, Oxford University Press, 2019.
19) Cfr S. Zucal, Filosofia della nascita, Brescia, Morcelliana, 2017, 235. “이러한 출발점에서 […] 생명과 정념은 서로에게 가르침을 준다 […]. 존재와 사랑이 함께 생겨나고 함께 서로를 의미하는 생성 문법의 원형이 여기에서 형성된다. 생물학적이고 성찰 이전에 존재하는, 그러면서도 동시에 인격적이고 지성적인, 생성된 관계적 경험의 구조 안에서 말이다” (P. Sequeri, La fede e la giustizia degli affetti, Siena, Cantagalli, 2019, 153). 또한, L. Irigaray, All’inizio, lei era, Torino, Bollati Boringhieri, 2013; M. Gensabella Furnari, Il corpo della madre. Per una bioetica della maternità, Soveria Mannelli (Cz), Rubbettino, 2018.
20) F. Ceragioli, Identità e intersoggettività. Il contributo delle neuroscienze, in P. Sequeri (ed.), La tecnica e il senso. Oltre l’uomo?, Milano, Glossa, 2015, 19-38, 여기에서는, 36-38; G. Bonaccorso, Critica della ragione impura. Per un confronto tra teologia e scienza, Assisi (Pg), Cittadella, 2016, 69-101; 191-210; L. Vantini, Il sé esposto. Teologia e neuroscienze in chiave fenomenologica, ivi, 2017, 23-104.
21) 참조: L. Floridi, La quarta rivoluzione, cit., 165-235; G. Cucci, «Uom o e robot: la relazione ideale?», in Civ. Catt. 2020 I 427-438.
22) 참조: 유럽 연합 주교회의 위원회, Robotization of Life. Ethics in view of new challenges, 2019, 3-4, in www. comece.eu/comece-publishes-reflection-on-robotisation-of-life
23) European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence, Robotics and «Autonomous» Systems, 2018, in https://op.europa.eu/en/publication-detail/-/publication/dfebe62e-4ce9-11e8-be1d-01aa-75ed71a1/language-en/format-PDF/source-78120382
24) 참조: 프란치스코, 『진리의 기쁨』(Veritatis gaudium), 4c.
25) 참조: M. -J. Thiel, «Le défi d’une éthique systémique pour la théologie», in Revue des Sciences Religieuses 74 (2000/1) 92-113.
26) 참조: P. Benanti, Oracoli. Tra algoretica e algocrazia, Bologna, Luca Sossella, 2018.
27) 참조: Ingénieurs sans frontières, Manifeste pour une formation citoyenne des ingénieur·e·s, in www.isf-france.org/node/1211
28) 참조: https://romecall.org
29) 참조: M. Ladikas – S. Chaturvedi – Y. Zhao – D. Stemerding (eds), Science and Technology Governance and Ethics. A Global Perspective from Europe, India and China, Heidelberg, Springer, 2015; J. Tham – K. M. Kwan – A. Garcia (eds), Religious Perspectives on Bioethics and Human Rights, Springer, Switzerland, 2017.
30) 참조: 유럽 연합 전문가 모임, Orientamenti et ici per una IA affidabile, European Union 2018; 유럽 위원회, Artificial Intelligence. A European Perspective, European Union 2018.
31) 참조: 특히, B. Smith, Tools and Weapons, cit., 131-150, 여기에서 마이크로소프트사의 사장은 유럽 연합이 2016년에 채택한 정보 보호 일반 규정(General Data Protection Regulation)을 검토하고, 주체들을 기술적 회심으로 이끌었던 그 효과를 매우 긍정적으로 평가한다.
32) 이 단어는 매우 큰 성공을 거두었던 한 본문에서 비롯되었다: V. R. Potter, Bioetics: Bridge to the future, Englewood Cliffs (NJ), Prentice Hall, 1971.
33) 참조: A. Pessina, «Algor-etica: un neologismo per un progetto ambizioso», in https://cattolicanews.it/pessina-algor-etica-un-neologismo-per-un-progetto-ambizioso