제3장
기술과 지배.
AI가 제시하는 약속을 통해 본 인류의 위대함
90. 사회 교리를 밝히 비추는 원칙들을 되새긴 후, 이제 오늘날 우리의 삶의 방식을 깊이 있게 형성하는 몇 가지 과제들에 주목하고자 합니다. 이러한 성찰을 뒷받침하는 성경적 비유는 건축 프로젝트입니다. 한편으로는 바벨탑이 있는데, 이곳에서는 공동의 노력이 지배적이고 궁극적으로 인간성을 상실하게 만드는 계획을 따릅니다(참조: 창 11:1-9) . 다른 한편으로는 느헤미야의 지도 아래 공동의 책임이라는 프로젝트로서 조각조각 재건되는 예루살렘의 폐허가... 더 보기
기술과 지배.
AI가 제시하는 약속을 통해 본 인류의 위대함
90. 사회 교리를 밝히 비추는 원칙들을 되새긴 후, 이제 오늘날 우리의 삶의 방식을 깊이 있게 형성하는 몇 가지 과제들에 주목하고자 합니다. 이러한 성찰을 뒷받침하는 성경적 비유는 건축 프로젝트입니다. 한편으로는 바벨탑이 있는데, 이곳에서는 공동의 노력이 지배적이고 궁극적으로 인간성을 상실하게 만드는 계획을 따릅니다(참조: 창 11:1-9) . 다른 한편으로는 느헤미야의 지도 아래 공동의 책임이라는 프로젝트로서 조각조각 재건되는 예루살렘의 폐허가... 더 보기
제3장
기술과 지배.
AI가 제시하는 약속을 통해 본 인류의 위대함
90. 사회 교리를 밝히 비추는 원칙들을 되새긴 후, 이제 오늘날 우리의 삶의 방식을 깊이 있게 형성하는 몇 가지 과제들에 주목하고자 합니다. 이러한 성찰을 뒷받침하는 성경적 비유는 건축 프로젝트입니다. 한편으로는 바벨탑이 있는데, 이곳에서는 공동의 노력이 지배적이고 궁극적으로 인간성을 상실하게 만드는 계획을 따릅니다(참조: 창 11:1-9) . 다른 한편으로는 느헤미야의 지도 아래 공동의 책임이라는 프로젝트로서 조각조각 재건되는 예루살렘의 폐허가 있습니다(참조: 느헤미야기 2–6). 우리는 우리 시대의 거대한 “건설 현장”들을 성찰하며 다음과 같이 물어야 합니다. 우리는 무엇을 짓고 있는가? 기술 발전이 언어, 관계, 제도, 권력 형태를 급속히 변화시키는 가운데, 우리 신자들은 우리에게 선물로 주어진 인류의 위대함을 지키고 소중히 여기기 위해 어떤 프로젝트에, 어떤 방식으로 참여할지 선택해야 하며, 또한 선택할 수 있습니다. 이는 우리의 미래뿐만 아니라 현재를 위한 선택이기도 합니다. 왜냐하면 인공지능과 기타 신기술들은 이미 우리 일상생활의 일부가 되었기 때문입니다.
91. 저는 복음의 빛 안에서 사회적 관계를 실천하는 구체적인 방식이 단번에 확정된 것이 아니라, 대대로 그리스도인 공동체에 맡겨진 과제로 남아 있다고 확신합니다. 성령의 인도하심 아래, 교회는 하느님의 말씀으로 깨달음을 얻고, 시대의 징표를 읽으며, 민족과 국가 간의 관계가 하느님 나라의 요구에 더욱 부합할 수 있도록 새로운 길을 창의적으로 모색합니다. [118] 그러므로 저는 교회의 모든 구성원들이 현재의 도전들을 두려워하지 말고, 서로의 목소리에 귀를 기울이며, 더 인간적이고 형제애 넘치는 사회를 건설하는 데 있어 자신의 책임을 확고히 다할 것을 권고합니다.
기술 관료주의적 패러다임과 디지털 권력
92. 『라우다토 시(Laudato Si’)』 회칙에서 프란치스코 교황은 세계화된 우리 사회에서 점점 더 지배력을 넓혀가는 기술 관료주의적 패러다임 [119]을 비판했다. 이는 효율성, 통제, 이윤이라는 논리만이 개인적, 사회적, 경제적 결정을 좌우하도록 내버려 두는 경향을 말한다. 이는 기술이 단순한 도구가 아님을 분명히 보여줍니다. 기술이 모든 것을 판단하는 기준이 될 때, 무엇이 중요하고 무엇이 버려져도 되는지를 결정하기 시작하며, 창조물을 착취의 대상으로 전락시키고 인간을 그 어느 때보다 더 큰 효율성을 추구하는 시스템 속의 단순한 톱니바퀴로 전락시킵니다.
93. 이 패러다임은 최근 몇 년간 인공지능, 인지과학, 나노기술, 로봇공학, 생명공학의 발전에 힘입어 급속히 확산되었다. 이러한 혁신들 자체는 인간의 전인적 발전과 우리 공동의 집을 보살피는 데 크게 기여할 수 있다. 그러나 바로 그 강력한 힘 때문에, 이 혁신들은 기술 중심적 패러다임의 확산을 가속화할 수도 있으므로, 새로운 영적·윤리적·정치적 틀이 필요하다. 더 큰 힘이 반드시 더 나은 것을 의미하는 것은 아니다. 이 점에서 로마노 과르디니의 말은 여전히 유효하다. “현대인은 권력을 올바르게 행사하도록 훈련받지 못했다.” [120]
94. 인류가 자신의 성취의 희생양이 될 위험은 이미 성 바오로 6세에 의해 명확히 인식되었으며, 그는 “가장 놀라운 과학적 진보, 가장 경이로운 기술적 성과, 그리고 가장 놀라운 경제 성장이 진정한 도덕적·사회적 진보와 동반되지 않는다면, 장기적으로는 인간에게 해가 될 것”이라고 경고했다. [121] 이러한 이유로, 그 자체로 가치 있는 기술적 진보는 이를 이끄는 인간학적 비전과 추구하는 목적을 신중하게 분별할 필요가 있다. 기술 발전이 그에 상응하는 윤리적·사회적 진보 없이 진행된다면, 그 결과는 수단의 증가는 있되 인간성의 성장은 없는, 즉 “더 많이 가지는 것”은 있어도 “더 나은 존재가 되는 것”은 없는 상황이 될 수 있다. 이러한 상황에서는 개인이 주로 자신이 만들어 낸 성과에 따라 평가될 위험이 있다. [122]
95. 여기서 우리는 앞서 언급했던 또 다른 중요한 측면을 인식해야 합니다. 디지털 환경 내의 많은 경우, 플랫폼, 인프라, 데이터 및 컴퓨팅 파워에 대한 통제권은 국가가 아닌 주요 경제 및 기술 주체들에게 있습니다. 이러한 주체들은 실질적으로 접근 조건을 설정하고, 가시성의 규칙을 결정하며, 참여의 가능성 자체를 형성합니다. 이러한 권력이 소수에게 집중될 때, 그 권력은 불투명해지고 공공의 감시를 회피하는 경향이 있으며, 이는 새로운 종속, 배제, 조작 및 불평등을 야기하는 왜곡된 형태의 발전 위험을 증가시킨다.
96. 디지털 세계에서 이처럼 권력이 집중되는 상황에 직면하여, 이 새로운 상황에서 판단과 분별의 기준이 되는 것은 사회 교리의 고귀한 원칙들, 즉 인간의 양도할 수 없는 존엄성, 공동선, 재화의 보편적 귀속, 보조성, 연대, 그리고 사회 정의입니다. 이러한 원칙들은 우리가 디지털 인프라와 알고리즘의 힘이 진정으로 참여와 책임을 증진하고, 취약 계층을 보호하며, 기회에 대한 공정한 접근을 보장하고, 모든 이의 선을 향하도록 유지되는지 평가할 것을 요구한다. 이를 바탕으로 이제 우리는 인공지능이 무엇인지, 그것이 열어주는 가능성과 수반하는 위험을 더 면밀히 살펴볼 수 있다.
인공지능
97. 본문에서 인공지능에 대해 포괄적으로 다루거나 방대한 관련 문헌을 개괄하려는 의도는 없다. 교회적 맥락을 포함하여 이미 권위 있는 연구 성과들이 존재하기 때문이다. [123] 저는 인간의 존엄성을 수호하는 도덕적·사회적 분별을 위해 몇 가지 핵심 요소를 상기하는 데 그치려 합니다. 이는 기술적 혁신을 이끌고 그 사용과 한계를 책임감 있게 결정하는 주체가 언제나 양심과 자유를 지닌 인간의 지성이 되도록 보장하기 위함입니다.
98. 이 논의를 시작하기 전에 두 가지 점을 먼저 짚어볼 필요가 있다. 첫째, AI 시스템이 놀라운 속도로 발전하고 있는 만큼, AI와 관련된 어떤 주장도 금세 구식이 되어버릴 수 있다. 둘째, AI를 설계하는 사람들을 포함해 우리 모두는 AI의 실제 작동 원리에 대해 제한된 이해만을 가지고 있다. 실제로 현재의 AI 시스템은 ‘구축’된 것이라기보다 ‘배양’된 것에 가깝다. 개발자들이 모든 세부 사항을 직접 설계하는 것이 아니라, 지능이 ‘성장’할 수 있는 프레임워크를 만들어내기 때문이다. 그 결과, 이러한 시스템의 내부 표현이나 계산 과정과 같은 근본적인 과학적 측면은 현재까지도 알려지지 않은 채 남아 있다. 따라서 두 가지 차원의 노력이 시급히 요구된다. 한편으로는 과학적 연구의 심화이며, 다른 한편으로는 도덕적·영적 분별력을 발휘하는 것이다.
99. 인공지능(AI)에 대해 단 하나의 포괄적인 정의를 내리는 것은 불가능하다. 그러나 분명한 것은, 이러한 유형의 ‘지능’을 인간의 지능과 동일시하는 오해를 피해야 한다는 점이다. 이러한 시스템은 단지 인간 지능의 특정 기능을 모방할 뿐이다. 그 과정에서 이들은 종종 속도와 계산 능력 면에서 인간 지능을 능가하며, 다양한 분야에서 실질적인 이점을 제공한다. 그러나 이러한 능력은 전적으로 데이터 처리에 국한되어 있다. 소위 인공 지능은 경험을 하지 않으며, 육체를 소유하지 않고, 기쁨이나 고통을 느끼지 않으며, 관계를 통해 성숙하지도 않고, 사랑, 일, 우정, 책임이 무엇을 의미하는지 내면적으로 알지 못한다. 또한 그들은 선과 악을 판단하지도, 상황의 궁극적인 의미를 파악하지도, 결과에 대한 책임을 지지도 않기 때문에 도덕적 양심도 없다. 그들은 언어, 행동, 분석 능력을 모방하거나 심지어 공감과 이해를 시뮬레이션할 수는 있지만, 인간이 지혜를 키워가는 데 필요한 정서적, 관계적, 영적 관점이 결여되어 있기에 자신이 만들어내는 것을 이해하지 못한다. 비록 이러한 도구들이 “학습” 능력이 있다고 묘사되더라도, 그들의 학습 방식은 인간의 방식과는 다릅니다. 그것은 삶이 자신을 빚어내도록 허용하고, 선택과 실수, 용서와 신실함을 통해 시간이 지남에 따라 성장하는 이들의 경험과는 다릅니다. 오히려 그것은 데이터와 피드백에 기반한 일종의 통계적 적응에 불과하며, 이는 매우 효과적일 수 있지만 내적 성장을 의미하지는 않습니다.
경계를 늦추지 말아야 할 유용한 도구
100. 앞서 언급한 내용을 고려할 때, 우리는 왜 인공지능이 유용한 도구가 될 수 있는지, 그리고 동시에 왜 신중하고 경계심 있는 접근이 필요한지를 더 잘 이해할 수 있다. 최근 몇 년간 인공지능의 개인적 사용이 크게 확대됨에 따라, 이것이 제공하는 기회와 급속한 확산에 따른 위험 모두에 대한 성찰이 점점 더 활발해지고 있다. 개인적 사용에 있어 특히 세 가지 측면, 즉 결과를 얻는 용이성, 객관성에 대한 인상, 그리고 인간적 의사소통의 모방에 대해서는 신중한 고려가 필요하다. 정보, 복잡한 분석, 미디어 콘텐츠, 실질적인 도움을 빠르고 간편하게 이용할 수 있다는 점은 의심할 여지 없이 삶을 더 편리하게 만든다. 그러나 이는 과도한 의존과 기성 답변을 찾는 경향을 조장하고, 개인의 창의성과 판단력을 약화시킬 수도 있다. 이러한 시스템이 제공하는 응답과 제안의 표면적인 객관성은, 그 시스템이 설계하고 훈련시킨 이들의 문화적 전제—그 모든 장점과 한계를 포함하여—를 반영하고 있다는 사실을 우리가 간과하게 만들 수 있다. 조언, 공감, 우정, 심지어 사랑에 이르는 긍정적인 인간적 소통의 인공적 모방은 매력적일 수 있으며 때로는 진정으로 도움이 되기도 한다. 그러나 분별력이 부족한 사용자에게는 오해를 불러일으켜, 실제 인간 주체와의 관계가 있는 듯한 착각을 일으킬 수도 있다. 말이 모방될 때, 그것은 진정한 관계를 구축하는 것이 아니라 단지 그 겉모습만을 만들어낼 뿐이다. 배려나 지지를 인위적으로 모방하는 행위는 실제 관계와 정서적 유대가 결여된 맥락에서 특히 위험해질 수 있다. 여기서 위험은 사람이 다른 사람과 소통하고 있다고 믿게 될 가능성보다는, 오히려 진정한 인간적 유대를 형성하고자 하는 욕구 자체를 점차 상실하게 될 수 있다는 점에 있다.
101. 사회 전반에서 AI가 활용되는 상황을 폭넓게 살펴보면, AI는 이제 의사결정 과정에 깊이 뿌리내려 다양한 분야와 여러 단계—즉, 의사소통, 관리 및 통제 분야—에 걸쳐 활용되고 있음을 알 수 있다. 효율성 향상과 특정 서비스 개선의 잠재력은 분명하지만, 이를 비판적 검토 없이 성급하게 도입할 경우 환경적 영향을 간과하는 경향을 포함해 다양한 위험에 노출될 수 있다. 현재의 AI 시스템은 막대한 양의 에너지와 물을 필요로 하여 이산화탄소 배출에 상당한 영향을 미치며, 천연 자원에 대한 부담도 가중시키고 있습니다. 특히 대규모 언어 모델의 경우 복잡성이 증가함에 따라 컴퓨팅 성능과 저장 용량에 대한 수요도 함께 늘어나고 있으며, 이는 기계, 케이블, 데이터 센터 및 에너지 집약적 인프라로 구성된 방대한 네트워크를 필요로 합니다. 이러한 이유로 환경적 영향을 줄이고 우리 모두의 공동의 집을 보호하는 데 기여하는, 보다 지속 가능한 기술적 해결책을 개발하는 것이 필수적입니다. [124]
R책임, 투명성 및 AI 거버넌스
102. 인공지능의 활용은 결코 순수히 기술적인 문제가 아니다. 인공지능이 사람들의 삶에 영향을 미치는 과정에 개입할 때, 그것은 권리, 기회, 지위, 그리고 자유와 직결된다. 고용, 신용, 공공 서비스 이용, 심지어 개인의 평판에 관한 중요하고 민감한 결정들이 “연민, 자비, 용서, 그리고 무엇보다도 사람이 변화할 수 있다는 희망”을 알지 못하는 자동화된 시스템에 전적으로 위임될 위험이 있다. [125] 따라서 이는 새로운 형태의 배제를 초래할 수 있다. 정보 조작이나 사생활 침해와 같은 명백히 유해한 용도도 존재한다. 그러나 더 미묘한 위험도 있다. AI 시스템이 중립적이고 객관적인 것처럼 보일 때, 결국은 설계자와 개발자의 고정관념이나 이념적 편향을 반영하고 강화하게 되기 때문이다.
103. 실제로, 그 판단에 대한 책임을 지는 이가 아무도 없는 상태에서, 누가 가치 있는 사람인지 아닌지를 선별할 권한을 알고리즘에 맡기는 것은 인간 가능성의 경계를 재정의하는 임무를 넘겨주는 것과 다름없다. 이 과정에서 배제된 이들에 대한 공감은 결국 모방될 수 있는 것이지만, 정치적 책임마저 상실되고 만다. 취약한 이들의 배제는 중립성과 객관성이라는 외피로 가려져, 이에 대해 이의를 제기하기 어려워진다. 이처럼 불의는 눈에 띄지 않게 되고, 단순한 겉모습이 아닌 진정한 정치적 행동으로 이해되는 연민, 자비, 용서는 점차 시야에서 사라진다.
104. 여기서 간단하지만 설득력 있는 결론이 도출된다. 우리는 AI를 도덕적으로 중립적인 존재로 간주할 수 없다. 실제로 모든 기술적 도구는 무엇을 측정하고, 무엇을 무시하며, 무엇을 최적화하는지, 그리고 사람과 상황을 어떻게 분류하는지를 통해 선택과 우선순위를 내재하고 있다. 어떤 시스템이 일부 생명을 덜 가치 있는 것으로 취급하거나, 항소할 기회조차 없이 배제하는 방식으로 설계되거나 사용된다면, 그것은 이미 인간의 양도할 수 없는 존엄성과 모순되는 기준을 도입한 것이므로, 단순히 “올바르게 사용해야 할” 도구에 그칠 수 없다. 이러한 이유로, 윤리적 분별은 우리가 시스템을 선한 목적으로 사용하는지 악한 목적으로 사용하는지를 묻는 데 그쳐서는 안 됩니다. 또한 그 시스템이 어떻게 설계되었는지, 그리고 시스템을 이끄는 데이터와 모델에 어떤 인간관과 사회관이 내재되어 있는지를 검토해야 합니다. [126]
105. 인공지능이 인간의 존엄성을 존중하고 진정으로 공동선을 위해 봉사하기 위해서는, 이러한 시스템을 설계하고 개발하는 사람들부터 이를 사용하고 구체적인 결정을 내리는 데 의존하는 사람들에 이르기까지, 모든 단계에서 책임이 명확히 규정되어야 한다. 그러나 많은 경우, 결과로 이어지는 내부 과정이 불투명하여 책임을 규명하고 오류를 시정하기가 더 어려워진다. 바로 이 지점에서 책임성(accountability)이 결정적으로 중요해진다. 즉, 누가 결정에 대해 “책임”을 져야 하는지, 이를 정당화하고, 모니터링하며, 필요할 경우 이에 이의를 제기하고 발생한 피해를 시정할 수 있는지를 규명할 수 있어야 한다. [127]
106. 인공지능 도입에 있어 신중함과 철저한 평가, 때로는 속도를 늦추는 것을 촉구하는 것은 진보에 반대하는 것이 아니라, 인류에 대한 책임감 있는 배려를 실천하는 것이다. 기술 발전의 속도와 그 영향을 통제할 수 있는 인식, 규범, 안전장치 및 제도의 발전 속도 사이에 빈번히 불균형이 발생한다는 점을 고려할 때, 이러한 필요성은 그 어느 때보다 시급하다. 추상적인 윤리만을 내세우는 것만으로는 충분하지 않다. 견고한 법적 체계, 독립적인 감독, 정보에 입각한 사용자, 그리고 책임을 회피하지 않는 정치 체제가 필요하다. 그렇지 않으면 변화는 오직 기술 관료주의적 사고에 의해 주도되고, 필요하고 피할 수 없는 것으로 포장되어, 결국 데이터와 인프라, 컴퓨팅 능력을 장악한 자들이 정한 규칙을 강요하게 될 것이다.
107. 우리는 단순히 기계의 도덕화, 즉 AI를 인간의 가치관과 일치시키는 이른바 ‘정렬(alignment)’을 요구할 뿐 아니라, 한 가지 더 중요한 조건을 주장할 용기를 가져야 한다. 바로 관련 윤리적 틀을 공개적으로 논의하고 이를 사회적 정의의 공유된 기준에 부합하도록 만드는 것이다. 그렇지 않으면 AI를 통제하는 이들이 자신들의 도덕적 비전을 강요하게 될 것이며, 이는 결국 이러한 시스템의 보이지 않는 기반 구조가 될 것이다. 소수만이 그 도덕성을 결정한다면, 더 도덕적인 AI만으로는 충분하지 않다. 필요한 것은 모든 것이 가속화될 때 그 속도를 늦출 수 있고, 지역사회가 여전히 참여하고 질문할 기회를 지킬 수 있는, 보다 적극적인 정치적 개입이다.
108. 사실, 모든 주요 기술적 변화와 마찬가지로, 인공지능(AI)은 이미 경제적 자원과 전문 지식, 데이터 접근권을 보유한 이들의 힘을 더욱 증폭시키는 경향이 있다. 공동선과 재화의 보편적 귀속이라는 관점에서 볼 때, 이는 심각한 우려를 불러일으킨다. 소수이면서도 막강한 영향력을 가진 집단이 정보와 소비 패턴을 형성하고, 민주적 과정에 영향을 미치며, 경제적 역학을 자신들의 이익에 맞게 주도함으로써 사회 정의와 민족 간의 연대를 훼손할 수 있기 때문이다. 이러한 이유로, 특히 공공재와 기본권과 관련된 경우, 인공지능의 활용은 참여와 보조성의 원칙에 기초한 명확한 기준과 효과적인 감독에 의해 지침을 받아야 한다. 지역사회와 중간 조직은 타지에서 내려진 결정의 수동적인 수혜자로 전락해서는 안 되며, 판단과 감독 과정에 기여할 수 있어야 한다. 또한 데이터의 소유권은 전적으로 민간에 맡겨져서는 안 되며, 적절히 규제되어야 한다. 데이터는 수많은 기여자들의 산물이며, 매각되거나 소수에게만 맡겨져서는 안 됩니다. 성 요한 바오로 2세께서 공동재에 관해 이미 제안하셨듯이, 참여의 정신으로 데이터를 공동재 또는 공유재로 관리하기 위해 창의적인 사고가 필요합니다. [128]
109. 사회 교리의 원칙들은 이러한 새로운 현실을 이해하기 위한 틀을 제시한다. 데이터, 계산 자원, 규제 영향력이 소수의 손에 쥐어져 있는 세상에서, 공동선을 논한다는 것은 이러한 새로운 형태의 인식적·경제적·정치적 불균형을 드러내고, 인공지능(AI) 분야의 새로운 독점 현상을 명명하는 것을 의미한다. 재화의 보편적 귀속을 논한다는 것은 기술과 이를 활용하는 데 필요한 교육 모두에 대한 보편적 접근을 보장할 방법을 모색하는 것을 뜻한다. 보조성의 원칙을 논한다는 것은, 기준이 다른 곳에서 정해진 후 단순히 감독하는 역할로 공동체의 역할을 제한하는 것이 아니라, 공동체가 스스로 선택하고 수정할 수 있는 능력을 보호해야 함을 요구한다. 연대를 논한다는 것은 알고리즘 시스템을 지탱하는, 눈에 띄지 않고 종종 착취당하는 노동자들을 인정해야 할 의무를 우리에게 부과한다. 정의를 논한다는 것은 누가 실제로 이러한 모델을 훈련시킬 수 있고 누가 단지 그 모델에 종속되는지를 결정하는 전 세계적 권력 분배에 의문을 제기해야 함을 의미한다. 마찬가지로, 이는 사회 정의가 기술이 도입된 후에야 지켜져야 할 목표일 뿐만 아니라, 기술 설계의 초기 단계부터 그 형태를 결정해야 할 필수 조건임을 인정하는 것을 뜻한다.
110. 마지막으로, 제게는 각별한 의미가 있는 “무장 해제(disarm)”라는 표현을 사용하고 싶습니다. AI의 무장 해제는 오늘날 단순히 군사적 맥락에 국한되지 않고 경제적, 인지적 현상으로까지 확장된 “무장된” 경쟁의 사고방식에서 AI를 해방시키는 것을 의미합니다. 이는 지정학적 또는 상업적 우위를 확보하려는 욕구에 의해 주도되는, 더욱 강력한 알고리즘과 더 방대한 데이터 세트를 향한 경쟁을 수반합니다. 무장 해제란 기술적 힘이 자동적으로 통치권을 부여한다는 가정을 무력화하는 것을 의미합니다. 무장 해제란 기술을 거부하는 것이 아니라, 기술이 인류를 지배하는 것을 막는 것입니다. 이는 기술을 독점적 통제에서 해방시키고 토론과 논쟁의 장으로 열어젖힘으로써, 기술을 인간 친화적으로 만들고 다양한 인간 문화와 삶의 방식 속으로 되돌리는 것을 의미합니다. 오늘날 우리의 과제는 단순히 윤리적이거나 기술적인 차원에 그치지 않는다. 이는 우리 공동의 고향에 대한 새로운 차원을 다루는 것이기에, 가장 깊은 의미에서 생태학적 과제이다. AI는 이미 우리가 깊이 빠져 있는 환경이자, 우리가 마주해야 할 힘이다. 이러한 이유로 단순히 규제하는 것만으로는 부족하며, AI는 무장 해제되어 누구에게나 열려 있고 접근 가능해야 한다.
111. 저는 인공지능을 개발하는 분들께 특별한 호소를 드리고자 합니다. 어떤 의미에서 기술 혁신은 신의 창조 행위에 인간이 동참하는 것을 의미할 수 있습니다. 따라서 개발자들은 특별한 윤리적·영적 책임을 지고 있습니다. 왜냐하면 모든 설계 선택은 인류에 대한 비전을 반영하기 때문입니다. 예술 작품이나 문학 작품의 창작자가 그 작품이 전달하는 가치를 고려해야 하는 것처럼, 개발자들도 투명성과 영향을 받는 공동체에 대한 책임감을 가지고, 그리고 개발 중인 것이 진정한 선(善)이 되도록 세심한 주의를 기울이며, 자신의 프로젝트에 가치를 담아야 할 소명을 지니고 있다.
절대 잃어서는 안 될 것
112. AI의 책임과 거버넌스 문제를 검토한 후, 이제 우리는 핵심 질문으로 돌아가야 한다. 즉, ‘우리의 인간성을 수호한다는 것은 무엇을 의미하는가?’라는 질문이다. 이 위험은 특정 기술의 오용을 넘어선다. 더 심각한 것은, 우리가 깊이 빠져 있는, 그리고 디지털 혁명과 AI에 의해 더욱 증폭된 만연한 기술 관료주의적 패러다임이 반인간적인 비전을 정상화할 위험이 있다는 점이다. 그러한 비전에서 삶의 충만함은 더 많이 소유하고, 약점을 줄이며, 불확실성을 제거하고, 완전한 통제를 행사하는 것과 동일시된다. 효율성이 가치의 궁극적인 척도가 될 때, 인간은 관계와 교제를 위해 부름받은 존재라기보다는 최적화되어야 할 프로젝트로 자신을 바라보게 되는 유혹에 빠지게 된다.
113. 사실, 인간 존재의 어느 한 측면을 절대적인 것으로 격상시키는 것은 언제나 실수이다. 실제로, 혼란은 단지 부족함에서만 비롯되는 것이 아니다. 통제되지 않은 성장조차도 빈곤을 초래할 수 있다. 생태계에서 한 종이 다른 종들을 희생시키며 번성할 때 균형이 깨지듯이, 인간 삶에서도 어떤 한 능력이 모든 것의 척도라고 주장할 때 비슷한 일이 발생한다. 따라서 지성이 절대화될 때, 애정, 의지, 헌신, 관계와 같은 삶의 다른 필수적인 측면들이 가려지게 된다. 마찬가지로, 기술적 능력이 균형을 잃게 되면 우리를 더 유능하게 만들지 못하고, 오히려 우리를 더 고립시키고 지배와 배제의 위협에 더 취약하게 만든다. 이 중요한 지적은 지성을 반대하는 것이 아니라, 지성이 자기 참조적이 될 때 삶과 인간을 섬기는 그 진정한 목적을 상실하게 된다는 점을 상기시켜 주는 것이다.
114. 문명의 수준은 그 수단의 위력이 아니라, 타인을 단순한 기능이 아닌 ‘얼굴’로서 인식하는 능력, 즉 타인에게 베풀 수 있는 배려의 정도에 따라 가늠된다. 서로를 돌보는 능력은 우리 인간성의 근본적인 차원이며, 이는 삶의 경험을 통해 배워 익히는 것이다. 아이에게 이야기를 읽어 주고, 노인에게 동반자가 되어 주며, 집을 따뜻하게 꾸미는 것은 종종 가정생활에 뿌리를 둔 단순한 행동들이다. 이러한 행동들은 우리에게 사회적인 차원에서 돌봄의 가치를 깨닫게 하고, 타인을 주목할 가치가 있는 존재로 인식하도록 훈련시킨다. 기술 또한 인간의 자유와 판단력을 훼손하지 않으면서, 우리가 일을 예측하고 정리하는 데 도움이 되는 도구를 제공하는 등, 사람 간의 이러한 상호 돌봄을 지원할 수 있다. 결국 인간은 관계의 주체이며 자신의 결정에 대해 책임을 지는 존재이기 때문이다.
배경이 되는 담론: 트랜스휴머니즘과 포스트휴머니즘
115. 현재 진행 중인 디지털 혁명에 수반되는 문화적 전제들을 조명하기 위해, 이제 우리는 진보를 인간적 한계를 초월하는 것으로 해석하는 특정 사상적 흐름에 주목하고자 한다. 이러한 흐름은 흔히 트랜스휴머니즘과 포스트휴머니즘이라는 명칭으로 묶여 있다. 이러한 관점들은 일부 기술 권력 중심지에서 이데올로기적 배경을 형성하고 있으며, 특히 미디어와 소셜 네트워크를 통해 단순화된 형태로 대중의 상상력을 지배하고 있다. 이러한 관점들은 ‘향상된 인간’이나 ‘인간-기계 혼종’에 대한 미래지향적 비전을 통해 신기술에 대한 열광을 부추기는 경향이 있다.
116. 트랜스휴머니즘과 포스트휴머니즘은 다양한 흐름과 관점을 포괄하고 있어, 이를 단 하나의 명확한 방식으로 정의하기는 어렵다. 이 두 사상은 서로 구별되지만, 기술의 중심적 역할과 인간 조건의 한계를 초월하려는 열망이라는 공통된 전제라는 ‘바다’로 연결된 개념적 ‘섬’들의 군도에 비유할 수 있다. 일반적으로 트랜스휴머니즘은 생의학, 신체 공학, 기기 및 알고리즘과 같은 기술을 통해 인간의 성능과 능력을 향상시키는 것을 목표로 한다. 포스트휴머니즘, 특히 그 급진적인 형태는 한 걸음 더 나아가 인본주의에 도전하며, 인간과 기계, 환경의 융합을 구상하고, 심지어 인류가 새로운 진화 단계에서 스스로를 초월하는 전환점을 예견하기도 한다. 이러한 아이디어들이 여전히 대체로 추측의 영역에 머물러 있더라도, 집단적 상상력을 변화시킴으로써 현실적 의미를 얻게 되며, 그로 인해 사회적, 경제적, 정치적 선택에 영향을 미친다. [129]
117. 교회의 사회 교리 관점에서 볼 때, 핵심적인 문제는 기술 그 자체의 사용이 아니라 그 이면에 깔린 시각이다. 인간을 완성되거나 초월되어야 할 대상으로 취급한다면, 어떤 생명은 덜 유용하거나, 덜 바람직하거나, 덜 가치 있다고 받아들이기가 더 쉬워진다. 진보를 명분으로 하여, 종의 소위 최적화를 추구하는 과정에서 가장 취약한 이들에게 부담을 지우며 “필요한 희생”을 정당화하기 시작할 수 있다. 이와 관련하여 앞서 언급한 성 바오로 6세의 경고는 여전히 큰 선견지명을 보여준다. 실제로 과학 및 기술의 발전은 도덕적·사회적 진보와 분리될 때 결국 인류에게 역효과를 낳게 된다. [130] 이러한 이유로 명확한 구분이 이루어져야 한다. 기술을 인간 중심적이고 관계적인 비전 안에 통합하는 것과, 인간의 한계를 경시하고 순수히 기술적인 형태의 “구원”을 약속하는 관점에 이끌리는 것은 전혀 다른 문제이다.
인간의 한계, 본질, 그리고 위대함
118. 오늘날 우리와 삶 사이의 관계는 위기에 처해 있는 듯합니다. 무능력, 질병, 노년, 고통, 취약성 등 ‘한계’로 보이는 모든 것은, 우리 인간성이 성숙하고 관계를 맺을 수 있게 되는 통로로서의 현실이라기보다는, 주로 고쳐야 할 결함으로 여겨지는 경향이 있습니다. 그러나 우리는 인류가 한계에도 불구하고 번영하는 것이 아니라, 오히려 그 한계를 통해 번영한다는 사실을 기억해야 한다. 신앙의 빛은 우리가 이 세상의 사물들이 지닌 ‘우연성’이라 부르는 것을 인식하도록 돕는 현실에 대한 관점을 제시한다. 인간의 삶을 특징짓는 고통을 덜어내려고 노력하는 것은 옳은 일이지만, 우리의 근본적인 유한성을 인정하는 것 또한 현명한 일입니다. “종교적 경험, 특히 기독교 신앙은 우리가 인간의 위대함과 한계 사이의 이 양면성을 지나치게 단순화하지 않고 살아가며, 이를 하나님과의 원초적이고 근본적인 관계라는 빛 안에서 해석하도록 제안하기” 때문입니다. [131]
119. 바로 우리의 한계 속에서 다음과 같은 것들이 자리를 잡습니다. 타인의 필요에 대한 진심 어린 관심과 연민, 어둠과 실패 속에서도 피어날 수 있는 너그러움, 영적 체험과 하느님에 대한 경배가 바로 그것입니다. 우리는 거절당할 때, 질병을 앓거나 사랑하는 이를 잃을 때, 자신의 약점이나 실패를 마주할 때 등, 우리의 한계가 뚜렷이 드러나는 수많은 순간에 이를 목격합니다. 신비롭게도, 바로 그러한 순간들 속에서 우리는 새로운 지혜를 발견하고, 타인의 가까움을 실감하며, 주님의 현존을 만날 수 있습니다.
120. 한계가 내면의 고통으로 다가올 때조차, 인간의 지혜는 그것을 부정하거나 억누르지 말고 받아들여 통합하라고 가르친다. 고통을 완전히 없애는 것은 결국 사랑과 갈망마저 소멸시키는 것을 의미한다. 사랑하고 갈망하는 이들은 시련과 고통을 겪지 않을 수 없으며, 세월이 흐르면서 우리는 흉터처럼 흔적을 남기는 교훈들, 즉 자유와 실패, 꿈과 실망이 빚어낸 여정의 기억들을 마음속에 간직하게 된다. 오직 이러한 요소들의 상호작용 덕분에 우리 내면에서 영혼의 경이로움이 일어나며, 우리는 인간성의 풍요로움을 느낄 수 있게 된다. [132] 모든 한계를 초월했다는 가정 하에 이 비극적이면서도 웅장한 모험을 포기하는 것은 여러 가지 의미를 지닐 수 있겠지만, 그것은 더 이상 인간적인 것이 아닐 것이다.
121. 피조물로서 우리가 지닌 한계에서 비롯된 도덕적 타락, 즉 인간의 마음을 명백히 뒤흔드는 악은 사회와 삶을 파멸시키며, 때로는 극단적인 비인간성의 형태에 이르게 한다. 그러나 이러한 우리 한계의 고통스러운 표현들조차도 선을 위한 여지를 남겨둔다. 사람들이 스스로의 인간성을 상실하고 비극을 초래할 때조차도, 인류 안에는 작은 빛이 계속 빛나고 있으며, 이 빛은 회개와 화해의 길을 통해 하느님의 은총으로 다시 타오를 수 있다. 빅토르 프랭클이 올바르게 지적했듯이, 공포의 순간에 “우리는 인간이 실로 어떤 존재인지 알게 되었다. 결국 인간은 아우슈비츠의 가스실을 발명한 존재이지만, 동시에 주님의 기도나 쉐마 이스라엘을 입에 머금고 당당하게 그 가스실로 들어간 존재이기도 하다.” [133]
122. 유한성을 진정으로 받아들일 때, 그것은 우리를 작게 만드는 것이 아니라 하느님과 타인의 얼굴을 알아볼 수 있는 마음을 열어줍니다. 실로 우리가 취약함, 고통, 실패와 같은 한계를 경험하기 때문에 비로소 우리 자신과 타인 모두의 침해할 수 없는 존엄성을 인식할 수 있는 것입니다. 바로 이러한 경험을 통해 우리는 우리 자신보다 더 큰 형제애를 직관하고, 불의를 치욕스러운 일로 인식할 수 있는 능력을 잃지 않습니다. 진정한 문화와 예술은 이 불꽃을 간직하며, 악의 정상화에 저항한다. 이러한 이유로, 어떤 작품들은 거의 예언적인 의미를 띠게 되었다. 베토벤의 교향곡 제9번은 통합에 대한 열망으로, 게르니카는 비인간화에 대한 고발로, 쉰들러 리스트는 과거를 망각 속에 묻어버리지 말라는 호소로 볼 수 있다.
123. 역사는 단순히 인간의 폭력을 기록한 것으로만 나타나는 것이 아니라, 인류가 우리의 공동 삶을 보호하는 제도를 만들어낼 수 있다는 증거로도 나타납니다. 지난 2세기 동안, 이는 몇 가지 상징적인 성과에서 확인할 수 있다. 모든 이에게 자비로운 돌봄을 보장하는 운영상 중립성을 지닌 국제적십자위원회(1863년)의 설립; 법적 변화뿐만 아니라 양심의 변화를 의미했던 노예제 폐지로 이어진 긴 과정; 그리고 적어도 공통된 이상으로서 인간 존엄성의 보편성을 확인하는 공유된 언어를 제시한 세계인권선언 (1948)의 채택은 인간 존엄성의 보편성을 최소한 공동의 이상으로서 확언하기 위한 공통된 언어를 제시했으며, 1951년 난민 협약은 박해와 위험을 피해 도피하는 이들을 보호할 의무를 인정하고 있다. 이 모든 사례에서 선에 대한 열망은 권력 남용을 제한하고 취약한 이들을 보호할 수 있는 공공의 맥락—법, 제도, 관행— 안에서 구체적인 형태를 띠게 되었다. 그러나 이러한 발전 중 어느 것도 저항, 편협한 이해관계, 또는 문화적 관성을 마주하지 않고 이루어진 것은 없다. 도덕적 진보는 거의 항상 길고 힘든 여정을 통해 펼쳐지며, 종종 좌절을 겪기도 한다. 지체된 평화 프로세스나 환경 약속의 더딘 이행만 떠올려 보아도 충분합니다. 이러한 성과들이 지닌 취약성 그 자체가, 이를 시작하고 지속해 나가는 이들의 책임이 얼마나 소중한지를 여실히 보여줍니다.
124. 어떤 사건들은 개인이 진정으로 모든 사람의 존엄성을 소중히 여길 때 역사가 바뀔 수 있음을 분명히 보여줍니다. 마틴 루터 킹 주니어의 증언과 밀접하게 연관된 미국의 민권 운동이나, 넬슨 만델라의 석방과 그가 미래를 증오에 내맡기지 않기로 한 결단 이후 남아프리카공화국에서 아파르트헤이트가 종식된 사례가 바로 그 예입니다. 서로 다른 맥락에서, 성녀 라우라 몬토야, 성녀 테레사 수녀, 도로시 데이, 마리 스클로도프스카-퀴리, 마리아 몬테소리, 엘리자베스 엘리엇, 왕가리 마타이, 베나지르 부토를 비롯해 전 대륙의 수많은 용감하고 관대한 여성들이 두각을 나타냈으며, 이들의 헌신은 역사를 더욱 인간적인 것으로 만드는 데 기여했다.
125. 이러한 공개적인 표징들 외에도, 더 은밀하지만 결정적인 이야기가 있습니다. 우리는 가난하고 위험한 곳에서 봉사하기로 선택한 종교 공동체들 속에서 이를 볼 수 있습니다. 또한 성 막시밀리아노 마리아 콜베, 성 오스카 로메로, 복자 엔리케 안젤레리 같은 형제애와 정의의 순교자들, 그리고 존경받는 프란치스코-자비에르 응우옌 반 투안처럼 가혹하고 종종 비인간적인 환경 속에서도 복음의 희망과 인간의 존엄성을 몸소 실천한 증인들 속에서 이를 볼 수 있습니다. 무엇보다, 부모, 간호사, 의사, 자원봉사자, 그리고 노인이나 소외된 이 곁을 지키는 이들처럼, 과시하지 않고 돌보고, 가르치고, 동행하며 위로하는 “일상의 순교자들”에게서 이 이야기는 더욱 뚜렷이 드러납니다. 그들의 증언은 선함이 저절로 전진하는 것이 아니라, 패배 후에도 다시 시작하기 위해 필요한 인내와 기억, 그리고 내적 회개를 요구한다는 사실을 보여줍니다.
126. 바로 이러한 정의로운 제도, 신뢰할 수 있는 증인들, 그리고 매일의 신실함이 서로 어우러질 때 비로소 희망이 지탱되고, 인간의 마음이 퇴보하지 않으면서도 기술 발전에 대한 분명한 방향이 제시된다. 그러므로 위대함과 상처를 동시에 지닌 인류는 결코 대체되거나 초월되어서는 안 된다. 우리는 고통을 덜어주고 새로운 가능성을 열어주는 기술적 진보를 받아들일 수 있다. 단, 인간성의 본질, 즉 관계와 사랑을 맺는 능력을 저버리지 않는 한에서 말이다. 이는 중대한 질문으로 이어진다. 만약 진정한 ‘인간을 초월한 존재’가 존재한다면, 그것은 어디에서 찾을 수 있는가? 기독교 신앙은 기술적 신격화에서 비롯된 것이 아니라, 그리스도 안에서 받은 하느님의 은총을 통해 이루어지는 완성을 가리키며 이 질문에 답한다. // 제 3장 일부야. 어떻게 생각해?
기술과 지배.
AI가 제시하는 약속을 통해 본 인류의 위대함
90. 사회 교리를 밝히 비추는 원칙들을 되새긴 후, 이제 오늘날 우리의 삶의 방식을 깊이 있게 형성하는 몇 가지 과제들에 주목하고자 합니다. 이러한 성찰을 뒷받침하는 성경적 비유는 건축 프로젝트입니다. 한편으로는 바벨탑이 있는데, 이곳에서는 공동의 노력이 지배적이고 궁극적으로 인간성을 상실하게 만드는 계획을 따릅니다(참조: 창 11:1-9) . 다른 한편으로는 느헤미야의 지도 아래 공동의 책임이라는 프로젝트로서 조각조각 재건되는 예루살렘의 폐허가 있습니다(참조: 느헤미야기 2–6). 우리는 우리 시대의 거대한 “건설 현장”들을 성찰하며 다음과 같이 물어야 합니다. 우리는 무엇을 짓고 있는가? 기술 발전이 언어, 관계, 제도, 권력 형태를 급속히 변화시키는 가운데, 우리 신자들은 우리에게 선물로 주어진 인류의 위대함을 지키고 소중히 여기기 위해 어떤 프로젝트에, 어떤 방식으로 참여할지 선택해야 하며, 또한 선택할 수 있습니다. 이는 우리의 미래뿐만 아니라 현재를 위한 선택이기도 합니다. 왜냐하면 인공지능과 기타 신기술들은 이미 우리 일상생활의 일부가 되었기 때문입니다.
91. 저는 복음의 빛 안에서 사회적 관계를 실천하는 구체적인 방식이 단번에 확정된 것이 아니라, 대대로 그리스도인 공동체에 맡겨진 과제로 남아 있다고 확신합니다. 성령의 인도하심 아래, 교회는 하느님의 말씀으로 깨달음을 얻고, 시대의 징표를 읽으며, 민족과 국가 간의 관계가 하느님 나라의 요구에 더욱 부합할 수 있도록 새로운 길을 창의적으로 모색합니다. [118] 그러므로 저는 교회의 모든 구성원들이 현재의 도전들을 두려워하지 말고, 서로의 목소리에 귀를 기울이며, 더 인간적이고 형제애 넘치는 사회를 건설하는 데 있어 자신의 책임을 확고히 다할 것을 권고합니다.
기술 관료주의적 패러다임과 디지털 권력
92. 『라우다토 시(Laudato Si’)』 회칙에서 프란치스코 교황은 세계화된 우리 사회에서 점점 더 지배력을 넓혀가는 기술 관료주의적 패러다임 [119]을 비판했다. 이는 효율성, 통제, 이윤이라는 논리만이 개인적, 사회적, 경제적 결정을 좌우하도록 내버려 두는 경향을 말한다. 이는 기술이 단순한 도구가 아님을 분명히 보여줍니다. 기술이 모든 것을 판단하는 기준이 될 때, 무엇이 중요하고 무엇이 버려져도 되는지를 결정하기 시작하며, 창조물을 착취의 대상으로 전락시키고 인간을 그 어느 때보다 더 큰 효율성을 추구하는 시스템 속의 단순한 톱니바퀴로 전락시킵니다.
93. 이 패러다임은 최근 몇 년간 인공지능, 인지과학, 나노기술, 로봇공학, 생명공학의 발전에 힘입어 급속히 확산되었다. 이러한 혁신들 자체는 인간의 전인적 발전과 우리 공동의 집을 보살피는 데 크게 기여할 수 있다. 그러나 바로 그 강력한 힘 때문에, 이 혁신들은 기술 중심적 패러다임의 확산을 가속화할 수도 있으므로, 새로운 영적·윤리적·정치적 틀이 필요하다. 더 큰 힘이 반드시 더 나은 것을 의미하는 것은 아니다. 이 점에서 로마노 과르디니의 말은 여전히 유효하다. “현대인은 권력을 올바르게 행사하도록 훈련받지 못했다.” [120]
94. 인류가 자신의 성취의 희생양이 될 위험은 이미 성 바오로 6세에 의해 명확히 인식되었으며, 그는 “가장 놀라운 과학적 진보, 가장 경이로운 기술적 성과, 그리고 가장 놀라운 경제 성장이 진정한 도덕적·사회적 진보와 동반되지 않는다면, 장기적으로는 인간에게 해가 될 것”이라고 경고했다. [121] 이러한 이유로, 그 자체로 가치 있는 기술적 진보는 이를 이끄는 인간학적 비전과 추구하는 목적을 신중하게 분별할 필요가 있다. 기술 발전이 그에 상응하는 윤리적·사회적 진보 없이 진행된다면, 그 결과는 수단의 증가는 있되 인간성의 성장은 없는, 즉 “더 많이 가지는 것”은 있어도 “더 나은 존재가 되는 것”은 없는 상황이 될 수 있다. 이러한 상황에서는 개인이 주로 자신이 만들어 낸 성과에 따라 평가될 위험이 있다. [122]
95. 여기서 우리는 앞서 언급했던 또 다른 중요한 측면을 인식해야 합니다. 디지털 환경 내의 많은 경우, 플랫폼, 인프라, 데이터 및 컴퓨팅 파워에 대한 통제권은 국가가 아닌 주요 경제 및 기술 주체들에게 있습니다. 이러한 주체들은 실질적으로 접근 조건을 설정하고, 가시성의 규칙을 결정하며, 참여의 가능성 자체를 형성합니다. 이러한 권력이 소수에게 집중될 때, 그 권력은 불투명해지고 공공의 감시를 회피하는 경향이 있으며, 이는 새로운 종속, 배제, 조작 및 불평등을 야기하는 왜곡된 형태의 발전 위험을 증가시킨다.
96. 디지털 세계에서 이처럼 권력이 집중되는 상황에 직면하여, 이 새로운 상황에서 판단과 분별의 기준이 되는 것은 사회 교리의 고귀한 원칙들, 즉 인간의 양도할 수 없는 존엄성, 공동선, 재화의 보편적 귀속, 보조성, 연대, 그리고 사회 정의입니다. 이러한 원칙들은 우리가 디지털 인프라와 알고리즘의 힘이 진정으로 참여와 책임을 증진하고, 취약 계층을 보호하며, 기회에 대한 공정한 접근을 보장하고, 모든 이의 선을 향하도록 유지되는지 평가할 것을 요구한다. 이를 바탕으로 이제 우리는 인공지능이 무엇인지, 그것이 열어주는 가능성과 수반하는 위험을 더 면밀히 살펴볼 수 있다.
인공지능
97. 본문에서 인공지능에 대해 포괄적으로 다루거나 방대한 관련 문헌을 개괄하려는 의도는 없다. 교회적 맥락을 포함하여 이미 권위 있는 연구 성과들이 존재하기 때문이다. [123] 저는 인간의 존엄성을 수호하는 도덕적·사회적 분별을 위해 몇 가지 핵심 요소를 상기하는 데 그치려 합니다. 이는 기술적 혁신을 이끌고 그 사용과 한계를 책임감 있게 결정하는 주체가 언제나 양심과 자유를 지닌 인간의 지성이 되도록 보장하기 위함입니다.
98. 이 논의를 시작하기 전에 두 가지 점을 먼저 짚어볼 필요가 있다. 첫째, AI 시스템이 놀라운 속도로 발전하고 있는 만큼, AI와 관련된 어떤 주장도 금세 구식이 되어버릴 수 있다. 둘째, AI를 설계하는 사람들을 포함해 우리 모두는 AI의 실제 작동 원리에 대해 제한된 이해만을 가지고 있다. 실제로 현재의 AI 시스템은 ‘구축’된 것이라기보다 ‘배양’된 것에 가깝다. 개발자들이 모든 세부 사항을 직접 설계하는 것이 아니라, 지능이 ‘성장’할 수 있는 프레임워크를 만들어내기 때문이다. 그 결과, 이러한 시스템의 내부 표현이나 계산 과정과 같은 근본적인 과학적 측면은 현재까지도 알려지지 않은 채 남아 있다. 따라서 두 가지 차원의 노력이 시급히 요구된다. 한편으로는 과학적 연구의 심화이며, 다른 한편으로는 도덕적·영적 분별력을 발휘하는 것이다.
99. 인공지능(AI)에 대해 단 하나의 포괄적인 정의를 내리는 것은 불가능하다. 그러나 분명한 것은, 이러한 유형의 ‘지능’을 인간의 지능과 동일시하는 오해를 피해야 한다는 점이다. 이러한 시스템은 단지 인간 지능의 특정 기능을 모방할 뿐이다. 그 과정에서 이들은 종종 속도와 계산 능력 면에서 인간 지능을 능가하며, 다양한 분야에서 실질적인 이점을 제공한다. 그러나 이러한 능력은 전적으로 데이터 처리에 국한되어 있다. 소위 인공 지능은 경험을 하지 않으며, 육체를 소유하지 않고, 기쁨이나 고통을 느끼지 않으며, 관계를 통해 성숙하지도 않고, 사랑, 일, 우정, 책임이 무엇을 의미하는지 내면적으로 알지 못한다. 또한 그들은 선과 악을 판단하지도, 상황의 궁극적인 의미를 파악하지도, 결과에 대한 책임을 지지도 않기 때문에 도덕적 양심도 없다. 그들은 언어, 행동, 분석 능력을 모방하거나 심지어 공감과 이해를 시뮬레이션할 수는 있지만, 인간이 지혜를 키워가는 데 필요한 정서적, 관계적, 영적 관점이 결여되어 있기에 자신이 만들어내는 것을 이해하지 못한다. 비록 이러한 도구들이 “학습” 능력이 있다고 묘사되더라도, 그들의 학습 방식은 인간의 방식과는 다릅니다. 그것은 삶이 자신을 빚어내도록 허용하고, 선택과 실수, 용서와 신실함을 통해 시간이 지남에 따라 성장하는 이들의 경험과는 다릅니다. 오히려 그것은 데이터와 피드백에 기반한 일종의 통계적 적응에 불과하며, 이는 매우 효과적일 수 있지만 내적 성장을 의미하지는 않습니다.
경계를 늦추지 말아야 할 유용한 도구
100. 앞서 언급한 내용을 고려할 때, 우리는 왜 인공지능이 유용한 도구가 될 수 있는지, 그리고 동시에 왜 신중하고 경계심 있는 접근이 필요한지를 더 잘 이해할 수 있다. 최근 몇 년간 인공지능의 개인적 사용이 크게 확대됨에 따라, 이것이 제공하는 기회와 급속한 확산에 따른 위험 모두에 대한 성찰이 점점 더 활발해지고 있다. 개인적 사용에 있어 특히 세 가지 측면, 즉 결과를 얻는 용이성, 객관성에 대한 인상, 그리고 인간적 의사소통의 모방에 대해서는 신중한 고려가 필요하다. 정보, 복잡한 분석, 미디어 콘텐츠, 실질적인 도움을 빠르고 간편하게 이용할 수 있다는 점은 의심할 여지 없이 삶을 더 편리하게 만든다. 그러나 이는 과도한 의존과 기성 답변을 찾는 경향을 조장하고, 개인의 창의성과 판단력을 약화시킬 수도 있다. 이러한 시스템이 제공하는 응답과 제안의 표면적인 객관성은, 그 시스템이 설계하고 훈련시킨 이들의 문화적 전제—그 모든 장점과 한계를 포함하여—를 반영하고 있다는 사실을 우리가 간과하게 만들 수 있다. 조언, 공감, 우정, 심지어 사랑에 이르는 긍정적인 인간적 소통의 인공적 모방은 매력적일 수 있으며 때로는 진정으로 도움이 되기도 한다. 그러나 분별력이 부족한 사용자에게는 오해를 불러일으켜, 실제 인간 주체와의 관계가 있는 듯한 착각을 일으킬 수도 있다. 말이 모방될 때, 그것은 진정한 관계를 구축하는 것이 아니라 단지 그 겉모습만을 만들어낼 뿐이다. 배려나 지지를 인위적으로 모방하는 행위는 실제 관계와 정서적 유대가 결여된 맥락에서 특히 위험해질 수 있다. 여기서 위험은 사람이 다른 사람과 소통하고 있다고 믿게 될 가능성보다는, 오히려 진정한 인간적 유대를 형성하고자 하는 욕구 자체를 점차 상실하게 될 수 있다는 점에 있다.
101. 사회 전반에서 AI가 활용되는 상황을 폭넓게 살펴보면, AI는 이제 의사결정 과정에 깊이 뿌리내려 다양한 분야와 여러 단계—즉, 의사소통, 관리 및 통제 분야—에 걸쳐 활용되고 있음을 알 수 있다. 효율성 향상과 특정 서비스 개선의 잠재력은 분명하지만, 이를 비판적 검토 없이 성급하게 도입할 경우 환경적 영향을 간과하는 경향을 포함해 다양한 위험에 노출될 수 있다. 현재의 AI 시스템은 막대한 양의 에너지와 물을 필요로 하여 이산화탄소 배출에 상당한 영향을 미치며, 천연 자원에 대한 부담도 가중시키고 있습니다. 특히 대규모 언어 모델의 경우 복잡성이 증가함에 따라 컴퓨팅 성능과 저장 용량에 대한 수요도 함께 늘어나고 있으며, 이는 기계, 케이블, 데이터 센터 및 에너지 집약적 인프라로 구성된 방대한 네트워크를 필요로 합니다. 이러한 이유로 환경적 영향을 줄이고 우리 모두의 공동의 집을 보호하는 데 기여하는, 보다 지속 가능한 기술적 해결책을 개발하는 것이 필수적입니다. [124]
R책임, 투명성 및 AI 거버넌스
102. 인공지능의 활용은 결코 순수히 기술적인 문제가 아니다. 인공지능이 사람들의 삶에 영향을 미치는 과정에 개입할 때, 그것은 권리, 기회, 지위, 그리고 자유와 직결된다. 고용, 신용, 공공 서비스 이용, 심지어 개인의 평판에 관한 중요하고 민감한 결정들이 “연민, 자비, 용서, 그리고 무엇보다도 사람이 변화할 수 있다는 희망”을 알지 못하는 자동화된 시스템에 전적으로 위임될 위험이 있다. [125] 따라서 이는 새로운 형태의 배제를 초래할 수 있다. 정보 조작이나 사생활 침해와 같은 명백히 유해한 용도도 존재한다. 그러나 더 미묘한 위험도 있다. AI 시스템이 중립적이고 객관적인 것처럼 보일 때, 결국은 설계자와 개발자의 고정관념이나 이념적 편향을 반영하고 강화하게 되기 때문이다.
103. 실제로, 그 판단에 대한 책임을 지는 이가 아무도 없는 상태에서, 누가 가치 있는 사람인지 아닌지를 선별할 권한을 알고리즘에 맡기는 것은 인간 가능성의 경계를 재정의하는 임무를 넘겨주는 것과 다름없다. 이 과정에서 배제된 이들에 대한 공감은 결국 모방될 수 있는 것이지만, 정치적 책임마저 상실되고 만다. 취약한 이들의 배제는 중립성과 객관성이라는 외피로 가려져, 이에 대해 이의를 제기하기 어려워진다. 이처럼 불의는 눈에 띄지 않게 되고, 단순한 겉모습이 아닌 진정한 정치적 행동으로 이해되는 연민, 자비, 용서는 점차 시야에서 사라진다.
104. 여기서 간단하지만 설득력 있는 결론이 도출된다. 우리는 AI를 도덕적으로 중립적인 존재로 간주할 수 없다. 실제로 모든 기술적 도구는 무엇을 측정하고, 무엇을 무시하며, 무엇을 최적화하는지, 그리고 사람과 상황을 어떻게 분류하는지를 통해 선택과 우선순위를 내재하고 있다. 어떤 시스템이 일부 생명을 덜 가치 있는 것으로 취급하거나, 항소할 기회조차 없이 배제하는 방식으로 설계되거나 사용된다면, 그것은 이미 인간의 양도할 수 없는 존엄성과 모순되는 기준을 도입한 것이므로, 단순히 “올바르게 사용해야 할” 도구에 그칠 수 없다. 이러한 이유로, 윤리적 분별은 우리가 시스템을 선한 목적으로 사용하는지 악한 목적으로 사용하는지를 묻는 데 그쳐서는 안 됩니다. 또한 그 시스템이 어떻게 설계되었는지, 그리고 시스템을 이끄는 데이터와 모델에 어떤 인간관과 사회관이 내재되어 있는지를 검토해야 합니다. [126]
105. 인공지능이 인간의 존엄성을 존중하고 진정으로 공동선을 위해 봉사하기 위해서는, 이러한 시스템을 설계하고 개발하는 사람들부터 이를 사용하고 구체적인 결정을 내리는 데 의존하는 사람들에 이르기까지, 모든 단계에서 책임이 명확히 규정되어야 한다. 그러나 많은 경우, 결과로 이어지는 내부 과정이 불투명하여 책임을 규명하고 오류를 시정하기가 더 어려워진다. 바로 이 지점에서 책임성(accountability)이 결정적으로 중요해진다. 즉, 누가 결정에 대해 “책임”을 져야 하는지, 이를 정당화하고, 모니터링하며, 필요할 경우 이에 이의를 제기하고 발생한 피해를 시정할 수 있는지를 규명할 수 있어야 한다. [127]
106. 인공지능 도입에 있어 신중함과 철저한 평가, 때로는 속도를 늦추는 것을 촉구하는 것은 진보에 반대하는 것이 아니라, 인류에 대한 책임감 있는 배려를 실천하는 것이다. 기술 발전의 속도와 그 영향을 통제할 수 있는 인식, 규범, 안전장치 및 제도의 발전 속도 사이에 빈번히 불균형이 발생한다는 점을 고려할 때, 이러한 필요성은 그 어느 때보다 시급하다. 추상적인 윤리만을 내세우는 것만으로는 충분하지 않다. 견고한 법적 체계, 독립적인 감독, 정보에 입각한 사용자, 그리고 책임을 회피하지 않는 정치 체제가 필요하다. 그렇지 않으면 변화는 오직 기술 관료주의적 사고에 의해 주도되고, 필요하고 피할 수 없는 것으로 포장되어, 결국 데이터와 인프라, 컴퓨팅 능력을 장악한 자들이 정한 규칙을 강요하게 될 것이다.
107. 우리는 단순히 기계의 도덕화, 즉 AI를 인간의 가치관과 일치시키는 이른바 ‘정렬(alignment)’을 요구할 뿐 아니라, 한 가지 더 중요한 조건을 주장할 용기를 가져야 한다. 바로 관련 윤리적 틀을 공개적으로 논의하고 이를 사회적 정의의 공유된 기준에 부합하도록 만드는 것이다. 그렇지 않으면 AI를 통제하는 이들이 자신들의 도덕적 비전을 강요하게 될 것이며, 이는 결국 이러한 시스템의 보이지 않는 기반 구조가 될 것이다. 소수만이 그 도덕성을 결정한다면, 더 도덕적인 AI만으로는 충분하지 않다. 필요한 것은 모든 것이 가속화될 때 그 속도를 늦출 수 있고, 지역사회가 여전히 참여하고 질문할 기회를 지킬 수 있는, 보다 적극적인 정치적 개입이다.
108. 사실, 모든 주요 기술적 변화와 마찬가지로, 인공지능(AI)은 이미 경제적 자원과 전문 지식, 데이터 접근권을 보유한 이들의 힘을 더욱 증폭시키는 경향이 있다. 공동선과 재화의 보편적 귀속이라는 관점에서 볼 때, 이는 심각한 우려를 불러일으킨다. 소수이면서도 막강한 영향력을 가진 집단이 정보와 소비 패턴을 형성하고, 민주적 과정에 영향을 미치며, 경제적 역학을 자신들의 이익에 맞게 주도함으로써 사회 정의와 민족 간의 연대를 훼손할 수 있기 때문이다. 이러한 이유로, 특히 공공재와 기본권과 관련된 경우, 인공지능의 활용은 참여와 보조성의 원칙에 기초한 명확한 기준과 효과적인 감독에 의해 지침을 받아야 한다. 지역사회와 중간 조직은 타지에서 내려진 결정의 수동적인 수혜자로 전락해서는 안 되며, 판단과 감독 과정에 기여할 수 있어야 한다. 또한 데이터의 소유권은 전적으로 민간에 맡겨져서는 안 되며, 적절히 규제되어야 한다. 데이터는 수많은 기여자들의 산물이며, 매각되거나 소수에게만 맡겨져서는 안 됩니다. 성 요한 바오로 2세께서 공동재에 관해 이미 제안하셨듯이, 참여의 정신으로 데이터를 공동재 또는 공유재로 관리하기 위해 창의적인 사고가 필요합니다. [128]
109. 사회 교리의 원칙들은 이러한 새로운 현실을 이해하기 위한 틀을 제시한다. 데이터, 계산 자원, 규제 영향력이 소수의 손에 쥐어져 있는 세상에서, 공동선을 논한다는 것은 이러한 새로운 형태의 인식적·경제적·정치적 불균형을 드러내고, 인공지능(AI) 분야의 새로운 독점 현상을 명명하는 것을 의미한다. 재화의 보편적 귀속을 논한다는 것은 기술과 이를 활용하는 데 필요한 교육 모두에 대한 보편적 접근을 보장할 방법을 모색하는 것을 뜻한다. 보조성의 원칙을 논한다는 것은, 기준이 다른 곳에서 정해진 후 단순히 감독하는 역할로 공동체의 역할을 제한하는 것이 아니라, 공동체가 스스로 선택하고 수정할 수 있는 능력을 보호해야 함을 요구한다. 연대를 논한다는 것은 알고리즘 시스템을 지탱하는, 눈에 띄지 않고 종종 착취당하는 노동자들을 인정해야 할 의무를 우리에게 부과한다. 정의를 논한다는 것은 누가 실제로 이러한 모델을 훈련시킬 수 있고 누가 단지 그 모델에 종속되는지를 결정하는 전 세계적 권력 분배에 의문을 제기해야 함을 의미한다. 마찬가지로, 이는 사회 정의가 기술이 도입된 후에야 지켜져야 할 목표일 뿐만 아니라, 기술 설계의 초기 단계부터 그 형태를 결정해야 할 필수 조건임을 인정하는 것을 뜻한다.
110. 마지막으로, 제게는 각별한 의미가 있는 “무장 해제(disarm)”라는 표현을 사용하고 싶습니다. AI의 무장 해제는 오늘날 단순히 군사적 맥락에 국한되지 않고 경제적, 인지적 현상으로까지 확장된 “무장된” 경쟁의 사고방식에서 AI를 해방시키는 것을 의미합니다. 이는 지정학적 또는 상업적 우위를 확보하려는 욕구에 의해 주도되는, 더욱 강력한 알고리즘과 더 방대한 데이터 세트를 향한 경쟁을 수반합니다. 무장 해제란 기술적 힘이 자동적으로 통치권을 부여한다는 가정을 무력화하는 것을 의미합니다. 무장 해제란 기술을 거부하는 것이 아니라, 기술이 인류를 지배하는 것을 막는 것입니다. 이는 기술을 독점적 통제에서 해방시키고 토론과 논쟁의 장으로 열어젖힘으로써, 기술을 인간 친화적으로 만들고 다양한 인간 문화와 삶의 방식 속으로 되돌리는 것을 의미합니다. 오늘날 우리의 과제는 단순히 윤리적이거나 기술적인 차원에 그치지 않는다. 이는 우리 공동의 고향에 대한 새로운 차원을 다루는 것이기에, 가장 깊은 의미에서 생태학적 과제이다. AI는 이미 우리가 깊이 빠져 있는 환경이자, 우리가 마주해야 할 힘이다. 이러한 이유로 단순히 규제하는 것만으로는 부족하며, AI는 무장 해제되어 누구에게나 열려 있고 접근 가능해야 한다.
111. 저는 인공지능을 개발하는 분들께 특별한 호소를 드리고자 합니다. 어떤 의미에서 기술 혁신은 신의 창조 행위에 인간이 동참하는 것을 의미할 수 있습니다. 따라서 개발자들은 특별한 윤리적·영적 책임을 지고 있습니다. 왜냐하면 모든 설계 선택은 인류에 대한 비전을 반영하기 때문입니다. 예술 작품이나 문학 작품의 창작자가 그 작품이 전달하는 가치를 고려해야 하는 것처럼, 개발자들도 투명성과 영향을 받는 공동체에 대한 책임감을 가지고, 그리고 개발 중인 것이 진정한 선(善)이 되도록 세심한 주의를 기울이며, 자신의 프로젝트에 가치를 담아야 할 소명을 지니고 있다.
절대 잃어서는 안 될 것
112. AI의 책임과 거버넌스 문제를 검토한 후, 이제 우리는 핵심 질문으로 돌아가야 한다. 즉, ‘우리의 인간성을 수호한다는 것은 무엇을 의미하는가?’라는 질문이다. 이 위험은 특정 기술의 오용을 넘어선다. 더 심각한 것은, 우리가 깊이 빠져 있는, 그리고 디지털 혁명과 AI에 의해 더욱 증폭된 만연한 기술 관료주의적 패러다임이 반인간적인 비전을 정상화할 위험이 있다는 점이다. 그러한 비전에서 삶의 충만함은 더 많이 소유하고, 약점을 줄이며, 불확실성을 제거하고, 완전한 통제를 행사하는 것과 동일시된다. 효율성이 가치의 궁극적인 척도가 될 때, 인간은 관계와 교제를 위해 부름받은 존재라기보다는 최적화되어야 할 프로젝트로 자신을 바라보게 되는 유혹에 빠지게 된다.
113. 사실, 인간 존재의 어느 한 측면을 절대적인 것으로 격상시키는 것은 언제나 실수이다. 실제로, 혼란은 단지 부족함에서만 비롯되는 것이 아니다. 통제되지 않은 성장조차도 빈곤을 초래할 수 있다. 생태계에서 한 종이 다른 종들을 희생시키며 번성할 때 균형이 깨지듯이, 인간 삶에서도 어떤 한 능력이 모든 것의 척도라고 주장할 때 비슷한 일이 발생한다. 따라서 지성이 절대화될 때, 애정, 의지, 헌신, 관계와 같은 삶의 다른 필수적인 측면들이 가려지게 된다. 마찬가지로, 기술적 능력이 균형을 잃게 되면 우리를 더 유능하게 만들지 못하고, 오히려 우리를 더 고립시키고 지배와 배제의 위협에 더 취약하게 만든다. 이 중요한 지적은 지성을 반대하는 것이 아니라, 지성이 자기 참조적이 될 때 삶과 인간을 섬기는 그 진정한 목적을 상실하게 된다는 점을 상기시켜 주는 것이다.
114. 문명의 수준은 그 수단의 위력이 아니라, 타인을 단순한 기능이 아닌 ‘얼굴’로서 인식하는 능력, 즉 타인에게 베풀 수 있는 배려의 정도에 따라 가늠된다. 서로를 돌보는 능력은 우리 인간성의 근본적인 차원이며, 이는 삶의 경험을 통해 배워 익히는 것이다. 아이에게 이야기를 읽어 주고, 노인에게 동반자가 되어 주며, 집을 따뜻하게 꾸미는 것은 종종 가정생활에 뿌리를 둔 단순한 행동들이다. 이러한 행동들은 우리에게 사회적인 차원에서 돌봄의 가치를 깨닫게 하고, 타인을 주목할 가치가 있는 존재로 인식하도록 훈련시킨다. 기술 또한 인간의 자유와 판단력을 훼손하지 않으면서, 우리가 일을 예측하고 정리하는 데 도움이 되는 도구를 제공하는 등, 사람 간의 이러한 상호 돌봄을 지원할 수 있다. 결국 인간은 관계의 주체이며 자신의 결정에 대해 책임을 지는 존재이기 때문이다.
배경이 되는 담론: 트랜스휴머니즘과 포스트휴머니즘
115. 현재 진행 중인 디지털 혁명에 수반되는 문화적 전제들을 조명하기 위해, 이제 우리는 진보를 인간적 한계를 초월하는 것으로 해석하는 특정 사상적 흐름에 주목하고자 한다. 이러한 흐름은 흔히 트랜스휴머니즘과 포스트휴머니즘이라는 명칭으로 묶여 있다. 이러한 관점들은 일부 기술 권력 중심지에서 이데올로기적 배경을 형성하고 있으며, 특히 미디어와 소셜 네트워크를 통해 단순화된 형태로 대중의 상상력을 지배하고 있다. 이러한 관점들은 ‘향상된 인간’이나 ‘인간-기계 혼종’에 대한 미래지향적 비전을 통해 신기술에 대한 열광을 부추기는 경향이 있다.
116. 트랜스휴머니즘과 포스트휴머니즘은 다양한 흐름과 관점을 포괄하고 있어, 이를 단 하나의 명확한 방식으로 정의하기는 어렵다. 이 두 사상은 서로 구별되지만, 기술의 중심적 역할과 인간 조건의 한계를 초월하려는 열망이라는 공통된 전제라는 ‘바다’로 연결된 개념적 ‘섬’들의 군도에 비유할 수 있다. 일반적으로 트랜스휴머니즘은 생의학, 신체 공학, 기기 및 알고리즘과 같은 기술을 통해 인간의 성능과 능력을 향상시키는 것을 목표로 한다. 포스트휴머니즘, 특히 그 급진적인 형태는 한 걸음 더 나아가 인본주의에 도전하며, 인간과 기계, 환경의 융합을 구상하고, 심지어 인류가 새로운 진화 단계에서 스스로를 초월하는 전환점을 예견하기도 한다. 이러한 아이디어들이 여전히 대체로 추측의 영역에 머물러 있더라도, 집단적 상상력을 변화시킴으로써 현실적 의미를 얻게 되며, 그로 인해 사회적, 경제적, 정치적 선택에 영향을 미친다. [129]
117. 교회의 사회 교리 관점에서 볼 때, 핵심적인 문제는 기술 그 자체의 사용이 아니라 그 이면에 깔린 시각이다. 인간을 완성되거나 초월되어야 할 대상으로 취급한다면, 어떤 생명은 덜 유용하거나, 덜 바람직하거나, 덜 가치 있다고 받아들이기가 더 쉬워진다. 진보를 명분으로 하여, 종의 소위 최적화를 추구하는 과정에서 가장 취약한 이들에게 부담을 지우며 “필요한 희생”을 정당화하기 시작할 수 있다. 이와 관련하여 앞서 언급한 성 바오로 6세의 경고는 여전히 큰 선견지명을 보여준다. 실제로 과학 및 기술의 발전은 도덕적·사회적 진보와 분리될 때 결국 인류에게 역효과를 낳게 된다. [130] 이러한 이유로 명확한 구분이 이루어져야 한다. 기술을 인간 중심적이고 관계적인 비전 안에 통합하는 것과, 인간의 한계를 경시하고 순수히 기술적인 형태의 “구원”을 약속하는 관점에 이끌리는 것은 전혀 다른 문제이다.
인간의 한계, 본질, 그리고 위대함
118. 오늘날 우리와 삶 사이의 관계는 위기에 처해 있는 듯합니다. 무능력, 질병, 노년, 고통, 취약성 등 ‘한계’로 보이는 모든 것은, 우리 인간성이 성숙하고 관계를 맺을 수 있게 되는 통로로서의 현실이라기보다는, 주로 고쳐야 할 결함으로 여겨지는 경향이 있습니다. 그러나 우리는 인류가 한계에도 불구하고 번영하는 것이 아니라, 오히려 그 한계를 통해 번영한다는 사실을 기억해야 한다. 신앙의 빛은 우리가 이 세상의 사물들이 지닌 ‘우연성’이라 부르는 것을 인식하도록 돕는 현실에 대한 관점을 제시한다. 인간의 삶을 특징짓는 고통을 덜어내려고 노력하는 것은 옳은 일이지만, 우리의 근본적인 유한성을 인정하는 것 또한 현명한 일입니다. “종교적 경험, 특히 기독교 신앙은 우리가 인간의 위대함과 한계 사이의 이 양면성을 지나치게 단순화하지 않고 살아가며, 이를 하나님과의 원초적이고 근본적인 관계라는 빛 안에서 해석하도록 제안하기” 때문입니다. [131]
119. 바로 우리의 한계 속에서 다음과 같은 것들이 자리를 잡습니다. 타인의 필요에 대한 진심 어린 관심과 연민, 어둠과 실패 속에서도 피어날 수 있는 너그러움, 영적 체험과 하느님에 대한 경배가 바로 그것입니다. 우리는 거절당할 때, 질병을 앓거나 사랑하는 이를 잃을 때, 자신의 약점이나 실패를 마주할 때 등, 우리의 한계가 뚜렷이 드러나는 수많은 순간에 이를 목격합니다. 신비롭게도, 바로 그러한 순간들 속에서 우리는 새로운 지혜를 발견하고, 타인의 가까움을 실감하며, 주님의 현존을 만날 수 있습니다.
120. 한계가 내면의 고통으로 다가올 때조차, 인간의 지혜는 그것을 부정하거나 억누르지 말고 받아들여 통합하라고 가르친다. 고통을 완전히 없애는 것은 결국 사랑과 갈망마저 소멸시키는 것을 의미한다. 사랑하고 갈망하는 이들은 시련과 고통을 겪지 않을 수 없으며, 세월이 흐르면서 우리는 흉터처럼 흔적을 남기는 교훈들, 즉 자유와 실패, 꿈과 실망이 빚어낸 여정의 기억들을 마음속에 간직하게 된다. 오직 이러한 요소들의 상호작용 덕분에 우리 내면에서 영혼의 경이로움이 일어나며, 우리는 인간성의 풍요로움을 느낄 수 있게 된다. [132] 모든 한계를 초월했다는 가정 하에 이 비극적이면서도 웅장한 모험을 포기하는 것은 여러 가지 의미를 지닐 수 있겠지만, 그것은 더 이상 인간적인 것이 아닐 것이다.
121. 피조물로서 우리가 지닌 한계에서 비롯된 도덕적 타락, 즉 인간의 마음을 명백히 뒤흔드는 악은 사회와 삶을 파멸시키며, 때로는 극단적인 비인간성의 형태에 이르게 한다. 그러나 이러한 우리 한계의 고통스러운 표현들조차도 선을 위한 여지를 남겨둔다. 사람들이 스스로의 인간성을 상실하고 비극을 초래할 때조차도, 인류 안에는 작은 빛이 계속 빛나고 있으며, 이 빛은 회개와 화해의 길을 통해 하느님의 은총으로 다시 타오를 수 있다. 빅토르 프랭클이 올바르게 지적했듯이, 공포의 순간에 “우리는 인간이 실로 어떤 존재인지 알게 되었다. 결국 인간은 아우슈비츠의 가스실을 발명한 존재이지만, 동시에 주님의 기도나 쉐마 이스라엘을 입에 머금고 당당하게 그 가스실로 들어간 존재이기도 하다.” [133]
122. 유한성을 진정으로 받아들일 때, 그것은 우리를 작게 만드는 것이 아니라 하느님과 타인의 얼굴을 알아볼 수 있는 마음을 열어줍니다. 실로 우리가 취약함, 고통, 실패와 같은 한계를 경험하기 때문에 비로소 우리 자신과 타인 모두의 침해할 수 없는 존엄성을 인식할 수 있는 것입니다. 바로 이러한 경험을 통해 우리는 우리 자신보다 더 큰 형제애를 직관하고, 불의를 치욕스러운 일로 인식할 수 있는 능력을 잃지 않습니다. 진정한 문화와 예술은 이 불꽃을 간직하며, 악의 정상화에 저항한다. 이러한 이유로, 어떤 작품들은 거의 예언적인 의미를 띠게 되었다. 베토벤의 교향곡 제9번은 통합에 대한 열망으로, 게르니카는 비인간화에 대한 고발로, 쉰들러 리스트는 과거를 망각 속에 묻어버리지 말라는 호소로 볼 수 있다.
123. 역사는 단순히 인간의 폭력을 기록한 것으로만 나타나는 것이 아니라, 인류가 우리의 공동 삶을 보호하는 제도를 만들어낼 수 있다는 증거로도 나타납니다. 지난 2세기 동안, 이는 몇 가지 상징적인 성과에서 확인할 수 있다. 모든 이에게 자비로운 돌봄을 보장하는 운영상 중립성을 지닌 국제적십자위원회(1863년)의 설립; 법적 변화뿐만 아니라 양심의 변화를 의미했던 노예제 폐지로 이어진 긴 과정; 그리고 적어도 공통된 이상으로서 인간 존엄성의 보편성을 확인하는 공유된 언어를 제시한 세계인권선언 (1948)의 채택은 인간 존엄성의 보편성을 최소한 공동의 이상으로서 확언하기 위한 공통된 언어를 제시했으며, 1951년 난민 협약은 박해와 위험을 피해 도피하는 이들을 보호할 의무를 인정하고 있다. 이 모든 사례에서 선에 대한 열망은 권력 남용을 제한하고 취약한 이들을 보호할 수 있는 공공의 맥락—법, 제도, 관행— 안에서 구체적인 형태를 띠게 되었다. 그러나 이러한 발전 중 어느 것도 저항, 편협한 이해관계, 또는 문화적 관성을 마주하지 않고 이루어진 것은 없다. 도덕적 진보는 거의 항상 길고 힘든 여정을 통해 펼쳐지며, 종종 좌절을 겪기도 한다. 지체된 평화 프로세스나 환경 약속의 더딘 이행만 떠올려 보아도 충분합니다. 이러한 성과들이 지닌 취약성 그 자체가, 이를 시작하고 지속해 나가는 이들의 책임이 얼마나 소중한지를 여실히 보여줍니다.
124. 어떤 사건들은 개인이 진정으로 모든 사람의 존엄성을 소중히 여길 때 역사가 바뀔 수 있음을 분명히 보여줍니다. 마틴 루터 킹 주니어의 증언과 밀접하게 연관된 미국의 민권 운동이나, 넬슨 만델라의 석방과 그가 미래를 증오에 내맡기지 않기로 한 결단 이후 남아프리카공화국에서 아파르트헤이트가 종식된 사례가 바로 그 예입니다. 서로 다른 맥락에서, 성녀 라우라 몬토야, 성녀 테레사 수녀, 도로시 데이, 마리 스클로도프스카-퀴리, 마리아 몬테소리, 엘리자베스 엘리엇, 왕가리 마타이, 베나지르 부토를 비롯해 전 대륙의 수많은 용감하고 관대한 여성들이 두각을 나타냈으며, 이들의 헌신은 역사를 더욱 인간적인 것으로 만드는 데 기여했다.
125. 이러한 공개적인 표징들 외에도, 더 은밀하지만 결정적인 이야기가 있습니다. 우리는 가난하고 위험한 곳에서 봉사하기로 선택한 종교 공동체들 속에서 이를 볼 수 있습니다. 또한 성 막시밀리아노 마리아 콜베, 성 오스카 로메로, 복자 엔리케 안젤레리 같은 형제애와 정의의 순교자들, 그리고 존경받는 프란치스코-자비에르 응우옌 반 투안처럼 가혹하고 종종 비인간적인 환경 속에서도 복음의 희망과 인간의 존엄성을 몸소 실천한 증인들 속에서 이를 볼 수 있습니다. 무엇보다, 부모, 간호사, 의사, 자원봉사자, 그리고 노인이나 소외된 이 곁을 지키는 이들처럼, 과시하지 않고 돌보고, 가르치고, 동행하며 위로하는 “일상의 순교자들”에게서 이 이야기는 더욱 뚜렷이 드러납니다. 그들의 증언은 선함이 저절로 전진하는 것이 아니라, 패배 후에도 다시 시작하기 위해 필요한 인내와 기억, 그리고 내적 회개를 요구한다는 사실을 보여줍니다.
126. 바로 이러한 정의로운 제도, 신뢰할 수 있는 증인들, 그리고 매일의 신실함이 서로 어우러질 때 비로소 희망이 지탱되고, 인간의 마음이 퇴보하지 않으면서도 기술 발전에 대한 분명한 방향이 제시된다. 그러므로 위대함과 상처를 동시에 지닌 인류는 결코 대체되거나 초월되어서는 안 된다. 우리는 고통을 덜어주고 새로운 가능성을 열어주는 기술적 진보를 받아들일 수 있다. 단, 인간성의 본질, 즉 관계와 사랑을 맺는 능력을 저버리지 않는 한에서 말이다. 이는 중대한 질문으로 이어진다. 만약 진정한 ‘인간을 초월한 존재’가 존재한다면, 그것은 어디에서 찾을 수 있는가? 기독교 신앙은 기술적 신격화에서 비롯된 것이 아니라, 그리스도 안에서 받은 하느님의 은총을 통해 이루어지는 완성을 가리키며 이 질문에 답한다. // 제 3장 일부야. 어떻게 생각해?
진정한 “인간을 초월한 존재”: 은총과 기독교 인문주의
127. “인간을 초월한”이라는 표현은 기술적 전망만의 전유물이 아니다. 수세기 동안 기독교 전통은 인간이 자신의 본성의 한계에 갇혀 있지 않으며, 오히려 현실 도피나 자신의 한계를 경시하는 것이 아니라 사랑 안에서 자신을 완성함으로써 자기 초월을 향해 부름받았다고 주장해 왔다. 신앙은 하느님의 선물로서 비롯된 “그 너머”를 향한 개방성을 인식한다. 이러한 변화는 성령의 역작이다. 성 토마스 아퀴나스가 가르쳤듯이, 이러한 고양과 변화의 과정은 “피조물의 본성이 가진 모든 ... 더 보기
127. “인간을 초월한”이라는 표현은 기술적 전망만의 전유물이 아니다. 수세기 동안 기독교 전통은 인간이 자신의 본성의 한계에 갇혀 있지 않으며, 오히려 현실 도피나 자신의 한계를 경시하는 것이 아니라 사랑 안에서 자신을 완성함으로써 자기 초월을 향해 부름받았다고 주장해 왔다. 신앙은 하느님의 선물로서 비롯된 “그 너머”를 향한 개방성을 인식한다. 이러한 변화는 성령의 역작이다. 성 토마스 아퀴나스가 가르쳤듯이, 이러한 고양과 변화의 과정은 “피조물의 본성이 가진 모든 ... 더 보기
진정한 “인간을 초월한 존재”: 은총과 기독교 인문주의
127. “인간을 초월한”이라는 표현은 기술적 전망만의 전유물이 아니다. 수세기 동안 기독교 전통은 인간이 자신의 본성의 한계에 갇혀 있지 않으며, 오히려 현실 도피나 자신의 한계를 경시하는 것이 아니라 사랑 안에서 자신을 완성함으로써 자기 초월을 향해 부름받았다고 주장해 왔다. 신앙은 하느님의 선물로서 비롯된 “그 너머”를 향한 개방성을 인식한다. 이러한 변화는 성령의 역작이다. 성 토마스 아퀴나스가 가르쳤듯이, 이러한 고양과 변화의 과정은 “피조물의 본성이 가진 모든 능력을 초월한다.” [134] 왜냐하면 무한한 격차가 우리의 유한한 본성과 하느님의 생명 사이를 갈라놓기 때문이다. [135] 그럼에도 불구하고, 우리가 이 세상의 한계 속에서 여정을 이어가는 동안에도 그 고갈될 줄 모르는 생명의 심장 속으로 들어가는 것은 여전히 가능하다. 이 통로를 가능하게 하시는 분은 오직 자신을 내어주시는 영원한 분일 뿐이다. 실로, 그 “무한한” 불균형을 극복하시는 분은 바로 하느님 자신이다. [136] 그분 안에서 인간의 재창조가 이루어집니다. “누구든지 그리스도 안에 있으면 새로운 피조물이라. 옛 것은 지나갔으니 보라, 모든 것이 새로워졌도다” ( 고린도후서 5:17).
128. 우리가 하느님의 은총을 통해 자기 자신을 초월할 수 있는 가능성을 받아들일 때, 우리는 우리 본성을 부정하는 것도 아니고, 인간다움이 줄어드는 것도 아닙니다. 오히려 프란치스코 교황이 설명했듯이, “우리는 인간 그 이상이 될 때, 즉 우리 존재의 가장 완전한 진리를 얻기 위해 하느님께서 우리를 자기 자신을 넘어서는 곳으로 이끌어 주실 때 비로소 온전한 인간이 됩니다.” [137] 바로 여기에 프로메테우스의 꿈과는 근본적으로 다른 점이 있다. 인류를 구원하는 것은 강화된 자급자족이 아니라, 해방시키는 관계이며, 변화시키는 교감이다. 이러한 관점에서 볼 때, 이미 존재하는 것을 단순히 분류하고 최적화하는 기술은 비록 의도치 않았더라도 변화와 성장의 장애물이 될 수 있다. 알고리즘에게 오류는 수정해야 할 결함이지만, 사람에게는 오류가 심오한 변화의 촉매제가 될 수 있다. 사람의 미래는 계산 가능한 것이 아니라, 하나님의 무궁무진한 은총으로 고양된 자유와, 가꿔온 관계에 달려 있다.
두 도시와 두 사랑
129. 기독교 인본주의는 과학이나 기술을 거부하지 않고, 감사와 현실적인 태도로 이를 받아들이며, 더 높은 소명 안에서 그 기반을 마련한다. 인류의 창조적 지성은 고통을 덜어주고 새로운 가능성을 열어줄 수 있는 선물이지만, 반드시 공동선과 정의, 약자와 피조물에 대한 보살핌을 향해 나아가야 한다. 이러한 의미에서 진정한 대립은 열정과 두려움 사이가 아니라, 두 가지 발전의 길 사이에서 이루어진다. 즉, 개인과 민족을 섬기는 진보와, 그들을 권력의 사고방식에 종속시키는 진보 사이의 대립이다. 궁극적으로 핵심적인 질문은 성 요한 바오로 2세가 제기한 그대로 남아 있다. 인공지능(AI)은 “지구상의 인간 삶을 그 삶의 모든 측면에서 ‘더 인간답게’ 만드는가? 그것을 인간에게 더 가치 있게 만드는가?” [138] 만약 대답이 ‘예’라면, 우리는 이를 네헤미야서에 묘사된 예루살렘 재건과 유사한, 인내심 있고 함께 하는 재건의 길 위에서 책임감 있게 받아들여야 할 기회로 인식할 수 있습니다. 그러나 만약 권력이 커지는 반면 마음이 시들고 인간적 유대가 약해진다면, 우리는 새로운 형태의 바벨, 즉 웅장하지만 근본적으로 인간성을 말살하는 건축물 앞에 서게 되는 것입니다.
130. 이러한 대안적인 발전의 길과, 우리가 이를 어떻게 해석하고 실천하는지에 대해 의문을 제기하는 것은 궁극적으로 우리 자신의 마음을 성찰하는 문제이다. 우리가 관계와 일, 제도를 이해하고 형성하는 방식은 실제로 우리의 근본적인 가치를 드러낸다. 결국 모든 것은 우리가 가장 소중히 여기는 것에서 비롯된다. 이는 개인으로서나 사회로서나 우리가 진정으로 소중히 여기는 것이 무엇인지 알려주고, 우리의 삶과 행동을 이끄는 사랑이다. 성 아우구스티누스는 인류 역사를 두 가지 사랑 사이의 투쟁으로 묘사했는데, 이는 세상을 살아가고 함께 공존하는 두 가지 방식, 즉 두 개의 ‘도시’를 낳습니다. 한편으로는 하느님과 이웃에 대한 사랑이요, 다른 한편으로는 오직 자기 자신만을 향한 사랑입니다. “두 가지 사랑이 두 도시를 세웠으니, 하나는 하나님을 경멸할 정도로 자기 자신을 사랑하는 세속의 도시요, 다른 하나는 자기 자신을 경멸할 정도로 하나님을 사랑하는 하늘의 도시이다.” [139] 역사 전반에 걸쳐 그랬듯이, 오늘날에도 이 두 사랑은 우리 마음속에서 우위를 차지하기 위해 계속해서 다투고 있다. 인공지능(AI) 시대도 예외는 아니다. 바벨탑의 건설이나 예루살렘의 재건은 우리 각자 안에서부터 시작된다.
127. “인간을 초월한”이라는 표현은 기술적 전망만의 전유물이 아니다. 수세기 동안 기독교 전통은 인간이 자신의 본성의 한계에 갇혀 있지 않으며, 오히려 현실 도피나 자신의 한계를 경시하는 것이 아니라 사랑 안에서 자신을 완성함으로써 자기 초월을 향해 부름받았다고 주장해 왔다. 신앙은 하느님의 선물로서 비롯된 “그 너머”를 향한 개방성을 인식한다. 이러한 변화는 성령의 역작이다. 성 토마스 아퀴나스가 가르쳤듯이, 이러한 고양과 변화의 과정은 “피조물의 본성이 가진 모든 능력을 초월한다.” [134] 왜냐하면 무한한 격차가 우리의 유한한 본성과 하느님의 생명 사이를 갈라놓기 때문이다. [135] 그럼에도 불구하고, 우리가 이 세상의 한계 속에서 여정을 이어가는 동안에도 그 고갈될 줄 모르는 생명의 심장 속으로 들어가는 것은 여전히 가능하다. 이 통로를 가능하게 하시는 분은 오직 자신을 내어주시는 영원한 분일 뿐이다. 실로, 그 “무한한” 불균형을 극복하시는 분은 바로 하느님 자신이다. [136] 그분 안에서 인간의 재창조가 이루어집니다. “누구든지 그리스도 안에 있으면 새로운 피조물이라. 옛 것은 지나갔으니 보라, 모든 것이 새로워졌도다” ( 고린도후서 5:17).
128. 우리가 하느님의 은총을 통해 자기 자신을 초월할 수 있는 가능성을 받아들일 때, 우리는 우리 본성을 부정하는 것도 아니고, 인간다움이 줄어드는 것도 아닙니다. 오히려 프란치스코 교황이 설명했듯이, “우리는 인간 그 이상이 될 때, 즉 우리 존재의 가장 완전한 진리를 얻기 위해 하느님께서 우리를 자기 자신을 넘어서는 곳으로 이끌어 주실 때 비로소 온전한 인간이 됩니다.” [137] 바로 여기에 프로메테우스의 꿈과는 근본적으로 다른 점이 있다. 인류를 구원하는 것은 강화된 자급자족이 아니라, 해방시키는 관계이며, 변화시키는 교감이다. 이러한 관점에서 볼 때, 이미 존재하는 것을 단순히 분류하고 최적화하는 기술은 비록 의도치 않았더라도 변화와 성장의 장애물이 될 수 있다. 알고리즘에게 오류는 수정해야 할 결함이지만, 사람에게는 오류가 심오한 변화의 촉매제가 될 수 있다. 사람의 미래는 계산 가능한 것이 아니라, 하나님의 무궁무진한 은총으로 고양된 자유와, 가꿔온 관계에 달려 있다.
두 도시와 두 사랑
129. 기독교 인본주의는 과학이나 기술을 거부하지 않고, 감사와 현실적인 태도로 이를 받아들이며, 더 높은 소명 안에서 그 기반을 마련한다. 인류의 창조적 지성은 고통을 덜어주고 새로운 가능성을 열어줄 수 있는 선물이지만, 반드시 공동선과 정의, 약자와 피조물에 대한 보살핌을 향해 나아가야 한다. 이러한 의미에서 진정한 대립은 열정과 두려움 사이가 아니라, 두 가지 발전의 길 사이에서 이루어진다. 즉, 개인과 민족을 섬기는 진보와, 그들을 권력의 사고방식에 종속시키는 진보 사이의 대립이다. 궁극적으로 핵심적인 질문은 성 요한 바오로 2세가 제기한 그대로 남아 있다. 인공지능(AI)은 “지구상의 인간 삶을 그 삶의 모든 측면에서 ‘더 인간답게’ 만드는가? 그것을 인간에게 더 가치 있게 만드는가?” [138] 만약 대답이 ‘예’라면, 우리는 이를 네헤미야서에 묘사된 예루살렘 재건과 유사한, 인내심 있고 함께 하는 재건의 길 위에서 책임감 있게 받아들여야 할 기회로 인식할 수 있습니다. 그러나 만약 권력이 커지는 반면 마음이 시들고 인간적 유대가 약해진다면, 우리는 새로운 형태의 바벨, 즉 웅장하지만 근본적으로 인간성을 말살하는 건축물 앞에 서게 되는 것입니다.
130. 이러한 대안적인 발전의 길과, 우리가 이를 어떻게 해석하고 실천하는지에 대해 의문을 제기하는 것은 궁극적으로 우리 자신의 마음을 성찰하는 문제이다. 우리가 관계와 일, 제도를 이해하고 형성하는 방식은 실제로 우리의 근본적인 가치를 드러낸다. 결국 모든 것은 우리가 가장 소중히 여기는 것에서 비롯된다. 이는 개인으로서나 사회로서나 우리가 진정으로 소중히 여기는 것이 무엇인지 알려주고, 우리의 삶과 행동을 이끄는 사랑이다. 성 아우구스티누스는 인류 역사를 두 가지 사랑 사이의 투쟁으로 묘사했는데, 이는 세상을 살아가고 함께 공존하는 두 가지 방식, 즉 두 개의 ‘도시’를 낳습니다. 한편으로는 하느님과 이웃에 대한 사랑이요, 다른 한편으로는 오직 자기 자신만을 향한 사랑입니다. “두 가지 사랑이 두 도시를 세웠으니, 하나는 하나님을 경멸할 정도로 자기 자신을 사랑하는 세속의 도시요, 다른 하나는 자기 자신을 경멸할 정도로 하나님을 사랑하는 하늘의 도시이다.” [139] 역사 전반에 걸쳐 그랬듯이, 오늘날에도 이 두 사랑은 우리 마음속에서 우위를 차지하기 위해 계속해서 다투고 있다. 인공지능(AI) 시대도 예외는 아니다. 바벨탑의 건설이나 예루살렘의 재건은 우리 각자 안에서부터 시작된다.
| 목록 | 수정 삭제 |