인식적 의존, 신뢰, 그리고 전문가에 대하여 (Epistemic Dependence, Trust, Experts) — Response Paper
0. Introduction
이번 학기에 철학과 대학원 수업 「기술철학연습」에서 읽은 논문들에 대해 작성한 Response Paper들이다. 이 게시글에 적힌 Response Paper는 Epistemic Dependence(인식적 의존), Trust(신뢰), Experts(전문가)에 대한 논문들의 간단한 인트로와 논문에 대한 나의 비평문이다.
각 response의 앞부분에는 다룬 논문의 서지 정보와 짧은 요약을 덧붙였고, 그 뒤에 response paper 원문을 이어 붙였다.
1. 인공지능 연구 시대에 인식적 개인주의는 포기할만한가?
다루는 논문 · Hardwig, J. (1985). Epistemic Dependence. The Journal of Philosophy, 82(7), 335–349.
Hardwig은 비전문가가 전문가의 말에 기대어 무언가를 믿는 문외한-전문가 관계에서 출발한다. 비전문가는 전문가가 가진 증거를 직접 검토할 수 없지만, 그럼에도 전문가에게 의존하는 편이 스스로 판단하는 것보다 더 합리적인 경우가 많다는 것이 이 논문의 핵심 주장이다. 이를 바탕으로 Hardwig은 스스로 증거를 갖추어야만 합리적이라고 보는 인식적 개인주의를 비판하고, 수많은 공저자가 참여하는 현대 물리학 연구를 예로 들어 개인이 증거 없이도 대리적으로 알 수 있다고 인정하거나 아는 주체를 공동체로 보아야 한다고 제안한다.
요즘 시대에 가장 영향력이 크고 출판 주기도 가장 빈번한 인공 지능 분야의 논문은 개인 연구자가 발표하는 경우가 매우 드물다. 연구실에서 발표하는 논문은 몇 명에서 몇십 명 단위의 공저자가 발표하고, 기업에서 발표하는 논문은 공저자의 목록이 몇백 명의 단위까지 올라간다. 이러한 추세에서 바라볼 때 저자인 Hardwig이 인식적 주체의 단위를 개인에서 단체로 대체하자는 제안은 어느 정도 합리적인 부분이 있어 보이고, 인식적 개인주의(epistemical individualism)를 고수할 때 진전되기 힘들었던 논의의 돌파구가 될 수 있어 보이기도 한다. 물론 저자는 “개인이 증거와 이해 없이도 지식을 대리적으로 알 수 있는 경우도 인정하자”는 대안도 제안하긴 하지만, 인식적 개인주의를 포기하는 것에 더욱 중점을 두는 듯하다.
저자는 인식적 개인주의의 뿌리가 칸트의 “스스로 생각하라(think for oneself)” 와 데카르트의 방법적 회의에 있지만 그것이 매우 비현실적인 낭만적 이상이며 실천적으로 덜 합리적인 믿음과 판단을 낳는다고 말한다. 데카르트와 칸트의 시대에 비해 현재 시대에 우리는 어떤 영역에서도 내 의지와 상관없이 남에게 의존하는 경우가 생길 수밖에 없는 경우가 늘어남을 생각한다면 데카르트와 칸트에 기반한 인식적 개인주의의 뿌리가 현 시대에는 적합하지 않을 수 있음에 나는 동의한다. 저자는 이 내용에 기반하여 현 물리학계에서 과학 이론이 어떻게 발전하는지 설명한다.
저자는 현대 입자 물리학 이론 연구가 집단 단위에서 수년간의 실험과 분석을 통해서 이루어지고, 입자 물리학 논문 저자 중 다수는 논문 속 특정 수치의 도출 과정도 이해하지 못하고 있다고 말한다. 또한 입자 물리학 참고 논문의 각주는 권위에 호소하고 있으며 이 각주들이 연구의 전제를 확립하는 데 이용될 때 물리학계의 전문가인 입자 물리학 논문 저자도 각주의 원문 연구자와 문외한-전문가(layman-expert) 관계가 성립한다고 말한다. 여기서 저자는 연구 부정이 발생한 경우를 언급하는데, 연구의 규모가 커지고 의존 관계가 복잡해질수록 부정의 실마리를 어디서부터 걷잡아야 할 지 더욱 어려워질 것은 자명해 보인다.
마지막으로 저자는 인식의 주체를 개인에서 공동체로 대체하는 방안이 개인의 자율성과 책임, 평등과 민주주의 중의 일부를 위협할 것이라는 점에서 충분히 교란적일 것임을 인정한다. 하지만 이에 관한 이야기는 논문의 밖에서 해야 할 이야기라고 끊어서 말한다.
나는 연구 부정에서 인식적 개인주의를 대체하는 것이 충분히 좋은 방안인지 논의해보고자 한다. 최근 인공 지능 분야에서 한국에서 일어난 연구 부정 관련 사례에는 “서울대학교 표절 논문 CVPR 투고 사건”이 있다. 해당 사건의 내용은 서울대학교 전기정보공학부의 한 연구실 연구원들이 기존에 발표된 10여개의 논문 원문을 그대로 가져와 짜깁기하여 완성한 후 전세계적으로 최고 수준으로 인정받는 컴퓨터 비전 학회인 CVPR(Computer Vision and Pattern Recognition Conference)에 투고하여, 상위 5% 이내의 구두 발표 논문으로 선정되었지만 이후 익명의 고발자가 유튜브에 영상을 업로드하여 표절이 탄로난 과정으로 진행되었다. 이 사건에서 우리는 인식의 주체, 즉 연구의 주체를 개인 혹은 집단으로 상정했을 때 어떤 양상이 일어날 지 생각해볼 수 있다. 만약 연구의 표절이 발각되지 않았을 경우 연구의 주체를 연구의 저자 집단 전체로 묶는 것은 문제가 없어 보인다. 실제로 연구실 단위의 홈페이지에서는, 발표한 논문의 저자들의 구성이 매번 바뀌어도 연구실의 이름으로 발표되었다는 미명으로 발표 논문 리스트에 전부 업데이트된다. 하지만 부정이 발각되었을 경우, 이 청사진은 바로 깨지게 된다.
표절 논문임이 발각된 후 해당 표절 논문의 참여 연구진들은 표절을 처음 밝힌 유튜브 영상에 댓글을 달았다. 제 1저자는 모든 책임이 본인에게 있다고 하였고 제 1저자를 제외한, 지도교수를 포함한 공저자들은 본인들이 논문에 기여한 내용은 극히 적으며 논문의 내용은 대부분 제 1저자가 서술하였다고 주장한다. 우리는 여기서 연구 공동체의 구성원들이 연구에 대하여 각자 동일한 역할과 책임을 지지 않으려 하는 것을 확인할 수 있다. 결국 해당 표절로 인해 제 1저자만 꼬리 자르기 식의 처벌을 받았고, 지도 교수를 비롯한 공저자들은 큰 처벌을 받지 않은 것으로 알려진다. 결국 저자(Hardwig)가 말했듯 연구의 주체를 공동체로 취급하는 것이 개인의 자율성과 책임의 부분을 위협하고 있는 것이다.
또한 CVPR 학회의 리뷰 과정에서 논문의 리뷰어들이 논문의 표절을 포착하지 못한 책임도 무시할 수 없다. 표절 사건으로 인해 컴퓨터 비전 분야에서 세계 최고 권위를 갖는 학회가 논문 표절 하나 못 잡아낸다며 학회의 기능 자체를 부정하는 반응도 적지않게 나타났다. 인공 지능 연구 학회의 논문 리뷰 및 억셉 과정을 살펴본다면, 소수의 리뷰어가 그 논문의 표절을 적발하지 못하고 높은 점수를 할당할 경우 학회에서 이를 방지하는 시스템은 갖춰져 있지 않다. 결국 표절을 저지른 사람과 표절을 적발하지 못한 리뷰어들 개인 수준의 책임과, 표절을 적발하지 못하고 적발을 하지 못할 순 있더라도 연구에 대한 책임 자체를 성실하게 따르지 않은 공저자들과 CVPR 위원장들의 공동체 수준의 책임은 어느 하나 무시할 수 없다. 결국 인식적 주체의 개인주의와 공동체주의는 어느 하나로 쉽게 대체할 수 없고, 개인과 공동체의 상호작용 속에서 각 단위의 역할과 책임을 분명하게 고려해야 한다고 생각한다.
2. 집단적 과학 지식은 특별하게 다른 지식과 구별되는가?
다루는 논문 · Hardwig, J. (1991). The Role of Trust in Knowledge. The Journal of Philosophy, 88(12), 693–708.
앞선 논문의 논의를 이어, Hardwig은 현대의 과학 지식이 연구자들 사이의 신뢰 위에서 성립한다고 주장한다. 연구자는 동료가 수행한 실험과 분석을 직접 검증하기 어렵기 때문에 그들의 증언을 믿을 수밖에 없고, 그 신뢰가 정당하려면 동료의 역량과 정직성 같은 인격적 특성이 뒷받침되어야 한다. 그래서 Hardwig은 지식의 문제가 윤리의 문제와 떼어낼 수 없다고 본다.
다루는 논문 · de Ridder, J. (2014). Epistemic Dependence and Collective Scientific Knowledge. Synthese, 191(1), 37–53.
de Ridder는 현대 과학 지식이 개인이 아닌 집단의 지식이라고 본다. 핵심은 과학자들이 서로에게 깊이 의존하고 있어서, 지식이 되기 위한 정당화를 어느 한 사람이 혼자서는 갖출 수 없다는 점이다. 이 논문은 기존의 집단 지식 이론들이 이런 과학의 실제 모습을 잘 설명하지 못한다고 보고, 정당화를 기준으로 한 새로운 집단 지식 개념을 제안한다.
현 시대에 과학적 지식은 수 백명 단위의 집단적인 연구를 통해 이루어지는 빈도가 많아지며 개별적 과학적 지식에 손쉽게 건드리기는 점점 어려워지고 있다. 논문의 두 저자 Hardwig과 de Ridder는 현대에 이르러 과학적 지식이 집단적으로 형성되며 그 형성 과정에서의 과학 지식을 생산하는 집단의 내부 구성원들의 비대칭, 그리고 집단적인 지식 형성만이 고유하게 갖고 있는 특징이 분명하게 존재한다고 여기고 있다. Hardwig은 비대칭 속에서 집단적 과학 지식이 형성되는 원동력을 타인에 대한 신뢰(Trust)라고 판단했으며 de Ridder는 과학적 정당화(Scientific Justification)의 정의를 제안함으로써 과학적 정당화의 주체가 집합체여야만 가질 수 있는 중요한 의미가 있음을 논증함으로써 집담적 과학 지식의 중요성을 얘기하고 있다.
두 저자의 집단적 과학 지식에 대한 시선의 차이점 또한 분명하게 존재한다. 우선 Hardwig은 기존의 Epistemic Dependence 논문의 결론을 이어받아 협업 의존이 점점 커지고 불가피해진다는 점을 강조하며 인식적 개인주의만으로 집단적 과학 형성이 불가능하다는 논조의 주장을 한다. 그러나 de Ridder는 어떤 과학 지식의 집단성이 그 지식의 본질적 속성은 아니라고 하면서, 한 시점에 집단적 지식이었던 것이 나중에는 개인적 지식으로 변할 수 있다고 주장한다. 집단적 지식이 시간의 흐름에 따라 개인적 지식으로 변하는 양상에 대해 Hardwig은 role of trust 논문에서 명시적으로 논의한 바가 있진 않지만, Hardwig의 주장을 살펴보면 오로지 집단적으로 이루어지는 과학 지식 추구의 논의만을 진행하는 것으로 사료된다.
우선 Hardwig의 논문부터 집중적으로 살펴보자. Hardwig은 과학이 집단적으로 구성됨 자체를 상정하고 개개인의 유한성 때문에 신뢰를 바탕으로 한 집단적 과학의 원동력을 논증하였다. 또한 Hardwig은 4장 707페이지에서 수십 년 동안 과학자들과 철학자들 모두 과학이 부정에 뚫리지 않고, 신뢰의 역할을 무시해왔다고 주장한다. 또한 논문의 마지막 문단에서 과학적 실재론이 윤리학에서의 주관주의나 회의주의와 결합할 때 정합적이지 않은 것으로 판명된다고 주장한다. 여기서 나는 Hardwig이, “기존의 과학자와 철학자들은 과학적 실재론을 긍정함으로써 과학 지식만의 다른 학문과는 구별되는 특별함이 생겼다”고 판단한 것 같다. 따라서 신뢰라는 것을 과학 연구의 기초 단위로 도입함으로써 실재론을 어느 정도 부정하고, 과학적 지식 또한 인식론, 논리학, 윤리학과 같은 층위로 사람과 사람 간의 합의와 신뢰를 통해 형성하는 학문으로 바라보는 것을 주장하는 것 같다.
두 번째로 de Ridder의 논문은, 중점적으로 논의해야 하는 주제로 생각하는 부분이 Hardwig과는 약간 다른 것 같다. de Ridder는 “과학이 집단적으로 구성되는가?” 자체에 대해 연구의 주체 단위를 집합으로 상정하였을 때에만 논의가 가능해지는 부분을 제시함으로써 왜 과학 지식의 주체가 집단의 단위로 다루어야 하는 지에 대해 제시한다. de Ridder는 집단적으로 과학 지식을 생성하는 것을 축구 경기에서 골을 넣은 선수의 성취가 팀의 성취에서 파생되는 것의 비유를 통해 개인의 지식이 집단의 지식에서 파생되는 것을 설명하고, 현 시대의 과학적 정당화는 상호 의존하며 연구를 진행하는 과학자 집단밖에 성취하지 못함으로써 집단적 과학 지식의 비가역성을 설명한다.
나는 두 논문의 저자의 주장 중 Hardwig의 주장에 손을 들어주고 싶다. de Ridder는 집단적 과학을 특별히 고능한 지식으로 바라보는 반면 Hardwig은 다른 협력적 기획과 크게 다른 층위에서 이루어지지 않는다고 평가한다. de Ridder는 탐구가 적절히 수행되었는지에 대해 과학 공동체의 판단을 지침으로 삼자고 하지만, Hardwig는 공동체의 판단으로는 탐구의 적절성을 판단할 수는 없다고 말한다. de Ridder는 집단의 단위에서는 과학적 지식의 정당화가 이루어질 수 있다고 판단하지만, 집단 구성원들 간 서로의 의존 또한 명확히 나누어 떨어질 수 있게 설명 불가능한 경우도 분명히 존재한다. 이러한 괴리를 de Ridder는 집단의 정당화가 집단 구성원 개개인의 정당화로 환원되지 않는다고 말함으로써 설명하지만, 실질적으로 과학 연구 단체의 정당화는 어느 정도 개개인의 정당화로 환원이 가능하도록 동작하고 있다. 특히 연구에서의 부정이 발생했을 경우 집단, 즉 공동체는 공동체 구성원 개개인의 부정에 대한 책임을 물을 것이고 각자가 개인적으로 부정에 가담한 정도를 파악할 것이다. 그리고 Hardwig의 입장에서 개개인 간의 신뢰를 바탕으로 집단의 정당화를 환원할 수 있다고 반박할 수 있다. 부정의 사례에서 연구 공동체 구성원 각자의 신뢰를 무너뜨리게 된 구성원을 가려냄으로써 신뢰의 단위에서 검증을 진행할 수 있고, 이를 통해 집단의 정당화 혹은 지식은 개개인의 단위에서 가려낼 가능성이 존재하기 때문이다.
나는 Hardwig의 주장처럼 결국 과학 이론은 객관적인 진리에 대한 추구보다도 공동체 구성원들의 더 많은 신뢰를 받을 수 있는 방향으로 발전한다고 보는 것이 더 적합하다고 생각한다. 따라서 과학이 다른 협력적 기획들과 다르지 않다고 주장하는 내용에 동의하고 있으며, 시간이 흐를수록 집단적 과학적 지식이 더욱 조명받고 있는 이유 또한 위의 내용으로 설명할 수 있다고 생각한다.
3. 초보자의 믿음은 어떻게 형성되는가?
다루는 논문 · Goldman, A. I. (2001). Experts: Which Ones Should You Trust? Philosophy and Phenomenological Research, 63(1), 85–110.
Goldman은 전문 지식이 없는 초보자가 서로 의견이 엇갈리는 전문가들 가운데 누구를 믿어야 하는지를 묻는다. 초보자는 전문가의 주장을 직접 평가할 수 없기 때문에, Goldman은 논증의 형식, 다른 전문가들의 동의, 자격, 이해관계와 편향, 과거의 실적처럼 초보자도 활용할 수 있는 간접적인 증거들을 하나씩 검토한다. 특히 동의하는 전문가의 수가 언제 의미를 갖는지를 확률로 분석하면서, 전문가들이 서로 독립적이지 않다면 머릿수가 많다는 것만으로는 근거가 되기 어렵다고 지적한다.
Croce와 Baghramian, 그리고 Goldman은 모두 각 논문에서 특정 분야에 대한 전문 지식이 없는 초보자(novice)가 전문가(expert)의 전문성을 어떻게 판별하고 그의 의견을 어떻게 식별할 수 있을 지에 대한 논의를 진행하였다. 나는 여기서 Goldman의 논문을 중점적으로 다루려고 한다. Goldman은 초보자의 인지적 한계로 시간, 비용, 능력 등의 제약으로 인해 초보자가 판단 시점 이전에 전문가가 될 수 없는 점과 특정 분야에서 어떤 주장이 옳은지 스스로 판단할 수 있는 인지적 자원이 없다는 점에서 판단 기준이 부재함을 주장한다(89-90p). Goldman은 이러한 인지적 한계로 인해 초보자는 전문가의 의견에 대한 직접적인 평가(Direct Calibration)이 불가능하며 초보자가 전문가의 신뢰성을 판단할 수 있는 인식적 근거(epistemic basis)에는 논쟁(Arguments), 합의(Agreement), 자격 요건(Credentials), 이해관계와 편향(Interests and Biases), 과거 기록(Track-records)와 같은 간접 지표들을 활용할 것을 제안한다(92-93p).
Goldman은 초보자와 더불어 전문가에 대한 정의도 제안한다. Goldman은 전문성을 단순히 명성이나 평판이 아닌 진리론적(veritistic) 관점에서 정의한다. Goldman은 인지적 전문가(cognitive expert)의 정의를 해당 분야에서 일반인보다 훨씬 더 많은 참인 신념을 가지고 있고 거짓인 신념은 적게 가지고 있으며, 단순히 남들보다 조금 더 아는 것에서 그치지 않고 특정 분야에서 보유한 참된 지식의 양이 기준값(threshold)을 넘는 정도로 보유해야 한다는 실질적인 기준이 있으며 그 기준을 넘어야 한다고 주장한다(91p). 또한 전문가는 전문 분야의 새로운 질문에 대해 참인 답을 찾아낼 수 있는 능력이나 성향을 갖추어야 한다고 정의한다(92p). 마지막으로 강한 의미의 전문가와 약한 의미의 전문가에 차이를 두어 강한 의미의 전문가는 전문 분야의 핵심적인 지식에 대해 방대한 지식을 갖고 있으며 전문 분야의 증거 상태, 다른 연구자들의 의견, 논쟁의 지형 등에 잘 알아야 하고, 약한 의미의 전문가는 핵심 질문에 대해 틀린 답을 갖고 있을 지라도 전문 분야의 기존 증거들과 동료 전문가들의 견해(Secondary Questions)에 대해 방대한 지식을 갖고 있어야 한다고 제안한다(92p).
특히 Goldman은 초보자의 입장에서 여러 전문가의 입장의 갈리는 경우 초보자의 믿음이 어떻게 형성되는가에 대해 집중적으로 다루고 있다. 여기서 Goldman은 믿음 형성 과정을 베이즈주의 확률변수를 도입하여 확률의 갱신식을 통해, 믿음이 업데이트되는 과정을 전문가 의견의 단순합으로는 실질적인 믿음의 갱신이 이루어지지 않음을 보이고 있다(100p). 나는 여기서 Goldman이 베이즈 갱신식을 통해 믿음을 설명하는 것의 부적절함을 보이려 한다.
우선 우리는 빈도주의 확률변수대신 베이즈주의 확률변수를 표현하는 이유에 대해 살펴볼 필요가 있다. 빈도주의에서는 사건 확률 분석의 기반을 사건의 발생 유무의 참거짓만으로 이진적으로 구별하지만 베이즈주의에서는 확률 분석의 기반을 사건에 대한 주관적 믿음의 정도로 해석한다. 따라서 초보자와 전문가가 상호작용하는 상황에서 베이즈주의를통해 믿음을 표현하는 것은 적절해 보인다. 그러나 Goldman은 믿음의 갱신 과정을 단순한 가설의 참과 거짓의 이진적 유무로만 구별하여 베이즈 갱신식을 표현한다. Goldman이 간단하게 제안한 베이즈 갱신식은 그 수식 자체로는 유효할지 몰라도, Goldman이 최종적으로 전달하려 하는 초보자의 믿음 형성 과정에서는 가설의 이진적인 참거짓 유무를 통해 전문가의 믿음이 형성되지 않고 다양한 인식적 근거를 통한 판단이 필요하므로 단순한 가설의 참거짓 유무를 이용해 베이즈 갱신식을 통한 믿음의 형성을 표현하는 것은 적절하지 않아 보인다.
추가로 Goldman은 \(P(Y(H)/X(H) \,\&\, H) > P(Y(H)/X(H) \,\&\, {\sim}H)\) 일 경우에만 전문가끼리의 합의가 초보자에게 의미를 갖는다고 주장한다(101p). 또한 Goldman은 신념이 단순히 다른 전문가와의 협상에 의해서만 생산되고, 현실(nature)를 반영하지 않는다는 사회구성주의적 견해를 비판하면서, 위의 부등식을 만족하는 것이 전문가들이 진리를 추구해야 하는 역할이 있다고 주장하는 것에 힘을 실어주는 것이라고 주장한다(102-103p). Goldman은 전문가들의 지식의 사회구성주의자들의 주장에 의해 형성될 경우 사회구성주의적 경로는 실제 사실을 반영하지 않고 오직 공동체의 의견이나 이해관계만을 반영하고, 이는 위의 부등식을 만족하지 못하게 된다고 주장한다(p103). 하지만 이것은 앞서 Goldman이 주장한 초보자의 인지적 한계와 어느 정도 상충하는 부분이 존재한다고 생각한다. Goldman이 제안한 믿음 갱신식대로 믿음을 온전하게 갱신하려면 가설의 참거짓, 전문가의 주장 각 요소에 대한 판단 능력을 보유해야 한다. 하지만 초보자의 인지적 한계는 이런 요소들을 잘 알지 못하게 한다. 따라서 Goldman의 수식대로면 초보자는 자신의 믿음 체계가 어떻게 갱신되는지도 모르고 갱신하게 된다. 이것은 다소 모순이 있어 보인다.
Goldman은 전문가들의 독립성을 강조하면서 전문가들이 서로 독립적이어야 합의가 가치 있다고 주장한다. 이것은 사회구성주의에 대한 비판과 결합되어 이뤄지며, 전문가들이 어떠한 편향에 대한 영향을 받는 것을 배격하는 주장으로 이어진다. 하지만 앞서 제안한 전문가의 정의 요소인 참된 지식들은 전문가들의 의존적인 상호 작용을 통해 참이라고 임명된 지식들이 대다수이다. 여기서 Goldman은 사회구성주의를 극단적인 합의적 지식으로 간주하지만, 전문가들이 진리를 판별하기 위해선 합의적으로 판별되는 참거짓을 무시할 순 없다. 따라서 나는 Goldman의 주장에는 다소 극단적인 정의와 지나치게 단순한 수식 도입을 통한 모순이 분명하게 존재하며, 이로 인해 너무 급진적으로 전개된 주장을 다소 축소해야 할 필요가 있다고 생각한다.