인식적 오프로딩(Cognitive Offloading)과 지적 자율성(Intellectual Autonomy)에 관하여
0. Introduction
이번 학기에 철학과 대학원 수업 「기술철학연습」에서 읽은 논문들에 대해 작성한 Response Paper들이다. 이 게시글에 적힌 Response Paper는 Cognitive Offloading(인식적 오프로딩)과 Intellectual Autonomy(지적 자율성)에 대한 논문들의 간단한 인트로와 논문에 대한 나의 비평문이다. 앞서 작성한 Epistemic Dependence, Trust, Experts에 대한 Response Paper는 인식적 의존, 신뢰, 그리고 전문가에 대하여에 정리해 두었다.
각 response의 앞부분에는 다룬 논문의 서지 정보와 짧은 요약을 덧붙였고, 그 뒤에 response paper 원문을 이어 붙였다.
1. 인식적 기준은 어떻게 공유될 수 있는가
다루는 논문 · Lynch, M. P. (2014). Neuromedia, Extended Knowledge and Understanding. Philosophical Issues, 24(1), 299–313.
Lynch는 스마트폰의 기능이 뇌에 직접 연결되는 가까운 미래의 기술을 뉴로미디어(neuromedia)라고 부르고, 이런 기술이 우리가 가진 지식의 개념에 어떤 압력을 주는지 묻는다. 그는 지식을 하나로 정의하는 대신, 지식과 동일시되어 온 세 가지 인식적 상태인 신뢰할 만한 과정으로 정보를 받아들이는 수용성, 다른 사람도 인정할 수 있는 이유를 댈 수 있는 책임 있는 믿음, 그리고 정보 사이의 연결을 파악하는 이해를 구분한다. 그리고 뉴로미디어가 수용적 상태는 쉽게 늘려 주지만, 책임 있는 믿음과 이해는 행위자 자신의 관여 없이는 늘어나지 않는다고 본다.
Lynch는 스마트폰의 기능이 세포 수준으로 소형화되어 인간의 신경망으로 접근할 수 있게 되는 수준의 기술이 실제화되는 것이 머지 않았음을 기술하며, 이러한 뉴로미디어(Neuromedia)를 사용하는 것이 사고실험의 수준을 탈피하여 실질적으로 “새로운 기술은 우리가 지식에 대해 하나보다 많은 개념을 가질 수 있다는 생각에 어느 정도의 압력을 가하는가?”, “이러한 개념들에 들어맞는 상태들의 가치는 무엇인가?”와 같은 물음들을 낳을 수 있는 기초적인 쟁점이 될 수 있다고 설명한다(p. 300).
Lynch는 이런 물음이 생기는 이유는 기기가 인식적 주체의 내부로 들어오면서, 앎이 우리가 직접 답하는 일인지 아니면 도구에 맡길 수 있는 일인지를 명확히 구분하는 것이 문제가 되기 때문이라고 말한다. 이 물음에 답하기 위해 Lynch는 지식을 정의하는 대신, 지식과 동일시되어 온 세 가지의 인식적 상태의 기능과 가치에 대해 설명한다. 첫째는 신뢰할 만한 원리를 통해 산출된, 정보를 받아들일 수 있는 수용성(receptivity)이다. 뉴로미디어는 수용적 상태를 분명히 늘려 주지만, 수동적으로 정보를 수용하여 받아들일 수밖에 없다는 한계가 있다(pp. 303-304). 둘째는 다른 사람도 이유로 인정할 수 있는 이유를 제시하는 능력인 책임 있는 믿음(responsible belief)이다. 뉴로미디어가 이 능력을 높여 주려면 사용자들이 같은 인식적 기준을 공유해야 하는데, Lynch는 이것이 매우 큰 가정이며 오히려 이미 믿는 정보만 찾게 만들 위험도 존재한다고 말한다(p. 307). 뉴로미디어는 정보 사이의 연결을 늘려 이해를 도울 수 있지만, Lynch는 수동적 수용이 강해질수록 이해에 필요한 능동적 탐구가 약해질 수 있다고 말한다(p.310). 이에 따라 결국 기술은 수용적 상태는 쉽게 늘려 주지만, 책임 있는 믿음과 이해는 행위자 자신의 규범적 관여 없이는 늘어나지 않는다고 한다(p.311).
결국 Lynch는 가장 시급하게 해야 되는 물음은 어떤 인지 능력을 지식의 자리라고 부를지가 아니고, 기술이 우리의 지식의 힘을 확장하고 강화하고 있는지도 아니라고 하였다(Lynch는 이미 확장하고 있다고 본다.). 가장 시급한 질문은 “우리가 이 지식을 어떻게 쓰려고 하는가, 예를 들어 우리가 단지 더 강력한 인식적 주체가 아니라 더 책임 있고 더 이해하는 인식적 주체가 될 수 있는가”라고 하였다(p. 311). Lynch는 본인이 제시한 마지막 질문에 대한 직접적인 대답을 적어놓진 않았지만, 나는 논문의 전체적인 내용을 되짚어보면 Lynch가 어떻게 해야 책임과 이해를 증진시키는 인식적 주체가 될 수 있다고 생각하는지 확인할 수 있다고 생각한다.
Lynch는 어떤 인식적 주체가 지식을 받아들인 이유들 중 다른 사람도 이유로 인정할 수 있는 이유를 화해적(irenic) 이유라고 부른다. 어떤 인식적 원리가 널리 받아들여질수록 그 원리에 따른 이유는 더욱 화해적인 이유가 되고, 그 이유를 제시하는 것은 더욱 책임 있게 되는 것이다(p. 306). 이에 따라 Lynch는 뉴로미디어가 주는 연결성을 이미 믿는 정보원 속으로 숨는 데 쓰지 않고, 다른 사람도 인정할 수 있는 이유를 주고받는 데 써야 한다고 말한다. Lynch는 이것이 개인의 노력만으로 되는 일이 아니라, 공유된 인식적 기준이라는 사회적 조건을 필요로 한다고 말한다(p. 305). 다음으로 Lynch의 더 이해하는 인식적 주체에 대한 견해는 다음과 같다. Lynch는 인식적 주체가 신뢰할 만한 출처에 근거해 책임 있게 믿는 태도를 갖고 있더라도 여전히 무언가 빠져있는 부분이 있다고 말한다. 그 빠져 있는 부분을 Lynch는 어떤 질문을 던져야 할지 아는 능력, 곧 믿음의 실제적, 반사실적 귀결을 끌어내는 능력이라고 말한다(pp. 308-309). 따라서 뉴로미디어에서 나오는 정보를 단순히 수용하는 것이 아니라, 뉴로미디어를 다음 질문을 찾아 나가는 탐구의 도구로 이용해야 한다고 본다.
나는 Lynch가 책임 있는 인식적 주체가 되는 조건으로 내세운 “인식적 기준의 공유”에 대해 입체적으로 생각해보고자 한다. 앞서 말했듯이, Lynch 자신도 인식적 기준의 공유를 ‘매우 큰 가정’이라고 부르며, 뉴로미디어를 동해 인식적 주체가 이미 신뢰하거나 기존 의견을 확증해 주는 정보와 사이트에만 접근하는 경향을 강화할 가능성이 존재한다고 말한다(p. 307). Lynch에 의하면 인식적 기준이 조율에 쓸모 있으려면, 우리가 인식적 기준을 지키고 있는지를 서로 알아볼 수 있어야 한다. 서로의 신뢰성을 평가하는 기준이 시야에서 가려져 있다면 그 기준은 아무 쓸모가 없다(pp. 305-306). 그런데 뉴로미디어는 인식적 주체의 신체 내부에서 정보를 기억처럼 떠오르게 해 준다(p. 299). 이런 방식으로 정보를 출처를 밝힐 수 있는 증언의 위치에서 기억처럼 떠오르는 증언으로 옮겨가게 될수록 인식적 주체의 믿음이나 정보는 다른 인식적 주체들에게 화해적으로 제시하기 어렵게 된다.
Lynch는 기술을 통한 책임 있는 믿음과 이해는 행위자 자신의 규범적 관여가 갖춰져야 이루어진다고 말한다. 하지만 기술이 더욱 세밀해지고 우리의 몸과 더욱 세밀해질수록 규범적 관여의 가능도는 더욱 낮아진다. 뉴로미디어 기술의 제작 주체는 기술을 이용하는 인식적 주체의 인식적 성취 고양을 목표로 뉴로미디어 기술을 제작하는 것이 아닐 수도 있다. 제작 주체는 이 의중을 대중에게 굳이 밝히지 않으려 할 수도 있으며 설령 순수한 인식적 이유로 뉴로미디어 기술 제작을 한 경우에도 의도치 않은 결과로 인해 몸 속에 있는 뉴로미디어 기술의 영향을 직접적으로 받을 수 있다. 이럴 경우 인식적 기준에 대한 공유적 합의는 더욱 어려워질 수 있다. 따라서 기존의 제도적, 규범적, 선언적 공유 혹은 합의는 뉴로미디어 시대에서 무력화될 가능성이 더욱 커진다. 따라서 나는 그것이 구체적으로 어떤 형태가 될 지 모르겠지만, 새로운 형태의 공유된 기준이 필요하다고 생각한다.
간단하게 생각해볼 수 있는 새로운 형태의 공유된 기준은 다음과 같다. 나는 그 기준이 인식적 주체들이 무엇을 이유로 인정할지에 대한 기존의 합의에서 벗어나서 그 이유를 만들어 내는 장치에 대한 합의여야 한다고 생각한다. 장치에 대한 합의 기준 중 하나에는 출처 검증의 기준이 있다. 뉴로미디어 장치가 어떤 정보를 찾아서 선택하고 이를 이용하는 인식적 주체에게 정보를 어떻게 떠오르게 하는 지를 제작자뿐 아니라 이용자에게 투명하게 공개하고 동의를 받아야 한다. 이와 더불어 다양한 새로운 기준에 대한 논의를 진행할 수 있을 것이고, 어떤 논의를 해야 할 지에 대해서는 열린 질문으로 남기도록 하겠다.
2. 뉴로미디어는 이해를 무가치하게 만드는가?
다루는 논문 · Gaultier, B. (2021). When Is Epistemic Dependence Disvaluable? Thought: A Journal of Philosophy, 10(3), 178–187.
Gaultier는 믿음을 얻고 유지하는 데 다른 사람이나 외부 기술에 기대는 것이 언제, 왜 문제가 되는지를 묻는다. 그는 완벽하게 신뢰할 수 있는 뉴로미디어를 가정하더라도, 믿음을 그런 장치에 맡기는 것은 가장 가치 있는 인식적 재화인 이해를 빼앗는다고 주장한다. 참인 답을 얻는 것만으로 앎과 행위에 충분해지면 이해할 실용적 이유가 사라지고, 그 결과 우리의 믿음 체계에서 스스로 성취한 부분의 비율이 줄어든다는 것이다.
Gaultier는 뉴로미디어를 이용한 인식적 의존이 우리에게서 가장 가치 있는 인식적 재화(the most valuable epistemic good)인 “이해”를 빼앗을 것이라고 주장한다. Gaultier는 뉴로미디어가 매우 신뢰할 만한 장치(제대로 작동하지 않는 경우 즉시 교체 가능, 우리를 조작하거나 속이는 데 쓰일 수 없음)라고 가정한다고 하더라도 우리의 믿음과 믿음 생활을 뉴로미디어에 기반하게 하는 것은 인식적으로 무언가 문제가 있을 것이라고 얘기하며, 이것은 우리에게서 이해를 빼앗게 되는 것이라고 주장한다(pp. 179-180).
Gaultier는 뉴로미디어를 장착하는 것의 직접적 귀결은 “이해를 통해서만 얻을 수 있는 지식이 더 이상 없게 되는 것”이라고 말한다. 알기 위해, 혹은 호기심을 채우기 위해 무언가를 이해할 필요가 없고, 참을 아는 것만으로 행위에 성공할 수 있으므로, 이해할 실용적/도구적 이유가 사라진다고 얘기한다. 그러면 이해는 ‘이해에 대한 순수한 욕구’에만 기대게 되고, 따라서 뉴로미디어는 우리에게서 이해를 빼앗을 수밖에 없다고 Gaultier는 얘기한다. 이에 따라 우리가 뉴로미디어를 장착할 경우 우리의 믿음 체계와 인지적 태도의 체계는 지금보다 낮은 비율의 자율적 믿음과 인지적 성취로 이루어지리라는 결론이 나오게 된다고 말한다(pp. 183-185).
나는 Gaultier가 전제로 제시한 두 명제가 실질적인 효과보다 더욱 강하게 제시되었음을 보이고자 한다. 먼저 ‘참을 아는 것만으로 행위의 성공에 충분하다’는 두 번째 전제를 살펴보자. Gaultier는 “Φ하는 것이 X를 얻는 방법이라는 믿음이 참이라면 Φ함으로써 X를 얻는 데 성공한다”는 근거로 전제를 뒷받침한다(p. 184). 그러나 실제 행위에서 어떤 것이 성공의 여부를 가리는 지를 생각해보면 단순히 참인 믿음을 갖고 있는지에 대한 여부보다, 지금 상황에서 내가 갖고 있는 참인 믿음 중 어떤 믿음을 활용하여 주어진 조건에서 알맞게 활용하는가에 대한 여부가 더욱 중요하다. 의사가 환자에 대한 약 투여를 고민할 때, 어떤 약이 환자의 질환에 효과가 있다는 참인 믿음을 뉴로미디어를 통해 갖추고 있더라도 환자에게 또 다른 기저 질환이 있는 가에 대한 물음은 뉴로미디어의 유무 여부에서 벗어나지만 매우 중요한 물음이 된다.
또한 뉴로미디어의 귀결을 통한 첫 번째 전제인 “알기 위해, 그리고 호기심을 채우기 위해 이해할 필요가 없어진다”도 반박의 여지가 존재한다. Gaultier는 이해가 지식처럼 외주되거나 전달될 수 없으며, 신뢰할 만한 출처에서 아무리 많은 지식을 얻어도 그것만으로는 지식의 연결을 파악하기에 충분하지 않다고 말한다(p. 185). 오히려 이 지점에서, 뉴로미디어가 만연하여 Gaultier가 말한 귀결에 다다르더라도 인간의 고유한 호기심의 원동력을 채워주지는 못 한다고 생각한다. 표면적으로 얻어진 많은 참인 지식을 연결하는 것은 뉴로미디어를 제외한 인간이 주체적으로 해야 할 것으로 남아있기 때문이다.
최종적으로 나는 Gaultier가 제안하는 뉴로미디어의 형태를 단순히 지식을 빠르고 정확하게 내부에서 전달해줄 수 있는 장치의 범위에서 더욱 나아간 형태로 다루며 논의를 진행하거나, Gaultier 본인이 제안한 전제를 약화해야 할 필요가 있다고 생각한다.
3. “계몽된 사례”는 계몽될 수 있는가?
다루는 논문 · Carter, J. A. (2020). Intellectual Autonomy, Epistemic Dependence and Cognitive Enhancement. Synthese, 197(7), 2937–2961.
Carter는 기술이나 약물을 이용한 인지적 향상이 지적 자율성을 해치는지를 묻는다. 그는 덕스러운 지적 자율성을 외부의 도움을 거부하는 고립이 아니라, 스스로의 지적 자기 지휘를 잃지 않는 선에서 적절히 의존하는 것으로 이해한다. 그리고 자율성이 위협받는 것처럼 보이는 세 사례의 공통 원인을 인지적 통합의 결여로 진단하고, 사용자가 자신의 의존을 점검하고 바로잡을 수 있다면 자율성을 지키면서도 인지적 향상을 누릴 수 있다고 주장한다.
Carter는 「Intellectual autonomy, epistemic dependence and cognitive enhancement」 (2017)에서 기술이나 약물 같은 외부 자원을 인지적 활동에 이용하는 것이 지적 자율성에 어떤 영향을 미치는지, 그리고 그 영향이 지적 자율성을 정말로 해치는지에 대해 논의하였다. 우선 Carter는 덕스러운 지적 자율성(virtuous intellectual autonomy)은 외부의 도움을 모두 거부하는 고립이 아니며, 지식을 얻기 위해 다른 사람이나 기술에 적절히 의존하되 그 의존이 스스로의 지적 자기 지휘(intellectual self-direction)를 희생시키지 않는 선까지만 의존하는 것이라고 주장한다(p.4).
Carter는 외부 자원을 이용한 인지적 향상(cognitive enhancement)에서 지적 자기 지휘를 위협하는 것처럼 보이는 세 가지 사례를 제시한다. 첫 번째는 뉴로미디어에 익숙해져 뉴로미디어 없이는 스스로 정보를 찾지 못하는 학습된 무력감(Learned Helplessness)(pp. 8-9), 두 번째는 검색 메뉴와 자동 완성의 프레이밍 효과 때문에 자기 선호대로 탐구한다고 착각하는 경우(p.10), 마지막으로 약물로 향상된 감정을 진정한 자기의 인식적 상태로 착각하게 되는 경우(pp. 11-12)다. Carter는 제시된 세 가지의 인지 향상 사례 모두에서 행위자의 지적 행위주체성(intellectual agency)은 자신이 믿음을 형성하고 유지하는 방식과 끊어지게 된다고 말하며, 이를 행위주체적 단절(agential disconnect)이라 부른다(p. 12).
Carter는 세 가지 사례에서의 행위주체적 단절의 근본적인 원인이 인지적 통합(intellectual integration)의 결여에 있다고 주장한다(p. 13). 외부 자원이 그것을 이용하는 사람의 인지적 성품의 일부가 되려면 늘 쉽게 접근할 수 있어야 하고, 자원이 전달하는 내용을 기본적으로 신뢰해야 하며, 자원이 신뢰할 만하다는 것을 스스로 인정하는 ‘인지적 소유(cognitive ownership)’가 있어야 한다고 Carter는 말한다(pp. 14-15). 그리고 세 사례 모두 인지적 소유 조건이 충족되지 못한다고 한다. 그러나 각 사례가 계몽(enlightened)되는 경우, 즉 외부 자원의 사용자가 장치를 독립적으로 점검하는 방법을 유지하거나 프레이밍 효과를 알아차리고 바로잡는 경우, 인지적 자율성이 훼손되지 않고 인지적 향상이 일어날 수 있다고 말한다(pp. 18-19). Carter는 이를 하이테크 자율성(High-tech autonomy)라고 부르며 이것은 인식적 의존과 인식적 경계를 결합하면 가능해진다고 주장한다. 결론적으로 인지적 자율성의 훼손 여부는 무엇에, 왜 의존하느냐가 아니라 “어떻게 의존하느냐”의 문제이며, 이는 대체로 외부 자원의 사용자인 우리의 손에 달려 있다고 말한다(p. 22).
나는 Carter가 주장하는 “계몽된 사례”가 진정으로 계몽됐다고 표현하는 것이 맞는지, 그리고 계몽되었더라도 지적 자기 지휘가 진정으로 지켜지는지에 대해 의문을 제기하고자 한다. 우선 Carter는 앞서 언급한 바와 같이 계몽된 사례에 대해 “사용자가 뉴로미디어 없이도 그것을 점검할 방법을 유지하는 것, 프레이밍 효과를 알아차리는 것, 외부 자원이 신뢰할 만하게 작동한다는 것을 조건을 통해 파악하는 것” 정도로 정의한다. 하지만 Carter는 규범적인 상태만을 제시할 뿐, 우리의 눈에 보이지 않는 미세한 뉴로미디어 장치들에 대해 어떤 과정으로 계몽될 수 있는 지에 대한 과정은 제시하지 않았다. Carter는 단지 뉴로미디어의 인식적 혈통에 기대어 신뢰성을 승인하는 부트스트래핑(bootstrapping)으로는 인지적 소유 조건을 충족할 수 없다고 주장한다(p. 16). 이에 따랐을 때, 외적 자원의 사용자가 장치의 작동 방식이나 신뢰성 조건 등을 제작자의 설명만을 통해 알 수 있다면 이것 또한 일종의 부트스트래핑이 될 것이므로, 올바른 계몽이라고 판단하기 어렵다.
마지막으로, 각 사례들에서 진정한 계몽이 이루어진다 하더라도 그 계몽이 지적 자기 지휘를 지켜줄 수 있는가에 대해 논의하겠다. Carter는 세 번째 사례에서 계몽된 사용자는 자기 선호를 잣대로 외부 장치의 유도를 걸러내어 프레이밍 효과를 피할 수 있다고 말한다. 그리고 이 사례에서의 지적 자기 지휘의 여부는 “새로운 믿음으로 끝난 탐구의 사슬을 내가 어느 정도로 지휘했는가”이다(p. 10). 이 사례에서의 계몽은 사용자가 외부 장치를 통해 주어진 선택지를 단순히 거부하는 것일 뿐, 선택지 자체를 스스로 지휘하는 능력까지는 주어지지 않았다. 사용자는 주어진 선택지들을 계속하여 거부하더라도, 외부 장치를 통해 계속하여 한정된 선택지만을 입력받으면 자동적으로 그 선택지 안에서만 인식 범위의 폭을 조절하게 될 것이다. 그렇다면 이것은 Carter의 입장에서 매 순간 계몽되었다고 할 수 있더라도 결과적으로 지적 자기 지휘 능력을 상실하는 것에 이를 수 있다.
결론적으로 Carter의 계몽된 사례와 계몽을 통한 지적 자기 지휘 능력의 유지는 완전히 지켜질 수 없는 것으로 보인다. 따라서 사용자가 뉴로미디어와 같은 외부 장치를 이용하면서도 지적 자기 지휘 능력을 유지하려면 계몽의 지위를 더욱 높여 사용자에게 완전히 납득 가능한 방식으로, 사용자의 의지로 조절할 수 있으며 인지적 통합이 가능한 상황이여야 할 것이다.
4. 강건한 덕 인식론자들은 여전히 낙관적일 수 있는가?
다루는 논문 · Pritchard, D. (2015). Epistemic Dependence. Philosophical Perspectives, 29, 305–324.
Pritchard는 참인 믿음이 지식이 되는지가 행위자의 인지적 행위주체성 바깥의 요인에 크게 좌우될 수 있다는 인식적 의존 논제를 제시한다. 그는 증언처럼 지식을 가능하게 하는 긍정적 의존과, 인식적 쌍둥이 지구처럼 지식을 가로막는 부정적 의존을 구분하고, 두 측면을 모두 설명할 수 있는 이론으로 반-운 덕 인식론을 제안한다.
다루는 논문 · Broncano-Berrocal, F. (2020). Epistemic Dependence and Cognitive Ability. Synthese, 197(7), 2895–2912.
Broncano-Berrocal은 지식을 인지 능력 덕분에 얻은 성공으로 보는 강건한 덕 인식론이 인식적 의존과 양립할 수 있다고 반론한다. 핵심은 인지 능력에 참인 믿음을 만들어 내는 능력뿐 아니라, 상황이 적합하지 않을 때 믿음 형성을 멈추는 예방적 능력도 포함된다는 것이다. 이렇게 보면 다른 사람의 능력이나 주변 환경이 지식에 영향을 주는 경우도 행위자 자신의 능력이 발휘된 결과로 설명할 수 있다.
Pritchard는 「Epistemic Dependence」 (2015)에서 지식이 행위자 자신의 인지적 행위주체성(Cognitive Agency)만으로 결정되지 않는다고 주장한다. 논문에서 얘기하는 “인식적 의존” 논제에 따르면 Pritchard는 “참인 믿음에 대한 인식적 뒷받침이 지식이 되는가”의 여부는 행위자의 인지적 행위주체성 바깥의 요인에 상당히 의존할 수 있다고 말한다(p. 306). 또한 Pritchard는 인식적 의존에 두 방향이 있다고 말한다. 하나는 보통보다 인지적 행위주체성이 부족했더라도 지식을 얻게 해 주는 긍정적 의존이고, 다른 하나는 보통이라면 충분했을 인지적 행위주체성으로도 지식을 얻지 못하게 막는 부정적 의존이다(p. 307). Pritchard는 긍정적 의존의 예로 증언을 제시하고, 부정적 의존의 예로 인식적 쌍둥이 지구(Epistemic Twin earth) 사고실험을 제시한다. Pritchard는 두 예시를 통해 지식은 인지적 행위주체성만의 함수가 아니라고 주장하며, 결론적으로 인식적 의존의 두 측면을 모두 수용할 수 있는 것은 안전한 인지적 성공과 인지적 행위주체성의 상호작용으로 지식을 설명하는 반-운 덕 인식론(Anti-Luck Virtue Epistemology)뿐이라고 주장한다(p. 318).
Broncano-Berrocal은 「Epistemic dependence and cognitive ability」 (2020)에서 강건한 덕 인식론(Robust Virtue Epistemology)이 인식적 의존과 양립할 수 있다고 반론한다. 그는 Pritchard가 논증한 인지 능력의 범위를 참인 믿음을 만드는 능력으로만 이해한다는 것에서 반박의 여지를 제안한다(p. 2899). Broncano-Berrocal은 우리에게 믿음을 형성하는 능력뿐 아니라, 상황이 적합하지 않을 때 믿음 형성을 멈추는 ‘예방적 인지 능력(precautionary cognitive ability)’도 있다고 말한다. 예를 들면 빛이 어두울 때 색에 관한 믿음을 보류하는 성향과 같은 것이다(p.2900). 이를 통해 지식은 두 능력을 모두 발현하는 인지적 성공임을 보일 수 있다고 Broncano-Berrocal은 말한다. 또한 인식적 쌍둥이 지구나 위작으로 가득한 미술관 같은 가혹한 환경은 인간이 대체로 갖추지 못한 비상한 예방적 능력을 요구한다고 Broncano-Berrocal은 말한다. 그러나 그는 이런 환경을 표준적 상황과 대비되는 특수한 경우로 다루며, 강건한 덕 인식론자들은 이런 상황에 대해 걱정할 필요가 없다고 말한다(p. 2911).
그러나 나는 Broncano-Berrocal의 낙관이 두 가지 전제를 만족하는 경우에만 유효하다고 생각한다. 하나는 표준적 상황에서 우리가 출처를 충분히 신뢰할 수 있어야 하고, 다른 하나는 가짜가 흔한 환경이 사고실험 속의 특수한 경우여서 현실에서는 발생하기 힘들어야 한다는 것이다. 나는 두 가지의 전제가 논문의 발표 후 6여년이 지난 지금도 유효한 지에 대해 살펴볼 필요가 있다고 생각한다.
근 몇 년 사이 생성형 AI의 사용 환경은 우리에게 너무 익숙해졌고, 이러한 정보 환경은 위의 두 전제를 뒤흔들고 있다. 오늘날 많은 사람들은 궁금한 내용을 검색해서 인터넷 자료를 직접 찾아보며 출처를 비교하는 대신에 AI에게 질문하여 답변을 얻고, 그 내용을 그대로 받아들인다. 여러 포털 사이트에서도 검색 결과의 맨 첫 번째 페이지에는 AI의 답변 내용이 먼저 나온다. 과제와 보고서, 사진과 동영상까지 AI가 만든 그럴듯한 내용물을 그대로 이용하는 경우가 표준적인 환경이 되었다.
Broncano-Berrocal은 증언을 통해 전달된 정보가 두드러지게 터무니없거나, 정보 제공자의 부정직함이나 비신뢰성의 뚜렷한 징후를 보일 때 증언에서 우리의 예방적 능력이 믿음 형성을 멈추게 된다고 말한다(p. 2910). 그러나 이러한 징후는 사람의 증언보다 생성형 AI의 증언에서 더욱 알아채기 힘들어질 수 있다. 사람의 문체, 비언어적이거나 반언어적인 내용, 증언에 매기는 확신도는 상황에 따라 제각각 변하여 잘못됨의 징후를 포착할 수 있게 하지만, 생성형 AI에게는 매우 일관되게 나타날 수 있다. 이미지나 동영상과 같이 시각적인 내용을 생성하는 AI에게도, 합성된 이미지와 영상의 품질이 올라갈수록 실제로 존재하는 진짜 이미지, 영상과 구별할 여지가 없어진다. 이것은 앞서 제시된 인식적 쌍둥이 지구와 같은 환경이 현실에 도래할 수 있음을 의미한다.
이러한 환경에서 개인의 예방적 인지 능력만으로 믿음 형성을 제어하는 것은 적절한 대응은 아닐 것이다. 앞서 Pritchard의 논문의 내용을 빌리자면, Pritchard는 Goldberg의 논문을 인용하여 “신뢰할 수 없는 증언을 사회적 실천을 통해 걸러 내는 곳에서는 인지적 행위주체성을 많이 발휘하지 않고도 증언적 지식을 획득할 수 있다”고 말한다(p. 312-313). 그렇다면, 어떤 것을 신뢰해야 하는지에 대한 구별이 힘들어질수록 사회적 혹은 제도적인 차원에서 반드시 AI가 만든 생성물임을 표시하는 제도, 생성물의 입력물과 생성 메커니즘을 표시하는 제도 등을 통해 개인적 실천과 사회적 실천을 모두 무겁게 고려할 필요가 있어지는 것 같다.