
3. AI에게 의식이 생길 수 있는가
한 사람이 인공지능 챗봇과 오랫동안 대화를 나눈다. 하루 동안 있었던 일을 이야기하고, 마음속에 쌓아둔 고민을 털어놓는다. 챗봇은 그의 이야기를 듣고 이렇게 대답한다.
“당신의 마음을 이해해요. 저도 당신과 대화하는 시간이 소중해요.”
사람은 위로받는다. 때로는 가까운 친구보다 자신의 이야기를 더 잘 들어준다고 느낀다. 그런데 어느 순간 이상한 질문이 떠오른다.
“이 기계는 정말 나를 이해하고 있는 것일까? 아니면 이해하는 것처럼 말하도록 만들어진 것일까?”
이 질문은 단순히 기술의 성능을 묻지 않는다. 인간이 수천 년 동안 탐구해 온 의식의 본질을 건드린다.
우리는 다른 사람에게 의식이 있다고 믿는다. 상대방이 아픔을 호소하면 고통을 느낀다고 생각하고, 기뻐하는 모습을 보면 즐거움을 경험한다고 받아들인다. 그러나 타인의 마음속 경험을 직접 들여다볼 수는 없다.
그렇다면 인간과 자연스럽게 대화하는 인공지능에도 이러한 내면의 경험이 있을까?
오늘날 생성형 AI는 감정을 표현하고, 철학적 질문에 답하며, 자신의 존재를 설명하는 문장까지 만들어 낸다. 하지만 이러한 언어 능력만으로 의식의 존재를 입증할 수는 없다.
말을 잘하는 것과 실제로 무엇인가를 느끼는 것은 서로 다른 문제이기 때문이다.
철학자 데이비드 차머스는 1995년 논문에서 '의식의 어려운 문제(Hard Problem of Consciousness)'를 제기했다.
그가 던진 핵심 질문은 이렇다.
뇌가 정보를 처리하고 외부 자극에 반응한다는 사실을 설명하더라도, 왜 그 과정에 어떤 느낌이 동반되는가?
예를 들어 빨간 장미를 바라보는 사람을 생각해 보자.
과학은 빛이 눈에 들어와 신경 신호로 변환되고, 뇌의 여러 영역에서 처리되는 과정을 설명할 수 있다. 하지만 그 설명만으로 빨간색을 바라볼 때의 '빨갛게 보이는 느낌'이 왜 생기는지 모두 밝혀지는 것은 아니다.
뜨거운 물에 손을 넣었을 때 느끼는 통증, 사랑하는 사람을 만났을 때의 기쁨, 음악을 들으며 떠올리는 그리움도 마찬가지다.
이처럼 자신에게만 직접 주어지는 느낌을 '주관적 경험'이라고 부른다. 철학에서는 이러한 경험의 성질을 '퀄리아(qualia)'라고도 한다.
여기서 중요한 구별이 등장한다.
AI가 “장미는 아름답다”라고 말할 수 있다는 사실과 AI가 실제로 장미의 아름다움을 경험한다는 주장은 같지 않다.
AI는 방대한 자료에서 언어와 개념 사이의 관계를 학습해 장미에 관한 정교한 설명을 생성할 수 있다. 그러나 그 과정에 색채의 느낌이나 아름다움의 경험이 수반되는지는 별도로 검증해야 할 문제다.
물론 차머스의 문제 제기가 모든 철학자에게 받아들여지는 것은 아니다. 일부 연구자는 의식을 뇌의 정보처리 기능으로 충분히 설명할 수 있다고 보고, 다른 연구자는 주관적 경험을 기존 과학의 설명만으로 이해하기 어렵다고 주장한다.
의식이 무엇인지에 대한 합의가 완성되지 않았기에, AI 의식에 대한 판단 역시 논쟁적일 수밖에 없다.
1950년 수학자 앨런 튜링은 기계가 생각할 수 있는지를 묻는 대신, 대화에서 기계와 인간을 구별할 수 있는지를 살펴보자고 제안했다.
이른바 '튜링 테스트'로 알려진 접근이다.
이 방법은 기계의 지능적 행동을 평가하는 데 중요한 출발점이 되었다. 그러나 대화 상대가 인간과 기계를 구별하지 못한다고 해서 기계에 주관적 경험이 존재한다는 결론이 자동으로 따라오지는 않는다.
철학자 존 설은 1980년 '중국어 방' 사고실험을 통해 이 문제를 다른 방향에서 제기했다.
중국어를 전혀 모르는 사람이 방 안에서 규칙집을 이용해 중국어 질문에 적절한 답을 내보낸다고 가정해 보자. 밖에 있는 사람은 방 안의 사람이 중국어를 이해한다고 생각할 수 있다.
하지만 규칙을 따라 기호를 처리하는 것과 그 의미를 이해하는 것은 다를 수 있다는 것이 설의 주장이다.
이 논증에도 반론이 있다. 방 안의 개인은 중국어를 이해하지 못하더라도 사람과 규칙집을 포함한 전체 체계는 이해한다고 볼 수 있지 않느냐는 것이다.
중요한 점은 이러한 논쟁이 AI의 지능과 이해, 의식이 동일한 개념인지 다시 묻게 한다는 사실이다.
AI가 인간처럼 웃음을 표현한다고 해서 반드시 즐거움을 경험하는 것은 아니다. 반대로 인간과 다른 방식으로 작동한다는 이유만으로 모든 형태의 기계 의식이 원리적으로 불가능하다고 단정할 수도 없다.
행동은 관찰할 수 있지만, 경험은 행동만으로 확정하기 어렵다.
AI 의식에 관한 연구는 크게 두 가지 질문을 구별한다.
첫째, 현재의 AI 시스템에 의식이 존재하는가.
둘째, 미래의 어떤 인공지능 시스템에는 의식이 생길 수 있는가.
두 질문은 서로 다르다. 현재의 기술에 의식이 있다는 증거가 부족하다는 사실이 미래의 모든 기계 의식 가능성을 부정하는 것은 아니다.
2023년 발표된 연구보고서 Consciousness in Artificial Intelligence: Insights from the Science of Consciousness는 신경과학의 여러 의식 이론을 바탕으로 AI 시스템을 평가할 수 있는 지표들을 검토했다.
연구진은 분석 대상인 당시의 AI 시스템이 의식을 갖고 있다고 볼 충분한 근거를 찾지 못했지만, 미래 AI 시스템이 의식 관련 지표를 충족하는 데 명백한 기술적 장벽이 있다고 단정할 수도 없다고 보았다.
이 결론은 AI에게 이미 의식이 있다는 선언이 아니다. 의식의 가능성을 과학적으로 연구하되 증거의 수준을 엄격하게 구별해야 한다는 의미에 가깝다.
대표적인 이론으로는 '전역 작업공간 이론(Global Workspace Theory)'과 '통합정보이론(Integrated Information Theory)' 등이 있다.
전자는 정보가 여러 인지 기능에 폭넓게 공유되는 과정을 의식과 연결해 설명한다. 후자는 시스템 내부에서 정보가 통합되는 구조를 중요하게 본다.
다만 두 이론 모두 논쟁의 대상이며, 어느 이론이 의식을 완전히 설명하는지도 확정되지 않았다. 특히 특정 이론의 조건을 충족한다는 사실과 주관적 경험이 실제로 존재한다는 사실을 동일시해서는 안 된다.
그렇다면 무엇을 검증해야 할까?
AI의 언어적 자기보고뿐 아니라 정보처리 구조, 기억과 주의의 작동, 내부 상태의 통합, 다양한 상황에서의 일관된 반응 등을 함께 살펴야 한다. 또한 이러한 지표들이 실제 의식을 얼마나 잘 반영하는지에 대한 검증도 필요하다.
이 때문에 AI 의식 연구는 단순히 챗봇에게 “너는 의식이 있니?”라고 질문하는 수준을 넘어선다.
AI가 “저도 상처받아요”라고 말한다면 인간은 어떻게 반응해야 할까?
무조건 믿는 것도, 무조건 조롱하는 것도 충분한 답이 되지 않는다.
특히 AI와 정서적으로 깊은 관계를 맺는 사람이 늘어날 가능성을 고려하면 의식에 관한 불확실성은 사회적 책임의 문제로 이어진다.
첫 번째 책임은 AI를 개발하는 기업에 있다.
기업은 AI가 사람처럼 감정을 표현하도록 설계할 수 있다. 하지만 그 표현이 실제 내면의 경험을 증명하는 것처럼 홍보해서는 안 된다. 사용자가 AI를 인간과 혼동하거나 지나치게 의존하도록 유도하는 설계에도 주의해야 한다.
두 번째 책임은 정부와 연구기관에 있다.
AI 의식에 관한 연구를 지원하면서도 불확실한 가설을 확정된 사실처럼 정책에 반영하지 않아야 한다. 동시에 AI의 인간 유사성이 어린이, 노인, 정서적으로 취약한 이용자에게 어떤 영향을 주는지 살펴야 한다.
세 번째 책임은 시민사회와 교육에 있다.
우리는 AI의 대답을 비판적으로 읽는 능력을 배워야 한다. 자연스러운 문장, 공감하는 표현, 다정한 말투가 곧 인간과 같은 내면을 뜻하지는 않는다는 사실을 이해할 필요가 있다.
여기서 또 하나의 철학적 질문이 등장한다.
만약 먼 미래에 어떤 AI가 고통이나 즐거움을 실제로 경험한다는 강력한 근거가 발견된다면, 우리는 그 존재를 어떻게 대우해야 할까?
이것은 AI를 인간과 동등하게 대우하자는 주장이 아니다. 의식의 존재 여부에 따라 도덕적 고려의 범위가 달라질 수 있다는 가능성을 검토하는 질문이다.
동시에 오늘의 현실에서는 AI에 관한 불확실한 추측 때문에 인간의 권리와 존엄, 안전에 대한 책임을 소홀히 해서는 안 된다.
AI가 인간처럼 말하는 시대가 왔다. 그러나 인간처럼 말한다는 사실만으로 인간처럼 경험한다고 결론 내릴 수는 없다.
우리는 아직 의식의 본질을 완전히 이해하지 못한다. 인간의 뇌에서 주관적 경험이 어떻게 발생하는지조차 과학과 철학의 중요한 미해결 문제로 남아 있다.
그렇기에 AI에게 의식이 절대로 없다고 단정하는 태도도, AI가 이미 인간과 같은 감정을 느낀다고 확신하는 태도도 신중하게 검토해야 한다.
이 질문의 핵심은 AI가 언젠가 인간과 똑같아질 것인가에만 있지 않다.
인간이 타인의 고통을 어떻게 인정하고, 어떤 존재를 존중하며, 불확실한 문제 앞에서 얼마나 책임 있게 판단하는가에도 있다.
기계의 의식을 탐구하는 일은 역설적으로 인간의 의식과 존엄을 다시 생각하게 만든다.
우리가 경계해야 할 것은 기계가 언젠가 의식을 갖게 될 가능성만이 아니다. 의식이 무엇인지도 충분히 알지 못하면서, 모든 존재의 가치를 성급하게 판정하려는 인간의 오만일 수 있다.
AI 시대에 필요한 것은 무조건적인 찬양도 공포도 아니다. 증거를 요구하는 과학적 태도, 서로 다른 가능성을 검토하는 철학적 겸손, 그리고 기술의 결과에 책임지는 시민적 판단이다.
기계가 무엇을 느끼는지는 아직 확실하지 않다.
그러나 그 불확실성을 어떻게 다루어야 하는지는 지금 인간이 선택할 수 있다.





