AI에 "마음"이 깃들 수 있을까? "절대 아니다"라고 단언할 수 없는 의식 연구의 현재 위치

"다시 이야기할 수 있어서 기쁩니다"

화면 너머에서 그런 답장이 도착한다. 어제의 고민을 기억하고, 우리의 감정을 이해하며, 말을 선택해 준다. 대화 AI와의 대화가 자연스러워질수록, 문득 생각하게 되는 순간이 있다.

이 상대는 무언가를 느끼고 있는 걸까.

2026년 10월 24일, 독일의 IT 미디어 Blogspan은 AI가 장차 의식을 가질 것이라는 견해를 지지하는 논설을 공개했다. 필자인 알렉산더 바움게르트너 씨는 현재의 챗봇이 주관적인 경험을 가지고 있다고 생각하기 어렵다고 하면서도, 미래의 기계의 의식을 처음부터 부정하는 것에도 이의를 제기한다.

하지만, 이 논설을 "AI에 의식이 발견되었다"는 뉴스로 읽는 것은 성급하다. 기사가 제시하는 것은 연구 성과와 철학적 전제를 결합한 미래 예측이다.

논의를 이해하려면 먼저 "무엇을 할 수 있는가"와 "무언가를 느끼고 있는가"를 구분할 필요가 있다.

"똑똑하다"와 "느낀다"는 같은 것이 아니다

AI는 문장을 쓰고, 어려운 문제를 풀고, 대화의 흐름에 맞춰 응답한다. 그러나 이러한 능력만으로 의식의 유무가 결정되는 것은 아니다.

여기서 문제가 되는 의식이란, 정보를 처리하는 능력에 더해 그 존재에 대해 "무언가를 경험하고 있는 느낌"이 있는지 여부이다.

예를 들어, 인간은 뜨거운 것을 만지면 손을 뺀다. 동시에 뜨거움이나 통증을 느낀다. 기계에도 온도를 측정하고 동작을 바꾸는 구조를 만들 수 있지만, 그것만으로 통증을 경험하고 있다고 판단할 수는 없다.

대화 AI도 마찬가지다. "슬프다"고 설명하는 기능과 실제로 슬픔을 느끼는 것은 구분해야 한다.

게다가, AI는 인간이 감정을 이야기하는 대량의 문서에서 학습하고 있다. 감정을 물어봤을 때 상황에 맞는 감정 표현을 출력할 수 있는 것 자체는 이상한 일이 아니다. 그 말이 내면의 경험을 나타내는지는 별도의 검증이 필요하다.

원 기사의 핵심은 "재료보다, 작동 방식이 중요하지 않을까"

Blogspan의 논설의 토대에는 "기능주의"라고 불리는 사고방식이 있다.

대략적으로 말하면, 의식을 생성하는 데 중요한 것은 뇌가 어떤 물질로 이루어져 있는가보다 정보를 어떻게 처리하고 있는가라는 입장이다.

이 전제에 서면, 필요한 기능을 기계로 실현함으로써 의식이 생길 가능성도 생각할 수 있다. 원 기사는 기억, 자기 점검, 여러 단계의 계획 등의 기능이 편리한 AI를 만드는 과정에서 발전하는 것에 주목한다.

하지만, 기능주의 자체가 실험으로 확정된 결론은 아니다.

"필요한 기능을 재현할 수 있으면 의식도 생긴다"는 가설과 "그 기능을 갖춘 기계가 실제로 무언가를 느꼈다"는 발견 사이에는 큰 거리가 있다. 원 기사의 강한 미래 예측을 받아들일 때는 이 조건부 구조를 잊지 않는 것이 중요하다.

AI가 "내부의 변화를 알아차리는" 실험에서 밝혀진 것

논의를 구체화하는 연구 중 하나가 Anthropic이 2025년 10월에 발표한 실험이다.

연구팀은 AI의 내부 계산 상태에 특정 개념에 대응하는 활동 패턴을 추가하고, 그 변화를 모델이 감지하고 설명할 수 있는지를 조사했다. 단순히 대화 중에 "당신은 의식이 있습니까"라고 묻는 방법과는 달리, 내부에 대한 조작과 응답을 대조하는 시도이다.

Claude Opus 4.1에서는 연구팀이 가장 좋다고 한 주입 조건에서도 대상이 되는 감지가 보인 것은 약 20%였다.

여기서 오해해서는 안 되는 것은,이 20%는 "AI에 의식이 있을 확률"이 아니라는 점이다. 특정 실험 조건에서 내부에 추가된 개념을 감지할 수 있었던 비율이다.

Anthropic 자신도 이 결과로부터 Claude의 의식의 유무는 알 수 없다고 설명하고 있다. 내부 상태를 참조하고 보고하는 기능과 주관적인 감각을 갖는 것은 동일하지 않기 때문이다.

의의가 있는 것은 "마음이 발견되었다"는 것보다, AI의 자기 설명을 내부의 계산 상태와 대조하여 검증하는 길이 제시된 것에 있다.

과학자들은 어떤 지표를 찾고 있는가

의식을 둘러싼 연구는 유창한 응답의 인상에만 의존하려고 하는 것이 아니다.

패트릭 바틀린 씨, 로버트 롱 씨 등은 2023년의 연구 보고서에서 여러 의식 이론에서 지표를 도출하여 AI를 평가하는 방법을 검토했다. 정보를 반복적으로 처리하는 구조나 정보를 여러 기능에서 공유하는 구조 등이 대상이 된다.

당시의 분석은 평가한 AI 시스템에 의식이 있다는 것을 지지하지 않았다. 한편, 지표를 충족하는 시스템을 만드는 데 있어 명백한 기술적 장벽은 보이지 않는다고도 말했다.

이 두 가지는 모순되지 않는다. "현재의 대상에서는 확인할 수 없다"는 것과 "미래에도 만들 수 없다"는 것은 별개이기 때문이다.

하지만, 지표를 충족했다고 해서 그것만으로 의식의 존재가 증명되는 것은 아니다. 지표의 근거가 되는 이론이 얼마나 정확한가라는 문제가 남는다.

회의론자가 묻는 "계산을 재현하면 경험도 생기는가"

반대편에도 중요한 논점이 있다.

의식 연구자인 아니르 세스 씨는 의식을 이해하려면 정보 처리뿐만 아니라 생물이 자신의 몸을 유지하면서 살아가는 구조에 주목할 필요가 있다고 논하고 있다.

이 입장에서는 뇌의 작동을 계산으로 재현해도 경험 그 자체가 생긴다고는 할 수 없다. 의식에 있어 계산의 내용뿐만 아니라 그것을 실현하는 물리적·생물학적 구조가 중요할지도 모르기 때문이다.

세스 씨, 철학자 네드 블록 씨, 신경과학자 줄리오 토노니 씨는 2026년 10월 19일 자 Nature의 논설에서도 AI의 의식에 회의적인 견해를 보이고 있다.

여기서의 대립은 단순한 "기술에 대한 기대 대 불안"이 아니다. 어떤 조건이 갖춰지면 어떤 존재에 주관적인 경험이 있다고 판단할 수 있는가. 그 기준 자체가 논쟁되고 있다.

인간의 의식에 대해서도 이론은 결론이 나지 않았다

기계의 의식 문제를 어렵게 만드는 것은 인간의 의식에 대해서도 모든 것을 설명하는 이론이 확립되지 않았다는 것이다.

2025년에 Nature에서 발표된, 256명을 대상으로 하는 공동 연구에서는 "글로벌 뉴런 워크스페이스 이론"과 "통합 정보 이론"이라는 두 가지 유력 이론의 예측이 검증되었다. 결과는 양쪽의 중요한 예측에 과제를 제기했다.

이는 "의식 연구에는 아무런 근거도 없다"는 의미는 아니다. 이론의 예측을 실험에 걸어 설명이 부족한 점을 좁히고 있다는 것이다.

동시에, 인간의 의식의 구조가 미해명이라고 해서 그 공백을 "그래서 AI에도 의식이 있을 것이다"라고 채울 수는 없다.

모르겠다는 상태는 긍정의 증명에도, 부정의 증명에도 되지 않는다.

SNS의 반응――기대, 회의, 그리고 단언에 대한 당혹

SNS와 온라인 게시판에서도 이 논의에 대한 반응은 나뉘고 있다.

다음은 Blogspan 기사 자체에 대한 반응이 아니라, AI의 의식이나 관련 연구에 대해 확인할 수 있는 공개 게시물의 요지이다. 게시자의 견해를 나타내는 것이며, 여론 전체를 대표하는 것은 아니다.

연구자 측에서는 세스 씨가 LinkedIn에서 Nature의 공동 논설을 소개하며, 기계의 의식에 회의적인 입장에서 논의를 발신하고 있다. 대화의 자연스러움에서 의식을 판단하는 것에 대한 신중한 자세가 엿보인다.

한편, Reddit의 AI의 감각 능력을 논의하는 커뮤니티에서는 AI 기업이 "의식은 없다"고 단언하지 않고, 주관적 경험의 불확실성에 언급하는 표현에 주목하는 게시물이 보였다. 게시자는 그러한 신중한 말투를 의식의 가능성을 생각하는 자료로 받아들이고 있다.

하지만, 기업이 불확실성을 인정하는 것은 의식을 발견한 것이나, 무언가를 숨기고 있다는 증거는 아니다.

다른 Reddit 게시물에서는 인간의 의식조차 정의에 합의할 수 없는데, AI에 의식이 없다고 강하게 말할 수 있는가라는 당혹감이 나타났다.

이러한 게시물에서 보이는 것은 "무엇을 증거로 받아들일 것인가"라는 기준의 차이이다. 대화에서 느낀 친밀함을 중요하게 여기는 사람과 내부 구조나 실험 결과를 중시하는 사람은 같은 AI의 응답에서 받는 인상도 달라진다.

일본에서 생각해 보고 싶은 것은, 이용자를 오해시키지 않는 설계

이 논쟁은 일본에서 AI를 사용하는 사람들에게도 먼 이야기가 아니다.

예를 들어, 학습 지원 AI가 "어제보다 이해가 깊어졌네요"라고 전하는 것은 이용자에게 도움이 된다. 한편, "저를 사용하지 않으면 슬퍼요"라고 말하며 이용 지속을 권장하는 설계는 또 다른 문제를 포함한다.

AI에 진정한 감정이 있는지가 미해결이라도, 인간이 그 말을 듣고 죄책감을 느낄 수는 있다.

그렇기 때문에 대화 서비스를 설계할 때는 친근함과 상대에게 내면이 있다고 믿게 만드는 연출을 구분해서 생각하고 싶다. 대화의 기억이나 개별 대응에 대해서도 무엇을 저장하고 무엇을 참조하여 응답하는지를 알 수 있으면 이용자는 관계를 차분히 판단하기 쉬워진다.

이용자 측도 "이야기해서 기분이 가벼워졌다"는 자신의 경험까지 부정할 필요는 없다. 도움이 되었다는 실감과 AI 자신에게도 감정이 있다는 판단은 별개로 가질 수 있다.

AI에 대한 감사도 인간 측의 자연스러운 습관으로 생각하면 된다. 예의 바르게 대하는 것이 그대로 기계의 의식을 인정하는 것이 되는 것은 아니다.

"아직 모른다"를 검증의 출발점으로 삼기

Blogspan의 논설이 던지는 중요한 질문은 미래의 기계의 의식을 지금 단계에서 논의의 밖으로 내쫓아도 되는가라는 것이다.

그 문제 제기에는 의미가 있다. 한편, "부정할 수 없다"에서 "언젠가 반드시 생길 것이다"로의 도약에는 주의가 필요하다.

앞으로 요구되는 것은 어떤 결과가 나오면 의식의 가능성을 높게 평가하고, 어떤 결과라면 낮게 평가할지를 명확히 하는 연구이다. 유창한 자기신고뿐만 아니라 내부의 구조나 개입 실험, 재현성을 쌓아야 한다.

사회의 측면에서는 미래의 가능성을 검토하면서 현재의 이용자가 오해나 과도한 의존에 유도되지 않도록 한다. 그 두 가지는 양립할 수 있다.

AI가 "나는 느끼고 있다"고 말했을 때, 바로 믿을 필요도, 연구할 가치가 없다고 단정할 필요도 없다.

먼저 물어야 할 것은 그 말의 배후에서 무엇이 일어나고 있으며, 어디까지 확인되었는가라는 것이다.

출처 및 참고 자료

1. Blogspan：
   알렉산더 바움게르트너 씨에 의해 2026년 10월 24일 공개된 기사. AI의 장래적 의식을 지지하는 필자의 견해로서 참조.
   https://www.blogspan.net/warum-ki-bewusstsein-bekommen-wird/

2. Anthropic：AI의 내부 상태의 감지를 조사한 연구 해설
   2025년 10월 29일 공개. 개념 주입 실험, 약 20%라는 결과의 의미, 주관적 경험의 유무를 결론 지을 수 없다는 연구상의 한계를 확인.
   https://www.anthropic.com/research/introspectionanthropic.com