AI도 속마음 있다?…"앤트로픽, 말로 표현하지 않는 내부 공간 확인"

미국 인공지능(AI) 개발사 앤트로픽이 자사 생성형 AI 모델 클로드 내부에서 언어로 표현되기 전 아이디어를 저장·조작하는 별도의 내부 작업 공간을 확인했다고 밝혔다. 회사는 이 구조가 인간이 의식적으로 사고에 접근하는 방식과 일부 유사한 특징을 보인다고 설명했지만 AI가 의식을 가졌다는 증거로 볼 순 없다고 선을 그었다.

액시오스에 따르면 앤트로픽은 7일(현지시간) 공개한 연구에서 클로드 내부에 별도의 작업 공간이 존재하는 것을 확인했다면서 이 공간을 'J-공간(J-Space)'이라고 명명했다. 이 공간을 탐지하는 데 사용한 수학 기법(Jacobian)에서 이름을 따왔다.

회사에 따르면 J-공간은 사용자가 볼 수 있는 추론 과정과는 별도로 작동한다. 이 공간에선 현재 수행 중인 작업과 직접 관련이 없는 개념이나 계산을 활성화된다는 게 앤트로픽의 설명이다.

앤트로픽은 "클로드가 코드의 버그를 찾아내거나 이미지를 식별하는 등 여러 추론 단계를 내부적으로 수행하는 모습을 확인할 수 있었다"며 "인간이 한 가지 일을 하면서도 동시에 다른 생각을 할 수 있는 것처럼 클로드도 출력과 별개로 J-공간에서 다양한 개념과 계산을 활성화할 수 있다"고 밝혔다.

연구진은 이를 보여주는 사례로 클로드에게 한 문장을 그대로 베끼면서 동시에 금문교를 떠올리라고 지시한 실험을 소개했다. 연구진에 따르면 겉으로는 문장을 복사하는 작업만 수행했지만 J-공간에선 '다리'와 '캘리포니아' 등 관련 개념이 활성화된 것으로 확인됐다. 또 코드를 은밀히 훼손하도록 학습시킨 실험용 모델에서는 평범한 코드를 생성하는 것처럼 보이는 상황에서도 J-공간 내부에 '가짜', '은밀하게', '사기' 등의 개념이 활성화되는 현상이 관찰됐다.

다만 앤트로픽은 이번 연구가 클로드가 감정이나 주관적 경험을 한다는 것을 입증한 것은 아니라고 강조했다. 또한 AI가 의식을 가졌다고 볼 수 있는지에 대해선 아직 보편적으로 합의된 정의가 없는 상황이다.

앤트로픽은 이번 연구가 AI 안전성 연구에도 활용될 가능성이 있다고 보고 있다. J-공간을 분석하면 모델이 겉으로 드러내지 않는 내부 계산 과정을 살펴보고 개발자의 의도와 다른 방향으로 작동하거나 숨겨진 목적을 갖고 행동하는 징후를 조기에 포착하는 데 도움이 될 수 있기 때문이다.