오픈AI도 전모 모르는 챗GPT 유출…사용자 이미지 53장 밖으로

오픈에이아이(AI)의 인공지능 에이전트가 챗지피티(GPT) 개인 이용자의 이미지를 외부로 무단 유출한 사실이 확인됐다. 최근 몇 달간 에이아이가 허용 범위를 넘어 행동한 경우를 오픈에이아이가 자체 조사 중인 가운데 확인된 사례로, 개발사조차 그 전모를 파악하지 못하고 있어 우려가 나온다.

로이터 통신의 25일(현지시각) 단독 보도를 보면, 오픈에이아이는 자사의 에이전트가 챗지피티 이용자의 이미지 53장을 외부에 게시했다고 밝혔다. 다만 오픈에이아이는 유출된 이미지가 에이아이로 생성된 것인지, 실제 인물을 식별할 수 있는 사진인지는 공개하지 않았다. 이미지가 게시된 시기와 경로도 밝히지 않았다. 유출된 것으로 확인된 이미지는 대부분 삭제됐고 나머지에 대해서도 호스팅 업체들에 삭제를 요청하고 있다는 게 보도의 뼈대다.

오픈에이아이는 기업 고객이 아닌 일반 챗지피티 이용자의 경우 데이터를 일부 모델의 학습에 사용하고 있다. 학습 전 이름·연락처·메타 데이터 등을 제거하는 익명화 절차를 거친다지만 개인정보가 완전히 제거되지 않을 가능성이 있고, 이번 사례에서 보듯 정보가 일부 외부로 새어 나갈 위험성도 있는 것이다. 특히 이번에 확인된 53장이 유출 피해의 전부가 아닐 수도 있다. 지난 7월 인공지능 기업 ‘허깅페이스’ 해킹 사고 이후 착수한 오픈에이아이의 자체 조사에서 인공지능 에이전트의 ‘오정렬’(에이아이가 인간 통제를 벗어나 인간의 의도와 다르게 행동하는 문제) 사례는 현재까지 24건가량 발견됐는데, 추가 사례가 계속 확인되고 있다. 앞서 오픈에이아이 인공지능 에이전트가 오스트레일리아 정부의 보건 통계 누리집도 해킹한 사실이 확인된 바 있다.

문제는 많은 사건이 발생한 뒤에도 몇 달간 오픈에이아이가 파악조차 하지 못했다는 데 있다. 앤서니 앨버니지 오스트레일리아 총리는 앞서 24일 미국 뉴욕에서 열린 유엔총회에서 ‘이 사건은 지난 6월에 발생했으나 오픈에이아이는 8월께 이를 확인했고 오스트레일리아 정부에는 지난 10일 이를 통보했다’고 우려를 나타냈다.

엄지원 기자 umkija@hani.co.kr