바이낸스 "AI 에이전트도 실수하고 조종당해…보안 신경써야"

글로벌 가상자산 거래소 바이낸스가 11일 가상자산 시장에서의 '인공지능(AI) 에이전트' 활용에 대한 가이드라인을 공개했습니다.

AI 에이전트는 높은 자율성을 가지고 스스로 상황을 판단할 수 있어, 가상자산 업계에서는 시장 상황에 따라 자산을 재분배하거나 수익 창출 기회를 찾고 거래를 수행하는 데 활용됩니다.

바이낸스는 AI 에이전트 또한 할루시네이션(환각) 현상이라는 한계점이 있으므로, 대규모 거래나 권한 승인 등을 할 때는 반드시 인간의 명시적인 확인 과정을 거쳐야 한다고 강조했습니다.

AI 에이전트의 주요 위험 요소로는 악의적 명령어로 AI를 조종하는 프롬프트 주입 공격, 합법적 서비스를 사칭하는 등의 피싱, 데이터 유출과 스마트 컨트랙트 실행 오류 등을 꼽았습니다.

바이낸스는 AI 에이전트의 오류·조작·악성 공격에 대비해 보안 체계가 중요해지고 있다며, 에이전트가 접근할 수 있는 권한을 최소화하는 '최소 권한 원칙'을 적용하라고 당부했습니다.

바이낸스 관계자는 "AI 기술을 안전하게 활용하기 위해서는 권한 관리, 독립적인 검증, 인간의 최종 감독과 같은 기본 원칙을 지켜야 한다"라고 조언했습니다.