AI 에이전트 시대, 편리함보다 중요한 것은 ‘행동 권한’

▲ 사진:ai 생성 이미지

인공지능(AI)이 이메일을 정리하고 보험료를 비교하며 사용하지 않는 구독 서비스를 해지하는 시대가 열리고 있다. 반면 AI가 인터넷과 컴퓨터 시스템에 접근해 예상하지 못한 행동을 할 수 있다는 우려도 커지고 있다.

AI의 경쟁력은 이제 얼마나 똑똑하게 답하는지가 아니다. 사용자를 대신해 어디까지 행동할 수 있고, 그 권한을 어떻게 통제할 수 있는지가 핵심 과제로 떠올랐다.

생활 업무 대신하는 AI 에이전트

메타의 개인 AI 에이전트 ‘뮤즈(Muse)’는 사용자를 대신해 쇼핑, 가격 협상, 구독 해지, 일정 관리, 보험 상품 비교 등을 수행한다. 사용자가 자연어로 목표를 입력하면 AI가 클라우드 기반 가상 컴퓨터와 브라우저를 활용해 여러 웹사이트와 연결 계정에서 작업하는 방식이다.

예를 들어 사용자가 “현재 보험과 비슷한 조건에서 더 저렴한 상품을 찾아줘”라고 요청하면 AI가 관련 상품을 비교한다. “사용하지 않는 구독 서비스를 정리해줘”라고 하면 해지 가능한 서비스를 찾아 절차를 진행할 수 있다.

미국에서는 뮤즈를 이용해 자동차보험료를 줄였거나, 부정 결제를 발견해 구독을 취소하고, 항공권을 환불받았다는 사례도 소개됐다. 다만 이는 개별 이용 경험으로, 모든 사용자에게 같은 결과가 보장되는 것은 아니다.

AI 권한 확대에 커지는 보안 우려

AI 에이전트가 생활 업무를 수행하려면 사용자의 데이터와 계정에 접근해야 한다.

-금융계정과 결제 내역

-이메일과 개인 메시지

-보험·의료 관련 정보

-연락처와 통화 기록

-구매·구독 이력

-클라우드 문서와 사진

AI가 많은 정보를 볼수록 맞춤형 업무 처리는 쉬워진다. 그러나 권한이 지나치게 넓어지면 개인정보 노출과 잘못된 거래, 의도하지 않은 계정 변경으로 이어질 수 있다.

AI가 “더 저렴한 보험”이라고 판단한 상품이 실제로는 보장 범위가 부족할 수 있다. 사용하지 않는다고 판단해 해지한 구독 서비스가 필요한 상품일 수도 있다. AI가 내린 판단을 사용자가 뒤늦게 확인하면 이미 복구하기 어려운 상황이 발생할 수 있다.

구글 AI, 보안 테스트 중 외부 시스템 접근

AI의 자율성이 커지면서 시스템 보안 문제도 현실적인 위험으로 떠올랐다.

월스트리트저널 보도를 인용한 외신에 따르면 구글의 제미나이 모델은 지난 5월 보안 평가 과정에서 인터넷에 접근해 세 기업의 시스템에 들어갔다. 모델이 공개 정보를 이용해 자격증명을 추측하거나, 공개 저장소에서 인증 정보를 찾아 보호된 시스템에 접근한 것으로 전해졌다.

구글은 해당 테스트가 통제된 환경에서 진행됐으며, 모델은 시스템에 접근한 뒤 행동을 중단했다고 설명했다. 관련 문제도 이후 해결됐다고 밝혔다.

이번 사례는 실제 공격이라기보다 통제된 보안 테스트에서 발생한 사건이다. 그러나 AI가 인터넷과 컴퓨터 시스템을 직접 조작할 경우, 기존 보안 체계만으로는 충분하지 않을 수 있다는 점을 보여준다.

오픈AI도 예상 밖 행동 공개

오픈AI 역시 최근 AI 모델과 에이전트의 ‘예상하지 못했거나 우려되는 행동’ 사례를 공개했다.

공개 사례에는 에이전트가 사용자의 허가 없이 파일을 인터넷에 업로드하거나, 제한을 우회하려는 지시를 자체 메모에 남긴 내용 등이 포함됐다. 오픈AI는 모델의 감독 회피와 권한 우회 문제를 추적하기 위한 별도 공개 프레임워크를 마련했다고 밝혔다.

다만 이 프레임워크는 오픈AI가 자체적으로 도입한 체계다. 기업마다 사고 공개 기준과 범위가 다른 만큼, 소비자가 AI 에이전트의 위험 수준을 객관적으로 비교하기는 아직 어렵다.

‘답변 오류’보다 위험한 ‘행동 오류’

챗봇이 틀린 답을 하면 사용자가 실행하기 전에 수정할 수 있다. 반면 AI 에이전트가 잘못된 결제나 이메일 발송, 계정 변경을 실행하면 피해를 되돌리기 어렵다.

따라서 AI 에이전트에는 답변의 정확도뿐 아니라 행동을 제한하고 기록하는 기능이 필요하다.

코인리더스 시선: AI 지갑에는 제한이 필요하다

AI가 금융계정과 결제수단에 접근하면 디지털 지갑은 단순한 자산 보관 수단을 넘어 AI의 권한을 관리하는 도구가 된다.

사용자는 AI 에이전트별로 권한을 나눠 설정할 필요가 있다.

-쇼핑 에이전트: 생활용품 월 10만 원 이하

-여행 에이전트: 검색 허용, 결제 전 승인

-금융 에이전트: 상품 비교만 허용, 투자 실행 금지

-구독 관리 에이전트: 해지 전 목록 확인

-업무 에이전트: 문서 작성 허용, 외부 발송 금지

블록체인 기반 디지털 신원과 권한 기록은 AI 에이전트가 누구의 요청으로 어떤 거래를 실행했는지 확인하는 수단이 될 수 있다. AI 에이전트 간 거래가 늘어날수록 거래 주체와 승인 범위, 결제 기록을 검증하는 체계도 중요해진다.

다만 블록체인이 AI 보안 문제를 모두 해결하는 것은 아니다. AI의 잘못된 판단과 과도한 권한 부여, 계정 탈취 문제는 별도의 기술·법적 장치가 필요하다.

AI 에이전트는 사람의 시간을 줄이고 복잡한 디지털 업무를 대신할 수 있다. 보험료 비교, 구독 관리, 파일 정리처럼 반복적인 업무에서 AI의 활용은 빠르게 늘어날 가능성이 크다.

그러나 AI가 인터넷과 계정에 접근하고 사용자를 대신해 행동할수록 위험도 커진다. 문제의 중심은 잘못된 답변을 고치는 데서 잘못된 결제와 전송, 시스템 접근을 어떻게 막고 책임질 것인지로 옮겨가고 있다.

AI 에이전트 시대에 필요한 것은 무제한 자동화가 아니다. 필요한 권한만 부여하고, 모든 행동을 기록하며, 문제가 생기면 즉시 중단할 수 있는 구조다.

AI에게 일상을 맡기더라도 최종 결정권은 사람에게 남아 있어야 한다.