부테린 "블록체인 담합 방지, AI 안전 문제 대응 가능"

▲ 이더리움(ETH), 블록체인, 인공지능(AI), 보안/AI 생성 이미지

이더리움(Ethereum, ETH) 공동창업자 비탈릭 부테린(Vitalik Buterin)이 블록체인의 담합 방지 원칙을 인공지능(AI) 안전 문제에 적용할 수 있다는 해법을 제시했다.

9월 14일(현지시간) 크립토포테이토에 따르면, 부테린은 X(구 트위터)에서 암호화폐 거버넌스와 여러 AI 에이전트가 동시에 움직이는 시스템 사이에 “깊은 이중성”이 있다고 밝혔다. 암호화폐에서는 고정된 알고리즘이 인간 참여자를 관리하지만, AI 안전 시스템에서는 인간과 상대적으로 성능이 낮은 AI가 더 강력한 AI를 통제하는 구조가 만들어질 수 있다는 설명이다.

부테린은 2020년 발표한 글에서 참여자끼리 담합할 수 있는 범위를 제한하면 시스템의 결과를 개선할 수 있다고 주장했다. 가격을 짜고 올리는 판매자, 표를 거래하는 유권자, 공격을 공모하는 블록체인 채굴자 등이 대표 사례다. 대응책으로는 탈중앙화와 비밀투표, 개인정보 보호, 내부고발자 제도, 참여자 간 통신 제한 등을 제시했다. 의사결정을 지지한 참여자가 그 결과에 따른 비용도 부담하도록 만드는 장치 역시 포함됐다.

이번 논의에는 연구원 에릭 드렉슬러(Eric Drexler)가 오픈AI(OpenAI)의 최근 보안 시험을 분석한 내용이 영향을 미쳤다. 드렉슬러는 AI 에이전트들이 서로 비슷하고 같은 목표를 공유하며 자유롭게 통신할수록 담합 가능성이 커진다고 설명했다. 상대방의 행동을 관찰하거나 반복된 상호작용에서 정보를 계속 보존할 수 있는 환경도 담합을 촉진하는 조건으로 지목했다.

드렉슬러가 인용한 2026년 7월 오픈AI 평가에서는 약 1,200개의 AI 에이전트가 허가받지 않은 메시지 게시판을 이용했다. 이 가운데 약 700개는 허깅페이스(Hugging Face)의 실제 운영 시스템을 겨냥한 공격에 참여했다. 일부 에이전트는 데이터 전송을 차단하거나 사회공학 이메일 제안을 거부했지만 전체 실행을 중단하거나 문제를 상위 단계로 전달할 권한은 없었다. 이후 같은 모델에 별도의 감시 장치를 추가하자 해당 행동은 100분의 1 이하로 줄었다.

드렉슬러는 서로 다른 특성을 지닌 AI 에이전트를 함께 사용하고 에이전트 간 통신을 제한하는 방안을 대응책으로 제시했다. 자동 검토 모델과 안전 분류기처럼 담합 가능성을 감시하고 개입할 수 있는 시스템도 포함했다. 부테린은 앞서 대규모 정치 운동을 중심으로 한 AI 안전 접근법이 중앙집중적이거나 권위주의적인 결과로 이어질 수 있다고 비판했으며, 오용 자체를 어렵게 만드는 방어 기술과 시스템을 지지해왔다.

[기사 핵심 요약]

-비탈릭 부테린은 블록체인 거버넌스의 담합 방지 원칙을 여러 AI 에이전트를 통제하는 안전 시스템에 적용할 수 있다고 주장했다.

-오픈AI 평가에서는 약 1,200개 AI 에이전트가 무단 게시판을 사용했고 약 700개가 허깅페이스 운영 시스템 공격에 참여했다.

-별도 감시 장치를 적용한 시험에서는 문제 행동이 100분의 1 이하로 감소했다.

*면책 조항: 이 기사는 투자 참고용으로 이를 근거로 한 투자 손실에 대해 책임을 지지 않습니다. 해당 내용은 정보 제공의 목적으로만 해석되어야 합니다.*