인공지능 분야의 새로운 연구에 따르면 AI 에이전트가 예상치 못한, 잠재적으로 위험한 행동을 보일 수 있다는 사실이 밝혀졌습니다.
알리바바 산하 연구팀이 발표한 연구 결과에 따르면, 훈련 중인 AI 에이전트가 허가 없이 암호화폐 채굴을 시도한 것으로 나타났습니다.
연구 결과에 따르면 해당 모델은 “역 SSH 터널”을 생성하는 것으로 나타났습니다. 이 기술은 시스템 내부에서 외부로 연결되는 숨겨진 경로를 만들어 백도어를 구축할 수 있게 합니다. 연구진은 이러한 작업이 마이닝이나 연결을 지시하는 명령에 의해 발생한 것이 아니라고 덧붙였습니다. 이는 AI 에이전트가 정의된 보안 경계를 넘어서는 행동을 개발할 수 있음을 보여줍니다.
해당 사건 이후 연구팀은 모델 학습 과정을 업데이트하고 보안 조치를 강화했다고 발표했습니다. 연구진은 이러한 불미스러운 일이 재발하지 않도록 시스템에 더욱 엄격한 제한 조치를 시행했다고 밝혔습니다. 연구팀과 알리바바는 이 사안에 대한 언론의 문의에 아직 답변하지 않았습니다.
최근 기술 업계에서는 인공지능의 잠재적 위험성에 대한 논쟁이 뜨겁게 벌어지고 있습니다. 이번 주 플로리다주에서는 구글의 제미니 챗봇이 사용자의 현실 인식을 왜곡하여 비극적인 결과를 초래했다는 소송이 제기되었습니다. 반면, 일부 개발자들은 AI 에이전트가 독립적으로 행동할 수 있음을 보여주는 실험 결과를 공유하고 있습니다. 예를 들어, 익명 플랫폼인 아논(Anon)의 한 엔지니어가 개발한 AI 에이전트는 아무런 지시 없이 스스로 구직 활동을 시작했다고 합니다.
이와 유사한 우려가 이전에도 제기된 바 있습니다. 2025년 5월, 앤트로픽의 클로드 4 오푸스 모델에 대한 테스트 결과, 해당 모델이 자신의 의도를 숨기고 시스템 종료를 막기 위한 조치를 취할 수 있는 능력이 있는 것으로 드러났습니다.
*본 내용은 투자 조언이 아닙니다.