로그인 창을 지나치기도 전에 코드가 돌아간다 — ServiceNow AI 플랫폼 무인증 코드 실행 파헤치기

이미지 출처: The Hacker News

사내 포털에서 "휴가 신청 어떻게 하나요"를 AI 비서에게 물어보는 장면을 떠올려 보자. 직원은 그저 문장을 던졌을 뿐인데, 그 문장이 서버 깊은 곳에서 인증 절차를 건너뛴 채 코드로 실행된다면 어떨까. 이번에 공개된 ServiceNow AI 플랫폼(Now Assist 계열) 결함이 딱 그런 그림이다. 로그인 화면 앞에 서 보기도 전에, 바깥에서 던진 요청 하나가 내부 실행 경로로 새어 들어간다.

핵심 요약

• ServiceNow AI 플랫폼에서 인증 없이도(unauthenticated) 원격 코드 실행이 가능한 심각도 높은 결함이 확인됨.
• 사람이 입력한 자연어를 처리하는 AI 워크플로가 신뢰 경계 밖 입력을 그대로 실행 경로에 흘려보내는 것이 뿌리.
• 공격 재현보다 중요한 건 패치 적용·외부 노출 최소화·이상 요청 로그 탐지라는 방어 3종 세트.

왜 '인증 없이'가 그렇게 무서운가

일반적인 취약점은 최소한 계정 하나, 혹은 한 번의 로그인을 요구함. 그런데 무인증(unauthenticated) 결함은 그 전제 자체가 없음. 인터넷에 노출된 엔드포인트에 요청을 보낼 수 있는 사람이라면 누구나 첫 관문을 통과함. 여기에 '원격 코드 실행'까지 붙으면, 공격자는 서버에서 자기 명령을 돌릴 발판을 얻게 됨. 데이터 조회를 넘어 시스템 장악으로 번질 수 있는 조합이라 심각도가 높게 매겨지는 것.

AI 플랫폼이라는 새로운 공격면

과거의 웹 취약점은 대개 정형화된 파라미터를 다뤘음. 반면 AI 워크플로는 사람이 자유롭게 쓴 문장을 입력으로 받아들이고, 그걸 내부 로직·템플릿·평가 함수로 넘김. 문제는 이 과정에서 사용자 입력과 실행 코드의 경계가 흐려질 때 생김. 낯선 외부 입력을 '지시'로 오해해 그대로 처리하면, 개념적으로는 프롬프트를 통한 명령 주입과 서버 측 코드 실행이 이어질 수 있음. 실제 페이로드는 여기서 다루지 않음. 다만 구조만 이해해도 방어 포인트가 어디인지 감이 잡힘.

방어자가 오늘 당장 챙길 것

• 벤더 패치 우선 적용: ServiceNow가 배포한 보안 업데이트를 최우선으로 반영함. AI 기능은 상시 온라인이라 노출 시간이 곧 위험 시간임.
• 외부 노출 최소화: AI 어시스턴트 엔드포인트가 인터넷에 그대로 열려 있는지 점검함. VPN·IP 허용목록·역방향 프록시 뒤로 넣어 접근면을 좁힘.
• 이상 요청 탐지: 자연어 필드에 코드 조각·템플릿 문법·비정상적으로 긴 페이로드가 들어오는 패턴을 WAF·로그 분석으로 감시함. 인증 전 요청이 실행 경로로 향하는 흐름은 그 자체로 경보감임.
• 최소 권한 원칙: AI 워크플로가 구동되는 서비스 계정 권한을 조여, 설령 실행이 성공해도 피해 반경을 줄임.

탐지의 결은 '입력이 실행으로 바뀌는 순간'

이런 유형을 잡는 핵심은 단순한 시그니처가 아니라 맥락임. 평범한 질의로 위장한 입력이 결국 서버에서 함수 호출이나 코드 평가로 이어지는지를 봐야 함. 그래서 애플리케이션 레벨 로깅이 중요함 — 어떤 요청이 어떤 내부 동작을 촉발했는지 추적할 수 있어야 사후 분석과 실시간 차단이 가능함. 로그가 얕으면 뚫린 뒤에도 뚫린 줄 모름.

마무리

AI를 업무에 붙이는 흐름은 이제 되돌릴 수 없음. 그렇다면 우리가 할 일은 'AI라서 특별하다'가 아니라, AI도 결국 입력을 처리하는 소프트웨어라는 사실 위에서 오래된 원칙을 다시 세우는 것임. 신뢰 경계 확인, 입력 검증, 최소 권한, 그리고 로그. 개인적으로는 새 AI 기능을 켤 때마다 "이 입력은 어디까지 흘러가는가"를 한 번씩 그려보길 추천함. 여러분 조직의 포털엔 지금 어떤 문이 열려 있는지, 이번 주에 같이 점검해 보아요. 확인해 보고 애매한 부분 있으면 댓글로 공유해 주세요.