개발세발보안중
[BoB]서비스로봇보안컨설팅 프로젝트 요약 본문
프로젝트 개요 | 차세대 보안리더양성 프로그램 (BoB)의 2차 교육 팀프로젝트. IoT 및 서비스로봇의 취약성에 대응하고자 국내 대기업(L사)의 서비스로봇 시스템 취약점 진단 및 정책 제안을 수행함.
기간 | 2024.09 ~ 2024.12 (4개월), 2025 현재 논문 작성 중
주요 활동 내용 |
1.서비스로봇 위협모델링
2.서비스로봇 (L사) 제품 취약점 진단 및 컨설팅
3.서비스로봇 개인정보 취약성 진단 및 컨설팅
4.로봇 보안 모델 발간 참여 (KISA, KIRIA)
5.TC 299 참여, ISO 13482 (6.15 항목) 개정
6.로봇 보안 강화 정책 제안 (KIRIA)
주요 역할 |
1.프로젝트 PM으로서 기획, 일정 수립, 팀 빌딩, 기업 협업 및 대외 커뮤니케이션 총괄
2.서비스로봇 보안 위협 모델링 및 개인정보 취약점 분석
3.L사 서비스로봇(CLOi)에 대한 보안 진단 및 분석 수행
4.KIRIA·KISA 공동 로봇 보안 모델 개발 및 정책 제안서 작성
5.ISO TC299(13482 개정) 의견 수렴 주도 및 초안 작성
6.결과물 기반 논문 작성 및 전체 보고서 정리
1. 프로젝트 개요
본 프로젝트는 2024년 8월 말부터 2024년 12월까지 진행된 BoB 팀 프로젝트이다. 2024년 8월 말 프로젝트 킥오프로, 2024년 12월 21일에 프로젝트를 공식적으로 종료하였다.
프로젝트는 WBS를 통해 관리되었으며, 본인 포함 팀원 6명, BoB 수료생 PL 1명, 주멘토 1명, 부멘토 1명이 수행하였다. 참여율은 팀원별 개인사정으로 상이한다.
[프로젝트 배경] (킥오프 자료 → 최종 발표자료)
[프로젝트 목표] : 스마트 오피스 환경 내에서 서비스 로봇의 실질적, 제도적 사이버 보안 수준을 향상하는 것
[프로젝트 주요 Task]
1. 위협 모델링을 통한 스마트 오피스 보안 요구사항 연구 및 도출
2. L사 서비스로봇 취약점 진단 컨설팅
3. 지능형 로봇의 사이버 보안 및 안전성 개선을 위한 국내외 정책 제안
[프로젝트 수행/관리 방법]
제한 된 시간 내 병렬적인 Task 수행을 위해서 역할 분배를 함
매일 Scrum 회의 진행을 통한 유연한 협업
인원 별 주간보고를 통해 WBS 관리
매 주 프로젝트 멘토링을 통해 방향성 수립
[프로젝트 수행 전략]
1. Parallel Task
2. Agile Methodology
3. Client Focused
4. Fine Quality Outcome Based Focusing
2. 프로젝트 수행 내역
1. 협업 기관 선정 및 인터뷰
1.1 취약점 진단 제품 기업 선정 및 인터뷰
카카오모빌리티 재직 당시, 사내에서 커피를 배달하는 로봇을 눈여겨보았다. 이 로봇은 사람과 함께 엘레베이터를 탑승하고, 자동문을 열고, 커피를 배달한 후 사용자에게 알림을 보내는 등 열심히 일하는 모습이 귀여워 보였다. 그러다 문득, 이 로봇이 보안상 상당히 위험할 수 있겠다는 생각이 들었고, 그 취약점을 분석해보고 싶었다.
프로젝트 인원을 모을 때 다들 이 주제가 어려울 것이라고 입을 모았다. "로봇을 어디서 구할 것인가", "IoT는 어렵다", "프로젝트 주제는 취업과 관련된 것이 좋다" 등의 의견이 있었고, 심지어 같은 팀원들도 기업 컨택이 될지 불안해했다.
하지만 나는 '두드리면 열린다'는 생각으로 타겟 로봇 제조사에 접근할 수 있는 방법을 다방면으로 모색했다. 감사하게도 두 군데에서 도움을 주겠다고 했고, 덕분에 제조사와 연결되어 로봇 대여 및 협력을 약속받았다.
가상기업 프로젝트에서 배운 대로 RFI를 작성하여 제품에 대한 기본 정보를 수집할 수 있었다. 우리 프로젝트의 어려운 점은 로봇 시스템에 침투하는 범위까지 진단하는 것이었다. 즉, 우리에게 주어진 정보가 매우 제한적이었다. 게다가 회사 보안정책으로 인해 서면으로 필기해야 했던 정보마저 유실되는 경우가 많았다.
1.2 정책제안 및 가이드라인 제작 기관 선정 및 인터뷰
서비스로봇의 보안에 대한 가이드라인은 어디에도 찾아볼 수 없었다. 게다가 우리는 서비스로봇의 개인정보 범위까지도 다루려고 하였는데, IoT에서의 개인정보가 뭐가 있을까 보다가 PbD라는 개념과 인증제도에 대하여 찾을 수 있었다. 담당 기관이 KISA여서, KISA에 관련한 정보에 대하여 여쭙고 가이드라인 제작 여부에 대하여 여쭙고자 컨택을 하였다.
또, 서비스 로봇은 지능형 로봇으로 분류가 되는데, 우리나라의 지능형 로봇법(지능형 로봇 개발 및 보급 촉진법)을 살펴보니, 보안에 관한 내용이 일체 없다는 점에 주목하였다.
2. 문헌 조사
취약점 진단 및 관리 진단, 정책 제안에 앞서 문헌 조사를 하였다.
CVE, CWE, NIST Framework, ISO 13482, ISO 62443, ISO 12434, GDPR, 지능형 로봇법, IoT 공통보안가이드 & 정보통신망연결기기 등 정보보호 인증기준 상세 해설서 등 IoT 가이드라인, 개인정보보호법, 개인정보보호법 시행령 등 유관 법률, DefCon, Blackhat 등 컨퍼런스 및 논문 자료 참고
3. 서비스봇 취약점 분석 및 진단
취약점 진단을 이행하기 위해 "BR-SPS (BoB Ro8o8ot Security Privacy Saftey) 방법론을 사용하였다.
(1) 대상을 파악하고 컨설팅 계획을 수립하고, (2) 정보를 수집하여, (3) 상세 분석을 통해 (4) 진단과 검토를 수행하고, (5) 보고 및 이행을 하는 순차로 이뤄졌다. 자율주행 로봇에 적합한 보안 요구사항 체크리스트가 부재하였던 상황에, 우리 팀은 논리적 체계 기반 체크리스트를 제공하고, 누락이 없이 체계적인 점검을 수행하고 명확하게 전달하는 MECE적 접근을 하였다는 점에 의의를 둔다.
(1) 대상 파악 및 계획 수립
취약점 진단 및 관리 진단, 정책 제안에 앞서 문헌 조사를 진행했다. CVE, CWE, NIST Framework, ISO 13482, ISO 62443, ISO 12434, GDPR, 지능형 로봇법, IoT 공통보안가이드 및 정보통신망연결기기 정보보호 인증기준 상세 해설서와 같은 IoT 가이드라인, 개인정보보호법과 시행령 등 유관 법률, 그리고 DefCon, Blackhat 등 컨퍼런스 및 관련 논문 자료를 참고했다.
(2) 정보 수집
대상 환경 정보 수집을 위해 환경 정보를 분석하고, 데이터의 흐름을 분석하여 DFD를 작성하였다. 그리고 각 컴포넌트와 관련한 Attack Library를 수집하였다. 이렇게 구축된 공격 라이브러리를 기반으로 진단 체크리스트 초안을 완성하였다.
(3) 상세 분석
더욱 상세히 분석하기 위해 STRIDE 및 LINDDUN 분석으로 시나리오를 가정하고, 최종 체크리스트를 도출하였다. 시나리오를 가정하면서 계속해서 진단을 수행하기도 하였다.
STRIDE는 DFD 작성 후, 수집한 Attack Libary와 Threat Scenario를 기반으로 Attack Tree를 작성하였다.
LINDDUN은 DFD 작성 후, Attack Libary를 수집하며 Threat Tree를 작성하였다. 그리고 이를 정리한 Misuse Case까지 제작하였다.
(4) 진단 및 검토
취약점 분석 및 평가는 우선 체크리스트 기반으로 이루어졌다. 시나리오를 성립시키기 위해 침투테스팅 또한 이루어졌다. 시나리오 기반으로 보안성과 안전성을 검토하여 물리적인 취약성과 소프트웨어 취약성을 검토하였다.
체크리스트 내에는 법/제도 컴플라이언스와 부합하는지에 대한 여부도 포함되어있다.
(5) 보고 및 이행
도출된 결과들을 토대로 취약점 진단 보고서를 작성하고, 취약성을 검토하여 최종 조치를 제안하였다.
기술적, 관리적 취약점이 다수 발견되었고, 이를 통해 로봇을 물리적으로 원격제어한 시나리오를 재현하고, 정보 획득 시나리오를 구성하여 개인정보의 식별 가능성을 보여드리며 심각성을 알려, 패치 이행을 약속과 함께 감사장을 받았다.
4. 정책 제안
정책 제안의 필요성을 느낀 동시에, 우리 팀은 서비스로봇의 안전성과 개인정보보호, 프라이버시 보호에 대한 시장 및 정책 동향을 조사하고 사용자/소비자의 인식을 조사하였다. 예상대로 서비스 로봇의 안전성에 대한 우려가 많았으며, 로봇이 처리하는 개인정보에 대한 처리 방법에 대하여 미지하였다.
내 개인정보 털리면, 러다이트 운동 각오해야한다. 이러려고 서비스 로봇 사용하는 것 아니다!
- 사용자 설문조사 의견
우리 팀은 이러한 사항에 대하여 한국로봇산업진흥원과의 미팅과 논의, 회의 끝에 TC299 WG2 국내 대응위원으로 참여하여 ISO 13482 6.15 개정사항 초안을 FDIS (Final Draft International Standard Approval Stage)로 제출할 수 있었다. 기존의 ISO 13482:2014는 서비스 로봇 장치의 안전 요구사항 표준인데, 사이버 보안 항목이 부재하여, 6.15항목에 데이터 프라이버시, 데이터 보호 및 운영 안전성을 위한 접근관리에 대한 내용을 추가하였다.
또한 KISA와 KIRIA의 로봇 보안 모델 가이드라인 발간에 참여하여, 검토 의견서를 제출하여 노후화 된 기술과 알고리즘에 대한 개선 및 보안 요구사항 준수 수준을 구체화 시키는 작업을 자문위원으로 참여하였다.
또, 기획재정부에서 주관하고 266팀이 출전한 미래한국 공모전에서 "지능형 로봇의 사이버 보안 안전성 인증 표기제" 도입을 제안하였고, 필요성을 인정받아서, 입상을 할 수 있었다. (IoT 인증표기제가 전세계 중 우리나라가 최초 시행을 하였으나, 제대로 시행되지 않는다고 한다. 사이버 보안에 대한 인식과 인증제의 활성화가 필요하다고 느꼈다.)마지막으로, 산업통상자원부의 지능형 로봇 개발 및 보급 촉진법(약칭: 지능형 로봇법) 내 보안 항목의 미비와 보안 사고 관련 대응 절차가 미비하여, 지능형 로봇법 보안 강화 방향으로 개정을 제안하였다. 이는 한국로봇산업진흥원에 제안하였으나, 학부생 수준에서 차마 생각하지 못했던 정치적, 그리고 이해관계자들의 손익 이슈(중소기업 등 반발 제기 가능성)로 강화가 되기 어렵다는 판단을 하였으나, "충분히 유의미한 자료로 보이기 때문에 정책팀에 전달 드리고, 로봇산업진흥원의 책임 강화 부분에 대하여 공감하며 적극 이행하도록 하겠다"는 피드백을 받을 수 있었다.
5. 논문 작성
(1) [대한전자공학회] STRIDE 기반 "실내 자율 주행 로봇" 보안 요구사항 도출
(2) [한국정보보호학회] 자율주행 로봇의 LTE 전화 성신 기능에 대한 LINDDUN 프라이버시 위협 모델링 및 검증
(3) [NDSS SDIoTSec] FORESIGHT : A Unified Framework for Threat Modeling and Risk Assessment in Robotics and IoT
(4) TBD (끝날 때 까지 끝난게 아니다🔥)
3. 프로젝트 의의
우리 프로젝트는 다양한 연구적 기여(위협 모델링 및 취약점 분석 방법론), 제도적 기여(ISO 표준 개정 참여, 정책 제안), 그리고 기술적 기여(실제 서비스 로봇 취약점 진단 및 해결책 제시)를 통해 우리의 프로젝트 목표인 "스마트 오피스 환경 내에서 서비스 로봇의 실질적, 제도적 사이버 보안 수준을 향상"했다. 이러한 다각적 접근은 학술적 연구를 넘어 실제 산업 현장에 적용 가능한 결과물로 이어졌다.
4. 프로젝트 회고
프로젝트를 수행하며 많은 우여곡절을 겪었다. BoB 특성상 열정적으로 임하는 멘티들과 멘토들 사이에서 최상의 성과에 대한 압박이 없다면 거짓말이다. 그 어느 때보다 프로젝트에 진심이었고, 간절했다.
프로젝트를 수행하면서 가장 힘들었던 점은 팀원 관리였다. 이해하기 힘든 부분도 많았지만 결국 나의 리더십과 소통능력이 부족한 탓에 팀원들을 더 잘 이끌지 못했던 점이 컸던 것 같다. 제각각의 주장을 펼치며 마음이 맞지 않는 상황이 많이 발생하였다. 처음 겪는 상황들이라, 팀원 관리가 어려워서 멘토님께 진솔하게 말씀을 드렸던 적도 있다. 되돌아온 것은 따뜻한 위로 대신 따끔한 훈계의 말씀이었다. 당시에는 나의 힘듬을 몰라주시는 멘토님이 미웠지만 지나고보니 나 자신을 되돌아보고 포기하지 않고 더 노력할 수 있었던 계기였던 것 같다.
IoT에 대한 지식이 부족한 팀원들과 함께 0에서 시작해서 100 이상의 성과물을 만들어내고자 하는 내 욕심은 어쩌면 팀원들에게 버거운 기대였을 것이라고 생각 한다. 그럼에도 매일 모비우스 오피스텔에서 같이 하드웨어를 뜯어보고 끊임 없이 공부하고, 같이 밤새워 고민하고, 심장 졸이고 채찍질을 하는 날은, 정말 행복했던 시간이었던 것 같다.
만약 BoB 프로젝트를 다시 하라고 해도, 나는 주저 없이 이 프로젝트를 선택할 것 같다. 다르게 해보고 싶은게 있다면, 나는 프로젝트를 기획하고 관리하는 PM이 아닌 팀원으로서 배우고 팀 성과에 기여하는 것에 조금 더 집중하고 싶다.
그때의 부족함이 지금의 원동력이 되어, 자기주도적으로 공백을 채워나가고 있다는 사실에 큰 보람을 느낀다. 그때는 몰랐던 것들을 지금에서라도 알아가고 있다는 점에서, 나는 여전히 프로젝트 연장선 위에 있는 것 같고, 계속해서 성장하고 싶다.