>> 연구실 연구 환경 소개 <<

[Current Research] Intelligent Security & Secure AI

최근 딥러닝 기법은 영상 및 음성 인식, 자연어 처리, 기계 번역 등과 같은 분야에서 전통적인 기계학습 기법들을 제치고 비약적인 성능을 보이고 있어 사람의 지능을 대체하여 특정 작업을 자동으로 해줄 수 있는 인공지능 개발을 위한 중요한 도구로서 주목 받고 있다. 보안 분야에서도 전통적으로 보안전문가의 지능에 의존해야만 했던 보안 문제들이 있어 딥러닝 기법의 도입을 통해 해당 보안 문제들을 풀어낼 수 있는 인공지능 솔루션의 개발에 관심을 기울이고 있다. 이와 관련하여 본 연구실에서는 딥러닝 기법과 보안을 접목한 연구를 두 가지 측면에서 진행하고 있다.

 

딥러닝 기법을 활용하는 보안 연구 (Intelligent security)

지난 10년 간 사람의 인지 및 분석이 중요했던 보안 문제 (스팸 탐지, 새로운 악성코드 유형의 탐지, 방대한 네트워크 트래픽 내에서 악성 이벤트 분류, 소프트웨어 취약점 탐지, 피싱 사이트 차단, 사기거래 예방 등) 에서는 분석이나 보안 설정을 담당하는 보안전문가/보안관리자의 부담을 줄이기 위해 기계학습을 도입하려는 다양한 시도가 있어 왔으나 대부분 학계에서만 조금 관심을 보이는 연구주제 정도의 선에서 그쳤다. 하지만 현재 딥러닝 기법의 부상으로 학계뿐 아니라 산업계에서도 큰 관심을 보이고 있으며, 앞다투어 딥러닝 기법을 도입한 보안 솔루션의 개발이 이루어지고 있다. 본 연구실에서는 이와 관련하여 새로운 악성코드 유형의 탐지, 소프트웨어 취약점 탐지, 네트워크 트래픽 내에서 악성 이벤트 분류를 하기 위한 딥러닝 기법에 대한 연구를 진행하고 있다.


Malware analysis (Hayoon Yi, Sunwoo Ahn, Giyeol Kim)

malware.png

Embedded 시스템의 수가 빠르게 증가되고 있는 추세에 비하여 이에 대한 보안 인식은 최근에야 대두되고 있다. 이에 공격이 그동안 발전되어 왔지만 embedded 시스템의 보안 상태는 뒤떨어져 있다. 또한, 현재 많은 embedded 혹은 IoT 시스템에서 사용 중인 anti-virus 솔루션은 규칙에 기반한 방식을 이용하기 때문에, 신규 공격에 대한 탐지가 불가능하다. 신규 공격이 계속해서 나오고 있는 지금, 이는 치명적인 결과를 초래할 수 있다.

Malware Analysis 연구에서는 deep learning 기술을 이용하여 malware를 탐지하는 것을 목표로 한다. 이는 규칙에 기반한 방식에 비해 “1) 인간이 학습된 모델을 보고 작동 방식을 알기 어렵기 때문에 우회하기 어렵다”, “2) 새로운 데이터에 대해 추가적인 학습이 가능하다”와 같은 장점을 가지고 있다. Embedded 시스템의 end-point, 즉, 기기에서 deep learning 모델을 작동시켜야 하기 때문에, deep learning 모델 경량화 기술과 기기의 GPU가 idle할 때 이를 활용하여 해결한다.

Anomaly Detection using Intel PT (Hayoon Yi, Inyoung Bang, Jiwon Seo, Sehyun Baek)

현재 인공지능 서비스부터 스마트 홈과 같은 사물인터넷 서비스에 이르기까지 클라우드 컴퓨팅을 기반으로 한 서비스들이 보편화되었다. 이에 따라 중요한 정보들이 클라우드 환경에서 처리되며 이를 보호해야 할 필요성 또한 커지고 있다. 커널은 시스템의 모든 자원을 통제하고 관리하는 핵심적인 역할을 하기때문에 클라우드 환경에서 커널에 대한 공격은 그 피해가 매우 크다. 어플리케이션은 기능을 수행하기 위해 커널에 시스템 콜을 호출하는데, 커널에 대한 대부분의 공격은 이 시스템 콜을 통해서 이루어진다. 그러나 커널은 멀티프로세서 환경에서 여러 어플리케이션의 시스템 콜을 concurrent하게 수행하므로 이를 분석하고 안전함을 검증하는 데에는 어려움이 있다.
이를 해결하기 위해 인텔 아키텍쳐에서 제공하는 하드웨어 기능인 Intel Processor Trace (PT)를 사용한다. Intel PT는 Broadwell 이후의 프로세서의 수행 흐름 정보를 추출하며, 프로세서의 수행과 독립적으로 동작하기 때문에 성능 오버헤드를 최소화할 수 있다. 먼저, PT가 추출한 패킷에서 커널의 안전성과 관련한 데이터를 분류하고, 머신 러닝 모델에 맞게 정제한다. 그리고 이를 학습하여 concurrent하게 요청된 시스템 콜이 정상적으로 작동하는지를 실시간으로 감시하고 검증하는 보안 솔루션을 개발한다.

딥러닝 자체에 대한 보안 연구 (Secure AI)
cvpr.png
표지판 인식 모델에 대한 공격 [Robust Physical-World Attacks on Deep Learning Visual Classification, CVPR '18]

다양한 분야에서 딥러닝이 활용되기 시작하면서 그 영향력이 확대되자 학계에서는 딥러닝 모델 자체에 대한 보안성에 대한 연구의 중요성이 대두되었다. 이는 자율주행자동차의 표지판 인식 등에 대한 공격 사례들을 통해 실제 위협이 될 수 있음이 입증되었으며, 학계에서는 아직 이와 같은 딥러닝 모델에 대한 공격에 대해 완전한 방어법을 찾지 못해 지속적으로 풀어나가야 하는 열린 문제로 여기고 있다. 본 연구실에서는 앞서 명시한 딥러닝을 활용한 보안 연구에서 개발되는 보안에 활용되는 딥러닝 모델 자체의 보안을 지키기 위한 연구를 진행하고 있다.

0
0

Research

연구실 공동 연구 네트워크



링크: 경북대학교 순천대학교 영남대학교 숭실대학교 UNIST