[Current Research] Privacy Preserving AI techniques
- 0
- 0
- 03-19
Privacy Preserving AI techniques
현대의 AI 기술은 대규모 데이터의 수집 및 분석을 통해 전례 없는 성능 향상을 이루고 있다. 이러한 발전은 특히 빅데이터를 기반으로 하는 4차 산업혁명 시대에 더욱 두드러지고 있다. 그러나 이러한 데이터 중심의 접근 방식은 최근 강화된 개인정보보호법과 충돌하여 데이터 수집이 어려워지기 때문에 새로운 도전에 직면하고 있다. 이를 해결하기 위해 '연합학습'이라는 새로운 학습 방식이 등장했다.
연합학습은 중앙 집중식 데이터 수집 없이도 학습이 가능하며, 사용자의 프라이버시를 보호하는 동시에 효과적인 학습 결과를 제공하는 실용적인 방법이다. 이 방법은 구글의 Gboard와 애플의 Siri 같은 실제 사례에서 성공적으로 적용되면서 전통적인 AI 학습 방식에 대한 중요한 대안이 되고 있다. 그럼에도 불구하고, 연합학습은 아직 참여자에 의한 보안 위협과 추가적인 프라이버시 유출 문제로 인해 고통받고 있다.
위와 같은 주제와 관하여 우리 연구실은 아래와 같은 연구들을 진행하고 있습니다.
Privacy Concerns in FL
AI 모델은 다양한 프라이버시 위협에 노출되어 있습니다. 대표적으로 데이터의 학습데이터 포함 여부(Membership inference), 학습 데이터 복원(Model Inversion), 의도하지 않은 정보 유출(Property Inference) 등이 존재합니다. 이러한 문제는 연합학습에서도 발견되며, 이러한 문제들에 대한 해결책을 모색하고 있습니다.
Secure and Robust FL
연합학습에서 일부 악의적인 참여자가 학습을 왜곡하여, 컨소시움의 의도와 달리 그들의 의도대로 모델이 동작하도록 모델을 오염시킬 수 있습니다. 이를 해결하기 위해 학습 과정 또는 모델에서 악의적인 참여자의 영향력을 감소시키고 학습 컨소시움을 보호하는 연구를 진행하고 있습니다.
