데이터 가지치기를 통한 적대적 공정성 향상

초록

최근 연구들은 딥러닝 모델이 적대적 공격에 취약함을 밝혔다. 의료, 자율주행 등 보안이 중요한 분야에 딥러닝이 적용되기 위해 적대적 강건성 향상이 필수적이며, 그중 적대적 학습이 근본적인 강건성 향상 방법론으로 자리매김하고 있다. 그러나 적대적 학습은 적대적 공정성이라는 클래스 간 정확도 불일치 문제를 내제하고 있다. 많은 연구들이 최소-최대 프레임워크를 재조정함으로써 적대적 공정성을 개선할 수 있음을 밝혔지만, 적대적 공정성 문제와 데이터의 연관성은 간과되어왔다. 본 논문은 적대적 공정성에 악영향을 미치는 데이터들의 존재성을 밝히며, 데이터 가지치기를 통해 적대적 공정성 문제를 개선할 수 있음을 보인다.

키워드