데이터 기반 의사결정에서 편향과 공정성

초록

이 논문은 데이터 기반 사회에서 데이터 기반 의사결정의 합리성을 위협하는 편향의 문제를 고찰하면서 그러한 위험을 줄이고 의사결정의 공정성을 높이는 방안을 모색한다. 이를 위하여 미국에서 범죄자 교정관리에 활용되어 온 COMPAS가 인종차별적 편향을 나타낸다는 비판을 둘러싼 토론을 검토하고, 데이터 기반 의사결정에서 편향을 발생시키는 원천을 분석한다. 이 분석에서 데이터가 주-술의 구조를 지닌 명제이고 실재를 고스란히 반영하는 중립적 자료가 아니라 데이터 생산자의 관점을 반영하는 측정 활동의 산물이라는 점이 부각된다. 이러한 개입이 그 자체로 데이터 기반 의사결정의 공정성을 위협하는 것은 아니다. 그러나 편향은 데이터에서 추론된 결론이 모집단의 속성을 적절히 반영하지 못함을 의미한다는 점에서 데이터 기반 의사결정의 가치를 감쇄한다. 이러한 위험을 다루는 방법은 데이터 기반 결정에서 나타나는 편향의 양상을 계속 평가하면서 평가 결과에 따라 데이터 처리 알고리즘을 보정하고 데이터집합을 보완하는 것뿐이다. 지속적인 비판과 보정, 보완을 통해 사회가 적정하다고 여기는 균형점과 현상의 거리를 좁혀 가는 실천만이 데이터 기반 결정의 가치를 보존하고 극대화할 수 있을 조건이다.

키워드