Nature

수백만 명의 사람들이 현재 언어 모델과 상호작용하고 있으며, 글쓰기 도움에서부터 채용 결정에 이르기까지 다양한 용도로 사용되고 있다. 그러나 이러한 언어 모델들은 체계적인 인종적 편견을 지속시키는 것으로 알려져 있으며, 아프리카계-미국인(African Americans)과 같은 그룹에 대해 문제적인 방식으로 편향된 판단을 내리곤 한다. 이전 연구들은 언어 모델에서의 명시적인 인종차별(overt racism)에 초점을 맞췄지만, 사회 과학자들은 특히 미국에서의 민권운동 이후 더욱 미묘한 형태의 인종차별이 발전해왔다는 주장을 제기해왔다. 그러나 이러한 은밀한 인종차별(covert racism)이 언어 모델에서도 나타나는지는 밝혀지지 않았다. 본 연구에서는 언어 모델이 방언에 대한 편견의 형태로 은밀한 인종차별을 구현하며, 아프리카계-미국인 영어(African American English, AAE)를 사용하는 화자들에 대해 인간이 실험적으로 기록한 것보다 더 부정적인 인종언어학적 고정관념을 보여준다는 것을 입증한다. 반대로, 언어 모델들이 아프리카계-미국인에 대해 명시적으로 나타내는 고정관념은 더 긍정적이다. 방언에 대한 편견은 유해한 결과를 초래할 수 있는데, 언어 모델은 AAE를 사용하는 화자에게 덜 명망 있는 직업을 할당하거나, 범죄로 유죄 판결을 내리고, 심지어 사형을 선고할 가능성이 더 높다. 마지막으로, 우리는 언어 모델의 인종적 편견을 완화하는 현재의 방법들(예: 인간 선호도 조정)이 언어 모델이 더 깊은 수준에서 유지하는 인종주의를 표면적으로 모호하게 함으로써, 은밀한 고정관념과 명시적인 고정관념 사이의 불일치를 악화시킨다는 것을 보여준다. 우리의 연구 결과는 언어 기술의 공정하고 안전한 사용에 중대한 함의를 가지고 있다.