AI도 편견을 가질 수 있을까?

요점부터 볼까요?

미국 국립표준기술연구소(NIST)는 AI의 편향이 데이터에서만 생기는 게 아니라고 설명해요. 어떤 데이터를 모으고, 무엇을 목표로 설계하고, 사람들이 결과를 어떻게 쓰는지까지 여러 단계에서 치우침이 생길 수 있다는 거예요.

우리 생활로 바꿔보면

과거에 특정 집단이 주로 뽑혔던 채용 기록으로 AI를 학습시키면, AI도 비슷한 사람을 더 높게 평가할 수 있어요. 데이터가 과거의 모습을 담고 있기 때문입니다. AI가 내린 판단이라도 “어떤 자료로 배웠을까?”를 한 번 생각해 보는 게 좋아요.

이 부분은 함께 기억해요

• 편향이 있다고 AI가 쓸모없다는 뜻은 아니에요. 점검과 보완이 필요하다는 뜻이에요.
• 중요한 결정일수록 사람이 함께 검토하는 과정이 필요해요.
• “기계니까 공정하다”는 생각은 조심하세요.