[한국공공정책신문=최진실 기자] 바이어스는 AI 시스템에서의 편견과 선입견을 말한다. AI의 진화와 보급에 따라 ‘바이어스(Bias)’라는 말을 자주 듣게 되었다. 데이터나 알고리즘의 편향으로 AI가 불공평한 결과를 내는 것을 가리킨다. AI에 바이어스의 기본적인 개념을 알기 쉽게 해설하고, 실제의 활용 예를 통해서 그 중요성을 이해시킨다. 예컨대, 훈련 데이터 편향이 모델의 판단에 영향을 주어 특정 그룹에 대한 불공평한 결과를 낳을 수 있다.
◇ 바이어스(Bias)의 개념
바이어스는 편향이나 편향(편견이나 선입견)을 의미한다. AI의 편견은 데이터나 알고리즘의 편향이 원인이 되어 AI 시스템이 불공평한 결과를 내는 것을 말한다. 구체적으로 아래와 같은 상황에서 바이어스가 발생할 수 있다. ① 데이터 편향이다. AI 모델은 많은 양의 데이터를 사용하여 학습하지만, 데이터가 편향되어 있으면 AI도 편향된 판단을 할 수 있다. 예컨대, 얼굴 인식 시스템이 특정 인종에 대해 정확도가 낮은 경우, 그 시스템은 훈련 데이터에 포함된 인종의 편향을 반영하고 있을 수 있다. ② 알고리즘 편향이다. AI의 학습 알고리즘 자체에도 편향이 포함될 수 있다. 예컨대, 알고리즘이 특정 특징에 과도하게 무게를 두면서 결과에 편향이 생길 수 있다. ③ 인간의 편견이다. AI의 설계나 데이터 수집, 모델의 튜닝 등을 실시하는 인간 자신이 가진 편견도 영향을 미친다. 설계자의 의도나 가치관이 AI 시스템에 반영될 수 있다.
◇ 편견의 구체적인 사례
첫째, 채용 시스템의 편향이다. 한 기업이 AI를 이용해 응모자의 이력서를 평가하는 시스템을 도입했다고 한다. 이 시스템이 과거 채용 데이터를 바탕으로 학습했다면 만약 과거에 남성 후보자가 많이 채용됐다면 AI는 남성을 우대하는 경향이 강해질 수 있다. 이러한 편견으로 인해 여성 응모자가 불공평하게 평가될 가능성이 있다.
둘째, 신용점수의 편향이다. 신용점수(Credt Scoring, CS)를 산출하는 AI 시스템이 특정 지역이나 인종에 대해 불리한 평가를 하는 경우가 있다. 예컨대, 역사적으로 낮은 신용점수를 가진 지역의 데이터가 많을 경우, AI 시스템은 그 지역 사람들에 대해 낮은 점수를 주는 경향이 있을 수 있다.
*신용점수(Credt Scoring, CS)란 통계적 모델에 따라 기업 또는 개인의 신용도를 점수화하여 대출 여부를 신속하고 중립적으로 판단하는 시스템을 말한다. 신용신청자의 속성정보(연령ㆍ거주상황ㆍ근무형태ㆍ연봉 등), 신용정보기관에 의한 기존 차입금액ㆍ건수 등 정보를 바탕으로 지불가능 수준을 예측하고 그 신용 정도에 따라 신용공여(여신)하는 방법이다.
◇ 편견에 대한 대책
첫째, 데이터의 다양성이다. AI의 훈련 데이터를 다양한 데이터 세트로 구성함으로써 바이어스를 줄일 수 있다. 예컨대, 얼굴 인식 시스템의 교육 데이터에 다양한 인종 및 성별 이미지를 포함하는 것이 효과적이다.
둘째, 알고리즘의 감시와 평가다. AI 모델의 편향을 감시하고 정기적으로 평가하는 것이 중요하다. 평가결과 편향이 발견된 경우 모델 조정 및 데이터 재검토가 필요하다.
셋째, 편견에 대한 교육과 의식향상이다. AI를 설계ㆍ운용하는 사람들이 편견의 영향을 이해하고 의식하는 것이 중요하다. 교육이나 트레이닝을 통해서 바이어스를 의식한 대책을 강구하는 것이 요구된다.
이규철 / 법학박사(상법)
∙ ‘100세대학TV’ 크리에이터 및 전문강사
∙ AI·GPT, SDGs&ESG코칭 및 전문강사
∙ 생성AI와 챗GPT, SDGs·ESG경영전략,
글로벌 MBAtoCEO, 리더의 필승전략,
100세대학 행복디자인 매뉴얼 등 27권
∙ 일본(와세다대),중국(복단대·화동정법대)
){kind=small}
){kind=small}
){kind=small}
){kind=small}
