ARM, AI는 더 많은 여성이 필요하다

ARM, AI 편향성 문제 해결 위한 '다양한 인력 확보' 강조 신종 코로나바이러스 감염증(COVID-19) 팬데믹 최전선에서 제대로 맞지 않는 개인보호장비(PPE) 착용으로 어려움을 겪는 여성들에 대한 안타까운 시선이 필요합니다. 2016년 여성 엔지니어링 협회(Women’s Engineering Society) 조사에 따르면, 직장에서 착용하는 PPE가 여성을 위해 설계되었다고 답한 비율은 29%에 불과했으며, 57%는 PPE가 업무를 방해한다고 느꼈습니다. 이러한 통계는 대부분의 방진, 유해물질, 보안경 마스크가 '표준' 유럽 및 미국 남성 얼굴 형태를 기반으로 모델링되었다는 사실을 알게 되면 놀랍지 않습니다. 이는 캐롤라인 크리아도 페레즈(Caroline Criado Perez)가 2019년 저서 '보이지 않는 여성들(Invisible Women)'에서 탐구한 성별 데이터 격차의 한 가지 특히 중요한 예시입니다. 페레즈는 남성 중심적이고 남성에 의해 설계된 사회가 우리의 일상생활을 지배하는 데 사용되는 데이터에 미친 (그리고 계속 미치고 있는) 영향을 탐구합니다. 여성, 특히 소수 여성은 얼굴 및 음성 인식 시스템 훈련, 의료 시험 정보 제공, 그리고 위에서 언급한 제품, 약물, 법률 또는 시스템 설계에 영향을 미치는 데 여전히 사용되는 데이터에서 자주 누락됩니다. 또 다른 예시는 자동차 산업입니다. 이 산업은 여전히 '평균' 남성 체격과 좌석 위치를 기반으로 모델링된 더미의 데이터를 사용하고 있으며, 이는 여성들이 유사한 교통사고에서 남성보다 심각한 부상을 입을 확률이 47% 더 높고 사망할 확률이 17% 더 높다는 것을 의미합니다. 보이지 않는 여성, 편향된 AI 이러한 문제들을 단순히 데이터 문제로 치부할 수 있습니다. 유용할 만큼 충분히 방대한 양의 과거 데이터에는 데이터를 수집한 당시의 (주로 백인 남성) 태도와 우선순위를 반영하는 의식적 또는 무의식적 편향이 어떤 형태로든 포함될 가능성이 높습니다. 그러나 이 데이터를 기계 학습(ML)을 위한 훈련 세트로 사용하는 과정에서 우리는 새로운 문제, 즉 편향된 AI를 경험하고 있습니다. 기계에게 편향된 데이터를 학습시키면, 기계는 그 편향을 상속받아 자신이 내리는 결정에 적용하게 됩니다. 동료인 노엘 헐리(Noel Hurley)는 과거 법원 데이터의 인종적 편견이 미국 형사 사법 시스템의 COMPAS ML 알고리즘에 어떻게 인종적 편향을 초래했는지 탐구했습니다. 인간의 성별 편견이 AI 애플리케이션으로 전이되는 사례는 많이 있었습니다. 한 가지 주요 예시는 음성 비서에 사용되는 자연어 처리(NLP) 작업에 널리 사용되는 프레임워크인 단어 임베딩입니다. 2016년 마이크로소프트 리서치와 보스턴 대학교의 논문은 구글 뉴스 기사로 훈련된 단어 임베딩이 '남성'과 '의사'를, '여성'과 '가정주부'를 짝짓는 등 심각한 수준의 성별 편견을 보였다고 밝혔습니다. 이것은 데이터 문제가 아니라 인간의 문제입니다. 하지만 이러한 역사적 데이터에 처음 영향을 미쳤던 편향이 사회에서 근절되었다고 가정하지 맙시다. 최근 몇 주간 우리에게 너무나도 잘 상기시켜 주었듯이, 편견은 여전히 살아 숨 쉬고 있습니다. 이것은 데이터 문제가 아니라 인간의 문제입니다. 그리고 AI에 관해서는, 오늘날 대부분의 ML은 지도 학습 방식을 사용하며, 훈련 데이터는 인간 운영자에 의해 레이블링됩니다. 이러한 레이블을 적용하는 과정에서, 가장 객관적인 데이터 세트에서도 의식적 또는 무의식적 편향이 모델에 도입될 수 있습니다. 문제는 ML 알고리즘이 단순히 편향을 반영하는 것이 아니라 증폭시킨다는 증거로 더욱 복잡해집니다. 워싱턴 대학교의 한 연구는 ML에 의도적으로 편향된 요리하는 사람들의 이미지를 포함한 데이터 세트를 학습시켰습니다. 이미지의 33%가 여성을 포함할 가능성이 높았습니다. 알고리즘이 훈련을 마친 후, 이러한 불균형은 68%로 크게 증가했으며, 이는 알고리즘이 단순히 스토브 옆에 서 있다는 이유만으로 남성을 여성으로 착각했음을 시사합니다. ARM의 AI 신뢰 선언문(AI Trust Manifesto)은 ML 및 AI에 대한 윤리적 설계 원칙을 제시합니다. 이 선언문은 AI 의사 결정 시스템을 설계하고 개발하는 데 있어 차별적인 편향을 제거하기 위한 모든 노력을 기울여야 한다고 명시합니다. 다시 말하지만, 이것은 단순히 데이터 문제가 아니라 인간의 문제이기도 합니다. 편향되지 않은 AI는 다양한 인력을 필요로 합니다. 그러나 전 세계 AI 전문가의 22%만이 여성인 AI 업계에 이러한 원칙을 준수하도록 요구하는 것만으로는 충분하지 않습니다. AI는 인간의 사고와 추론을 모방하려고 합니다. 비다양한 인력에 의해 프로그래밍된다면, 어떻게 인간 사회의 단면을 대표하고 가장 많이 대표되는 인구 통계의 의식적, 무의식적 편향을 단순히 재생산하거나 심지어 증폭시키지 않는 기계를 구축할 수 있겠습니까? 오늘은 국제 여성 공학인의 날입니다. 전 세계 여성 공학인들의 뛰어난 업적을 기념하는 날이지만, AI 편향과 같은 문제를 극복하려면 STEM(과학, 기술, 공학, 수학) 분야에서 더 많은 여성을 일하도록 장려해야 한다는 것을 상기시키는 날이기도 합니다. STEM Women의 보고에 따르면 영국은 2015년부터 2018년까지 여성 공학 및 기술 졸업생 비율에 거의 변화가 없었다는 사실에 우리 모두 좌절해야 합니다. 이 기간 동안 졸업한 여성은 15%에 불과했습니다. 편향된 데이터를 초래한 것과 동일한 오래된 성별 고정관념이 소녀와 여성을 과학 관련 분야에서 멀어지게 하고 있습니다. ARM에는 재능 있는 여성 엔지니어가 많습니다. 하지만 우리는 더 많은 인력이 필요합니다. 우리는 미래 세대의 여성들이 공학 및 기술 분야를 직업으로 추구하도록 영감을 주고 싶습니다. 우리는 STEM 분야의 탄탄한 기초가 상향 이동성을 위한 검증된 경로임을 인식하지만, 이는 많은 젊은이, 특히 소녀들이 택하지 않는 경로입니다. FIRST, Tech She Can, Arm Schools Program과 같은 조직과 협력하여 우리는 장벽을 허물고, 영감을 주는 리소스를 제공하며, 소외되고 불리한 학생들, 특히 소녀들이 STEM 롤모델과 연결될 수 있도록 할 수 있습니다. 이를 통해 AI 기술이 현재 그리고 미래에 그 적용을 받는 모든 사람을 대표하는 인력에 의해 개발되도록 하는 데 한 걸음 더 다가가기를 바랍니다. 결과적으로, AI가 사회로부터 완전히 수용되고 신뢰받으려면 가능한 한 다양한 인력에 의해 구축되어야 합니다. 우리는 출력만큼이나 포괄적이고 편향되지 않은 입력을 필요로 합니다.