AI 윤리: 말만 하지 말고 실천해야 한다

ARM, 로봇 윤리 논의의 실질적 방향 제시: '행동'과 '책임' 강조 어린 시절부터 안드로이드와 자율 시스템의 윤리 문제에 깊은 관심을 가져왔습니다. 아이작 아시모프의 로봇 4원칙은 단순한 규칙이 얼마나 잘못될 수 있는지를 보여주는 고전적인 경고 이야기로 펼쳐졌습니다. 저는 그 이후로 효과적인 로봇 윤리 규칙을 찾아왔습니다. 로봇 공학 및 AI 윤리에 대해 논의하기 전에, 윤리에 대한 공개 토론의 목표와 한계를 이해해야 합니다. 윤리는 감정과 같습니다. 누구나 어느 정도 가지고 있지만 항상 긍정적이거나, 같거나, 정보에 기반하거나, 적절하지는 않습니다. 우리는 종종 모든 로봇과 모든 사람을 동시에 위한 해결책을 찾으려 애쓰며 이를 지나치게 단순화합니다. 이러한 예 중 하나가 언론에서 자주 다루는 트롤리 딜레마입니다. 하지만 트롤리 딜레마는 가상 상황을 탐구하기 위한 철학적 도구이지, 실제 행동을 위한 처방이 아닙니다. 의도적으로 맥락이 부족하며, 실제 윤리적 과제를 해결하기 위해서는 맥락이 매우 중요합니다. 누가, 무엇을, 언제, 어떻게, 왜? 모든 훌륭한 언론인이 답하도록 훈련받는 질문에서 맥락이 나옵니다. 첫 번째는 '누가'입니다. 누가 영향을 받고, 누가 책임이 있으며, 누가 의사결정을 내리는 자리에 있었는지입니다. 그런 다음 이 '누가'를 세상의 나머지 부분과 비교해야 합니다. 이러한 윤리가 포괄적인가요? 공정한가요? 포괄적인가요? 그리고 힘을 실어주는가요? 예를 들어, 지구 천연자원 고갈로 이익을 얻어 탄소 중립의 특권을 누리게 된 선진국이 개발도상국의 행동을 통제해야 할까요? 남성 판사가 여성의 신체에 대한 결정을 내려야 할까요? '누가'가 얼마나 중요한지 알 수 있습니다. 그런 다음 '누가'에 이어 '무엇, 언제, 어떻게, 왜'를 따라야 합니다. 제 경험상 많은 백서, 보고서 또는 정책은 '무엇'에 국한됩니다. 운이 좋다면 '왜'까지도 다룰 수 있습니다. 이는 유익하고 교육적일 수 있습니다. 그러나 실행 가능한 결과를 제안하는 데는 미치지 못하며, 단순한 미덕 과시나 기업 연극처럼 보일 수도 있습니다. AI 윤리에 대한 높아지는 관심 2010년 이후 로봇 공학 및 AI에 대한 투자가 급증했습니다. CB Insights에 따르면 지난 5년간 5,000건 이상의 거래를 통해 AI 및 로봇 스타트업에 약 800억 달러가 투자되었으며, 2019년에는 266억 달러가 투자되었습니다. 펀딩의 기하급수적인 증가와 함께 Fortune 500 기업의 분기별 실적 발표에서는 AI, 자율 시스템 및 로봇 공학의 윤리에 대한 관심이 높아지고 있음을 보여줍니다. 이러한 기술 채택을 통해 CEO를 안내하기 위해 PricewaterhouseCoopers(PwC)는 전 세계 59개의 AI 윤리 또는 원칙 문서를 대상으로 최근 연구를 수행했습니다. 거의 모든 문서에서 제기되는 특정 주제가 있습니다. 그리고 전혀 제기되지 않는 주제도 있습니다. 그리고 책임은 모든 문서의 75% 이상에서 언급되지만, 우리는 로봇이나 AI의 책임에 대해서만 이야기하고 있습니다. 윤리 원칙의 책임에 대해서는 아닙니다. 다른 말로 하면, 행동 촉구와 책임 지표를 포함하지 않는 한 어떤 종류의 윤리 원칙, 맹세 또는 지침을 가지고 있든 중요하지 않습니다. ARM의 2019 AI Trust Manifesto는 행동 촉구를 포함하고 있다는 점에서 제가 본 많은 유사한 문서보다 더 나을 수 있습니다. 하지만 어떤 지표로 이러한 행동의 결과를 알 수 있을까요? 지금 중요한 것은 행동입니다. 로봇 공학자로서 저는 AI 기반 윤리 프레임워크에 특히 우려하고 있습니다. 지난 몇 년 동안 AI 규제 및 정책이 로봇 공학을 AI의 하위 집합으로 흡수했기 때문입니다. 그러나 로봇 공학은 고유의 매우 구체적인 물리적 문제와 과제를 안고 있습니다. 한편으로 로봇 공학은 단순히 구현된 AI이며 AI의 모든 문제를 상속합니다. 그러나 다른 한편으로 로봇 공학은 일부 윤리적 문제를 극도로 위험한 안전 문제로 바꾸므로 로봇 공학을 심각한 위협에 대한 조기 경보 시스템으로 간주해야 합니다. AI 탄광 속 로봇 카나리아입니다. AI 윤리와 AI 로봇 윤리의 차이가 아직 명확하지 않다면, EPSRC 로봇 공학 원칙을 읽어보시길 권합니다. 2010년 영국 연구 기관인 Engineering and Physical Sciences Research Council은 이러한 신기술의 사회적 이익을 극대화하고 문제를 최소화하기 위해 여러 학문 분야의 전문가들과 워크숍을 개최하기 시작했습니다. 로봇 공학 및 AI에 대한 EPSRC의 5가지 간단한 원칙은 기존의 사회적 및 법적 프레임워크와 관련이 있으며, 로봇 자체가 아닌 로봇 공학자를 위한 것입니다. 또는 순수 소프트웨어 기반 AI의 경우, '두뇌'가 아닌 빌더를 위한 것입니다. 이러한 원칙은 행동 취하기에 대한 실제 조언에 가장 가깝습니다. 그리고 지금 가장 중요한 것은 행동입니다. 행동은 장소마다, 다른 문화, 소비자 법률 및 상업 규정에 따라 거의 확실하게 달라질 것입니다. 그러나 우리는 즉시 시작할 수 있습니다. 예를 들어, EPSRC 원칙 중 '로봇은 항상 식별 가능해야 한다'는 다섯 번째 원칙은 즉시 도입될 수 있습니다. 전 세계적으로 대부분의 차량은 어떤 형태로든 등록 번호, 면허 또는 식별판을 가지고 있어야 합니다. 이 영숫자 ID는 일반적으로 공개적으로 표시되어야 합니다. 로봇 번호판? 동일한 장치로 구성된 로봇 무리에서 개별 로봇을 어떻게 식별할 수 있을까요? (이미지: Starship Technologies) 이유는 분명합니다. 차량은 주변에 해를 끼칠 수 있습니다. 로봇 무리는 아직 참신하지만 이미 일부 병원과 슈퍼마켓에서 발견되며, 제조 환경에서 '코봇(cobots)'으로 점점 더 많이 사용되고 있습니다. 각 배포는 종종 다른 제조업체의 여러 로봇으로 구성되지만, 이러한 로봇에는 구별되는 특징이나 표시가 없습니다. 로봇을 식별할 수 없다면 사고나 문제를 어떻게 보고할 수 있을까요? 그리고 그 로봇이나 소프트웨어가 해킹되거나 납치되지 않았다고 어떻게 확신할 수 있을까요? 누가 책임이 있는지 묻기 전에 어떤 로봇을 다루고 있는지 식별할 수 있어야 합니다. 로봇 등록 및 시각적 ID를 요구하는 것은 좋은 출발점입니다. 이는 지금 당장 취할 수 있는 많은 조치 중 하나일 뿐입니다. 제 경험상 사회에 진입하는 혁신의 물결을 연구하면서 각 신산업은 기업이 제품의 신뢰성, 상호 운용성, 책임 및 품질을 향상시키는 문제를 선제적으로 해결할 때 발전합니다. '용서를 구하지 허락을 구하지 않는다'고 말하며 '빠르게 움직이고 모든 것을 부순다'는 존경받는 기업가는 누구에게도 도움이 되지 않으며, 거의 확실하게 오래 지속될 무언가를 구축하지 않습니다. Silicon Valley Robotics는 로봇 산업을 발전시키는 로봇 기업에 우리의 첫 번째 산업 혁신 및 상업화 상을 수여하고 있습니다. 출품 마감일은 9월 22일이며, 첫 수상자는 2020년 10월 22일에 발표될 예정입니다. 좋은 관행을 모범으로 삼고 좋은 로봇을 만드는 기업은 인정받고 보상받아야 합니다. 저는 또한 로봇 공학과 같은 신기술을 위한 글로벌 '윤리 옴부즈맨' 네트워크 개발을 캠페인하고 있습니다. 이 네트워크는 일반 사람들의 불만을 듣고 기술의 사용 및 오용 증거를 수집한 다음, 모범 사례에 대해 사람들에게 알리고 현지 규정에 따라 잘못된 관행에 대해 책임을 물을 수 있습니다. 새로운 기술에 대한 윤리적 접근이 직면한 가장 큰 과제 중 하나는 불확실한 관할권과 잠재적 문제에 대한 증거 부족입니다. 따라서 윤리적 문제에 대한 정보를 수집하고 공유할 수 있는 글로벌 옴부즈맨 네트워크를 만들자는 제안이 나왔습니다. 신기술은 빠르게 움직이며 매우 강력합니다. 이는 우리의 윤리적 접근 방식도 똑같이 빠르게 움직이고 효과적이어야 함을 의미합니다. 우리는 말만 하는 것이 아니라 행동해야 합니다. ARM DevSummit 2020 세션 시청 아시모프의 로봇 3원칙 이후 수백 가지의 윤리 지침이 선의의 그룹과 글로벌 이니셔티브에 의해 개발되었습니다. 저는 이러한 이니셔티브의 일부였으며 소음 속에서 신호를 가져오고 싶습니다. Arm DevSummit의 제 세션을 시청하고 영국 전문가 Alan Winfield, Joanna Bryson 등의 많은 의견, 특히 EPSRC 로봇 공학 원칙을 기반으로 한 저의 로봇 5원칙에 대해 논의하는 것을 들어보십시오.