인공지능과 윤리

2016년 자율주행차의 데이터와 프라이버시에 대한 청문회가 열렸을 때, 기업 대표들은 기업의 자율에 맡기면 문제가 해결된다고 하였다. 이에 민주당 의원은 다음과 같이 대답했다. "30년 전에도 증인들이 여기 앉아서 에어백과 시트 벨트에 대해 똑같이 말했습니다. 개별기업에 맡겨야 한다고 말입니다. '의무적인 안전과 프라이버시 표준이 있어야 합니까?'라는 질문에 대한 대답은 '예'입니다." 2018년 8월, 미국에서 구성된 "인공지능에 대한 국가안보위원회"에서 밝힌 인공지능을 이용한 국가 안보위협 5가지 1) 인공지능을 이용한 정보활동 2) 개인정보 데이터수집 3) 사이버 공격 4) 적대적 인공지능 5) 인공지능을 이용한 바이오 기술 UN 역시 지구온난화, 핵무기와 함께 인공지능을 3대 위협으로 명시했다. ..

네이버의 인공지능 추천시스템 에어스(AIRS)의 설명문 더보기 AiRS의 기술은 크게 2가지를 바탕에 두고 있습니다. CF(Collaborative Filtering, 협력 필터) 기술과 인공신경망 기술인 RNN(Recurrent Neural Network)입니다. 비슷한 관심 분야를 가진 사람들이 본 콘텐츠를 추천하는 CF(Collaborative Filtering, 협력 필터) 기술은 우선 사용자들이 콘텐츠를 소비하는 패턴을 분석합니다. 그리고 비슷한 관심 분야를 가진 사용자를 묶어냅니다. 이 과정을 통해 나와 비슷한 관심사를 가진 사람들이 많이 본 콘텐츠를 먼저 선별해서 보여줍니다. 이 설명문만 읽고 일반인이 동작원리를 이해할 수 있을까? 인간은 다른 인간에게 어떻게 설명하고 있는가? 0. 인공지능..

자율주행 자동차의 윤리 문제. 기계가 알고리즘에 따라서 내린 윤리적 판단 vs. 인간이 개입해서 내린 윤리적 판단. 과연 둘 중 어느 것을 따르는 것이 맞을까? 테슬라는 인간이 개입하면 되려 더 문제가 된다고 말한다! 1. 윤리에 대한 다양한 철학적 접근법 1) 칸트의 의무론: 무조건 지켜야 할 윤리적 기준이 있다. 2) 벤담의 공리주의: 결과주의. 최대다수의 최대행복을 위한 효용(utility)의 극대화 3) 아리스토텔레스의 덕 윤리: 행위자의 성품 중시. 4) 존 롤스의 자유주의적 평등주의/사회주의: 개개인의 자유를 보장하되, 거기서 발생하는 문제는 사회가 보완한다. 대부분의 국가들이 자유주의적 평등주의/사회주의의 기조를 취한다. 5) 조너선 하이트의 사회적 직관주의 이론: 도덕적 추론에 따라 도덕적..

0. 공정성의 문제 공공성의 문제는 공공재의 문제와 관련된다. 어디까지가 공공재인가? 나아가, 인공지능은 공공재가 되어야 할까? 다행히도 현재까지의 인공지능은 (최소한 모델의 측면에서는) 많은 부분 오픈소스를 기반으로 운영되는 것처럼 보인다. (예: 허깅페이스에 무료로 공개된 수많은 모델들) 그러나 데이터는 공공재인가? 또 데이터에 따른 수익은 공정하게 분배되고 있는가? 또한, 인공지능을 활용할 수 있도록 하는 교육은 과연 공정하게 이뤄지고 있는가? 1. 인공지능 모델이 공정하지 않은 이유 데이터 편향성 데이터가 부족하여 발생하는 문제 데이터가 충분하더라도 불균형하여 발생하는 문제 데이터가 충분하고 공정하더라도, 무관한 특징(irrelevant feature)를 설정하여 발생하는 문제 알고리즘 편향성 목..