HOME 오피니언 칼럼
인공지능(AI)에 의한 소비자주권 침해의 법 정책적 과제
연기영 동국대 명예교수 | 승인 2021.06.27 22:28

[여성소비자신문]인공지능이 일상생활의 필수가 되고 있다 

4차 산업혁명의 핵심기술인 인공지능은 경제발전에 기여하고 세계시장을 변혁시키고 있다. 특히 사람의 뇌와 같이 학습하고 생각하는 딥 러닝(Deep Learning) 인공지능의 개발은 엄청난 파장을 일으키고 있다.
 
이는 인공신경망을 생성하여 인간이 가르쳐주지 않은 일도 다층적 사고를 하는 알고이즘 시스템을 가지게 되었다. 이미 2016년 구글이 만든 인공지능 ‘알파고’와 이세돌과 의 바둑대결에서 4대1로 알파고가 승리함으로써 우리 인간에게 엄청난 충격을 던져 주었다.

최근에는 이러한 인공지능이 공공분야와 산업분야에서 널리 활용되기 시작하였다. 그 대표적인 사례가 금융분야에서 활용되고 있는 ‘로보어드바이저(Robo-Adviser)’이다. 

로보어드바이저는 투자분석을 통해 투자방향을 설정해 주는 등 자산관리 상담자 역할을 수행하고 있다. 제품생산이나 서비스제공을 위한 알고리즘은 투명성을 높이고 혁신적인 제품의 개발 등에 기여함으로써 비용절감과 경영의 능률화를 가져올 수 있다.

소비자들에게도 가격과 품질을 비교하고 시장추세를 예측하여 신속한 거래 의사결정을 하는 기회를 제공하여 시간과 비용을 절감할 수 있는 여건을 마련해 준다.  

공공기관과 민간기업에서 ‘인공지능 채용’이 확대되고 있으며, 의료진단, 법률서비스 분야에도 활용되기 시작했다.

인공지능은 집안의 음식 조리나 청소 등 가사 일을 도맡아 하는 가사도우미나 기업 CEO의 여러 업무에 있어 조언을 해주는 파트너 역할과 업무수발을 행하는 비서까지 등장하고 있다.

이미 인공지능의 세계적인 기업인 아마존, 구글, 알리바바, 애플에서는 인공지능 스피커 제품을 일상생활에 보급하여 소비자들에게 편의를 제공하고 있다. 스마트폰으로 정보의 검색과 결재, 예약 등 일상생활에 필요한 대부분의 일들을 손쉽게 해결해 주는 인공지능 스피커는 이미 일상화 단계에 들어갔다.

국내에서도 케이티의 ‘기가지니’와 네이버의 ‘웨이브’, 카카오의 ‘카카오미니’가 출시되었으며 한글과 영어를 동시에 판단할 수 있는 구글의 ‘구글 홈’ 등의 인공지능 스피커를 출시하여 일상생활에 편리하게 사용하고 있다.

이러한 것들을 일부 지방자치단체는 1인 거주 취약가구 대상으로 무상지원하기도 한다. 그러나 이러한 인공지능 스피커는 사용자와 언제라도 교감을 해야 하기 때문에 사용자의 모든 음성과 음성에서 나타난 감정 등 사생활을 포함한 내용을 감지하고 있는 단점도 있다.

인공지능에 의한 소비자권익 침해가 급증하고 있다

오늘날 인공지능이 금융, 자동차, 제조, 의료, 법무, 문화예술 등 우리 생활의 모든 분야에 깊숙이 파고들어 인간의 동반자가 되어가고 있기 때문에 소비자피해도 기하급수적으로 증가하기 마련이다.

이미 인공지능 챗봇 이루다 논란을 통해 불법적이고 편향적인 무책임한 인공지능 제품이 어떻게 우리의 개인정보를 오·남용하고 사회적 혐오를 재생산할 수 있는지를 확실히 알게 되었다.
공공기관과 민간기업이 ‘인공지능 채용’을 확대하고 있지만, 불합격된 사람들은 본인이 어떻게 평가받고 탈락되었는지를 자세히 알 길이 없다. 여성이나 장애인에게 차별적인 인공지능 스피커가 학교 교육에 이용되기도 한다.

안전이 검증되지 않은 자율주행차량이 거리를 질주할 때 엄청난 위험사회가 다가올 수 있음을 심각히 대비해야 한다. 인공지능은 이미 인간이 했던 일들을 인간을 대신하여 언론 공론장과 노동을 통제하고 있으며, 금융서비스와 사회복지급여 등 행정에 의사결정을 하고 있는 것이다.
그 결과 우리의 일상생활 속에서 인공지능의 오작동, 제조업자의 부당한 광고표시, 성차별이나 언어폭력, 개인정보 유출, 해킹 등 다양한 소비자피해가 발생하고 있다. 

한편 이익을 추구하는 기업들은 인공지능을 새로운 권력도구로 사용할 위험성이 높다. 인공지능이 담합을 주도하고 시장을 지배하는 의사결정을 할 우려도 있다.

이러한 우려는 경재개발협력기구(OECD)에서 연구하여 발표한 인공지능의 부작용 보고서(백서)에서 확인할 수 있다. 즉, 인공지능에 의한 디지털 카르텔의 형성으로 시장의 공정거래를 위협하게 될 것으로 예측했다.

인공지능 알고리즘을 이용해 경쟁기업들이 상품가격이나 공급량을 동일하게 결정하는 행위들을 담합으로 볼 수 있고, 소비자권익을 침해할 수 있다는 점을 들어 2017년 7월에 공정거래위원회가 감사를 천명한 바 있다.

사업자(기업)들이 인공지능에 의한 담합으로 불공정거래 행위가 되고 소비자권익침해 가능성이 있는 경우는 다음의 몇 가지 구체적인 사례에서 쉽게 알 수 있다.

첫째, 소비자별 거래조건 차별행위이다. 사업자가 인공지능을 이용하여 자신의 영업장 고객들의 행동패턴이나 직업 및 소득 등 정보를 분석하여 소비자별 거래조건을 다르게 설정하는 행위이다. 네덜란드에서 같은 브랜드 주유소들이 인공지능을 활용하여 가격책정을 고객에 따라 차별화한 행위를 담합이라고 문제 삼은 적이 있다. 온라인 쇼핑몰이나 금융회사가 활용하고 있는 로보어드바이저의 소비자별 차별행위가 문제된다.

둘째, 지역별 거래조건 차별행위이다. 유통업자들은 인구의 구성, 선호도 등 지역별 소비패턴에 관한 정보를 인공지능을 활용해 분석하여 지역별 거래조건을 쉽게 차별화하는 행위를 할 수 있다.

셋째, 사업자가 특정상품을 추천하거나 배제하도록 인공지능을 설정해 놓는 것도 가능하다. 이렇게 다른 사업자를 차별하는 행위는 공정거래법에 위반될 수 있으나, 단순히 수수료나 광고료에 차별을 두는 행위는 불공정행위라고 단정하기는 어려울 것이다.
 
새로운 입법 정책이 시급하다
 

2017년 폴란드와 미국의 법원은 각각 실업 급여와 교사 해고를 결정하는 데 사용된 인공지능 알고리즘에 대하여 투명성 보장을 요구했다,

2020년 네덜란드 법원은 사회복지급여 부정수급 탐지 알고리즘의 운영을 중단시킨 적도 있다.
영국에서는 코로나로 취소된 대학입학시험에서 교사 대신 인공지능이 부여한 성적이 부유한 사립학교 학생에게 높은 점수를 부과하여 사회문제가 되었다. 미국에서는 인공지능 알고리즘으로 구축한 플랫폼이 대통령 선거 등에 영향을 미쳤다는 주장도 제기되었다.

인공지능에 의한 소비자피해를 구제하는 현행법령으로는 제조물책임법이나 공정거래관련법을 들 수 있다. 그러나 인공지능을 제조물책임법상의 단순한 ‘제조물’로 인정하기에는 무리가 있다. 인공지능을 활용한 사업자의 담합도 공정거래법을 적용하여 규제하기에는 한계가 있다. 

인간 생명과 안전을 지키고 위험성을 제거하기 위해 인공지능 규제법령의 제정이 시급하다는 주장이 각 나라에서 다양하게 제기되고 있다.

특히, 4차 산업혁명의 3대 키워드인 데이터, 플랫폼, 인공지능 규제에  빠르게 대응하고 있는 유럽연합에서는 선두에 서서 구체적인 법령 제정과 제안을 내 놓았다. 유럽연합이 제안한 ‘인공지능 규제법’은 우리나라 입법정책에 밑거름이 될 것으로 생각한다.

유럽연합은 이 법안의 제안 이유에서 “인공지능 분야 기술 리더십을 유지하고 유럽 시민들이 유럽 연합의 가치와 기본권 및 원칙에 따라 개발되고 기능하는 새로운 인공지능 기술을 유익하게 활용할 수 있어야 한다.

또한 인간 중심의 관점에서 기술이 기본권을 포함한 법률에 따라 안전하게 사용되고 있다는 확신을 주어야 하고, 인공지능에 대한 투자에도 법적 불확실성을 없애는데 법안의 목적이 있다”고 밝혔다.

또한 법안에는 ‘금지되는 인공지능’을 4가지로  엄격히 규제해야 한다고 강조하고 있다. 이제 우리나라도 인공지능의 위험통제를 윤리적인 차원을 넘어 투명성·책임성·실효성 있는 법적인 규제가 불가피하다는 점을 인식하고 입법 정책을 서둘러야 할 때임을 강조하고자 한다.

 

연기영 동국대 명예교수  yeunky1@naver.com

<저작권자 © 여성소비자신문, 무단 전재 및 재배포 금지>

icon인기기사
여백
여백
Back to Top