[여성소비자신문]4차산업혁명의 핵심기술인 인공지능 산업의 발전은 필연적으로 소비자권익침해행위가 증가하기 마련이다. 최근에 증가하고 있는 디지털카르텔 형성은 소비자들에게 많은 피해를 끼칠 수 있다.

인공지능에 의한 소비자피해가 예상되는 분야

인공지능이 핵심이 되어 그 자체만으로 산업의 플랫폼이 되는 분야로는 가상비서, 지능로봇, 추천시스템 등이 있다. 또한, 인공지능이 활용되는 영역 중 소비생활에 밀접하게 상용화되는 분야로는 음성인식서비스, 검색광고, 평판, 자문 등이다.

좀 더 특화된 서비스를 제공하는 인공지능 시스템으로는 로보틱스, 자율주행차량(자동차, 무인항공기 등), 소비자 및 개인비서, 금융, 건강, 보안 및 소매업을 위한 인공지능 시스템 등이다.

산업 분야별로 구체적인 예를 든다면 우선 금융분야에서는 로보-어드바이저에 의한 자문서비스, 신용평가, 부정사용검지 등으로 활용된다. 광고분야에는 구글, 네이버 등의 검색광고, 제조분야에서는 화상해석에 의한 불량품검사, 투입량조절 등이 있다.

자동차분야에서는 자율주행차, 드론자동차 등이고, 콜센터 분야에서는 응답지원, 자동응답 등이다. 정보기기분야에서는 음성인식시스템, 출판분야에서는 기사 자동생성, 번역 등이다.

경비분야에서는 자동경비로봇 등이고, 의료․간호 분야에서는 진단대행, 진단지원, 간호용로봇 등이다. 또한 법무 분야에서는 인공법무서비스 등이고, 유통 분야에서는 배송자동화, 스마트계약(플랫폼) 등이다.

위에 열거한 모든 분야에서 인공지능 오작동, 부당표시광고, 답합 불공정행위, 차별행위 등으로 인하여 소비자권익을 해치는 사례가 증가하고 있어 대책이 강구되어야 한다.
 
알고리즘 담합행위로 인한 소비자피해 대응방안

알고리즘 담합행위에 의한 소비자피해 사례가 증가하고 있어 그 대책이 마련되어야 한다. ‘담합’이란 “판매자(사업자) 간에 상품 또는 용역의 가격이나 생산수량, 거래조건, 거래상대방, 판매지역을 제한하는 것” 또는 “다른 사람의 법적 권리를 속이거나, 오도하거나, 다른 사람들을 속여 공개경쟁을 제한하기 위해 불법적으로 사업자간에 맺는 계약” 등을 의미한다. 이러한 담합행위를 통한 이윤극대화를 ‘카르텔’이라고 부른다.

알고리즘은 사업자들이 불법적인 명시적인 담합과 합법적인 묵시적 담합 사이의 중간영역을 확장시켜 자신들이 반드시 계약체결을 하지 않고도 경쟁우위 이상의 이익을 보다 쉽게 유지할 수 있는 방법을 제공할 위험성이 있다. 대표적인 사례로 가격비교 웹사이트(aggregator)를 들 수 있다.

‘쿠키’ 등을 이용한 기록 분석을 바탕으로 이용자의 관심을 끌기 쉬운 광고를 투입하고 데이터경쟁에 특정 기업만 이익을 얻기 쉬운 구조를 만들어 소비자 권익을 침해하게 된다. 
세계 최초의 디지털 카르텔 사례는 미국의 포스터 가격 담합 사건이다. 2015년 미국 법무부는 아마존에서 예술작품의 포스터를 판매하는 회사의 이사( David Topkins)를 가격담합 혐의로 제소하여 벌금 2만달러를 납부했다.

톱킨스와 공법자들은 2013년 9월부터 2014년 1월까지 경쟁사업자들과 일부 포스터의 가격을 고정하기로 합의하고, 이를 실행하기 위해 동일한 가격설정을 목적으로 소프트웨어를 사용하면서 그 합의의 준수를 위하여 가격이나 매출에 관한 정보의 수집·검토하면서 가격 알고리즘의 효과를 모니터링했다. 또한 해당 소프트웨어에는 합의내용과 일치하도록 알고리즘을 설계해 경쟁상대보다 높은 가격에 특정 포스터가 판매될 수 있도록 했다.

2016년에는 이와 유사한 사례가 영국에서 적발되었는데, 가격책정 소프트웨어를 사용하여 아마존에서 포스터 및 액자를 판매한  2개 회사가 담합한 사건이다.

그 밖에도 항공사들이 그들의 전산화된 요금 공지서비스를 이용하여 복수의 시장에서 가격정보를 교환하고 담합하여 소비자피해를 준 사건이나 ‘탄력요금제(Surge pricing)’ 알고리즘이 탑재된 인공지능 서비스를 택시기사들에게 제공하여 운전자들 간의 가격경쟁의 제한을 기도하고, 가격고정 카르텔을 구축·추진하여 소비자피해를 준 사건들이 있다.

인공지능시스템으로 인한  부당공동행위와 불공정거래행위는 공정거래법상 규제대상이 될 수 있다. 우선 부당공동행위의 규제의 주된 목적이 사업자들의 담합으로 시장질서가 혼란스러워지는 것을 방지하는 것이라면, 불공정거래행위는 사업자의 거래행위에 있어 공정성을 확보하는 것을 목적으로 한다. 특히, 소비자와 연관성이 높은 불공정거래 규제의 대상이 되는 행위는 ‘부당성’이 있어야 하며, 차별행위로 인정하기 위해서는 그 차별의 정도가 ‘현저’해야 한다.

그러나 AI의 행위는 사람의 행위보다 은밀하게 이루어질 수 있으며, 심지어 AI를 활용하는 사업자도 AI의 행위를 예측하는 것이 거의 불가능할 수도 있다.  인공지능의 행위에 대해서는 사후적으로 대책보다는 사전에 피해를 예방하기 위한 정책과 법제의 개선 방안이 더욱 필요하다고 생각한다.

우선 국가기관이나 공적 인증기관의 인증을 받은 인공지능만을 산업에서 사용하도록 하는 것이다. 국내 로보-어드바이저가 현재  이러한 시스템으로 운용되고 있다. 다른 한가지 방안으로는 사업자가 자율적으로 인공지능을 개발하도록 하되, 일정한 기준과 행위원칙을 사전에 설정하는 것을 법제화하는 방안이다.

지난 2017년 정부에서는 지능정보기술의 복합적 특성을 고려하여 공공성, 책무성, 통제성, 투명성 등 4대 원칙과 이에 따른 개발자, 공급자, 이용자의 세부지침으로 구성되어 있는 ‘4차 산업혁명시대 윤리 가이드라인’ 초안을 제시했다. 이를 참조하여 소비자보호를 위한 경쟁법적 대책이 필요할 것이다.

로보-어드바이저에 의한 금융소비자피해 대응방안

인공지능 기술을 기반으로 한 로보-어드바이저에 의한 금융소비자피해가 문제되고 있다.

세계적인 투자은행 골드만삭스(The Goldman Sachs Group)는 자사가 더 이상 금융회사가 아닌 ‘IT 회사’라고 선언한 바 있다. 골드만삭스가 인공지능 회사를 인수하면서 자동화 투자분야인 로보-어드바이저 산업에 본격 진출을 선언해자. 이러한 금융 IT 융합형 산업의 발전에 발맞추어 우리나라 금융당국은 2016년 로보-어드바이저를 도입했다.

로보-어드바이저는 저렴한 수수료, 높은 접근성, 개인 맞춤 등의 장점을 기반으로 투자자문 및 자산관리 시장의 성장을 견인할 것으로 전망됐다. 그러나 로보-어드바이저는 법적 지위가 불확실하고 금융소비자 보호를 위한 ‘자본시장법’상 선관주의의무, 설명의무와 적합성 원칙 등을 준수하는 데 어려움이 있다.

또한, 비대면 일임 계약의 금지로 인하여 핵심 서비스인 자동화된 투자자문 및 투자일임이 현행 법체계에서는 허용되지 않기 때문에 로보-어드바이저의 서비스 제공에 한계가 있고, 금융소비자의 권익을 침해할 소지가 다분히 있다. 이에 대한 법제개선이 필요하다.

자율자동차의 사고로 인한 소비자(이용자)피해 법제개선

인공지능기술을 바탕으로 생산·유통되어 생활화되어 가는 자율자동차의 사고로 인한 소비자(이용자) 피해가 문제될 수 있다.

오늘날 자율주행자동차의 기술은 전 세계적으로 발전하고 있으며, 우리나라에서도 2020년 7월부터 차량의 조향과 가･감속, 제동 등을 모두 자동으로 수행하여 실질적으로 자율주행이 가능하지만 돌발 상황에서는 운전자가 개입을 해야 하는 조건부 자동화 단계인 3단계(레벨3) 자율주행 기술을 탑재한 자동차가 상용화될 예정이다.

자율주행자동차 상용화 시대에는 자율주행소프트웨어의 결함 등으로 인한 사고가 대부분일 가능성이 매우 높다. 그런데 현행 제조물책임법상으로는 자율주행소프트웨어 제조업자의 책임이 불명확하여 소비자 및 피해자 보호에 미흡한 점이 있다.

현행 제조물책임법은 제조물의 정의를 ‘동산’으로 한정하고 있기 때문에, 자동차에 탑재된 자율주행소프트웨어의 결함으로 인한 사고에 제조물책임의 법리를 적용하는데 있어 학설상 찬반양론이 대립되고 있으므로  제조물책임법상의 제조물 개념에 소프트웨어를 포함하는 규정을 도입해야 할 것이다.

연기영 동국대 명예교수  yeunky1@naver.com

<저작권자 © 여성소비자신문, 무단 전재 및 재배포 금지>