알고리즘이지배하는세상벗어나기

최근우연히TV에서시청한미국법정드라마 ‘굿파이트’에 등장한 장면이다. 드라마의주무대가되는변호사사무실에서는투자회사로부터 비용을 투자받고 소송에서이기는 경우발생하는 이익 일부를 투자회사에 돌려주는방식으로몇개소송을진행하고자 한다. 그중하나가 고용주로부터 급여를 삭감당한 직원들을모아 대기업을 상대로하는 소송이다. 투자회사에서는 이소송에 대한 정보를 입력하고컴퓨터알고리즘을돌려그결과에따라투자 여부를 결정한다. 알고리즘은 해당 소송을담당하는판사 때문에승소 가능성이작다는부정적인 의견을 냈다. 이 경우의알고리즘은담당 판사가 그간 진행했던재판의내용과 결과들로부터학습한 것을 토대로 판사의성향에대하여파악하고 그러한 의견을 제시하였을 것이다.

더오래머무르고더많이소비하게

알고리즘이 무엇인지 여기저기 검색해보면대체로 ‘주어진 문제를 해결하기 위한 일련의절차나 규칙’이라고 정의한다. 이정의에는 빠져있는부분이있는데, 주어진문제를푸는목적에 더하여 추가적인 특정 의도를 달성하기위하여알고리즘이고안된다는점이다.

예를들어온라인쇼핑알고리즘은상품유통을 위한 수단을 제공한다는 일차적목적에더하여가능한한많은상품의구매를유도하고자하는의도를 갖는다. 이경우의알고리즘은사용자의과거구매기록과검색내용을기반으로상품을추천하는데종종예상치못한상품을 발견하게 해주는 장점이있기도 하지만, 소비자의소비행동을예측하고조종할수있으며, 충동적구매등의무분별한소비를부추기기도한다.

세계최대규모의비디오플랫폼인유튜브에서사용하는 알고리즘은 동영상 콘텐츠의공유라는일차적목적에더하여사용자를 광고에노출되게하려는의도를 갖는다. 이는사용자의행동과 선호도를 학습하고 분석하여개인맞춤형콘텐츠를 계속 추천함으로써, 사용자를해당플랫폼에더오래머무르게하는방식으로진행된다.개인의관심사에맞는콘텐츠를더쉽게접할수있게해주기도 하지만,가치지향이유사한정보만보게되는‘필터 버블’ 현상을만들어제한된시각을갖게하거나특정의견에대한편향을강화하는문제가있다.

다른 예로 마크 저커버그가 이끄는 소셜미디어회사메타는작년에미국의 41개 주정부들로부터집단소송을 당했다. ‘좋아요’와 같은댓글이달린 것을 실시간으로 알려주는 푸시알림, 페이지를 넘기지않고도 게시물을 계속볼 수있는 무한 스크롤 기능 등을 통해, 페이스북과인스타그램중독을유발하고청소년들의정신건강을해치고있다는 혐의이다. 주정부는소장에서‘도파민을 조종하는추천알고리즘’을중독성의원인으로꼽았다.

신뢰할만한정보로보이게만들어

스탠퍼드 대학의 교수이면서 정치경제학자인 프랜시스 후쿠야마의 저서 <자유주의와 그 불만>에는 ‘동기화된 추론(motivated reasoning)’이라는 개념이 등장한다. 이는 사람들이상황이나 사실을인지하는데있어경험적 현실에 관한 중립적관찰로부터시작하는것이아니라, 오히려자신들이바라는결론에대한 강한 선호로부터시작한다는 것이다.인간은 개인적인 신념이나 편향에 따라 정보를 해석하고 필터링하여 결론을 끌어내는 경향이있다.예를들어어떤사람이특정정치적신념을 갖는다면, 그는 해당 신념을 지지하는정보는 우선하여 받아들이고 반대되는 정보는 무시하거나 비난하는 것이다. 논리적인 추론보다개인의감정과선호가더큰영향을미치는 것으로, 정치적으로 대립하는 양측 세력에속한 사람들의 경우 단순히이데올로기나정책의선호 면에서일치하지않는 정도가 아니라, 서로 다른 정보에 의해 만들어진다른 버전의 현실을 인식하고 있다는것이다.

오늘날의 거대 인터넷 플랫폼들은정보 콘텐츠의대중적인기를 불러일으키는데치중하는사업모델에따라작동하며, 무수한 채널들이 편향되거나 거짓된정보를 퍼뜨릴수있는 환경을 제공한다. 인터넷을통하여유통되는 정보중상당수가 검증되지않은 콘텐츠이거나, 특정한 목소리를 인위적으로 확장하거나 억제하고 특정 목적을달성하고자 하는 의도를 갖고 만들어진 콘텐츠들이다.그런데도인터넷은여러대안적정보들이 데이터의 검증을 거쳐 전문가들이 생산한 정보와 동등하게신뢰할 만한 것처럼보이게만드는문제가있다.

사용자들은 마치스스로 정보를 선택하는것처럼 생각하지만, 상업적이해타산에 따른플랫폼의정교한 조작에기초한 것이다. 플랫폼 알고리즘에 의하여 개인 맞춤형으로 추천된인터넷콘텐츠들의무분별한신뢰는개인이기존에가진 믿음과 선호를 강화하는 역할을한다. 특별히종교나 정치, 소수자의인권과같은 사안과 관련되는 경우 사회적갈등과 대립을유발하고,자신과처한상황이다르거나추구하는가치가다른타인에대한혐오나 폭력을 일으키는원인이되기도 한다.

건강하고역동적인시민사회를만들기 위해서는

좋은 문화와좋은 삶, 공동체의 필수적인 가치에 대한 보편적 이해와 동의가 필요하다. 후쿠야마교수는공공선, 관용, 열린 마음, 그리고 공적문제에대한 활발한 참여에 더하여 지혜, 용기, 정의와함께고대그리스에서 내려오는 네가지주요미덕인 절제를 강조한다. 절제는 ‘아무것도 넘치지않도록’이라는 의미를 담은 단어로, 아무것도 넘치지 않도록 끊임없이 경계하는 절제의 의미를 개인과 공동체 차원에서 재발견할것을그는 역설한다. 또한그는절제가자유주의정체의실현 과정에서반드시지켜야 하는개인과집단의보편적생존원리라주장한다.우리 사회는 정치적인 논의와 활동에있어절제가 필요하다. 누군가를 자극하거나 누군가를 자기편으로 만들기위한 공격적인언어를자제하는 것, 편향되거나 거짓된정보를유포하거나 타인을 허위로 비방하지않는 것, 폭력적으로 행동하지않는 것 등이절제의의미에포함될것이다. 내가가진신념이나도모르는 사이에알고리즘의부추김에 의하여 강화되지는 않았는지, 내가가진열정이절제가 필요하지는 않은지 돌아봐야한다.알고리즘이 중요한 의사결정뿐 아니라 일상을 지배하는시대를 우리는 살고있다. 알고리즘의 영향력에서벗어나는방법을 고민해야 할 시점이다. 개인화되고 맞춤화된 알고리즘이 동작하는 온라인 플랫폼에서 보내는 시간에대한자성과절제가그첫걸음이될 것이다.알고리즘의 동작 원리를 이해하고 알고리즘이추천한 콘텐츠의내용에대하여의문을 제기하는 것에더하여의도적으로 ‘우연성’을 찾아 나서는 것은 어떨까. 전통적미디어인 도서,신문이나 TV 등의다양한소스로부터우연한기회에 새로운 정보에 접하고 다양한 시각에노출되도록노력하는것이다.

무수한플랫폼추천알고리즘…편향된시각·거짓정보양산가능성검증되지않은인터넷콘텐츠에대한무분별한신뢰각종갈등유발온라인활동‘절제’…책·신문·TV등매체통해다양한시각가져야

▷이화여대 전자전기공학전공 교수 ▷전과학기술정보통신부 장관 ▷전 국가과학기술연구회 이사장 ▷제50대 대한전자공학회회장