그는 알고리즘의 필터가 사용자들에게 본인의 견해와 일치하는 목소리만 들리는 인공적인 공간을 만들어준다는 것을 표현하기 위해 필터 버블이라는 말을 만들었다.
_ 민주주의, 무너지다 중 - P513
소셜미디어가 이렇게 시궁창이 되는 것은 불가피한 일인가? 아니면 테크 회사들이 내리는 의사결정이 우리를 이렇게 유감스러운 상태에 도달하도록 만든 것인가? 진실은 후자에 더 가깝다. 이는 9장에서 제기했던 다음 질문에 대해서도 답을 준다. 획기적으로 생산성을 증가시키지도 않고 획기적으로 인간을 능가하지도 않는데 AI는 왜 이렇게 인기를 얻게 되었을까?
답은 방대한 데이터를 수집하는 회사들이 개인별 디지털 광고로 벌어들일 수 있는 금전적인 수입에 있다. 또한 이것은 디지털 테크놀로지가 특정한 경로로 가게 되는 이유이기도 하다. 그런데 디지털광고는 사람들이 그것에 관심을 가져야만 영향력을 가질 수 있다. 그러므로 이 비즈니스 모델은 플랫폼들이 온라인 콘텐츠에 대해 사용자의 관여도를 늘리기 위한 쪽으로 노력을 쏟을 유인을 제공한다. 그리고 분노와 선동으로 강한 감정을 자극하는 것이 이를 달성하는 가장 효과적인 길인 것으로 판명되었다.
_ 민주주의, 무너지다 중 - P517
1장에서 이야기했듯이 민주주의는 무엇보다 목소리의 다양성이 핵심이며 평범한 사람들의 목소리가 꼭 포함되어야 한다. 즉 그들의 목소리가 들려야 하고 공공 정책의 방향을 설정할 때 중요하게 여겨져야 한다.
_ 민주주의, 무너지다 중 - P329
따라서 AI 환상은 반민주적 충동을 선호한다. 많은 경영자들이스스로 중도 좌파이고 민주적 제도를 지지한다고 생각할 때도, 심지어본인이 민주당 지지자라고 생각할 때도 그렇다. 그들의 정치적 지지는종종 문화적인 사안에 집중되어 있고 민주주의의 핵심 기반인 ‘사람들이 정치에 적극적으로 참여하게 하는 것‘과 관련된 문제는 편리하게도피해간다. 특히 AI와 관련해서는 민주적 참여가 더욱 독려되지 않는다. 대부분의 사업가와 벤처 캐피탈리스트들이 평범한 사람들은 테크놀로지를 제대로 이해하지 못하고 테크놀로지의 침투적인 영향에 대해 불필요하게 우려한다고 생각하기 때문이다. 한 벤처 캐피탈리스트는 "AI에 대한 대부분의 두려움은 전적으로 근거가 없다고까지는 할수 없더라도 분명히 과장되었다"고 말했다.
_ 민주주의, 무너지다 중 - P530
우리를 현재의 곤경으로 데려온 것은 선택이었고, 특히 테크 기업, AI 연구자, 정부들이 내린 선택이었다.
_ 민주주의, 무너지다 중 - P537
이러한 관리 체계는 위키피디아가 가짜 정보와 프로파간다를막는 데, 또한 다른 사이트들에서 너무나 일반적인 양극화를 막는 데효과가 있었다. 위키피디아 사례는 소셜미디어 초창기에 일었던 테크노- 낙관주의가 그토록 소중하게 여겼던 "군중의 지혜"가 실제로 작동할 수 있다는 것을 보여준다. 하지만 올바른 조직 구조에 의해 감시되고 지원되며 테크놀로지의 사용과 방향에 대해 합당한 선택이 내려질때만 가능하다.
_ 민주주의, 무너지다 중 - P539
테크놀로지의 방향을 다시 잡는 과정에 꼭 자동화를 막거나 데이터 수집을 금지하는 것이필요하지는 않다. 필요한 것은, 인간의 역량을 보조하고 지원할 수 있는 테크놀로지의 발달을 독려하는 것이다.
_ 테크놀로지의 경로를 다시 잡기 중 - P560
또한 우리가 현재 처한 곤경에 대해서는 보편기본소득이 엉뚱한 해법일 수도 있다. 특히 노동자들에게 새로운 기회를 창출하는 것을 목표로 삼는 정책들에 비하면 더욱 그렇다. 자신이 사회에 가치 있게 기여하고 있다고 느낄 때 사람들이 공동체에 더 많이 참여하고 만족도 더 많이 느낀다는 것은 여러 실증근거에서 확인된 바다 사람들은 일을 할 때 더 큰 심리적 만족감을 느낄 뿐 아니라, 일하지 않고 소득 이전만 받느니 차라리 상당한 양의 돈을 포기할 의향까지 있는 것으로 나타났다.
_ 테크놀로지의 경로를 다시 잡기 중 - P589
HIV/AIDS와 싸우는 데서도, 재생에너지 영역에서도, 도저히 불가능해 보였던 것이 꽤 빠르게 이루어졌다. 일단 내러티브가 바뀌고사람들이 조직화되자 사회적 압력과 금전적 인센티브가 테크놀로지의 경로를 선회시켰다.
디지털 테크놀로지의 미래 경로도 그렇게 될 수 있다.
_ 테크놀로지의 경로를 다시 집기 중 - P597
|