아기 알고리즘도 실제 회사의 패턴을 관찰하여 어떤 사...

아기 알고리즘도 실제 회사의 패턴을 관찰하여 어떤 사람이 좋은 직원인지 학습한다.

하지만 불행히도 실제 회사들이 이미 어떤 종류의 편향에 물들어 있다면, 아기 알고리즘은 이런 편향을 학습하고 심지어 증폭할 것이다. 예를 들어 실제 데이터를 통해 ‘좋은 직원’의 패턴을 찾으며 학습한 알고리즘은 다른 조건이야 어떻든 사장의 조카를 채용하면 된다는 결론에 이를지도 모른다. ‘사장의 조카’가 지원하면 대개는 채용되며 거의 해고되지 않는다는 것을 데이터가 분명히 보여주기 때문이다. 아기 알고리즘은 이 패턴을 발견하고 결과적으로 연고주의자가 된다. 이런 알고리즘이 인사 부서에 배치되면 사장의 조카들을 우대하기 시작할 것이다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/WmqxJB8GGjatdkHd9

컴퓨터는 어떤 신화를 ‘믿을’ 수 없다. 컴퓨터는 어...

컴퓨터는 어떤 신화를 ‘믿을’ 수 없다. 컴퓨터는 어떤 것도 믿지 않는 의식 없는 존재이기 때문이다. 주관성이 없는데 어떻게 상호주관적 믿음을 가질 수 있겠는가? 그러나 컴퓨터에 대해 꼭 알아두어야 할 중요한 사실이 있는데, 많은 컴퓨터가 서로 소통할 때 컴퓨터들도 인간 네트워크가 만들어내는 상호주관적 현실과 비슷한 상호 컴퓨터 현실을 창조할 수 있다는 것이다. 이런 상호 컴퓨터 현실은 언젠가는 인간이 만든 상호주관적 신화만큼이나 강력해지고 또 위험해질 것이다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/dmbgcfyUToBFd3xN8

프윈트 툰은 2023년 7월 내게 보낸 메일에서 미얀...

프윈트 툰은 2023년 7월 내게 보낸 메일에서 미얀마의 비극을 되돌아보며 이렇게 썼다. “나는 순진하게도 소셜 미디어가 수십억 명의 전두엽을 연결해 인간의 의식을 고양하고 인류 공동의 관점을 퍼뜨릴 수 있다고 믿었어요. 하지만 알고 보니 소셜 미디어 기업들에게는 전두엽을 연결할 이유가 없었어요. 소셜 미디어 기업들이 연결해야 하는 것은 변연계였죠. 결과적으로 인류는 훨씬 위험한 상황에 놓였어요”(전두엽은 고차원적인 인지 기능을 담당하는 부분인 반면, 변연계는 원초적이고 본능적인 반응을 관장한다—옮긴이). - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/mza8ZJnZ4wSbuZmx7

CAPTCHA는 “컴퓨터와 인간을 구분하기 위한 완전...

CAPTCHA는 “컴퓨터와 인간을 구분하기 위한 완전히 자동화된 공개 튜링 테스트Completely Automated Public Turing test to tell Computers and Humans Apart”의 약자로, 일반적으로 인간은 정확하게 식별할 수 있지만 컴퓨터는 잘 식별하지 못하는 일련의 뒤틀린 문자 또는 기타 시각적 기호로 이루어져 있다. 우리는 거의 매일 CAPTCHA 퍼즐을 접한다. 많은 웹사이트가 이 퍼즐을 푸는 것을 액세스 조건으로 만들어놓았기 때문이다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/teAW1oRPTsdWYhab9

하인리히 크라머가 인쇄술을 이용해 혐오 발언을 퍼뜨린...

하인리히 크라머가 인쇄술을 이용해 혐오 발언을 퍼뜨린 것이 구텐베르크와 인쇄술 탓인가? 1994년에 르완다의 극단주의자들이 라디오를 이용해 사람들에게 투치족을 학살하라고 선동한 것이 라디오 기술 탓인가? 그게 아니라면, 2016~2017년에 불교 극단주의자들이 페이스북 계정을 이용해 로힝야족에 대한 증오를 퍼뜨린 것이 왜 페이스북 탓인가? - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/BGmehTo996GoJSpm7

여기서 우리는 소셜 미디어 알고리즘이 인쇄술이나 라디오 장치와는 근본적으로 다르다는 사실을 이해해야 한다. 2016~2017년에 페이스북 알고리즘은 스스로 능동적이고 운명적인 결정을 내리고 있었다. 알고리즘은 인쇄기보다는 신문 편집자에 더 가까웠다. 위라투의 증오 게시물을 수십만 명의 버마인에게 반복적으로 추천한 것은 페이스북 알고리즘이었다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/V4GAXx8mjTuAJ2t27

권위 있는 대상의 추천은 사람들에게 막대한 영향력을 미칠 수 있다. 《성경》이 추천 목록으로서 탄생했다는 사실을 떠올려보라. 아타나시우스와 여타 교부들은 기독교인들에게, 좀 더 관용적인 〈바울과 테클라의 행전〉이 아니라 여성 혐오적인 〈디모테오에게 보낸 첫째 편지〉를 읽도록 추천함으로써 역사의 경로를 바꾸었다. 《성경》의 경우 최종 권력은 여러 종교 소책자를 집필한 저자들이 아니라, 추천 목록을 만든 큐레이터들에게 있었다. 바로 이런 종류의 권력을 2010년대에 소셜 미디어 알고리즘이 휘두른 것이다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/Ag9LqQWoWH2sW5ku6

사람들이 페이스북 플랫폼에서 더 많은 시간을 보낼수록 페이스북은 부자가 되었다 - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/z1VwR4fWzTj9GM8P9


알고리즘은 수백만 사용자들을 대상으로 실험하면서 분노가 참여도를 높인다는 사실을 알아냈다. 인간은 자비를 가르치는 법문보다 증오로 가득한 음모론에 더 끌리는 경향이 있다. 따라서 알고리즘은 사용자 참여도를 늘리기 위해 분노를 퍼뜨리는 운명적인 결정을 내렸다 - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/UrMPHmbURf4R4VRT8

알고리즘을 제대로 관리하지 못한 페이스북 개발자와 경영진에도 일부 책임이 있다. 하지만 알고리즘 자체도 분명히 책임이 있다. 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 불구하고 분노 콘텐츠를 추천하기로 결정했다. 기계가 이렇게 스스로 학습하고 행동할 수 있는 능력을 보이는 것이 AI의 특징이다. 알고리즘의 책임이 단 1퍼센트라 해도, 이 사건은 비인간 지능이 내린 결정 때문에 일어난 사상 최초의 민족 청소 운동이다. 이번이 마지막이 될 가능성은 낮다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/4uyFwTQvUsP4CUX17