요즘 인공지능 기업들이 선거에도 개입하고 사람들의 행동을 바꾸려고 노력하고 있다는 점은 이미 많이 알려져 있어요. 이것은 메타에서 실제로 일어난 일이고, 메타는 사용자를 상대로 실험을 하는 것으로 유명하지요. 안하겠다고 하고 얼마후에는 또 사용자를 상대로 실험을 했다고 이슈가 일어나고 안하겠다고 하고 얼마후에는 또 사용자를 상대로 실험을 했다고 이슈가 일어나는 일이 지속되고 있어요. 이러한 이유는 AI기술로는 상관관계는 알아도 인과관계는 알 수 없어요. 즉, AI기술이 실패하는 이유기도 하여요. 그렇기에 인과관계를 알아내기 위해서 실험을 하여 AI 결함을 채울려는 시도에요. 이런 실험 자체가 비윤리적인 것은 당연하며 AI 기술의 결함만 계속 노출할 뿐인에요. 그런데 그 실험 중 하나가 선거개입이기도 합니다. 상업적 부분을 넘어서 심각한 사회 문제 및 민주주의의 위협도 된다는 거에요.
지금 읽고 있는 책, 《감시자본주의 시대》는 사회학자가 AI를 비판하는 책으로서 이런 부분을 막을 수 있는 사회학자적인 접근이 있어서 소개하려고 하는데, 이런 행동조작을 막으려면 관련된 지식을 최대한 많이 알아야 하여요. 그것을 인지하고 있는 것만으로 행동조작을 막을 수 있어요. 행동조작이 일으키려면 먼저 사람들이 행동조작을 일으키는 행위에 대해서 인지하지 못하는 과정을 거쳐야 하는데, 그 행동조작이 일어나기 전에 행동조작을 일으키는 시도라는 것을 인지하면 행동조작을 피할 수 있기 때문이지요.
저도 네이버 블로그를 쓸 때(2010~2019년까지 네이버 블로그 씀) 이젠 많은 것을 알아야하는 시대라고 언급하기도 하였어요. 그것이 AI 기업들의 공격을 피할 수 있는 방법이기도 하고요.
이런 행동조작은 모든 사람에게 일어나지 않아요. 아쉽게 이 책은 이런 부분에 대해서 언급하지 않는 것이 더 유리하다고 생각했을 수도 있지만, AI에 대한 영향은 매우 소수의 사람에게만 영향을 받습니다. 예를들어 AI가 없을때 60%라면 AI를 사용하면 65%정도 되는 거에요. 자연과학자들은 AI의 문제점 책은 기술적 부분의 문제점을 제시하지만 사회과학자들의 AI 문제점 책은 이런 부분보다는 결과와 사회의 상호작용에 초점을 맞추는 경우가 많아요. 하지만 이런 시도를 하는 AI 기업들의 문제에 초점을 맞추어서 읽으면 되어요. 특히 상품을 팔때 5% 차이 선거에서 5%차이는 어쩌면 결과를 바꿀 수도 있어요. 이런 것을 보고 이것을 써야 하겠다는 쪽과 쓰면 안된다는 쪽이 나뉠 수 있겠지요. 여러분은 어느쪽인가요? (실제 회사들이 발표하는 ai 결과는 매우 조작되어 있으며, 이러한 부분은 https://blog.aladin.co.kr/firefox/16571583 에서도 말했듯이 실제로는 잘 작동하지 않아요.)
그럼 어떤 사람들이 행동조작에 잘 걸리느냐? 하는 것은 공감을 더 잘하는 사람들이 행동조작에 더 잘 걸려요. 그런데 이것은 공감을 잘하는 사람들이 5% 정도라는 것은 아니잖아요. 다시 말해서 팔랑귀 정도로 다른 사람 말을 아무 의심없이 믿는 사람들이 이런 5%에 포함될 수 있어요. 다시 말해서 다른 사람의 말을 잘 믿는 사람들은 행동조작에 잘 걸릴 것 같아요.
그에 비해서 행동조작에 잘 걸리지 않는 사람들은. 인지과정에서 행동조작을 걸러낼 수 있는 사람이 아니겠어요? 그래서 지식이 필요합니다. 그러고 이 책에서는 사전 모의 사고 능력the ability to permeditate이 있어야 한다고 하여요. 이러한 능력은 선택이 미래에 어떤 결과를 가져올지 추측하는 사람일 수록 이런 행동조작에 걸릴 확률이 낮다고 하여요. 이런 사람들은 설득이 잘 걸리지 않을 거에요. xNTx의 mbti들은 근거와 논리전개. 이 2가지가 맞아야 설득될 가능성이 있어요. 하지만 xNTx유형은 소수이고, 대부분 논리적이지 않은 설득과정에 쉽게 설득될 수 있을 거에요. 비록 그런 부분은 우리가 오류라고 배우긴 하였지만, 대부분의 사회에서 설득은 xNTx유형이 설득되지 않는 설득 방법을 쓰니까요.
자신이 자신의 삶을 결정하고 행동해야 함은 당연한 거에요. 여기서 조직적이고 체계적인 행동조작에 걸리는 것은 위험하다는 거에요.
이러한 부분에서 과거부터 더 많은 지식을 얻어야 함은 《감시자본주의 시대》이전부터 제가 주장했던 것들이에요. 여기서 저는 책을 권하고 싶어요. 또한 책도 비판적으로 읽어야 함은 당연하지만요. 제 경험을 말하자면, 우리가 알고 있다는 이유로 동조효과등 많은 부정적 효과를 벗겨낼 수 있었거든요. 많은 사람들이 찬성하고 있다면 오히려 그 반대로 생각해볼 수 있는 기회이기도 하여요. 그러므로 특정 뉴스에 모두 찬성하고 있다면 그것은 뭔가 반대로 생각할 기회를 나에게 주고 있으며 그 사람들이 뭔가 놓인것을 찾을 기회로 봐야 할거에요. 많은 사람이 찬성하니까 맞는 말일 거야~! 같은 생각이 위험한 생각이에요. 이와 같은 부분으로 무엇인가 인지하고 있다는 것은 우리의 삶을 우리의 선택으로 살아갈 수 있게 해주어요.
여기에 더해서 인터넷에서는 일정한 패턴도 찾아야 하여요. 일정한 패턴을 가진 행동이 여기저기 나타난다면 이것은 행동조작일 가능성이 있어요. 이것은 두가지로 볼 수 있겠지요. IT 기업들이 당신의 행동조작을 하기 위해서 일정한 패턴의 자료들을 당신에게 계속 노출하고 있거나, 그런 행동조작을 당한 사람들을 지속적으로 만나면서 일정한 패턴이 계속 눈에 띄거나 하는 거에요.
이런 패턴은 생각보다 많이 인터넷에서 만날 수 있어요. 특정 단어가 갑자기 지속적으로 나온다든지, 일정한 문구가 반복되는 것을 보고 있다면, 또한 특정 설문조사가 계속 뜨든지, 아니면 특정 디자인이 나타난다든지 하면 이것은 따라해야 할 대상이 아니라 뭔가 나의 생각을 조작하려는 의도가 아닌지? 등을 파악해야 할 거에요. 당신을 실험하고 있을 수도 있으니까요.
요즘 천재라는 단어가 반복적으로 나타나는 것에 관심을 두고 있어요^^. 오히려 그런 반복적인 상황이 나타나면 반대되는 것을 찾아야 하는 것이지요. 무조건 반대로 생각할 필요는 없지만 반대되는 사항에 대해서 생각해볼 필요는 있어요.
수동적이 되지 말고 모든 것을 비판적으로 보고, 패턴을 찾고 그 반대로 생각해보는 것이 필요합니다. 그리고 그 패턴을 찾고도 전혀 이유를 알수 없다면 더 지식을 얻어야 해요. 비판적 사고만이 인터넷에서 살아가는 요즘 세대에서 특히 필요한 부분이에요. 이런 부분에서 넛지 책이 관심이 가기 시작하네요. 책 이름만 보고 그냥 넘겼는데 우리의 행동을 조작하는 것중에는 넛지도 있으니까요. 《감시자본주의 시대》에서는 3가지 방법으로 일반화해서 소개합니다.
특히 이러한 부분에서 꼭 알아야 할 것이 있어요. "충성도 예측"이라는 ai 서비스가 있는데, 이것은 만약 특정 브랜드등에 부정적인 의견이 나와서 브랜드에 문제가 생길 수 있다면 즉각적으로 개입해서 공격하는 서비스에요. 이게 브랜드만이 아닐 수 있다고 보이지만요. 다시 말해서 어떤 의견에 대해서 부정적인 대댓글이나 댓글이 많이 달리거나 심지어 요즘은 검열도 하는 것으로 보이는데, 이런 경우가 있다면 그 공격받은 의견에 대해서 맞는지 확인해 볼 필요가 있어요. 우리가 주목해야 할 의견임을 알려주는 역할을 "충성도 예측"이 해주니까요. 이와 같이 지식이 있다며 더 적게 속을 수 있어요. 단, 충성도 예측이 아니라 실제 사람들이 비판하는 경우도 있으니 많은 부정적 코멘트가 달렸다고 항상 반대가 맞다는 것은 아니에요.
위의 동조효과에서도 다수의 의견이 맞을 수도 있어요. 반대로도 한번 생각해보라는 것이지 다수의 의견이 항상 틀렸다는 것은 아니에요^^.
여름이 싫네요. 29일에 컨디션이 완전히 엉망이 되었는데 30일도 영향을 받게 되었어요. 빨리 《감시자본주의 시대》를 완독하고 싶어요. 이 책은 다 아는 내용일거야 라고 생각했는데, 논리전개를 통한 사회학자의 AI 분석 부분은 흥미롭네요. 과거 사건들은 다 알고 있는데, 그것에서 알아내는 추가적인 지식은 제가 이 저자인 사회학자의 부분까지 다 따라잡지 못한 부분들이 많아서 흥미로웠어요. 빨리 읽고 책리뷰쓰고 싶어요. AI가 왜 문제인지 잘 알수 있을 거에요.
오늘은 책리뷰를 썼지만(내일은 월간 결산날^^) 다른 블로그 활동은 시간관계상 할수없는 시간이네요^^.
그림 내 폰트 출처: 고양체
주식레벨: +228 exp 누적 166791.5 exp Lv. 130