이번 인공지능의 이상한 공격은 결국 실패로 끝날 것 같아요. 다시 조용해지고 있는 인공지능이에요. 우린 이럴 때 마다 이 분위기에 휩쓸린 사람들을 조심해야 되어요. 특히 일반인들이 아닌 사람들이 인공지능을 이야기하면서 우리의 권리를 줄일려고 하거나 국가 자원을 엉뚱한 곳에 쓰려고 한 사람들이라면 분명 다음에도 혹은 도움이 되지 않는 분야에 이렇게 하려고 하겠지요.
가장 중요한 것은 어떠한 문제가 발생하더라도 그 과정에서 우리의 권리를 줄이겠다는 생각이 존재한다면 이것은 문제가 있다는 것을 파악해야 합니다. 우리의 권리를 존중하지 않는다면 결국 우리의 권리만 빼앗기고 끝날 거에요. 문제는 현재도 많이 빼앗겨 있고 이 권리를 되찾아와야 하는데, 인공지능에 휩쓸린 사람들이 이런 권리를 되찾아 줄 수 있는 사람일까요?
우리나라의 현실상, 이번에는 국민의 권리를 대폭 증진시키려는 사람이 우리나라의 대통령이 되는 것이 맞았을 거에요. 하지만 실상은 거꾸로였어요. 좀 이상하긴 하지요.
인공지능에 대해서 가장 중요한 것은 이것이 지금의 디지털 회로에서 실현되는 것이고, 컴퓨터와 유사한 구조에서 실현된다는 거에요. 결국 이것은 이진수 체계. 연산에 의해서 해결할 수 있어야 해요. 만약 미래에 양자 컴퓨터가 상용화되었을때 되려면 삼진수 체계에서 해결되어야 하고, 원리는 안바뀌어요. 이진수에서 삼진수로 바뀐다는 것이 양자 컴퓨터의 원리일 뿐이에요. 결국 인공지능은 수학적 연산에 의해서 모든 문제가 해결될 수 있다는 믿음을 가져야 인공지능이 된다고 할 수 있어요. 우리가 현재 만들 수 있는 소프트웨어를 구동하는 체계는 이진수 디지털 체계 이외에서 없다는 점을 인지해야 하지요.
그럼 인공지능은 연산을 정확히 하고 있을까요? 연산을 정확히 한다는 것은 우리가 창의성이라든지 모든 것에 대해서 연산으로 결과값을 얻어 낼 수 있어야 해요.
이런 연산을 통해서 인간의 결과를 알수 있다는 것. 이러한 신념을 가진 사람이 무서운 거에요. 저는 수학을 좋아하지만 이런 것은 불가능하다고 생각하고 있어요.
인공지능을 단순히 정의하면 연산으로 인간의 문제를 해결하는 것이 원리에요. 이것이 바뀔려면 우리가 하드웨어를 지금 디지털 체계에서 바꾸면 되는데 이러한 것을 할 수 있는 것은 없어요.
여기에서 인공지능은 데이터를 가져와서 데이터의 내용을 치환해서 결과로 내는 거에요. 두가지 문제가 있어요. ① 데이터를 어디서 어떻게 구하느냐? ② 데이터를 어떻게 치환할거냐? 이게 챗 gpt나 현재 인공지능 기술들이 창의적으로 결과를 낸다는 거에요. 치환한다는 것은 제가 자주 주장했던 것인데, 《실리콘밸리 길들이기》책에서 데이터 치환을 좀 자세히 이야기해주었어요. 알고는 있었지만, 그 부분을 어떻게 쉽게 설명해야 할지는 저도 참 고민이긴 하여요. 치환이라는 것은 우리가 방정식을 풀 때 사용하는 방식이고 쉽게 알 수 있으니까 저는 치환이라고 설명했었어요. 위의 책에서는 치환할 수 있는 대상을 좀 더 좁히는 방법을 설명했고요.
여기에서 우리는 우리가 알고 있는 것을 다른 단어로 그냥 치환하는 것이 우리가 창의성을 만드는 방법일까요? 과거에 갑자기 사람들도 그렇게 창의성을 발휘한다면 챗gpt를 옹호하는 분들이 계셨는데, 저는 이런 말에 창의성이 어떻게 발휘되는지 모르는 개발자가 아무렇게나 만들고는 창의적이라고 붙였다고 말하긴 하였어요. 이건 창의성이 아니라 도덕적 표절이지요. 특히 상업적으로 다른 내용을 가져다가 살짝 치환해놓고 자신의 소유물로 바꾸는 작업인 것이지요. 다른 사람의 권리를 빼앗은 문제가 있어요.
두번째로는 치환밖에 안되는 것이 과연 연산으로 결과를 만들어낸 것일까? 하는 문제에요. 인공지능이 답을 찾아내는데 연산과정이 정확하지 않은 것이지요. 위의 문제에서 연산으로 인간의 문제를 해결할 수 있을까? 도 안된다고 생각하지만 인공지능이 결과값을 만들어내는 과정의 연산도 정확하지 않은데 무엇을 하겠어요? 또한 앞의 그 이전의 데이터의 수집도 윤리적으로 문제가 있어요.
행동주의자들은 인간의 행동을 원인과 결과로 나눌 수 있다고 생각하고 있어요. 우리의 동기나 목적은 무시하고요. 그래서 행동주의자들은 이러한 지식을 더 많이 갖추게 되면 좀 더 효율적인 사회를 만들수 있게 되고 이것이 유토피아로 생각하지요. 《감시 자본주의 사회》책을 참조해주세요. 이런 유토피아는 꿀벌이나 개미같은 생태계가 되는 거에요. 이런 생태계에서 살아간다고 우리가 행복할까요?
이런 행동주의자들중 일부겠지만, 연산을 통해서 이러한 원인과 결과를 이어서 문제를 해결할 수 있다고 생각할 거에요. 이들이 인공지능을 만들고 이들은 된다고 생각할 거에요. 그러나 이들이 아니라면 앞의 문제들을 다시 리마인드 해야 할 거에요. ① 인간의 문제를 연산을 통해서 해결 할 수 있을까? ② 우리의 데이터는 우리가 어디에 쓰이는지 알고 공유되고 있는 것일까? 개발자에 쉽게 공유할 수 있도록 되어 있는 것은 아닐까? ③ 인공지능은 이런 데이터를 바탕으로 정확한 연산을 통해서 결과를 찾아낼 수 있을까? 이 3가지 것에 모두 문제가 있어요.
그럼에도 이것이 될 것이라고 생각하는 신념의 사람들은 이런 문제에 대해서 고민을 거부하고 있다는 거에요. 이 문제가 해결되지 않고 신념으로 밀어 붙이니까 우리나라나 다른 국가에서 AI 문제가 발생하고 있는 것이지요.
AI가 제대로 되지도 않을 것인데 우리의 권리를 포기하거나 우리의 권리를 양보할 생각은 없어요. AI가 제대로 되더라도 이런 권리를 포기시키거나 양보하라는 것이 문제이고요. AI가 되든 안되든 우리의 권리가 포기되어서는 안되어요.
하지만 이젠 신념 문제가 된 것 같아요. 그러나 그 신념의 기본 전제가 잘못되었다고 저는 말할 거에요. 그리고 이 신념을 가진 사람은 정말 위험한 사람이라고 하고 싶네요. 행동주의자들은 민주주의를 반대한다는 점. 행동주의자들은 사람들이 행동의 원리와 결과를 알기 전에 만들어진 모든 것을 거부한다는 점을 이해한다면 우리 사회가 매우 위험한 상황에 빠져 있는 거에요.
그래서 한국의 거대 양당은 '극우 vs 극우' 구도라고 보고 있어요. 양 극우가 서로 상대가 나쁘다고 하고 있다고 저는 생각되네요.
안철수씨가 중도라고 이야기할 때 저는 인정하지 않았는데, 그냥 인공지능 좋아하는 사람들이 지지한 것이지 중도가 지지한 것은 아닐걸요~! 라고 생각하고 있었어요.
이번에도 제 3정당이 인공지능이야기를 많이 하는데, 안철수씨의 정당처럼 이번에 가장 높은 지지율을 받지 않을까? 싶어요. 안철수씨 정당은 갈수록 지지율이 떨어졌어요. 중도들이 지지를 거부했는데, 중도만큼 인공지능에 피로감 느끼는 지지자들이 또 있을까? 싶고요. 중도만큼 과학기술이 모든 것을 해결한다는 말을 안믿는 사람들은 없을 거에요. 10년 가까이 '중도=인공지능'을 국민의 당에서 주장했지만, 그 사이 국민의 당 지지율은 계속 떨어지고 중도가 인공지능 피로감은 쌓이기만 하였겠지요.
되지도 않을 것이고, 이제는 사람들의 관심사에서도 많이 멀어진 것 같아요. 이제 인공지능 이야기는 뉴스에서도 잘 안보이기도 하고요. 동원형으로 하기에는 이젠 사람들이 과거와 달리 많은 것을 알고 있는 시기이기도 하지요.
현재 한국에서는 데이터 수집 부분에서도 우리의 데이터가 수집되고 인공지능에 쓰이는지 안쓰이는지도 몰라요. 어디에 쓰이는지 어떻게 가공되고 있는지 알 수가 없지요. 우리데이터인데 우리가 몰라요. 뭔가 이상하지 않아요? 우리의 권리가 빼앗긴 거에요.
이러한 부분에서 ① 우리의 데이터가 어디에 쓰이는지 항상 우리는 알 수 있도록 체계 변경. 누군가가 데이터를 사용하려는 순간 각각 동의를 얻어야 함. 지금처럼 한번 동의하면 영원히 사용동의가 되어서는 안되어요. ② 비식별데이터에 대해서도 권리 인정(현재는 인정되지 않음) ③ 데이터에 대해서 가격설정(이 가격은 판매자가 결정할 수 있어야 하며, 이것은 주로 대부분의 이 문제 전문가가 해결방법이 아니라고 하지만, 결국 데이터의 주인이 데이터 생성자가 되는 과정중 하나라고 보고 있어요.) ④ 인공지능 결과에 대해서 항상 출처 표기되어야 함. 어디서 어떤 데이터가 활용되어 결과가 나왔는지 사용한 데이터의 출처가 표기되어 사용된 사람이 확인가능해야 함 ⑤ 데이터파기를 원할때 즉시 파기되어야 하며, 인공지능 회사는 이 데이터에 의한 결과값을 더 이상 표기되어서는 안됨. (한번 승인한 것이 영원이 아니라 그 기간은 데이터 생성자가 결정하여야 하여요.) 이런 부분이 필요하여요.
두번째로 인공지능 정책을 하거나 지원을 하려면 연산과정에 대해서 이해는 하고 결정하여야죠. 그냥 인공지능이라고 마구 한다면 문제가 있어요.
이런 부분이 해결될까요? 이번 극우정당 집권기에는 힘들것 같아요.
이런 과학 기술의 신념화는 매우 위험하다고 생각하고 있어요. 과학 기술에도 분명 문제가 되는 기술들이 많이 있어요. 그것을 효율성만 가지고 생각했다면 인류는 멸종할 거에요. 오존층을 파괴하는 프레온 가스를 효율적이라고 계속 사용했다고 생각해보세요. 과학 기술은 규제 받아야 합니다.
인공지능 기술도 결국 외부불경제. 즉, 댓가를 받지 않고 정보를 공유하는 계층들에게 피해를 주어서 문제를 심각하게 만들거에요. 결국 그것을 상업적으로 사용해서 수익을 얻겠다는 이러한 생각을 했다는 것과 그것을 동의해서 각종 정책을 만들어주겠다는 생각을 어떻게 할 수 있는지? 이게 정치가 맞는지? 저는 혼란스럽긴 하네요. 그래서 제 결론은 극우 vs 극우. 이것이 한국 정치의 현재 구도라고 보고 있어요.
인공지능은 10년 주기로 가끔 사람들의 주목을 받는데 《실리콘 밸리 길들이기》에서 말하듯 이러한 부분은 주가만 올리면 스톡 옵션등을 팔아서 기술이 실패해도 많은 수익을 얻을 수 있기 때문이에요. 이번에는 동원형으로 정책해서 많은 문제도 있었고, 정부 때문에 많은 손실을 입을 사람들이 발생하겠지만, 다음 10년뒤에는 속지 마세요. 앞의 문제는 10년 뒤에도 해결하기 어려워요. 사람의 행동을 모두 수식으로 나타낼 수 있다고 생각하세요? 그런 수식으로 사람들의 행동을 모두 설명할 수 있다고 생각하세요?
주식 시장을 보니까 좀 어이가 없네요. 한국 주식 시장이 버블이 너무 심해지고 있어요.
결국 지수가 떨어지면 저평가 된 주식도 문제가 되어요. 지난주 결과를 보니까 지수 떨어질때 오를때도 못따라간 주식이 더 많이 떨어졌네요. 이런 현실을 볼때 버블이 좋은 것은 없어요.
이런 버블은 좀 안일어나는 것이 좋은데, 한국 주식 시장 많이 이상하네요.
지수만 오른다고 좋은 주식 시장은 아니라는 것을 이번에 알게 되었네요. 이런 것이 정책 실패로 일어나고 있다는 점이 더 곤란한 문제에요. 투표는 잘해야 되겠어요.
그림 내 폰트 출처: 고양체