감시국가 문제 풀기의 어려움

정치인이 감시가 당연하다는 입장을 가지면 곤란하겠지요. 현재 감시국가로 가느냐? 가지 않느냐? 의 문제를 아주 중요한 사회적 난제라고 생각하고 있어요.

문제는 이런 감시국가로 가는 주체가 기업의 기술력과 정부의 정책이 섞여서 나타난다는 것이지요.

기업을 감시해야 하는 정부가 타락해가는 현상에 대해서, 그리고 이윤을 위해서 비윤리적 행위도 타당하며 오히려 더욱 비윤리적이 되어가는 기업의 합작품은 어떻게 이 문제를 풀어낼 수 있을지에 대해서 비관적이에요.

이 문제를 풀기 위해서 해결책을 살펴보면 기업을 규제하기 위해서 정부의 권력이 필요한데, 결정적인 전제는 정부의 타락을 막아야 하는데 정부 권력이 막강해지면 정부의 타락을 막기 힘들고 규제가 정부를 견제하지 못하는 경우가 많아요. 반대로 정부 타락을 막기 위한 해결책은 정부의 권력을 약화시키는 것이라 기업들의 비윤리성을 자극하기 쉽고 기업의 타락을 막을 수 없어요. 특히 기업들은 지금까지 조금만 기업을 규제하려하면 정부를 비판하면서 자신들의 비윤리적인 활동의 비판에서 많이 빠져 나갔고 지금 읽고 있는 책에서도 역시나 찾아볼 수 있는데, 두가지를 동시에 막을 수 있는 해결책이 쉽게 나오지 못하는 부분이 있어요. 게다가 국민들에게는...사실 ai 기술이 그리 어렵지 않음에도, 이런 부분에서 진입장벽이 있어서 국민의 권력으로 정부와 기업을 개선하는 것도 쉽지 않아요.

그럼 독재국가가 되는 것이 어쩔 수 없는 일이라고 생각하고 그냥 지켜보고 있으면 될까요? 그럴수는 없을 거에요.

인터스텔라의 명대사는 이과쪽에서는 매우 흥미로운 대사가 있어요.

"우리는 답을 찾을 것이다. 늘 그랬듯이"

그런데 이 느낌 문과쪽 느낌과 달라요^^.

어떤 어려운 고난이 와도 그 문제를 해결하고 더 나아간다는 의미가 아니거든요. 문장만 보면 그럴 것이라 생각하지만 문제의 답은 A를 해결한다만 있는 것이 아니라 A는 해결되지 않는다라는 답이 나올수도 있어요. A는 해결되지 않으면 더 이상 시도하지 않는 것이 이과 논리에요. 문과가 생각하는 느낌과 달리 이과쪽이 이 문장을 명언으로 보는 것은 조금 느낌이 다를 거에요^^. 답을 찾는 것은 꼭 문제를 해결해서 발전한다는 의미가 아니에요. 비록 인터스텔라에서는 결국 답에서 된다는 쪽으로 나오고 그 해답을 이용한다는 스토리로 넘어가지만요. 이과에서는 질문에 대한 답이 안된다는 해답이 존재하고 이것은 시간이 지나거나 노력한다고 해서 해결될 수 있는 문제가 아니에요. 인간이 원하는 방향이 있다면, 그 원하는 방향으로 가기 위해서 열심히 노력하기만 하면 인간이 원하는 방향으로 해결된다는 것은 아니라는 게 이과논리에요. 다행스럽게 이과의 논리로 찾아보면 AI는 안된다는 결론에 도달할 거라고 보고 있어요. p=np인가 문제 이전에 여러가지 이과 이론들이 ai가 안된다는 결론을 만들어내고 있어요. 그럼에도 수학자들은 p=np인가? 라는 답도 찾을 것이지만요. 이것이 이 문장의 의미. 우리는 답을 찾을 것이다라는 의미에요. 그 답이 p≠np가 되어서 인공지능 안됨이라고 나올수도 있고요. 수학자들이 이렇게 증명하면 인공지능 개발에 들어간 비용은 모두 공중에서 폭발한 것과 같은 것이 되어요. 근데 다른 이미 알고 있는 수학이론으로도 인공지능 안됨이에요. 그래서 인공지능이 되는가?를 확인하는데 굳이 p=np인가?의 증명이 꼭 필요한 시점이 아닌것은 맞지만 우리는 답을 찾을 거에요. 늘 그랬듯이^^.

근데 이 문제, 감시국가로의 가는 것을 막는 것에서 해결책이 꽤 난해하네요. 이게 쉽게 해결될 문제가 아닌 것 같아요. 언젠가 제자리를 찾을 거야~! 라고 그냥 지켜볼 문제는 아닌 것 같아요. 이건 다행히 이과문제는 아니라 문과 문제라는 것이 다행이에요. 노력해서 해결될지도 모르는 문제거든요. 근데 해결이 되기가 너무 어려워요.

이제 문과쪽 명언을 소개하고 싶어요.

"물이 빠지면 누가 벌거벗고 수영하고 있었는지 알 수 있다." 워런 버핏이 한 말이지요. 경제학이나 금융은 문과 영역이에요. 이 말은 위기가 닥치면 누가 잘못하고 있었는지 알 수 있다는 거에요. 금융위기가 오면 부실하게 관리해온 회사들이 그제서야 문제가 있었다는 것이 알려지고 파산하는 일이 발생할 수 있다는 것이지요.

국민의 기본권이 위협을 받는 시기가 왔어요. 겉으로는 마치 기술이 발전하는 듯 보이지만, AI등을 통해서 국민을 감시하는 시기가 왔다는 것은 모두 알거에요. 이러한 부분에서 무의사결정, 쓰레기통 모형을 적극 활용한다라는 부분을 《감시자본주의 시대》에서 어제 읽어서 이 부분은 행정학과 주식 카테고리를 만들고 이론들의 작성을 먼저 해두어야 되겠다 생각하고 있어요. 오늘은 일단 주간결산 때문에 만들지는 못하겠지만요.

이런 상황까지 치닫자, 이제 누가 국민을 위하는지 알 수 있게 되었어요. 물이 빠져 나갔는데, 누가 국민을 위하고 있는가? 에서 가볍게 AI를 주장하는 사람들, 개인정보보호와 반대로 가면서 국민의 기본권을 제약하려는 사람들을 빼나가면 되어요. 경제논리와 사적인 이익을 위해서 국민의 기본권을 제약한다는 것은 있을 수 없어요. 과거보다 더 쉽게 구분이 가능한 것이지요.

지금까지 일어난 많은 일들에 대해서 한국에서는 알려지지 않은...아쉽게 한국이 민주주의 국가이고 정보의 자유가 충분해서 외국에서 일어난 일들이 잘 알려져 있을 것이라 생각하시면 안되어요. 그렇지 않다는 것은 지금 읽고 있는 책을 통해서도 많이 알 수 있게 되었으니까요. 대부분의 AI 관련 문제점은 알려지지 않거나 한국에 알려질때는 단점마저도 장점으로 소개되는 일이 많다는 것을 알고 있었고, 다시 한번 확인했어요. 그러나 이런 부분을 제대로 알려고 하면, 비록 대중적이지 않은 매체를 이용해야 하지만, 인기없는 매체를 통해서 접근하면 충분히 알 수 있고, 이런 부분에 대해서 어떻게 하느냐? 를 본다면 누가 국민을 위하고 있고 누가 국민을 위하지 않는지를 쉽게 알 수 있어요.

어제 읽은 내용이 조금 충격적이었는데, 이런 상황을 누구보다 잘 알것 같은 집단의 배신이 꽤 아픈 부분이에요. 2014년에 구글의 정보와 권력이 집중되는데 앞장서서 싸울 것 같은 단체가 구글 정책 팰로우에 이름을 많이 올렸어요. 대표적으로 민주주의와 기술센터center for Democracy and Technology, 전자 프론티어 재단Electronic Frontier Foundation, 프라이버시 미래 포럼Future of Privacy Forum, 소비자 연맹National Consumers League, 시티즌 랩Citizen Lab, 시민의 권리 협회Association por los Derechos Civiles등의 비영리 집단 사람들이 대거 포함되어 버렸어요. (전자 프론티어 재단은 e민주주의와 직접민주주의 신념이 발생하는데 영향을 크게 준 단체. e민주주의는 인터넷에서 정치 활동을 하는 것을 의미함.)

이런 부분은 행정학의 무의사결정과 관련이 있고, 물이 빠졌을때 누가 벌거벗고 수영했는지 알 수 있는 부분이에요.

제가 네이버를 불매하고 유투브를 sns로 쓰는 것은 구글의 정책에 찬성해서 쓰는 것은 아니에요.

굳이 제 정보를 막지 않고 오픈을 조금 해두는 것은 사실 전혀 다른 의미에요. 정보를 막을려고 하면 오히려 정보를 막은 사실로 표적이 될 수 있어요. 개인정보수집이 간단한 것만 수집할 것이라고 생각해서는 안되어요. 일반 사람속에 있는 것이 개인정보보호를 주장하기에 더 안전할 수 있어요. 정보 유출을 막았다는 그 사실 하나가 오히려 더 주목받는 요인이 될 수 있어요.

또한 한국의 기업과 한국의 정부에게 정보를 유출되는 것보다 우리가 앞으로 관련이 적을 것 같은 곳에 개인정보를 남겨 두는 것이 더 안전할 수 있어요.

구글에게 나는 먼 나라에 사는 어떤 사람이지만, 한국 정부와 한국 기업에게는 적극 이용해야 하는 정보가 될 수 있으니까요. 대부분의 한국인 정서들과 비슷할 것이고 미국이 우려하는 일을 내가 할 가능성은 없으니까 오히려 더 안전할 수 있어요. 한국 기업은 오히려 더 위험하게 되지요. 더 나의 행동을 그들이 의도한 대로 움직이려 할 것이니까요. 이러면 이럴수록 한국 기업 서비스와 제품을 사용할 유인은 줄어드는데, 검열...어디서 일어나는 일인지는 알수 없지만, 매우 검열이 심한 부분이 다시 한국의 서비스를 이용하는 이유가 되고 있어요. 그러나 분명한 것은 구글을 신뢰해서 구글 제품을 쓰는 것은 아니라는 것이지요. 그것이 더 안전하기 때문에 쓰는 거에요. 선택권이 둘 중에 뭐가 덜 나쁘냐? 하는 것은 소비자로서 선택권이 매우 심각하게 훼손되어 있다고 볼 수 있어요. 한국 제품들이 개인정보보호를 하지 않겠다거나 ai를 한다면 더욱 더 외국 제품을 쓸 거에요. 근데 한국 제품이 개인정보보호를 해 준 적이 있었나? 같은 생각이 들긴 하네요. (이 사례는 유일하게 daum이 과거 개인정보보호에 적극적이었어요. 카카오합병 후 지금은 아님)

게다가 이런 부분에서 꽤 우호적으로 봤던 비영리 단체. 현재의 상황을 바꿀 수 있을 것으로 기대했던 비영리 단체의 배신은 현재 문제의 해결에 더 큰 어려움이 많다고 느껴지네요.

어쨌든 지금 시기에는 너무 쉽게 국민을 위하는 사람과 그렇지 않은 사람들을 구분하기 쉬운 시기에요. 단지 정보의 자유가 많이 훼손되어 있기 때문에 상대에게 이런 ai나 정보 수집의 문제를 한번 정보를 전달할 필요는 있어요. 그럼에도 그들이 벌거벗고 수영하길 원한다면 우리는 더 쉽게 누가 벌거벗고 수영하고 있는지 알 수 있는 시기가 되었다고 보고 있어요.

이 문제가 어떤 방향으로 가고 어떻게 해결될까? 하는 것은 민주주의를 지키는 것에서도 매우 중요한 문제라고 보고 있어요. 벌거벗고 수영하는 사람들이 많아지고 있고 이들이 권력을 계속 잡는다면 우리는 민주주의를 포기할 시점이 다가올 거에요. 그럼에도 딱히 어떤 해결 방법이 있는 것은 아니에요. 수학의 난제가 있듯이 이건 문과쪽의 난제일 듯 한데, 머리를 모아서, 그리고 문과쪽 학자들의 해결책이 필요한 시점이에요. 일단 아시아의 AI관련 기업의 제품과 서비스는 될 수 있는 한 피하고 먼 나라의 제품과 서비스 사용이 비교적 안전한 시기인 것 같아요.

오늘은 주간 결산의 이유로 다른 모든 블로그내 활동은 쉬어갑니다.

지금 읽고 있는 책이 꽤 생각해 볼 것들이 많네요. 쉽게 책장을 넘기기 힘든 책이에요.

그림 내 폰트 출처: 고양체

다음에 읽을 책들 (7월 26일 ~ 8월 9일 / DK)

오늘 독서계획을 작성해야 하는데, 다른 내용을 작성했네요^^. 그렇다고 그 내용이 가치가 없는 것은 아닌데, 이 핑계로 오늘도 책리뷰를 건너 뛰어야 되겠어요^^. 주말에도 책리뷰 작성안하고 평일에 시간없다고 못적고 하면 그렇긴 하지만, 지금 읽고 있는 책을 완독하려면 오늘 좀 바쁠 것 같기도 하고요. 하지만 읽은 책은 리뷰쓸 내용이 메모되어 있고 그 메모지를 잃어버리지 않는 한 미래에 반드시 리뷰를 올릴거에요. 읽은 책이 줄어드는 것은 아니니까요^^.

다음에 읽을 책들. 5년 후 10배 오를 바이오 기업에 투자하라

학교 다닐때 과학 과목중에서 생명과학을 가장 싫어하긴 하였어요^^. 화학, 물리, 지구과학, 생명과학순으로 좋아했던 기억이^^.

그러나 소프트웨어분야보단 바이오 기업이 투자하기는 더 쉬운 것 같아요. 소프트웨어분야는 개발하는 내용을 영업비밀이라고 숨겨두는데 일단 바이오 기업들은 자신들의 연구를 어떤 것을 하는지 공개하고 있으니까요. 단지 아직은 바이오기업의 연구실적 보다는 현재 제품의 판매실적에 따라서 투자하고 있어요. 이번에는 바이오 분야 책들이 좀 있어서 뒤에서 이 내용을 이어서 말해보고요^^.

다음에 읽을 책들. 한국형 모멘텀 투자 실전 매매법

이 책은 추세 매매자들을 위한 책이에요. 저도 추세매매로 시작하긴 했지만, 현재는 역추세 매매를 하는 포뮬러 플랜 투자자에요. 그러나 저에게 도움이 될만한 내용이 있는지 찾아보려고 하고 있어요^^. 주식에서 딱 이게 답이다~! 라고 말할 수 있는 것은 없거나 너무 많거나 라고 할 수 있어요^^. 즉, 틀린것이 없다는 가정으로 접근해서 도움되는 지식이라고 판단되는 지식은 선택적으로 모두 흡수하는 것이 좋은 것 같아요.

다음에 읽을 책들. 제약바이오 산업 이해와 투자 대상 기업까지 찾아내는 제약바이오 처음공부

앞서 내용에 이이서^^.. 투자를 하는데 있어서 자신의 능력범위가 넓어지면 더 좋은 투자를 할 수 있어요. 그러므로 제약 바이오 산업에 대해서도 더 공부해고픈 생각이 있어요. 주식투자라는 것이 더 많이 알면 알수록 도움이 되는데 그 범위가 상상초월해서 넓다는 것이 특징이라고 보고 있어요^^. 그래서 더 즐거운 것 같아요. INTP이 지식욕이 좀 강한 편이거든요.

다음에 읽을 책들. 스마트시대의 회계원리

이 책 표지랑 다른 초판 책을 읽고 있어요^^. 그 책 표지랑 달라서...중고서적 검색에서는 나오던데 블로그에서는 중고서적 검색을 쓸수는 없네요^^.

주식 투자를 하면서 많은 지식을 가져야 하지만 그 중에서 회계학 만큼은 꼭 가져야 하는 지식인 것 같아요. 회계학없이 주식을 하는 것은 매우 어려운 것 같거든요. 이 책은 360페이지 읽고 있는 중이에요. 대학교 교재는 시간안에 다 읽기 어려워서. 사실 하루정도의 시간안에 다 읽지 않으면 책읽기 계획이 연기되도록 계획을 잡고 있어서 조금 읽고 계획에서 빠졌다가 다음에 또 읽고 하는 방법으로 완독을 하고 있어요^^. 이제 완독에 매우 가까워졌는데 아직도 완독은 못하고 있긴 하네요^^. 지금은 DK만 계획에 올라가는데 CV 도서관이 장기 휴관이 곧 풀리는 시기가 얼마 남지 않아서 CV까지 계획에 올라가는 시기가 되면^^... 계획에 맞추려면 쉴틈없이 읽어야 하긴 하여요^^.

로테이션표시

신간우선 투자서적 역순(~327.856)

신간우선 투자서적 역순(~327.856)

회계학 서적(325) 혹은 사회과학 서적(300~)

신간우선 투자서적 역순(~327.856)   로테이션중

신간우선 투자서적 역순(~327.856)

십진분류우선 수학서적 (310~)

진행과정

327.856파 ~ 327.856피

327.856한 ~ 327.856허

327.856현 ~ 327.856훈 (1)

410 ~ 410김

로테이션만 3칸 전진하고 십진분류표 진행과정에서는 별다른 변화는 없었어요^^. 진행과정에는 관련없는 신간 서적을 많이 선정했고 또한 회계학 서적은 진행과정에는 작성하지 않아서일 거에요^^.

어려운 문제를 풀어나가는데 여러가지 방법이 있겠지만, 가장 신뢰할 수 있는 것은 지식을 바탕으로 지혜를 만들고 그것을 바탕으로 내가 직접 선택하는 것이라고 생각하고 있어요.

모든 정보를 수집하는 것이 첫번째이고 이러한 것에서 책이 가장 좋은 수단이라고 생각하는 편이에요^^. 물론 지식을 지혜로 만드는 과정. 지혜롭게 선택하는 과정도 책을 통해서 배울 수 있어요^^.

그런 만큼 책을 많이 읽어야 하겠지만, 마음만큼 몸이 따라주지 않을 때도 있고, 게을러질때도 있다는 것을 부인하진 못하겠어요^^.

오늘도 열심히 읽어서 완독을 시키고 다른 책도 더 읽어야 될것 같네요^^. 그냥 열심히 하려는 의도로 계속 제 계획을 리마인드 하는 과정인데 블로그에 자주 작성될 거에요^^. 이렇게 계획을 완성하는 타입이기도 하여요^^. 작심삼일이라면 매일 매일 계획을 세워라~! 가 제 방식이니까요^^.

그림 내 폰트 출처: 고양체

감시자본주의의 시대

지금 읽고 있는 《감시자본주의의 시대》사회학자가 보는 데이터 수집에 대한 문제점을 말하는 책이에요.

AI에 대한 문제는 주로 3가지 부분으로 접근하는데, 데이터 수집, 데이터 처리과정, AI의 결과 이렇게 3가지 부분으로 접근하여요. 대상은 기업, 정부, 기업과 정부 모두를 대상으로 삼기도 하지요.

데이터 처리과정은 주로 자연과학이나 공학도들이 문제를 많이 제기하고 나머지 데이터 수집, AI의 결과는 사회학자들이 많이 문제를 제기하지요. AI의 결과 부분에서는 AI에 우호적인 사회학자들도 있다는 것을 알아요. 이 부분은 논란의 여지가 많은데, 사회학자들은 사회에 영향을 주는 결과를 다른 사회문제와 연결시키는 경우가 많고, 자연과학이나 공학쪽에 있는 분들은 이 것을 데이터 처리 과정과 엮어서 말하는 경우가 많아요. 또한 데이터 수집과정은 전체주의 국가에서 비밀경찰과 같고 《1984》의 Big Brother이 했던 것이기 때문에 부정적이고 독재국가 위험성을 말하는 경우가 많은데, 여긴 AI이외의 영역에서도 일어나고 있기 때문에, AI라고 꼭 집어 말하지 않을 때도 있지만 AI도 데이터 수집을 하는 이상 이 부분도 무시할 수 없으며 AI라고 언급되지 않더라도 AI의 문제점이에요.

여기에서 AI의 과정이 사실 수학이여서 수학자들도 이 논쟁에 많이 참여하고 있어요. 심지어 AI가 되느냐? 하는 부분의 중요 문제로 p=np인가? 문제도 있는데, 수학의 난제 중에 하나로 수학자들도 아직 해결못한 문제에요. 근데 p=np인가? 이전에 다른 부분에서도 수학자들이 인공지능 안된다는 주장은 많이 나오고 있어요. 수학자들이 제기한 인공지능이 안된다는 많은 수학이론중에서는 가장 쉬운 부분이 미분방정식 정도로 인공지능 안된다는 것을 말하는 수학자가 있다는 것을 아는데, 저는 고등학교 통계학 정도로도 문제점을 제기할 수 있다는 것을 알고 있어요.

사회학의 특징상 다양한 가치를 추구하기 때문에 이 가치에서 어떤 것을 추구하느냐? 에 따라서 대립적이고 모순적인 결과가 다양한 사회학자들에게 도출될 수 있어요. 여기에서 우리는 이 과정에서 전제및 가정, 사회학자가 자져온 다른 이론의 출처, 그리고 논리전개과정을 살피고 어떤 가치를 중점적으로 보는지를 확인해야 할 거에요.

이번 책에서는 이 3가지 문제를 모두 언급하고 있었어요. AI의 문제점을 보는 사람들의 생각은 거의 차이가 없는 것 같아요^^.

단지 저자와 제 생각에 차이점도 있고 같은 점도 있고 그런 부분이에요. 가치 부분의 차이가 존재하기 때문이에요. 그럼에도 저자가 2011년 8월 9일에 있었던 일에 대해서 말하는 부분은 매우 신기했어요.

2011년 8월 9일은 ① 미국에서 애플이 시총 1위가 된날 ② 영국에서 경찰이 시민에게 발포한 사건으로 대규모 시위가 일어난 날 ③ 스페인에서 데이터 수집및 처리과정, 결과에 의해서 일어난 인권 침해에 맞서서 잊힐 권리를 달라는 시위가 발생하였어요.

이 3가지는 모두 인공지능과 관련된 사건이라는 것이 저자의 주장이고 이 3가지 사건을 분석하는 것이 처음 내용의 시작이더라고요. 본론에서요^^. 흥미로운 부분인데, 이 3가지 부분은 모두 인공지능과 관련된 사건으로 보는 것이 맞다고 보고 있어요.

지금 문제가 되고 있는 것은 경제적 이익이나 기술발전을 위해서 인권을 포기하라는 압박이 국민들에게 가해지고 있다는 거에요. 그러나 인권은 경제적 이익이나 기술발전보다 우위에 있는 개념이이에요.

인권을 무시하면서 개발하고 인권을 짓밟으면서 발전한 기술이 어떤 의미가 있겠어요?

우리를 위협할지도 모르는 기술이 부상한 ①의 결과와 ②와 ③은 그것보다 형평성이나 인권이 더 중요하다는 국민의 결과가 같은 날 동시에 일어나게 되었어요.

우리는 국가가 위급한 상황에서는 인권이 간혹 제한되기도 하여요. 예를 들어서 전쟁같은 상황이지요. 그럼 경제적 이익이나 기술발전을 위해서 인권이 제한되는 상황은 받아들일 수 있을까요?

이것을 받아들일수 없다는 것이 제 생각이에요. 그러나 한국의 현실은 이와 반대로 가고 있는 것이 사실이지요. 왜 우리가 우리의 이익도 아닌 테크 기업의 이익을 위해서 우리의 기본권을 포기해야 할까요? 이런 기본권을 포기시키는 행위는 독재국가와 다를 바 없고, 독재국가로 나아가는 길일 거에요.

기술이 결국 인간을 위한 것이 아니라 개발자의 이익을 위해서 발전하면서 인간의 기본권을 제한하려 한다면 이것은 매우 큰 문제가 있어요.

저자도 이런 부분을 매우 잘 이야기하고 있어서 마음에 들었어요.

그러나 이 저자는 테크와 체제를 분리해서 생각하는데, 이 부분은 구분해야 함은 분명할 거에요. 테크놀로지. 즉 기술과 그 기술을 위해서 이루어진 체제는 분명 달라요. 앞서 포스팅한 데이터 3법, 마이데이터법, 개인정보보호법의 결함이 합쳐져서 어떤 문제가 나오는지에 대해서 언급했지만, 우리나라는 체제를 제대로 만들지 못해서 많은 개인정보보호의 문제점이 있어요. 그런데 기술적 부분을 보면, 이러한 기술중 일부는 처음부터 기본권에게 위협적이여서 존재해서는 안되는 기술도 분명히 존재하고 있다는 것이이에요.

기술이 가치 중립성을 가지고 있다는 부분에 동의할 수 없어요. 이 부분은 과학자와 공학자들은 다른 생각을 가질 수도 있어요. 그러나 어떤 기술은 그 기술 자체가 나빠요. 프레온 가스 같은 부분은 분명 문제가 있는 기술이에요. 이 기술을 가치 중립에 두고 사용자들이 해결해야 할 문제라고 하면서 생산자가 마구 생산할수는 없어요. 기술에 대한 지식은 연구할 수 있지만, 그렇게 연구되어야 프레온 가스가 오존층을 파괴한다는 것도 알아낼 수 있으니까요. 그러나 기술의 사용에 대해서는 가치 중립적일 수 없는 것이지요. 물론 연구도 윤리적으로 해야 함은 당연하고요.

이런 부분을 허가해야 하는지? 아닌지? 에 대한 문제에 대해서 이 저자는 소비자에게 도움이 되고 그 부분에서만 사용되면 괜찮다라는 입장을 갑자기 보이면서 일관성 없는 태도를 보이는 점이 살짝 아쉽긴 하네요.

식료품에 대해서 신제품을 개발할 때 아무렇게나 개발하고 시장에 내어놓은 다음에 소비자의 반응에 따라서 식료품의 제품을 수정하면서 개발하겠다는 생각을 하지 않아요. 식료품 업체가 만약 실수를 하면 브랜드 평판에 많은 위험이 있기 때문이에요. 이 회사들은 전문 맛평가를 위한 전문가들에게 의뢰를 해서 충분히 시장성등에 대해서 나온 결과를 바탕으로 성공할 수 있는 제품을 시장에 내어놓게 되지요.

그러나 테크 기업들은 그렇게 하지 않아요. 일단 우리의 개인정보를 마구 모아서 제품을 만든 다음에 소비자들 반응을 살피면서 제품을 수정하지요. 이것이 올바른 방식일까요?

그들은 우리에게 제품의 향상을 위해서 개인정보를 수집받아야 한다면 그것은 먼저 제품 개발과정에서 전문가 집단을 만들고 그들을 고용해서 제품에 대해서 피드백을 받아, 먼저 퀄리티 확보를 해야 하고 그 다음 시장에 대한 제품의 수요를 확인해야 하는데, 여기서도 개인정보를 수집해서는 안된다고 생각되어요. 이 모든 과정이 테크 기업에게는 적용되지 않고 그들은 개인정보를 마구 사용해도 된다는 생각을 가지고 있어요. 왜 제품을 만들기 전에 더 완벽하게 만들 수 있음에도 그들의 경제적 이익을 위해서 이런 과정을 무시하고 인권을 무시하는 제품을 만드는 것일까요?

기술과 그들의 경제적 성공을 위해서 우리의 인권을 포기하라는 것은 있을 수 없어요. 또한 기술 자체도 우리의 인권에 포함하는 정보를 마구 이용하도록 설계되어 있어요. 이런 기술 자체가 필요없는 것이지요. 우리의 피드백을 강제로 회사에게 주고 싶지 않은 정보까지 받아서 회사가 분석하는 것이 아니라, 우리가 주는 피드백만 받아서 그안에서 회사의 의사결정에 필요한 정보로 사용해야 합니다. 1:1문의 내용 정도만 사용하면 되는데 왜 그 선을 넘어서 우리의 일상생활과 사생활까지 수집하려 하느냐? 하는 거에요.

저자의 초반 서술에서 약간 이 부분을 혼란스럽게 진행하는 점이 살짝 아쉽긴 하지만, 저자의 경우 이런 부분. 즉 기술의 발전을 위해서 인권을 포기하는 것은 괜찮지만 그 밖의 경우는 안된다라는 부분에 대해서는 저의 의견과 다르지만 이 후의 내용에 대해서 더 살펴보고 싶긴 하네요^^.

기술을 위해서 인권을 포기히라는 지금 인공지능 개발자들이 떠드는 내용이기도 해서, 이런 부분을 포기해서는 안된다고 저는 말하고 싶어요. 이것은 독재국가를 만들어져도 기술발전만 하면 되나요? 같읕 것이기도 하고 AI에서 데이터 수집 부분은 독재국가를 만들 잠재력도 충분합니다. 전체주의 국가의 비밀경찰과 똑같은 행위거든요. AI가 뛰어난 것이 아니라 AI를 하겠다는 이유로 데이터 수집을 하는 행위가 바로 독재국가들이 하는 행위와 같기 때문이에요. 민주주의 국가에 사는 사람들이 왜 민주주의 체제를 위협하는 이런 리스크를 추가로 테크 기업들의 이익을 위해서 가져야 하는 것일까요? 그럴 필요가 없음에도 말이죠.

감시자본주의 시대를 읽고 있는데, 책이 좀 큰 책이고 볼륨이 많은 두꺼운 책인데 읽는 속도가 좀 늦고 있네요^^. 날씨도 이런 부분에 한 몫을 하고 있는 것 같아요. 오늘은 완독하기 위해서 좀 더 노력해봐야 될 것 같아요.

그림 내 폰트 출처: 고양체

코스피 5000포인트에 대한 생각

오늘은 코스피 5000포인트에 대해서 정부정책이라고 기대감이 많은 것 같아서 제 생각을 이야기해보려고 하고 있어요. 이건 오늘 작성하려고 했는데, 어제 이야기가 많이 나왔지만 이건 미리 작성하려고 준비해 둔 내용이기도 했어요.

일단 논리 전개를 하기 전에 제 논리전개에 들어가는 지식과 가정 부분이 있어야 하겠지요^^.

① 시총은 주가 × 주식수이다.

시총은 주가 × 주식수로 계산되어요. 주식수를 줄이면 주가가 올라가고 주식수를 늘리면 주가가 내려가요. 즉 앞으로 주가라는 것은 주식수의 변화했을때 시총이 같아야하는 주가의 변화가 일어나도 같은 주가로 생각하고 언급할 거에요. 즉, 100원에 100주를 가져서 1만원의 시총이라면 50주로 줄이면 200원이 되어야 해요. 이때 100원에서 200원으로 주가가 바뀌어도 이 두개의 주가는 같다라고 볼거에요.

② 지수는 시총 비교이다.

기준연도에 모든 종목의 시총 합이 기준 지수이고 앞으로 시총의 변화가 지수 변화로 볼거에요.

③ 시총을 변화할 수 있는 것은 투자금이다.

시총이 1만원에서 2만원이 되려면 1만원의 투자금이 추가로 투입되어야 한다고 가정할거에요. 100원에 100주인데, 100주가 변함없을때, 시총이 2만원이 되려면 200원으로 주가가 바뀌어야 하여요.

이 세가지 기준에서 우리나라 코스피가 5000포인트를 가기 위해서 필요한 것들을 살펴볼거에요.

주식 수익 = (시세차익 × 주식수) + 배당금

이 수식에 반대할 사람은 없을 거에요. 그런데 시세차익을 살펴봅시다. 100원에서 200원으로 바뀌었어요. A라는 사람이 1주를 100원에 1주를 샀다고 해봅시다. 그럼 A의 현금에서 -100원이 줄었을 거에요. 그런데 200원이 되어서 1주를 매도하였다면 자본에 +200원이 되면서 100원의 수익이 될거에요. 여기서 B라는 사람이 샀다면 현금에서 -200원이 줄어든 상태가 되어 있겠지요. 그런데 처음 A라는 사람이 매수했던 주식을 가진 C라는 사람에게 +100원의 현금이 들어갔을 거에요. 즉 +100-200+100이라는 자본의 변화. 주식시장 내의 투자금의 변화는 전혀 없는 상태에요.

주식의 주가가 아무리 변화해도 주식시장내 투자금의 변화는 없다. 이해되시나요?

그런데 이때 기업이 배당을 지급했어요. 배당수익률 5%여서 200원의 5%인 10원을 지급했어요. 이때 B라는 사람의 현금에는 +10이 추가되면서 10원의 투자금이 증가했어요.

배당은 주식시장의 투자금을 증가시킨다. 너무 쉬워서 이해하는데 어려움이 없을 거에요.

즉 주식시장의 투자금은 시세차익에는 변화가 없지만 배당은 증가시킨다라는것이 핵심이에요. 지수는 시총의 합이라고 했고, 시총은 결국 투자금에 영향을 받으니까 주가 상승에 의한 시세차익은 주식시장 전체의 시총의 변화를 일으키지 못하지만, 배당은 주식시장 전체의 시총 변화에 영향을 주어요.

그럼 현재 코스피의 투자금은 얼마일까요? 2617.4조에요. 지금 지수로 나누고 5000을 곱하면 코스피의 투자금이 얼마일때 5000포인트를 가는지 알수 있어요. 4094.8조에요. 코스닥도 계산이 가능합니다. 416.6조인데 774.4조가 되면 2배가 되어요.

1400~1700조가 되면 되어요^^.

배당수익률로 계산하면 연 16.7%가 나와야 하여요. 가능성이 없겠지요. 작년에 조사했을 때, 작년에 주가가 많이 하락해서 연말에는 배당수익률이 모두 높아졌는데 이 수치보다 높은 주식이 별로 없었던 것으로 기억하고 있어요.

남은 금액은 어디에서 와야 할까요? 주식시장 외부에서 내부로 들어와야 합니다.

그럼 1400~1700조는 어디에서 올 수 있을까요? 적대적 m&a가 얼마나 일어나느냐? 하는 것에 달려 있을 거에요. 기업 거버넌스 개선에는 적대적 m&a가 쉽게 되고 여기에 기업들이 방어하는데 주가 올리고 하려는 쪽은 m&a를 해서 주가를 올리는 두가지 구조로 외부에서 내부로 1400~1700조가 와야 합니다.

이번 정부의 산업정책은 좀 안좋아서 기업 실적이 크게 개선될 것으로 기대하진 않아요. ai, 클라우드 같은 분야는 1위 빼곤 의미도 없는데, 잘되어도 3위라면서 이런 것은 돈낭비만 하고 우리 감시만 하려고 하고 끝날거에요. 독재국가 안되면 다행이에요~! 수준으로 마음 졸여야 해요. 정치가 이렇게 국민들을 괴롭히는 것도 쉽지 않다는 생각이 들어요. 우리나라가 1990년대로 회귀되었어요. 김영삼 대통령 같이 하나회 해체하고 자신의 권력유지보다 민주주의를 지킬려는 대통령이 필요해요. 비록 경제정책은 약간 실수했지만요. 자신의 권력 유지를 위해서 국민을 감시하겠다는 시대로 넘어가는 것은 우려스러워요. 또한 주식 정책에서 배당에 대한 정책이 그리 많지 않은 점도 있어요. 정작 배당이 중요한데요.

이 금액, 1400~1700조를 기업 거버넌스를 개선한다고 올수 있냐? 없냐? 는 저도 잘 모르겠지만 어렵지 않을까? 싶어요.

게다가 저는 세금이 없다는 가정이고 수수료도 없다는 가정이에요. 이것이 붙으면 더 필요합니다.

단기투자자들은 배당보다 세금 수수료가 더 많을 거에요^^. 제가 예전에 단기투자할때 그랬거든요. 지금은 거래횟수는 많은 데 거의 다 분할매수에요^^. 포뮬러 플랜이 그런 매매방식이에요^^. 그래서 지금은 배당의 극히 일부만 세금 수수료로 나가고 있어요.

또한 수익의 일부를 인출하는 경우에도 투자금을 줄이고 자신의 자산 일부를 주식에 투자하기 위해서 증권사 계좌에 입금하는 경우에는 투자금을 늘릴 거에요.

우리나라 통화량 m2, 즉 즉시 현금으로 쓸 수 있는 금액이 4278조1)로 알고 있어요. 4094.8조가 투자되어야 하여요. 우리나라 m2를 다 갈아 넣어야 해요^^.

그런데 m3 통화량은 얼마일까요? m3는 m2에 채권 예적금 합계에요. 5815조2)에요. 여기에 4094.8조가 되어야 하고 코스닥까지 하면 774.4조가 들어가서 4869.2조이고 이것은 m3의 84%입니다. 우리나라 사람들의 금융자산의 84%를 주식으로 들고 있으면 되어요^^.

한국인만으로는 달성 불가능할 거에요. 외국인 자본을 얼마나 들어올까? 하는 것인데 이러한 부분은 결국 우리나라 정부가 외국에서 세일즈도 해야 할 것 같아요.

저는 그나마 아직 인출하지 않거나 인출하더라도 배당금 내에서만 인출할 계획이고 배당보다 수수료 세금이 적은 투자자이긴 한데, 그러므로 5000포인트 가는데 도움이 되는 투자자일 거에요. 그러나 앞으로 잘될 것 같은 생각이 들진 않네요.

기업 거버넌스 개선되는 것에 만족해야 할 것으로 생각되어요. 기업 거버넌스 개선만 해도 잘한 거라고 보고 있어요. 너무 5000포인트에 집착해서 정책을 하진 않았으면 하네요.

참고로 정부가 거래세 인상을 다시 생각한다고 하던데, 이번 정부 전에 금투세하려고 한것을 민주당이 야당시절 포기해서 시행은 안하고 거래세만 인하된 것이지요. 그 전에는 거래세 인하하면서 금투세 도입이었거든요. 금투세가 생기고 거래세를 줄이면 소액투자자들은 과세가 줄고 부자증세가 될거에요. 대주주 조건 약화는 부자증세에 위반되진 않고요. 거래세는 그냥 두고 금투세를 도입하는 방안도 생각해주시면 좋겠어요. 부자증세를 하려면 이것이 더 맞고요. 여기는 비트코인등의 가상자산도 포함되어야 할 것 같고요.

-----------------------------------------------------

1) trading economics 참조

2) trading economics 참조

어제 완독을 하고 《다크패턴》이 분량이 작은 책이라서 오늘 새벽에 일어나서 읽으면 별무리 없이 완독할 수 있지만, 《감시자본주의 시대》를 오늘 읽기로 했어요. 《다크패턴》은 다음 기회에 읽겠지만 아무래도 이렇게 읽는 것이 더 효율적일 것이라 생각되네요. 볼륨이 큰 책이라서 주말에 읽어야 될 것 같기도 하고요.

오늘 오전에 할일이 있어서 오후에 블로그내 다른 활동을 할 수 있을 것 같네요. 지난주도 이러다가 오후에 책리뷰도 작성못했는데 그냥 이렇게 하루가 지나갈수도 있어요^^.

주식레벨   +458.4 exp   누적 166563.5 exp   Lv. 129 → 130

위선의 소비쿠폰 인권감수성

복지 정책에 대해서는 재분배 정책에 대해서 어떻게 해야 한다는 것은 사람들마다 다를 수 있어요. 저도 부자증세를 통한 기본소득에 반대하지는 않아요. 부자증세 없이 하면 일부 누진세가 있긴 하지만 우리가 세금내고 그걸 다시 받는다면 세금 감면이 차라리 더 좋지 않나요? 정도이니까요. 단지 기본소득을 하면 복지 사각지대는 없어요. 근데 그 재원이 부자증세여야 한다는 것이 제 생각이에요. 국가 부채 증가는 현재세대가 혜택을 보고 미래세대가 갚아야 하는 것 뿐이니까요.

단지, 투표를 앞두고 실시하는 기본소득은 매표행위로 보일 수 있으니 투표 기간 앞에 실시하지 않는 기본소득에 대해서 찬성이에요^^.

복지 정책같은 재분배 정책이 국가 정책중에서 난이도가 가장 높은 정책이에요. 쉬운 정책이 아님은 분명하지요. 그런데 저는 오늘 여기는 기본적인 부분만 언급하고 제가 말하고 싶은 것은 인권 감수성이에요.

즉, 저도 지류로 받을려고 다다음주 정도에 주민센터를 방문할 생각이지만, 아마도 카드로 받을 것 같긴 하네요. 개인정보보호를 위해서 지류로 받고 싶었거든요. 근데 대부분 카드로 준다고 하는데, 카드라도 큰 차이는 없어요. 쓸 때는 카드가 조금 더 편한 것은 사실이지요.

단지 지금 문제가 되는 것은 카드를 다르게 제작함으로써 재산상태나 재무상태를 노출한 것으로 인권감수성 이야기가 나왔어요. 그런데 이번 정부 정말 인권감수성을 가지고 있긴 한가요? 라는 주제에요.

제가 사생활 보호에 대해서 더 민감한 것은 아마도 저의 mbti가 INTP이고 I가 90% 이상이여서 그렇지 않을까? 라는 생각도 해봅니다. I의 내향형의 사람들은 자신의 사생활 공개가 싫은 분들이 많을 거에요. 즉 50%의 사람정도는 사생활 정보 공개에 대해서 매우 민감할 수 있겠지요. 또한 사생활 정보 공개가 범죄와도 연결되고 개인의 정보라고 해서 중요하지 않은 정보만 있는 것은 아니에요. 개인의 연구자료등 중요한 정보들도 있기 때문에 이런 정보를 탈취당하는 문제도 있어요.

그런데 이런 사생활 보호가 가장 안되는 분야가 어디일까요? AI 분야에요. 우리 개인정보를 마구 수집해서 기업 마음대로 사용하겠다는 것이 AI 분야잖아요. 심지어 마이데이터 법과 개인정보보호법이 연결되면 매우 심각해져요. 마이 데이터 법은 우리 데이터를 기업이 마음대로 열람할 수 있게 해주어요. 개인정보보호법에서 비식별 데이터는 동의없이 수집, 활용, 판매가 가능한데 비식별 데이터를 식별 데이터로 바꾸는 재식별화 기술이 있거든요. 현재 개인정보보호법에서 비식별 데이터로 식별되면 즉시 삭제하도록 되어 있지만, 국내를 벗어나면 이런 규제를 벗어날 수 있어요. 그런데 동의없이 판매가 가능하잖아요. 마이데이터법으로 다양한 기업에 나누어서 보관한 내 정보(이건 국가가 보호하지 않는 개인정보보호를 위해서 각 소비자가 스스로 해야 해요. 신용카드 정보는 현대 카드, 은행 정보는 우리 은행, 자동차는 현대차, sns는 유투브 같이 정보를 모두 나눠서 보관하는 거에요. 데이터가 결합하면 위험도는 더 높아져요)를 모두 모아서 비식별화 한다음 동의없이 수집해서 외국으로 동의없는 판매를 통한 데이터가 나가버리고 재식별화되면 매우 심각해져요. 그걸 우리가 통제할 수 없어요. 우리가 우리데이터를 지울 수 있는 권리도 없고 통제할 수 없는 범위가 너무 넓어요. 우리나라의 사생활 보호는 국가가 보호해주지 않는 범위입니다. 개인정보가 우리것임이 분명한데 우리에게 통제권이 없다는 것은 우리의 권리가 정부를 통해서 기업에게 팔린거에요.

이런 데이터를 AI를 통해서 사생활 침해를 하고, 그렇게 수집된 데이터를 짜깁기해서 판매하고 이러한 부분에 이득이 있으니가 각종 기업들이 AI를 하려는 거에요. AI가 수익을 낸다는 것은 우리의 것을 훔쳐서 몰래 판다는 의미입니다. 게다가 이런 부분을 정부가 주도해서 해야 한다는 이번 정부가 인권 감수성을 이야기하는 것은 모순적이고 위선적이이에요.

AI를 한다고 하고, 개인정보보호를 위한 제도는 전혀 갖추지 않고 기업이 마음대로 데이터를 사용하라는 듯한 제도를 갖추어놓고서는 인권 감수성을 이야기하는 이번 정부의 태도는 마음에 들진 않네요.

기업에겐 한없이 너그럽게 우리의 인권을 팔아넘기고 공무원만 탓하는 정부. 정작 이번 정부가 갖추어야 하는 것은 인권 감수성 그 자체의 윤리의식이에요. 그렇지 않다면 'Big Brother is wathcing you' 가 실현 될 거에요.

우리는 우리의 권리를 기업이나 제 3자에게 줄 생각이나 정부의 생각에 의해서 포기할 생각이 없어요! 우리의 권리를 특정 산업을 위해서 기업에게 넘기거나 포기시켜서는 안되어요. 인권 감수성이 실제로 있다면 AI 산업 포기와 개인정보보호법 개정, 마이데이터법, 데이터 3법등의 폐지를 실제 보여야 할 것입니다. 또한 특히 AI 사업은 될 것도 없고 가능성도 없는 사업으로 보이기도 하고요. 그럼에도 이런 문제점을 전혀 언급없는 이 정부도 매우 이상하긴 하여요. 현재서로는 이 정부는 매우 위선적이다라고 느껴지네요. 이런 부분에 인권감수성이 없어서 반성한다도 아니고 개인정보에 대해서 인권임을 분명히 인지함에도 잘못된 제도 정비도 하지 않으려고 하고 AI를 밀고 있는 이중적 태도는 뭔가 문제가 있어요. 이번정부는 모순적인 부분이 초반에 많이 발생하고 있어요. 주식과 AI분야. 공무원에 대한 탈관료제등 많은 부분에서 모순이 발생하는 것 같아요. 다른 정부랑 다른 모습을 보여주고 싶은 것 같고 그래서 여러가지 이벤트(=사건의 의미)가 생기는데 그런 이벤트에 학문적 원칙을 계속해서 지키지 않아요. 그러나 그 원칙들이 일정한 학문적 근거를 가지고 지금까지 다른 정부에서 해온것을 다르게 하면 당연히 이상해 보일 뿐이고, 또한 주식 같은 경우는 저평가 개선이 아니라 테마주들의 주가 상승만 하여 지수가 끌어올려지는, 즉 정책의 기본 목표인 저평가 개선없이 부작용인 테마주와 투기성 거래만 활성화되는등 정책 실효성이 없거나 하는 일이 발생하는 것 같아요. 물론 주식에 대해서는 좀 더 지켜봐야 합니다. 현재는 코스닥 주식들의 방향과 미래에 순환매로 다른 저평가 주식들의 상승이 되는지 폭락이 되면서 저평가 주식이 더 저평가 되는지 살펴보면 답이 나올 것 같아요. 단지 지금은 저평가 주식이 상승한 것은 아니므로 아직 실효성은 없는 것 같아요.

어제는 평생투자자를 완독했습니다. 특정 투자자의 투자 철학을 보는 정도인데, 저와 다른 투자방식일 뿐만 아니라, 사외이사에 자기 가족을 넣는 등, 투자자들이 극히 싫어하는 것을 했더라고요. 사외이사에 가족이나 친척있는 회사는 투자하지 말라는 말이 있기도 하고요. 물론 행동주의 펀드도 필요하고 자사주 매입은 자기회사가 저평가일때는 찬성하지만, 그렇지 않을 때는 배당지급이 더 좋아하는 편이기도 하고요. 자사주 매입은 안해도 되어요. 소각하는 경우도 적은 편이고요. 심지어 자사주 매입을 발표하고 자사주 매입이 아니라 자사주 매각을 한 기업도 있어요. 이해가 안되는 것은 아니에요. 자사주 매입을 하려했는데 주가가 올라가서 비싸져서 그 자본으로 다른 사업을 하면 더 수익을 올릴수 있다면 자사주 매입을 발표해도 매입안해도 이해하여요. 그런데 자사주 매입하기로 해놓고서 자사주 매각은 좀...그럴때는 너무 단기간에 급등해서 자사주 매입을 못하는 것도 이해하고 그럴때 자사주 매각이 회사를 위하는 일인것은 저도 이해하는데, 자사주 매입에 대해서 취소를 공시해서 훗날 저평가 될때 다시 자사주 매입을 검토하겠다고 하고 자사주 매각을 하는 것이 맞겠지요. 그래서 자사주 매입보다 배당을 더 좋아하는 편이긴 한데, 자사주 매입을 무조건 해서는 안된다는 것은 아니에요^^. 자사주 매입보다 배당을 더 좋아한다고 작성했는데, 그것에 대해서 기회가 있을 때 자세히 작성해 보려고 했었거든요^^. 이 책에 대해서 작성할때가 적당한 것 같아서요.

투자에서 ROE를 중심적으로 보느냐? ROA를 중심적으로 보느냐? 에 따라서 시각이 완전히 다를 수 있다고 느껴지긴 하네요. ROIC이나 ROCE를 보는 사람들도 시각이 완전히 다르더라고요. 저는 ROA를 보는데, 무엇을 보느냐로 시각이 바뀐다고 보기보다는 자신이 회사는 어떠어떠해야 한다라고 생각하는 것에 맞추어서 이 중 선택을 하거나 새로운 지표를 만들어지게 된다고 생각되네요. ROA가 맞는 사람들에게는 《평생투자자》의 내용에 완전히 동의하진 못할 것 같아요^^. ROCE를 보는 투자자의 투자철학을 볼 수 있었던 《퀄리티 투자, 그 증명의 기록》책과 같이 왠지 읽으면서 이건 내 생각과 다른데라고 느껴지는 부분들이 결국 ROA, ROE, ROIC, ROCE중 어떠한 것이 더 중요한지에 대해서 투자자의 생각이 다른 것으로 차이가 나는 것 같네요. 역시 제가 ROA를 보는 벤자민 그레이엄을 좋아하는 이유도 여기에 있나봐요^^.

오늘 오전에 어제 작성하던 책리뷰를 완성시킬려고 했는데 오늘은 오전에 바빠서 포스팅 하나만 작성합니다.

그림 내 폰트 출처: 고양체

주식레벨: +379 exp   누적 166105.1 exp   Lv. 129