● ai 사용경험은 부정적인 것으로 보여요. 뉴스읽기 8월 25일
뉴스주소: https://www.msn.com/ko-kr/%EA%B8%B0%EC%88%A0/%EC%9D%B8%EA%B3%B5-%EC%A7%80%EB%8A%A5/ai-%EB%8B%B5-%EA%B7%B8%EB%8C%80%EB%A1%9C-%EB%AF%BF%EC%A7%80-%EB%A7%90%EA%B3%A0-%EB%82%A8%EC%9D%98-%EC%82%AC%EC%A7%84-%ED%95%A8%EB%B6%80%EB%A1%9C-%EB%84%A3%EC%A7%80-%EB%A7%88%EB%9D%BC-%EC%A0%95%EB%B6%80-ai-%EC%9C%A4%EB%A6%AC%EC%9B%90%EC%B9%99-%EC%A0%9C%EC%A0%95/ar-AA2aN572?ocid=socialshare
뉴스제목: AI 답 그대로 믿지 말고, 남의 사진 함부러 넣지 마라...정부 AI 윤리원칙 재정
이번 정부가 너무 AI회사를 위한 정책을 해서 걱정했는데, 어느정도는 국민의 권리를 위한 윤리원칙이 나왔어요. AI의 답은 조심해야 되어요. 《실리콘밸리 길들이기》라는 책에서도 말하듯이 미국 의사들에게 AI답으로 건강관리를 했을 경우 올바른가?를 설문조사 하였는데, 미국 의사들이 그중 상당한 답을 오히려 건강을 나쁘게 만드는 답이라고 하였어요. 《AI에게 건강을 맡겨도 될까요?》라는 책에서는 AI에게 걱정을 털어놓은 사람에게 자살을 유도한 답을 내어놓은 사례도 있어요. AI는 오답자판기 수준이므로(물론 이제는 대부분 사용해본 경험으로 아시겠지만요) 답을 그대로 신뢰해서는 곤란해요.
또한 AI기업들이 사용자의 사생활정보등을 수집한다는 것도 문제이기도 하여요. 기업이 사용할 경우 영업비밀등이 AI기업에게 수집될 수 있어요. 이러한 문제도 문제에요.
이런 부분에 대해서 어느정도는 정부가 인식하고 있다는 것을 알 수 있는 조치라고 생각되네요. 특히 다른 사람의 사진을 사용하면 안된다는 것은, 생각해보면 본인의 사진도 넣으면 안된다는 것을 의미하는데, 사생활 정보가 사생활 정보를 생성한 개인이 주인이므로 개인이 다른 사람에게 사용을 허가할지 아닐지를 결정하니까요. 하지만 AI회사가 사생활 정보를 수집한다는 것을 모르고 비밀을 털어놓는다든지, 혹은 사진을 넣어버리면 곤란한 일이 발생할 수 있어요. 여기서 비밀은 범죄사실을 말하는 것이 아니라 일반적인 비밀 전체에요^^.(즉 수사를 위해서 영장을 받고 수사하는 비밀유지 및 사생활의 일부 내용이 아니라 보편적인 사생활 전체를 수집하는 것은 국민사찰이고 문제가 있다라는 거에요. ai사용 역시 사생활 전체라고 볼 수 있어요.) AI회사들이 떳떳하다면 사생활 정보를 밝혀도 되지 않느냐? 라고 예전에 했는데, AI회사 경영진의 하루 일과와 한말들을 모두 공개해도 괜찮지 않느냐? 라고 반박 할 수 있어요. 그들은 절대 안할 거에요. 개인정보 및 데이터는 생성자가 주인이고 수집자가 주인일 수 없어요. 수집했다고 마구 공개하고 사용해서는 안된다는 것은 누구나 알 수 있어요. 하지만 정부로서는 그것을 어디까지 허용할지에 대해서는 데이터 생성자에게 있으니 자신의 사진에 대해서는 어떻게 말할수는 없겠지요. 그래서 이 조치는 완벽하지는 않아요. AI기업이 사용자의 데이터를 수집하지 않고, 사용할 데이터에 대해서 정당한 조건을 만족한 데이터만 쓰도록 하기도 해야 하지만, 일단 정부가 이런 문제에 대해서 기업편을 든 것이 아니라 문제를 인식하고 있다는 것에 대해서만으로도 일단은 한단계 발전한 상황이라고 볼 수 있어요. 물론 최종단계는 국회에서 문제가 되는 것을 입법하는 것이 최선이겠지만, 이런 단계는 AI의 겨울이 와야 가능할 것 같아요. 또한 우리나라는 퍼스트 무버보다는 패스트 팔로워 입장이라서 EU등이 입법하면 따라갈 것 같네요. EU는 AI에 대해서 강하게 규제해야 된다는 입장인데, 다시 AI의 겨울이 오면 다시 규제를 만들어 나갈 것으로 보여요. 지금은 미국이 AI를 밀고 있고 AI의 겨울이 아니여서 소비자의 눈치를 조금 보면서 속도를 조절하고 있지만, AI에 대해서 규제를 그만두지는 않을 것으로 보여요. 그리고 AI가 민주주의에 큰 위협이 되고 있으므로(독재국가들이 AI에 의존해서 권력을 유지하려 하고 있어요) 아마도 대부분의 민주주의 국가에서는 EU의 규제와 비슷하게 입법할 것으로 보여요. AI는 독재국가들만의 유산으로 남을 것 같네요. 독재국가들은 AI를 절대 포기하지 않을 거에요.
현재는 인공지능에서 가장 중요한 문제는 p=np 인가? 문제가 수학으로 증명되진 않았어요. p≠np로 증명되면 현재 디지털 환경에서 ai는 되지 않아요.(물론 이것도 ai의 지능에 대한 정의에 대한 문제가 남아 있어요) 그런데 이 증명이 아직 결과가 안나왔다고 하더라도 더 쉬운 수학증명에서는 지속적으로 ai가 안되는 결과가 나오고 있어요. 그건 모든 ai의 속성이 아니라 ai의 일부 속성에 관한 것이지만 ai의 결함이 될만한 것들이 지속적으로 증명되고 있어요. 그렇기에 p≠np로 증명될 것 같은 느낌이긴 하여요. 여긴 제 능력으로 안되어서^^, 앞으로의 수학자들이 증명을 발견하면 알게 될거에요.
뉴스주소: https://www.msn.com/ko-kr/%EA%B8%B0%EC%88%A0/%EC%9D%B8%EA%B3%B5-%EC%A7%80%EB%8A%A5/%EC%9D%BC%EC%83%81%ED%99%94%EA%B0%80-%EB%82%B3%EC%9D%80-%ED%94%BC%EB%A1%9C%EA%B0%90-ai-%EA%B1%B0%EB%B6%80%ED%95%98%EB%8A%94-%EC%B2%AD%EB%85%84%EB%93%A4/ar-AA2aNA6Y?ocid=socialshare
뉴스제목: 일상화가 낳은 피로감, AI 거부하는 청년들
AI 사용률은 아직도 51%로 매우 높은 편이에요. 하지만 주 1회 이상 사용자들의 AI에 대한 부정률은 높아지고 긍정률은 낮아지는 현상이 이어지고 있어요. 긍정보다도 부정의 비율이 더 높아지고 있기도 하여요.
주 1회 이상 사용자는 저도 포함될 거에요. 저는 AI를 의도적으로는 피하고 있는 사용자에요. 그럼에도 검색결과나 여러 사이트를 돌아다니다 보면 AI답을 자동으로 보여주는 경우가 많아요. 1주일 인터넷을 쓰다보면 AI답을 안보고 싶어도 피할수가 없는 걸요. 또한 회사에서 강제로 쓰게 하는 경우도 있을 거에요. 그리고 20~30대라면 숨어있는 AI기술도 찾아낼 수 있겠지요. 넷플릭스만 사용해도 자동추천 기능에 노출되고 유투브만 사용해도 개인맞춤기술이 적용되므로 유투브를 쓰고 넷플릭스 보는 사람들은 거의 매일 AI기술이 적용받아요. 물론 넷플릭스의 자동추천은 저에게는 너무 틀려서, 직접 검색하는 방법좀 강화해 주세요~! 라고 하고 싶어요. 이름을 정확히 모르는 영화는 찾기가 너무 힘들어요. 특정 장르로 검색하면 몇십개 보여주고 더 이상 안나오니까요. 유투브는 거의 안맞아요. 100개쯤 추천하는데 보고 싶은 것은 많아도 2~3개이고 이러면 2~3% 정답률이에요.
게다가 AI의 답을 받아도 오답률이 너무 높아요. 자신이 아는 것을 검색하면 오답률이 얼마나 높은지 쉽게 알 수 있어요.
AI가 세상을 바꾸기에는 너무 기능이 저조해요. 문제는 데이터를 치환하는 정도의 기술로 지능이라고 하기도 어렵고요. 여기에서 데이터 수집도 정상적이지 않아요. 사람들이 초반에는 소설등에 봤던 AI를 생각하고 망상에 빠질 수 있더라도 이런 상황이 지속되기에는 지금 AI 기술은 너무 엉망이에요. 아마 빠르게 사람들이 이탈하는 시기가 오면서 챗GPT로 불리는 지금 시기의 AI가 인공지능 스피커처럼 잊혀지는 날이 올 것 같아요.
AI 기술이 제대로 되려면 데이터에서 치환하는 수준에서 벗어나야 하고 이런 AI기술은 하드웨어 발전이 필요한데 바둑에서만 60~100년의 시간이 더 필요하다고 하여요. 지금 속도로 컴퓨터 같은 하드웨어가 발전한다면요. 하지만 다른 문제들은 더 많은 연산량이 필요하여요. 즉, 바둑이 된 뒤에도 훨씬 더 오랜 하드웨어 발전 속도가 필요한 거에요. 만약 AI가 되더라도 우리 세대가 AI의 기술에 영향을 받을 확률은 거의 없어요.
● 오늘도 《투자의 진화》를 읽게 될 것 같아요. (독서에 관한 일상)
벤처 캐피탈 자본에 대해서 작성한 《투자의 진화》는 어제 읽은 부분 뒤에 투자하고 실패한 사례도 나왔기에 생존 편향으로 작성한 책은 아니었어요^^.
이 책은 벤처 캐피탈 자본이 어떻게 변화해 왔는지 역사를 알 수 있더라고요. 벤처 캐피탈 자본이 어떻게 비상장 기업을 돕고 수익을 내는지에 대해서 시간이 지나면서 다양한게 변화해 왔다는 것을 알 수 있었어요.
단지 제가 소프트뱅크에 대해서 오해했던 것에 대해서 하나 있었네요. 중국의 마윈의 알리바바라는 기업에 대해서는 최초 투자자가 소프트뱅크가 아니었네요.
단지 소프트뱅크의 벤처 투자 방식에 대해서 역방향으로 발생해서 오히려 비상장 기업에 투자만 하고 아무런 개입을 하지 않는 방법으로 투자하는 벤처 캐피탈이 생겼다고 하기도 하더라고요.
그러나 재무상황에 대해서 신경쓰지 않고, 단순히 수익을 흥청망청 써버린 아타리 초기의 상황이나 우버의 크레비스 캘러릭 시대의 우버가 규제조차 지키지 않고, 각종 사회문제를 만들던 시대라도 해도 크레비스 캘러릭을 해고하거나 다른 CEO를 앞에 세울 것인지에 대해서 반대하는 펀드도 있더라고요. 우버의 경우에는 그 시대가 너무 강렬해서 아직도 투자하기 꺼려지는 기업이기도 하여요. 크레비스 캘러릭이 떠나고 나서 우버는 비정상적이지는 않아요.
이 과정에서 각종 사회문제를 만들고 해야 할 의무를 안했으므로 우버는 쉽게 발전하기는 하였으나 이런 기업이 기업의 순기능으로 작동한 것이 아니며 다른 기업과 다른 혜택을 받았다고 생각되긴 하여요. 그런데 이런 CEO를 유지해야 할까? 라는 생각이 드네요.
시대가 바뀌는 것은 소프트웨어 산업이 발전하면서 창업자가 기술을 보유했을시 다른 하드웨어 산업보다 소프트웨어 산업은 개발비가 적게 든다는 것이 있어요. 물론 창업자의 노력에 대해서 인건비를 0원으로 계산한다는 것이 있겠지만요. 그래서 벤처 캐피탈 중심에서 창업자 중심으로 옮겨가면서 그런 시대가 왔다라는 책의 설명도 있지만 이 과정에서 CEO로 적합하지 않은 인물이 CEO가 되면서 괴팍한 경영이 인기를 얻기도 한 것 같아요. 게다가 그런 기업은 규제를 안지키기 때문에 초기에 수익을 내서 살아남기도 쉬웠기도 할 거에요. 이런 과정은 극단적 행동주의 신념이 발생하기도 한 이유인것 같아요. 그러나 살아남지 말아야 했던 기업이 살아남은 사례가 된 것 같아서 조금 씁쓸한 것 같기도 하여요.
그러나 과거의 실수를 고친 기업에 대해서 지속적으로 문제를 제기하는 것은 앞으로 실수를 고쳐갈 기업들에 대해서 부정적 영향을 줄 것 같긴 하네요. 하지만 이런 문제가 있었다는 것도 기록에 남겨야 반복도 피할 수 있으니까요.
그러나 아직은 좀 이상한 부분도 많이 남아 있어요. 예를 들어서 구글의 사례에서 구글 창업자가 투자자가 스스로 권리를 줄여야 한다고 하면서 클래스 A와 클래스 B주식을 만든 것. 현재는 클래스 A와 클래스 B, C로 3종류이며 클래스 B는 비상장이에요. 이런 잘못된 부분은 고쳐지지 않고 있어요. 잘못된 투자가 결국 벤처 투자자의 수익까지는 만들었지만 전반적인 사회에 나쁜 결과로 이어지는 사례도 없진 않은 것 같아요. 그런 부분이 책에서 발견되고 있네요. 구글은 클래스 B를 상장하지 않는한 구글 주식을 사진 않을 거에요^^. 투자자의 권리를 보장하지 않는다면, 투자하기 어려움이 있네요. 책에서는 이 밖의 다른 이유도 하나 더 말했는데, 여긴 저자가 잘못 알고 작성하였어요. 구글은 개인정보를 수집중인데 창업자가 이러한 잘못을 저질렀고 투자자들이 이것을 바로잡기 위해서 의결권을 보장하라는 주장에 대해서 저자는 잘못된 근거로 구글이 공격받았다고 했어요. 그러나 그 부분은 구글도 개인정보 수집을 인정하는 맞는 내용이에요. 모든 구글과 유사한 기업들을 알수 없지만, 이런 기업 형태에 대해서는 아마도 미래에도 투자하지 않을 것 같아요. 이런 기업 형태가 생긴것은 미디어 기업이 투자자에 의해서 기사의 내용등이 흔들리지 않게 하기 위해서 생겼다고 하더라고요.
책은 1/3정도 남았는데 오늘 중에 다 읽을 것 같아요. 책 완독에 실패해서 포스팅은 하나만 쓸거에요^^.
그림 내 폰트 출처: 고양체
