● AI는 편향을 가지고 있다. 뉴스읽기 8월 20일
뉴스주소: https://www.msn.com/ko-kr/money/%EC%9D%BC%EB%B0%98/ai%EA%B0%80-%EA%B3%A0%EB%A5%B8-%EA%B0%90%EC%9B%90-%EB%8C%80%EC%83%81-86-%EA%B0%80-%EC%97%AC%EC%84%B1-%EC%B6%9C%EC%82%B0%ED%9C%B4%EA%B0%80-%EC%8D%BC%EB%8D%94%EB%8B%88-%EC%9E%98%EB%A0%B8%EB%8B%A4/ar-AA2arzzK?ocid=socialshare
뉴스제목: AI가 고른 감원 대상 86%가 여성...출산휴가 썼더니 짤렸다.
AI의 원리는 데이터에 벡터값을 주고, 그 벡터값이 비슷하거나 같은 벡터값으로 치환하는 것이 원리에요. 그런데 벡터값이 데이터가 주어지는 과정이, 개발자가 하거나 자동으로 하더라도 이 데이터 값이 주어지는 과정에서 개발자가 가진 편향이 AI에 그대로 이전되는 문제도 있고, 그 후 결과값을 도출할때도 AI가 가진 데이터가 편향되어도 편향된 결과가 나와요. 여러가지 이유로 편향된 데이터가 나오는데, 개발자의 편향도 중요한 이유이고 이것을 제거할수가 없어요. 그래서 이뉴스의 결론은 여성 개발자등을 늘려야 한다 등이긴 한데, 그렇다고 해서 편향문제가 해결되는 것은 아니에요. 다양한 이유가 적용되거든요. 우리가 모르는 문제일수도 있어요. 단지, 개발자의 편향은 IBM 사이트에서 나온 편향에서 없었는데 이 뉴스는 그것을 말했다는 것. 직접적으로 말하진 않았지만 언급했다는 것이 중요한 거에요. 제가 IBM사이트의 편향을 이야기할때 그 밖에도 많은 편향의 조건이 있다고 했고, 개발자의 편향이 적용된다는 것은 다른 뉴스의 뉴스 읽기를 할때 언급했는데, 이렇게 뉴스로도 나왔어요.
결국 여성 차별이 AI의 편향으로 나왔다는 결론이에요. 문제는 이런 차별에 대해서 항의를 해야 하는데 이것을 AI의 답이라고 말해버리면 꽤 난처하다는 거에요. AI를 쓰는 이유가 차별을 정당화 하는 과정으로 쓰일 수 있다는 것입니다. 당신이 여성이 아닐수도 있어요. 여기서는 여성이지만, 당신이 또 다른 이유로 AI로 차별당할수도 있어요. AI를 쓰는 회사를 피해야 하는 이유에요. AI는 결과값도 AI회사가 개입해서 잘못된 값을 제시할 수 있다는 것도 알아야 해요.
AI의 값은 참고도 하지 말고, 오답가능성에 대해서 높게 생각해야 되어요. 가치 문제에 대해서는 ai를 사용할 필요가 없어요. 또한 AI 값이 해고의 원인이 된다거나 하는 것을 훗날 사법부가 인정해서도 안된다고 생각하여요. 이것은 차별을 정당화하는 이유가 될 거에요. 부당해고에 AI 답을 근거로 해고한 경우를 포함해야 된다고 생각하여요.
또한 뉴스에서 절반 이상이 AI에 부해서 부정적으로 생각한다는 거에요. 긍정적이 40% 부근인데, 여기에서 현재는 AI가 능력이 부족해도 미래에는 괜찮아질 것이다라고 생각하는 비율이 있어서 AI에 대해서 현재 제품에 불만이거나 미래에도 부정적인 사람의 비율이 매우 높을 거에요. 최근 나오는 뉴스에서 사람들이 AI에 대해서 긍정적으로 바라보는 듯이 나오는 뉴스들은 대부분 과장되었을 가능성이 높을 거에요.
● 모두의 AI 정부 정책은 헌법 위반 아닌가요? (정부 정책에 관한 일상)
지금까지 AI에 관한 뉴스에서 우리들이 알게 된 사실들이 많을 거에요. ① 개인정보 사생활 정보, 기업의 영업비밀들이 유출됨을 알수 있어요. ② AI의 오답이 많다는 것을 알게 되었어요. ③ 편향도 존재한다는 것을 알게 되었어요.
우리는 헌법 17조에서 모든 국민은 사생활과 비밀의 자유를 침해 받지 아니한다. 헌법 18조에서 모든 국민은 통신의 자유를 침해 받지 아니한다. 라고 되어 있어요.
문제는 AI사용시 ①의 내용과 문제가 있다는 거에요.
즉, 모두의 AI는 국민을 사찰하기 위한 도구가 아니냐? 하는 거에요. 모두의 AI가 사용자가 사용하는 내용이나 그 밖의 국민들이 통신이나 사생활 등에서 수집한 정보로 답을 주는 경우 이것이 헌법 위반 아닐까? 하는 거에요. 게다가 모두의 AI가 선정되고 서비스할때 사용자들의 사생활 정보를 수집한다면 이것 역시 문제가 되는 것 아닐까요? 그런데 이걸 사기업도 아닌 정부가 주도했다는 거에요. 그럼 정부에 의한 국민 사찰이고, 만약 이렇다면 탄핵이 가능한 조건 아닌가요?
제가 법률에 대해서는 잘 몰라요. 그런데, 제가 AI를 사용하지 않는 것은 답도 오답이 많지만, 요즘은 그냥 돌아다니다 보면 그냥 AI답을 자동 출력하는 경우가 많아서 보면 아직도 오답투성이라는 것은 쉽게 확인되지만요. 그것에 더해서 사생활 보호에도 문제가 있다는 거에요. 헌법 위반인지 아닌지? 에 대해서 법률 전문가의 견해가 필요하다고 보이며, 모두의 AI에 선정된 사업에 대해서, 국민의 사생활 정보를 이용했는지? 미래에 수집하게 되는지? 등에 대해서 조사해야 된다고 보이네요. 만약 여기에 대해 법률적 문제가 있다면 정부는 책임을 져야 해요. 저는 이정도면 문제가 있어 보이긴 하네요. 근데 법률에도 문제가 되는것인지는 잘 모르겠어요. 그러나 이런 정보를 정부가 특별한 이유없이 수집해서는 안되어요.
어쨌든 저는 모두의 AI를 쓰지 않을 것인데, 이거 선정되면 훗날 이런 문제가 밝혀졌을때 그 기업도 똑같이 문제가 될 수 있을지도~? 라는 생각도 드네요.
● 책의 완독 목표는 얼마 남지 않은 것 같네요. (독서와 게임에 대한 일상)
책의 완독 목표는 하루에 한권씩 일으면서 곧 완독 목표를 채우 울 것으로 보여요. 그래서 다시 게임리뷰 준비도 조금씩 하려고 하고 있어요. 이것은 하루에 한권씩 완독 목표를 채울때까지는 계속 읽을 것이고, 하루에 2권에 도전하기 보다는 게임리뷰 준비를 남은 시간에는 해 볼까? 하고 있어요. 그렇다고 게임리뷰 준비에 많은 시간을 쓰는 것은 아니겠지만요. 이것은 평소에도 이렇게 하였어요.
완독 목표에 도달하지는 아직 않았지만, 곧 도달할 것으로 보고 평소대로의 생활 패턴으로 돌아감을 이야기하는 거에요.
어제부터 원래대로 돌아가려고 했는데 어제는 좀 바빠서 게임리뷰 준비를 할 시간이 없었어요^^.
그림 내 폰트 출처: 고양체
