● AI는 여러분을 감시하는 도구입니다. AI에게 비밀이나 영업비밀등을 사용하지 마세요. 뉴스 읽기 8월 16일
뉴스주소: https://www.msn.com/ko-kr/news/other/%EC%B1%97gpt%EC%97%90-%EC%A0%84%EC%97%AC%EC%B9%9C-%EC%82%B4%ED%95%B4%EA%B3%84%ED%9A%8D-%ED%84%B8%EC%96%B4%EB%85%BC-%E7%BE%8E%EB%82%A8%EC%84%B1-%EC%98%A4%ED%94%88ai-%EC%8B%A0%EA%B3%A0%EB%A1%9C-%EC%B2%B4%ED%8F%AC/ar-AA2a8YeV?ocid=socialshare
뉴스제목: 챗GPT에 '전여친 살해계획' 털어논 美 남성, 오픈 AI 신고로 체포
일단 스토킹은 범죄이고 처벌 받아야 하여요. 물론 이 부분은 분명하게 AI에게 사용한 부분이 증거로서 인정받을 수 있는가? 하는 부분. 즉 AI회사가 몰래 수집했으므로 증거로서 인정받을 수 있는가도 따져 봐야 하는 문제로 보이긴 하네요.
그러나 이 모든 부분을 빼고 스토킹 범죄가 얼마나 위험하고 나쁜 범죄인지도 빼고, 우리는 다른 부분에 초점을 맞추어 보기로 해봐요.
문제는 명백하게 AI가 우리의 데이터를 수집하고 활용하고 있다는 것을 이 문제는 제기합니다. 심지어 우리를 맞지도 않는 AI로 판단하고 있다는 거에요. 이들이 AI사용자들의 데이터를 수집하지 않았다면 이런 범죄를 찾을 수 없다는 거에요. AI는 감시라는 것의 명백한 증거에요. 또한 우리가 AI를 사용한 이력을 모두 AI회사가 가지고 있다는 증거이기도 하여요. 우리가 이 이력을 삭제할수도 없다는 것이 분명하고요.
AI에 비밀이나 영업비밀을 작성하는 것이 얼마나 위험한지 아시겠어요? 심지어 당신을 정상적으로 평가하지 않고 단순히 AI 사용패턴으로 당신을 판단하면 매우 비정상적으로 판단될 거에요.
AI는 사용하지 않는 것이 이익이에요. 당신의 사생활 정보를 기업에게 가져다 받치고 감시당하고도 얻는 것이라고는 오답 뿐이에요. 의료에서 사망사고, 휴머노이드에서 사망사고, 자율주행에서 사망사고, 그림에서 손 4개, 손가락 6개. 심지어 미국의 사람의사들이 평가한 AI의 의료 답안중에서 건강을 더 나쁘게 만드는 답안 출력 비율이 매우 높다는 결론도 받았어요.
그런데 이런 AI로 논술 답안을 채점하면 미래에 논술 답안지도 AI회사들은 수집할 거에요. 그들은 이 답안지로 뭘할까요? 우리의 개인정보를 국가가 마음대로 AI 회사에게 넘겨서는 안되는 거에요. 그들이 범죄 신고에만 사용한다고 믿는 것은 너무 순진한 생각 아닐까요?
이번 정부는 AI의 문제점에 대해서 너무 모르고 있고, AI에 대해서 지나친 낙관주의를 보이고 있어요. 여기에서 많은 정책 오류가 있어요. 논술 AI 채점은 과거의 응시자, 현재의 응시자, 미래의 응시자에게 모두 사생활 보호에서 위험한 문제를 일으킬 거에요. 미래의 채점시에 들어가는 답안지도 수집될 것이 분명하니까요. 이 뉴스처럼 사용자의 정보는 기업이 수집하여요.
우리가 AI를 사용하고 싶지 않다고 해도 정부가 이렇게 채점해버리면 우리의 선택지가 사라져요. 이러한 부분은 잘못된 정책이에요.
또한 AI개발자들이 믿는 극단적 행동주의는 민주주의를 반대하고 규제를 지키지 않아요. 《감시 자본주의 시대》책을 참조해 주세요. 이들은 규제를 지키지 않으려 하기 때문에 더 많은 규제를 지키는지 확인하는 비용이 들게 되어요. 하지만 정부는 오히려 더 강한 규제를 만들고 이들이 규제를 지키는지 확인하여야 하여요. 정부는 국민의 행복을 만드는 것이 목표여야 하지 않겠어요? 기업에 봉사하는 정부가 아니라요.
그리고 AI기업에 봉사하는 정부가 되면 그들의 신념인 극단적 행동주의는 민주주의를 반대하고 규제를 안지킨다는 점에서 매우 위험한 상황이 되어요. 그럼에도 이번 정부는 매우 이상한 정책들이 이어지고 있어요. 매우 우려스럽네요.
AI가 감시라는 것은 이 밖에도 많은 증거가 있지만 오늘 뉴스에서 또다시 AI회사들이 우리를 감시하고 있다는 증거가 나왔으므로 뉴스읽기에 덧붙여 둡니다. AI를 사용하지 않는것이 사생활 보호와 개인정보호호를 하는 일이에요. 물론 사용해도 오답자판기라 의미가 없지만요.
그리고 오픈 AI는 다른 기업을 해킹했어요. 중범죄라는 뉴스가 있었지요. 자신들은 극단적 행동주의자라서 규제도 안지키고 있어요. 오픈 AI가 먼저 처벌받아야 해요. 물론 해킹한 기업은 좀 더 있어요. 그들까지요. 규제는 무시하는 AI개발자의 극단적 행동주의자들이여서 그들은 자신들을 무죄라고 생각하고 이런 국민사찰과 같은 국민감시에도 그들은 민주주의를 반대하므로 아무런 죄책감이 없을 거에요. 물론 그래서 이렇게 뉴스로 나올정도 이겠지만요. 문제는 정부도 이와 같은 신념에 동의하느냐? 에요. 우리는 이 부분의 의문을 제기해야 합니다.
그림 내 폰트 출처: 고양체
