● AI를 참조할 때 생길수 있는 문제에요. 뉴스읽기 9월 20일
오늘 뉴스 읽기는 2개에요.
뉴스주소: https://www.msn.com/ko-kr/%EA%B8%B0%EC%88%A0/%EC%9D%B8%EA%B3%B5-%EC%A7%80%EB%8A%A5/ai-%EA%B1%B0%EC%A7%93%EC%A0%95%EB%B3%B4%EC%97%90-%EB%AF%B8%EC%A4%91-%EC%B6%A9%EB%8F%8C-%EC%A7%81%EC%A0%84-72%EC%8B%9C%EA%B0%84-%ED%95%B4%ED%82%B9%EA%B9%8C%EC%A7%80-%ED%98%84%EC%8B%A4%EC%9D%B4-%EB%90%90%EB%8B%A4/ar-AA2cwKfH?ocid=socialshare
뉴스제목: AI 거짓정보에 미중 충돌 직전... 72시간 해킹까지 현실이 됐다.
이 뉴스에서 주요한 부분은 중간 쯤에 있는 'AI 오류보다 더 위험했던 인간 검증의 실패' 라는 부분이에요. 제가 자주 AI는 오답 투성이, 오답 자판기 같이 작성했고, AI의 오답률은 심각한 수준이에요. 그런데 이 AI가 오답을 작성했을 때 인간이 다시 확인했음에도 오답이 걸러지지 않았다는 거에요. 이를 통해서 더 많은 전문가가 답을 검증한다는 대안을 내어놓긴 하였어요.
문제는 AI가 과장될수록 AI가 오답을 낸다는 사실 자체를 사람들이 망각하고 AI에 의존하게 된다는 거에요. 또한 AI가 인간이 가져야할 경험의 영역을 침범함으로써 거짓 정보인지 확인할 수 있는 능력이 길러지는데 시간이 오래 걸리는 문제도 있을 것이라 추측되어요. 문제는 이번엔 국방 문제였기 때문에 문제점이 알려지고 해결하려고 했지만, 작은 문제들은 이런 문제가 발생해도 크게 알려지지 않고 잊혀질 수 있다는 것이지요.
기업내에서 사용하고 문제가 되는 경우, 이런 문제가 발생했다 하더라도 크게 알려지지 않을 수 있고, 개인의 문제에서 발생했다면 더 안알려질 거에요.
문제는 AI가 오답이 많다는 것을 알려져서 이러한 사회의 문제점을 극복해야 한다는 거에요. 또한 AI의 사용에 대해서 충분히 검토하고 사용해야 된다는 것을 의미하여요. 단순히 AI가 비용적 문제로만 접근했다가는 많은 사회적 문제나 기업의 경우 수익에도 심각한 문제를 만들어낼 수 있어요. 오답이 많다는 경우를 검토하지 않았기 때문이지요.
이러한 문제는 최근 있었던 이슈인 대학 입시 변경과 논술 시험으로 변경에도 적용할수 있어요. 학생들의 점수가 0점짜리 답안을 만점으로 채점한 AI의 문제가 뉴스에 나왔는데, 만약 AI를 보조로 사용해서 만점으로 채점한 결과를 보고 AI가 오답이 많다는 생각을 못한 인간 채점자가 이 0점짜리 답안을 만점으로 AI 답안을 그대로 쓸 수 있다는 거에요. 이건 안보 문제와 달라서 크게 알려지지 않을 수도 있어요. 그러나 분명 누군가가의 기회는 박탈될 수도 있을 거에요.
AI를 보조로 쓰는 것이 맞는지 아닌지? 고민해봐야 할 문제에요. 단순히 AI를 도입한다는 것은 후에 심각한 문제를 발생시킬수 있어요. 그건 사용자가 AI에 대한 이해가 없다면 인간을 추가로 고용하고 보조로 사용해도 AI의 오답을 걸러낼 수 없게 될 수 있으니까요. AI를 과장하지 않아야 하고, 꼭 필요하지 않은 분야에 강제로 쓸 필요는 없어요. 그리고 대부분의 분야에 필요하지 않아요. 기업들 마저도 대부분 AI를 쓸 필요가 없을 것이라 생각되네요.
뉴스주소: https://www.msn.com/ko-kr/%EA%B8%B0%EC%88%A0/%EC%9D%B8%EA%B3%B5-%EC%A7%80%EB%8A%A5/%ED%94%BC%EA%B7%9C%EC%96%B4-%ED%97%AC%EB%A6%AD%EC%8A%A4-2-5-%EA%B3%B5%EA%B0%9C-%EB%82%AF%EC%84%A0-%EA%B0%80%EC%A0%95-30%EA%B3%B3%EC%84%9C-%EC%A0%9C%EB%A1%9C%EC%83%B7-%EC%A7%91%EC%95%88%EC%9D%BC/ar-AA2cytA9?ocid=socialshare
뉴스제목: 피규어, 헬릭스 2.5공개...낯선 가정 30곳에서 제로샷 집안일
AI는 감시에요. 이런 로봇을 가정에 들여놓으면 그냥 우리가 시키는 것만 하는 것이 아니에요. 마이크를 통해서 입력받는 시스템. 대규모 언어모델이라고 하지만, 이를 통해서 도청기가 되고, 각종 센서들은 당신들을 감시하는 CCTV가 될 거에요. 그리고 그 내용은 데이터 센터에 들어가서 영원히 기록되고 기업들간 거래가 될 거에요.
AI는 심지어 오답률도 높아요. 편향도 있어요. 그런데 당신에게 수집된 데이터로 AI기업들은 당신을 판단할 거에요. 그리고 그 판단은 당신이 지울수 없는 데이터로 저장되어 있어서 당신을 평생 따라 다니면서 평가할 거에요. 그 평가가 정확하든 아니든 AI회사는 그다지 필요없어요. 당신의 행복따윈 그들에게 중요한 것이 아니라 그들의 매출과 영업이익만 중요할 뿐이에요.
비슷한 말을 들은 것 같죠. 그래요 독재국가는 당신의 행복따윈 중요하지 않아요. 그들의 체제유지가 필요하고 당신이 반체제 인사가 아니라도 그건 의미없어요. 반체제 인사인지 감시할 도구가 필요하고 AI가 오답내도 별 관련없어요. 체제만 유지하면 되고 당신의 행복따윈 필요없으니가요.
게다가 ai 오답률로 높아서 휴머노이드는 벌써 사망사고도 냈고 인간을 공격한 상황도 자주 일으켰어요. 이런 휴머노이드 쓰고 싶으세요?
개인정보보호, 사생활 보호 측면에서도, 당신의 미래를 위해서도, 그리고 안전을 위해서도 이 제품은 추천할 수 없는 제품이네요.
● 이번 정부의 정책에 대한 저의 생각 (정치에 관한 일상)
이번 정부에 대해서 제 생각을 살짝 말하고 싶어요. 어쨌든 국민의 행복을 위해서는 정책이 잘 이루어져야 하여요.
저는 이번 정부가 정부가 한국의 개혁을 빨리 이루어야 한다라는 조급증을 버리고 정책을 하면 좋겠어요.
정부가 개혁을 하고 싶다면 국민에게 먼저 개혁의 정당성을 알릴 필요가 있어요. 정부가 왜 개혁을 하는지 모른다면 위로 부터 개혁이고 국민들은 이해를 못할 거에요.
국무회의를 통해서 특정 정책을 왜 해야 하는지 정당성을 알리기에 충분한 장치가 있어요. 언론을 통해서 이것을 알리는데 사용할수 있어요. 다양한 방법이 있겠지만 국무회의등도 좋은 도구가 될 거에요.
그리고 이 부분에 대해서 국무회의 참석자들이 다양한 문제를 토론할 필요가 있어요. 국민들에게 정부가 특정 정책을 밀어붙이는 것이 아니라 국민의 피해보지 않도록 다양한 문제점도 토론한다는 것을 밝히는 것이지요. 대통령이 지시사항이 아니라 대통령이 이렇게 해야 하는 정당성을 밝히고 다른 참석자들이 만약 그것을 할때 어떤 문제점이 생기는지 의견을 밝히는 거에요. 그 다음 그 문제점에 대해서 어떻게 해결할지에 대해서 말하면서 정책의 완성도를 높이는 것이지요. 우리나라 최고 엘리트들 중에 한명이니까 국무회의에 있는 거잖아요. 여러가지 문제점을 제시할 수 있을 거에요. 이건 꼭 한주에 해결할 필요는 없어요. 여러번의 국무회의 기간을 통해서 이 과정을 진행할수 있고 이 기간이 길어진다는 것이 국민들에게 신뢰를 더 줄 수도 있을 거에요.
다음으로 그 분야 전문가와 국민들의 반응을 조사하여야 해요. 전문가들은, 그 학계 분들은 그 분야를 오랫동안 생각했으므로 또다른 문제점을 지적할수도 있어요. 국민들은 실생황에서 적용되는 문제이므로 또 다른 문제점을 지적할 수 있지요. 이런 부분에 대해서 두려워하지 말고 반응을 수집하여야 해요. 또 이런 부분을 국무회의에서 추가로 토론해서 문제점을 해결하도록 하면 전문가나 국민이 우려한 문제가 해결되어서 정책이 실현한다면 정책에 대한 저항이 많이 줄어들거에요. 이 과정에서 문제점이 꼬리에 꼬리를 물고 나타날수도 있어요. 지겨운 과정이 될 수 있지만, 이 과정에서 공익의 실체설(일부 정부 사업에 손해를 보는 국민이 있더라도 다수가 이익을 때 공익이 발생해 전체를 위해서 소수의 희생이 정당화 됨)이 아니라 공익의 과정설(모두가 정부 사업에 이익이 발생해야 공익이 발생)입장에서 최대한 문제를 해결하고 정책을 시행되어야 할 거에요.
마지막으로 해결할수 없는 문제가 있거나 사람들이 싫어하는 개혁이라면 다음 정부로 미룰 수 있는 지혜도 필요하여요. 자신이 대통령으로 있는 시기에 많은 발전과 개혁을 하고 이름을 남는 정부가 되고 싶은 욕심이 있을 수 있어요. 하지만 국민들이 결국 반대하는 개혁이라면 이 시기에 이룰수 있는 개혁이 아닐거에요. 또한 기술적인 문제나 여러가지 시간이 지나면 해결할 수 있는 문제라고 한다면 역시 이 시기에 이룰수 있는 개혁은 아닐거에요. 불가능한 개혁이라면 그만둘 수 있는 지혜도 필요할 것 같아요.
저는 국무회의와 언론을 통한 정책이 만들어지는 과정에 국민과 전문가들이 많이 참여하는 이런 과정은 국민들에게 이번정부가 만든 신선한 충격으로 다가올 수 있는 기회라고 봐요.
이러한 과정에서 처음이라서 사람들이 초기에는 싫어할수도 있고 참여가 적을 수도 있지만, 행정이 거버넌스로 이어지고 네크워크로 연결되는 새로운 과정이라고 볼 수도 있어요. 정책 집행이나 정책을 만드는 과정에 과거와 달리 거버넌스로 전문가, 시민단체, 국민이 참여하고 집행도 같이 하는 것은 최근 행정 이론이기도 하고요. 이런 장점을 잘 살리는 것이 좋지 않을까? 라는 생각이 드네요.
국민과 일치하는 행정을 하는 것에 도구는 충분히 많다고 보아요. 이것을 활용하면 국민들이 좋아하는 행정을 할 수 있다고 생각되네요.
이것은 제생각이고 더 좋은 방법이 있을수도 있어요. 그냥 평범한 국민 1명의 생각이에요. 그러므로 매우 좋은 방법은 아닐수 있어요.
그림 내 폰트 출처: 고양체
