인공지능에 대한 물음에 대한 물음_손화철
프랑스의 기술철학자 자크 엘륄은현대 기술이 자율성을 가지게 되었다고 한탄하면서, 거기에 더해 기술(technique)과 구별되는 기술에 대한 담론(technologie), 즉 기술을 궁극적인 문제 해결의 전형으로 받아들이는 사회적 분위기가 사태를 악화시킨다고 보았다. - P22
생성형 인공지능 관련해서 자주 제기되는 문제로 할루시네이션 현상과 편향성 문제가 있다. 할루시네이션 현상은 챗GPT와 같은 대형언어모델(LLM)에서 실제로 존재하지 않는 정보를 제공하거나 엉뚱한 대답을 하는 경우를 말한다. - P23
인공지능의 편향성 문제는 인공지능이 학습 데이터의 편향을 반영한결과를 산출하는 현상을 말한다. ‘교수‘는 남성과, ‘청소‘는 여성과 더가깝게 연결짓고, 피부색으로 사람을 차별하는 일상의 편견이 우리가생산하는 데이터에 반영되기 때문에 그 데이터를 학습해서 나오는 결과에도 그런 편향이 묻어 있는 것이다. - P24
좀더 직접적인 경우로 인공지능의 기능을 위해 인권침해적 노동이용인되기도 한다. 주로 제3세계에 퍼져 있는 일명 ‘유령 노동자‘는 인공지능이 부적절한 내용을 산출하지 않게 하기 위하여 입력 데이터를 가공하거나 생성형 인공지능에게 가상의 질문을 던지고 부적절한 대답을삭제하는 일을 한다. 이들은 때로 끔찍한 콘텐츠를 지속적으로 보거나읽어야 하고, 비정기적으로 불시에 부여되는 일감을 선착순으로 얻어내기 위해 상시 대기해야 한다. 작업의 질에 따라 보수가 달라지기 때문에 노동강도가 높지만, 실수도 반항도 용납되지 않고 노동자 인권은전혀 보장되지 않는다. 챗GPT에 포르노 소설을 쓰라는 것 같은 부적절한 쿼리(정보 요청 명령문)를 입력하면 대답을 유보하는 것은 기술적 탁월함이 아닌 비인간적인 노동의 결과다. - P26
현대 기술사회의 사고방식을 ‘기술의 패러다임‘이라 이름 붙일 수 있다. 세상의 모든 일을 문제풀이 방식으로 이해하는 것이다. 그리하여 - P30
"모든 문제에는 해결책이 있고, 그 해결책은 언젠가 발견되며, 만약 해결책이 없다면 처음부터 문제도 없다"고 생각한다. 이 패러다임은 모든 물음과 생각거리를 재빨리 문제와 문제 해결의 조합으로 바꾸어버린다.
기술의 영역에 특화된 이런 사고방식을 교육, 정치 같은 인간 삶의다른 영역에 적용하는 것은 부적절하다. 이는 기술에 대한 담론에서도마찬가지다. 기술에 대한 담론은 기술이 아니기 때문이다. 인공지능에대한 다양한 논의가 일정한 범위 안에서 맴돌며 더 깊고 넓은 차원으로나아가지 못하는 이유도 문제와 문제풀이의 틀에 갇혀 있기 때문이다. - P31
|