책을 내면서_김정현
인공지능의 원리를 대단히 거칠게 요약한다면, 그것은 몹시 불충분한 정보를 가지고 적당히 처리해서 결과물을 내놓는것이라고 말할 수 있다. 요컨대 지금까지 우리가 컴퓨터기술과 결부시켜온 엄격한 논리적 인과관계, 연산능력에 기초를 두고 있지 않다. 객관적으로 타당한 결과보다는 확률적으로 정답에 가까운 답을 내놓기위한 기술이고, 따라서 대단히 임의적이고 비합리적인 기술이다. - P3
삶에서 효율을 추구한다는 것은 무슨 뜻일까. 아이들을 돌보고 친구나 노쇠한 부모와 함께 보내는 시간을 최소한으로 줄여야 한다는 말일까. 한편 의료, 정치, 교육 등 모든 면에서 인간은 무능력하고 무기력해졌다. - P5
위치정보시스템(GPS)에 의존하는 습관이 우리 뇌에 있는 해마를 위축시켜 인지장애가능성을 높인다고 한다. - P5
문화적 다양성은 인류가 생존하는 데있어서 생태적 다양성만큼 불가결한 조건이다. - P7
생성 인공지능 시대와 시민사회의 과제_구본권
사람은 자신보다 훨씬 강한데다 작동법을 이해하지 못하는 인공지능을 안전하게 통제할 수 없다. - P14
블랙박스 인공지능이 인류의 실존적 위협이 되고, 통제와 규제가 시도되는 배경이다. - P15
언급한 것처럼 인공지능의 블랙박스적 속성으로 인해 설명 가능한인공지능(XAI) 개발이 시도되고 있지만, 성공한다 해도 매우 좁은 영역에서 제한적 효용이 가능한 수준이다. 미국의 컨설팅기업 가트너는 생성 인공지능 플랫폼에 대해 규제당국이 유념해야 할 문제로 여섯 가지를 지목했다. ① GPT 모델의 설명불가능성, ② 부정확한 허구 답변(환각 현상), ③ 기밀 데이터 침해, ④ 편향성, ⑤ 지적재산권·저작권 위험, ⑥ 사이버 · 사기 위험이다. 모두 믿을 만한 해결책 마련이 어려운 문제다. 이는 생성 인공지능으로 인해 ‘탈진실 현상‘이 가속화할 것이라는우려로 이어진다. - P17
기술과 법에 의존하는 태도는 오히려 다양한 우회로와 부작용을 만들어낼 뿐, 문제 해결에 도움이 되지 않는다. 인간 인지능력은 기술과달리 거의 진화하지 않는다. 심리학자 애덤 그랜트는 《싱크 어게인>에서 "대상이 물건일 때 사람들은 열정을 다해 업데이트하지만 대상이 지식이나 견해일 때는 기존 것을 고집하는 경향이 있다"고 말한다. 인간이 개발한 도구는 인간지능을 넘어설 정도로 똑똑하고 강력해졌지만인간은 그 똑똑한 도구에 압도당할 우려가 제기되는 상황이다. 사람은식량과 정보가 부족했던 수만 년 전 구석기 환경에 적응된 두뇌를 갖고살아가는 ‘양복 입은 구석기인‘으로 불린다. 하버드대 사회생물학자 에드워드 윌슨은 "인류의 진짜 문제는 인간 정서는 구석기시대에, 제도는 중세에 머물러 있는데 기술은 신의 경지에 이르렀다는 사실이다"라고말했다. - P20
|