신뢰할 수 있는 인공지능

신뢰할 수 있는 인공지능 - 인공지능을 사회에서 받아들이기 위한 조건
한상기 지음 / 클라우드나인 / 2021년 9월

 

신뢰할 수 있는 인공지능 인공지능을 사회에서 받아들이기 위한 조건

인공지능 시대가 어느 때보다 성큼 다고 오고 있다는 것을 느낀다. 자율주행차가 주행하다 갑자기 멈추면 자율주행차 주인의 잘못일까? 운전을 도맡았던 인공지능의 잘못일까?

인공지능은 우리 생활에 막대한 편리를 제공하겠지만, 이와 동시에 해결해야 할 조건도 다양하다. 인공지능 개발에 몰두할 것이 아니라 규제도 동시에 일어져야 신뢰할 수 있는 인공지능 시대를 맞이할 것이다.

인공지능이 처음 등장한 1950년대의 첫 물결을 시작으로 1980년대 지식 기반 시스템을 거쳐 2010년 이후로 머신러닝과 딥러닝이라는 새로운 패러다임을 통한 세 번째 물결을 맞이하고 있다.

지금 가장 관건이 되는 것은 강인공지능의 출현이 언제일까? 라는 질문이다.

호주의 뉴사우스웨일즈대학교 교수 토비 윌시교수는 약한 인공지능에서는 특정한 영역에서 인간과 비슷한 능력을 보여준다. 일반 인공지능은 모든 영역에서 인간과 비슷한 능력을 지닌다. 초지능이 되면 가장 뛰어난 인간보다 훨씬 똑똑해진다. 월시 교수는 인간의 힘으로 초지능 단계까지는 실현 가능하다고 예측했다. 그러나 강력한 인공지능 단계는 부정적으로 본다.

강인공지능의 출현을 알리는 뉴스가 등장하기까지 상당한 시간이 걸릴 거라 믿었음에도 특정 분야에서 강인공지능의 출현 소식이 들려오고 있다.

인류와 인공지능의 공존을 위해 사회가 받아들이기 위한 조건에는 무엇이 있을지 새삼 중요해지는 시점이다.

클라우드나인에서 출판한 <신뢰할 수 있는 인공지능>은 가장 중요한 문제인 인공지능의 신뢰성을 필두로 공정성, 윤리성, 투명성, 견고성, 안정성에 관해 지금까지 연구개발이 어떤 방향으로 이루어지고 있으며, 얼마나 많은 기술 개발이 필요한지 소개하고 있다.

저자인 한상기 대표님은 서울대학교 컴퓨터공학과를 졸업했고 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사학위를 받았다. 삼성전자 전략기획실과 미디어 서비스 사업팀에서 인터넷 사업을 담당한 후 2003년 다음커뮤니케이션 전략대표와 일본 법인장을 역임했다. 두 번의 창업을 했고 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다.

[ 신뢰할 수 있는 인공지능 책날개 중 ]

인공지능의 신뢰성에도 불구하고 기술의 발달이 가져올 역효과가 걱정스럽다. 테슬라의 자율주행차는 사고율을 줄이긴 하지만, 여전히 교통사고를 유발한다. 인공지능을 악용하는 사람의 의지와 인공지능의 만남은 그 자체로 다음 007 영화의 소재가 되기 충분하다.

중국의 알리바바는 위구르 사람의 얼굴을 인식하는 서비스를 제공했다. 미국에서는 얼굴 인식 기술을 금지하는 주가 늘어나지만, 경찰이나 법원은 이를 사용하는 사례가 늘고 있다.

유명인의 얼굴을 딥페이크 기술을 이용해 원본과 구별 지을 수 없게 하는 것도 점차 빈번하게 발생하고 있다.

이런 모든 걱정에도 우리는 인공지능과 공존할 수 있는 조치를 찾고 있다.

국내에서는 2019년 한국지능정보사회진흥원에서 경제협력개발기구 인공지능 권고안에서 말한 국가 정책 발굴 가이드라인에 따라 공공 분야에 미칠 인공지능 영향을 예측하고 국내 인공지능 정책 방향을 구체화하고 우리나라 수준에 맞는 세부 정책을 도출하고 있다.

주요 테크 기업은 ‘책임감 있는 인공지능’ 실천 방안을 마련하고 있다.

특히 구글에서는 2018년 인공지능 기술을 무기나 인권 침해에 사용하지 않겠다고 발표했다. 그리고 인공지능 응용의 7가지 목적과 인공지능 응용에서 추구하지 않을 4가지 기준을 제시했다.

구글에 이어 마이크로소프트, 페이스북, 아마존에서도 신뢰할 수 있는 인공지능을 위한 다양한 가이드라인을 만들고 있다.

앞으로 우리가 해야 할 일은 이를 구체적으로 준수하는지 확인하기 위한 기술적 노력이 필요하다.

인공지능의 발달은 앞으로 우리 생활에 커다란 변화를 예고하고 있다.

당장 인공지능의 한 두뇌게임에서 인간의 패배는 기정사실인가?

인공지능의 도움을 얻는 판사의 판결을 우리는 신뢰할 수 있을까?

너무도 다양한 분야에서 인공지능의 물결을 밀려오고 있다. 강인공지능이 본격적으로 등장하기 전에 인공지능을 규제하기 조건이 궁금하다면 <신뢰할 수 있는 인공지능>을 참고하시기 바랍니다.

- 이 글은 출판사에서 도서를 지원받아 주관적으로 작성하였습니다.

#신뢰할수있는인공지능 #한상기 #클라우드나인 #인공지능 #과학 #트렌드 #미래예측 #컴퓨터공학 #책과콩나무