신뢰할 수 있는 인공지능

신뢰할 수 있는 인공지능 - 인공지능을 사회에서 받아들이기 위한 조건
한상기 지음 / 클라우드나인 / 2021년 9월

여기에는 7가지의 주요 요구사항이 들어있다. 앞에서 설명한 가이드라인의 개념을 반영한 것이다.

인간을 통한 감독
기술적 견고성과 안전성
프라이버시와 데이터 거버넌스
투명성
다양성과 비차별성 그리고 공정성
사회와 환경 복지
책무성 (-32-)


1원칙 : 로봇은 인간에게 해를 가하거나 혹은 행동을 하지 않음으로써 인간에게 해가 가도록 해서는 안 된다.
2원칙 : 로봇은 1원칙에 어긋나지 않는 한 인간의 명령에 복종해야 한다.
3원칙: 로봇은 1,2 원칙에 어긋나지 않는 한 자기 존재를 보호해야 한다. (-122-)


그래서 로봇과 인공지능에 적합한 도덕과 윤리 아키텍처는 다음과 같은 기능을 담고 있어야 한다고 주장한다.

빠르게 반응하는 패턴 매칭형 규칙
숙의 추론 프로세스
사회적 신호 프로세스
긴 시간을 통해 이루어지는 사회적 과정 (-132-)


각 기여는 어떤 기능이 특정 사례에 대한 예측에 얼마나 영향을 주는지를 보여준다. 따라서 전체 데이터세트에 대한 기여를 모아야 데이터세트에 대한 대력적인 모델 행위를 이해할 수 있다
기여는 전적으로 모델과 모델을 학습시키는데 사용한 데이터에 의존한다.
기여만으로는 모델이 공정하고 편향되지 않으며 건전한 품질을 가졌는지 설명할 수 없다. 학습 데이터세트, 과정, 평가 지표를 조심스럽게 평가해야 한다. (-183-)


앞으로 인공지능 개발자와 보안 분석가는 모든 머신러닝 애플리케이션이 적대적 공격 대상이 될 수 있음을 인지하고 취약한 코드를 쓰거나 배포하기 전에 적대적 위협을 평가해야 한다.또한 폭넓은 적대적 입력에 대해 인공지능 애플리케이션을 테스트해서 추론의 견고성을 확인하고,'적대적 머신러닝 위협 매트릭스'가 제공하는 것과 같은 적대적 방어 지식을 사용해 위조 입력 예시에 대한 인공지능의 탄력성을 개선해야 한다. (-205-)


인공지능 ,로봇이 우리 삶을 어떻게 바꿔 놓을 것인지는 단순히 상상속에 머물러 있었다. 영화, 드라마,애니메이션 속에 인공지능 로봇은 파괴적이면서, 감성적이거나, 지극히 객관적이면서 이성적인 형태를 띄는 경욱라 많았다. 그 대표적인 사례가 영화 테미네이터다. 인간처럼 보이는 기계와 파괴적인 본성을 가진 기계의 충돌, 기계에게 인간적인 면모를 표상한다는 것은 지금 현실에 맞지 않은 부분이 노골적으로 나타나고 있었다. 이후, 즐겨 봤던 국민 일본 만화 드래곤볼의 경우, 인공지능 로봇에 대한 인식을 보면, 여전히 인간적이면서, 파괴적인 특징이 나타나고 있으며, 인간의 지능에 가까운 로봇은 상당히 우려스러운 측면이 있었다. 기계적인 파괴 본성과  인간적인 매력이 동시에 나타난느 경우가 대부분이다. 그 과정에서 우리는 생각하게 되고, 상상하게 된다. 좀 더 나은 방향성, 로봇에 내장되어 있는 딥러닝은 어떤 프로그램이며, 그것이 어떻게 현실에 투영되는지 말이다. 인공지능이 안고 가는 문제들, 오류와 기계적인 결함, 반윤리적인 문제까지 짚어 나갈 수 있으며, 내 삶의 기준이 될 개연성을 충족시켜 주고 있었다. 신뢰할 수 있는 인공지능이 되려면, 실제 인공지능의 수준에 따라서 기본 가이드라인이 있어야 한다. 군사적으로 쓰여질 수 있는 개연성이 충분히 있으며, 학습과 배움이 필요하고, 그 안에서 여러가지 리스크를 고려해야 한다. 기계가 가질 수 있는 인간의 윤리적인 부분을 파괴할 수 있고, 그 내부에 유동성이 충족되어야 한다. 최근 자율주행 자동차의 내부 결함이 문제시 되고 있는 가운데, 신뢰할 수 있는 인공지능의 조건 뿐만 아니라 여러가지 절차들을 알고 간다면, 의심을 심뢰로, 위기를 기회로 극복할 수 있는 조건이 충족될 수 있다.