따라서 다른 유형의 보행자 이미지나 정지 표지만 이미지를 입력씨키면 완전히 새로운 유형의 연관성을 배울 수 있다. 그러나 왜, 어떻게 달라졌는지 사람이 이해하거나 추적하기는 어렵다. 딥러닝 모델의 내부를 들여다보면 고도로 추상화된 숫자들의 행렬만 나타난다. 이것이 바로 연구자들이 딥러닝을 "블랙박스"라고 부르는 이유다. 모델을 처리한 패턴을 인간이 이해할 수 없기 때문에, 일반적인 상황에서도 그렇지만 특히 엣지 케이스[AI시스템이 처리할 준비가 되어 있지 않은 극단적이거나 예외적인 상황이 주어져(입력값 또는 조건이 경계 부근에 위치할 때) 비정상적인 방식으로 작동하는 경우를 말한다]의 경우에는 더욱 신경만 모델이 정확히 어떤 방식으로 작동할 것인지 설명할 수 없다.- P167
