이렇듯 투명성 관행이 급격히 반전되면서 나타난 가장 걱정스러운 결과는 과학적 진실성의 훼손이다.
딥러닝 연구의 기초는모델을 훈련시키는 데 사용한 데이터는 모델을 시험하는 데 사용하는 데이터와 달라야 한다는 아주 간단한 전제를 기반으로 한다.
모델의 훈련 데이터를 검사할 방법 없이는 이른바 이 훈련시험 분할 패러다임이 무너져버리고 만다.
딥러닝 모델이 아무리 여러 기준에서 더 높은 점수를 받는다고 해도 실제로 "지능"이높아지는 게 아닐 수도 있는 것이다. 그저 달달 외운 정답을 읊어대는 것에 불과할 수도 있다.- P262
