지금 패러다임의 전환이 일어나려 하고 있다. 하나는 폰 노이만 아키텍처에서 신경 회로망(뉴럴 네트워크)으로 전환하는 것이다. 프로세서와 메모리 사이를 데이터가 옸다 갔다 해서 착실하게 순차 처리하는 대신, 신경 회로망에서는 데이터가 매끄럽게 흘러 한꺼번에 병렬 처리한다. 그 결과, 에너지 효율이 대폭적으로 개선된다(p52)... 또 다른 패러다임 전환은 미세화에서 3D 집적으로 전환하는 것이다. 미세화가 한계에 가까워지고 있다. 3D 집적을 하면 데이터 이동에 필요한 에너지를 차원이 다르게 줄일 수 있다. _ 구로다 다다히로, <반도체 초진화론>, p53
2016년 알파고가 이세돌 9단을 이기면서 도래한 인공지능의 시대. 인공지능 시대의 도래와 함께 반도체는 폰 노이만 구조의 한계를 극복하고 새로운 패러다임의 도래를 눈 앞에 두고 있다. 이러한 상황에서 인공지능 AI의 학습과 추론을 위해 필요한 반도체의 조건은 무엇일까. 그리고, 보다 많은 데이터를 상대적으로 낮은 에너지를 사용해서 보다 빠르게 전송하는 것이 조건이라면 앞으로 반도체의 연구방향은 어디로 흘러갈 것인가. <반도체 초진화론>과 <차세대 반도체>는 이러한 물음에 대한 답을 알려준다.
폰 노이만 구조에서는 연산이 일어나는 장소와 데이터가 저장되는 장소가 다릅니다. 따라서 컴퓨터가 어떤 프로그램을 수행하려면 산술논리장치와 메모리 사이에서 데이터 액서스 data access라는 과정이 무척 빈번하게 발생합니다. 연산을 하는 산술논리장치는 필요한 정보를 메모리에서 불러오고, 중간 결과는 다시 메모리로 내보내 저장해야 하지요. 문제는 데이터 액서스에 소모되는 시간과 에너지가 너무 많다는 사실입니다. 하나의 CPU 혹은 GPU 칩 안에서 일어나는 온칩 on-chip 데이터 액서스만 따져도 연산 자체가 소모하는 것보다 10~100배 많은 에너지를 사용합니다. _ 석민구 외 2인, <차세대 반도체>, p21/91
'연산'과 '기억'이 별도의 장소에서 이루어지는 폰 노이만이라는 이분화(二분化)된 구조는 데이터 액서스에 많은 시간과 에너지를 소모하게 된다. 이러한 구조적 문제 - 데이터 전송, 에너지 문제 - 를 해결하기 위해 칩을 쌓고, 칩 간 간격을 줄이며, 소재 변경 등의 노력을 기울인 결과 HBM, 유리기판과 같은 산출물이 나왔으며 이러한 연구는 점차 가속화될 것이다. 그렇지만, 앞으로도 이러한 방향이 여전히 유효할 것인가? 저자들은 여기에 대해 폰 노이만 구조를 대신할 신경회로망 구조의 전환이 이미 일어나고 있으며, 더 나아가 PIM 기술 등을 통해 '연산-기억'이 통합된 구조를 전망한다. 로직 칩과 메모리 칩의 통합.
칩이 크다 보니 전력 소모도 많고 열이 많이 발생한다는 문제도 극복해야 합니다. 패키징이나 보드 설계 과정에서 전력 공급과 열 관리에 많은 시간과 공을 들이고 수냉 water coolomg 시스템이나 냉간판 cold plate을 활용하는 등 다양한 해법이 개발되고 있습니다(p29)... 저는 앞으로 PIM 기술이 연산을 분배하기보다 차라리 한쪽으로 몰아주는 방향으로 발전하는 것도 대안 중 하나라고 봅니다. 그러려면 CPU 및 GPU와 D램을 완전히 합친 통합 구조가 필요합니다. CPU와 GPU가 D램을 흡수하거나 그 반대가 되겠지요. 그래야 비로소 장치 간 데이터 액서스에 소모되는 시간과 에너지를 효과적으로 줄일 수 있을 것입니다. _ 석민구 외 2인, <차세대 반도체>, p33/91
로직 칩과 메모리 칩의 통합의 문제는 반도체 산업의 구조가 완전 재편될 수 있음을 의미지 않을까. 산업 내에서 IP기업, 펩리스 기업, 디자인 파우스 등으로 분업화된 안정화된 구조 안에서 수직 계열화된 기업이 경쟁우위를 점할 수 있었다면, 이제는 엔비디아와 TSMC 그리고 SK하이닉스가 반도체 패권을 둘러싼 무한 경쟁으로 흘러가지 않을까. 이처럼 <반도체 초진화론>과 <차세대 반도체>은 AI혁명 속에서 향후 반도체가 진화할 방향과 현재 위치를 알려주는 유용한 책이라 생각된다.
반도체 기술 발전과는 다소 거리가 있지만, <반도체 초진화론>에서 저자가 언급한 디지털 기술과 아날로그 감성의 관계를 언급한 내용이 눈길을 끌어 옮겨본다.
디지털은 논리를 다루는 데 뛰어나지만, 감성은 아날로그다. 디지털로 사람을 행복하게 만드는 기술을 이제부터 추구하기 시작할 것이다. 오감과 디지털을 상호 변환하는 센서와 액추에이터, 감각을 피브백하는 제어 기술, 가치를 교환하는 공학, 테크놀로지가 사회를 위험에 빠뜨리지 않는 법체계. 이러한 논의 없이 '뇌를 인터넷에 연결'하도록 추진할 수는 없다. _ 구로다 다다히로, <반도체 초진화론>, p69
저자는 디지털 혁명의 종착역은 아날로그 감성 이라는 사실을 말한다. 디지털 기술의 목적이 결국 인간 행복이라는 아날로그적 감성이라면 사물을 0과 1로 변환시키는 디지털 혁명에서 우리가 잃지 말아야 하는 것과 가야할 길에 대한 끊임없는 물음이 필요한 것인 아닌지. 디지털 시대에 우리는 인공지능을 학습시키기 위해 그들이 할 수 없는 Aura가 담긴 그 무엇을 해야하는가. 이러한 물음을 마지막으로 글을 마무리한다...
