엔비디아는 이 자리에서 글로벌 제약회사인 암젠이 엔비디아의 AI 신약 개발 플랫폼 바이오니모BioNeMo를 도입했다고 밝혔다. 킴벌리 파월 엔비디아 헬스케어 담당 부사장은 "슈퍼컴퓨터에는 신약 개발을 위해 인구 300만 명으로부터 추출한 5억 개의 유전자 데이터가 저장돼 있다"며 "엔비디아의 강력한 AI 시스템을 활용하면 데이터를 7배 더 빠르게 처리하고, 비용을 7배 더 아낄 수 있다"고 소개했다. - P45
‘고객과 경쟁하지 않는다‘라는 덕목은 구시대의 유물이 됐다. AWS 가 해야 할 데이터센터 업무를 엔비디아가 직접 데이터센터를 만들고 자사의 GPU를 설치해 바이오 헬스케어 업체에게 솔루션을 제공한 것이다. 엔비디아의 도전은 바이오 헬스케어에 국한되지 않는다. 자율주행 연구개발은 자동차 회사들이 주력하고 있는 분야이고 자율주행에 활용하는 반도체에 엔비디아 GPU를 사용할 수 있다. 그런데 엔비디아는 거기에 그치지 않고 자율주행 솔루션을 직접 만들었다. 심지어 잘 만들었다. 자율주행 솔루션은 자동차의 두뇌다. 두뇌를 엔비디아가 만들어버리면 자동차 회사들은 껍데기만 만드는 회사로 전락한다. 반도체만 필요하면 반도체만 사고, 솔루션이 필요한 업체는 솔루션만 살 수 있다고 하지만 자동차회사들의 낯빛은 어둡다. 아마존이 직접 반도체를 만들어 엔비디아의 영역에 도전하고, 엔비디아가 직접 데이터센터를 만들어 아마존의 영역에 도전하는 춘추전국시대가 도래했다. - P47
이번에 출시된 S24의 통번역 기능은 통신이 연결되지 않은 비행기 모드에서도 동작한다. 이 부분이 매우 중요하다. 초거대언어모델 인공지능을 활용하려면 엄청난 컴퓨팅 능력이 확보된 데이터센터가 필요하다. 디바이스와 통신은 경쟁관계다. 디바이스에서 충분한 연산력, 메모리를 확보할 수 있다면 굳이 데이터센터를 활용할 필요가 없다. 디바이스에서 처리하면 통신망을 거치지 않기 때문에 속도(지연성), 비용 측면에서 이점이 있다. 반면 데이터센터를 활용하면 대규모 인프라를 통한 높은 성능을 기대할 수 있다. 비용 측면에서도 규모의 경제 이점을 누릴 수 있다. 반도체 기술이 발전할수록 온디바이스의 이점이 높아지고 통신 기술이 발전할수록 데이터센터의 이점이 높아진다. - P49
퀄컴은 모바일폰 뿐만 아니라 자동차, PC, 각종 사물인터넷에 장치에 AI를 제공하는 ‘하이브리드 AI‘ 전략을 발표했다. 하이브리드 AI는 클라우드에서만 AI 데이터를 처리하는 것이 아니라 클라우드와 디바이스의 AI 워크로드를 분산해 조정하는 방식이다. 온디바이스가 적합한 AI 서비스는 온디바이스에서, 클라우드가 적합한 AI 서비스는 클라우드에서 제공하도록 최적화를 시키는 방식이다. - P57
진공관으로 구현된 에니악은 여러모로 단점이 많았다. 우선 발열과 내구성이 문제였다. 사무실을 가득 메운 1만 8천개의 진공관에서는 엄청난 열이 뿜어져 나왔다. 진공관을 이용하기 위해 막대한 전력이 사용됐고 진공관을 사용하면서 나오는 열을 냉각시키기 위해 막대한 전력이 사용됐다. 진공관은 전구처럼 불빛이 나기 때문에 나방 등 빛을 좋아하는 벌레들이 꼬였다. 벌레들은 진공관 속에서 죽기 일쑤였고, 엔지니어들은 어느 진공관에 나방이 붙어 죽어 있는지 찾는 데 상당히 많은 시간을 보냈다. 그래서 지금도 프로그램 오류를 벌레를 뜻하는 ‘버그Bug‘라 부르고, 오류를 수정하는 작업을 ‘디버깅Debugging‘이라 부른다. - P65
|