-
-
최재붕의 AI 트렌드 2027 - 질문에 답하는 AI에서, 스스로 진화하는 AI로
최재붕 지음 / 쌤앤파커스 / 2026년 10월
평점 :
...자동차와 자율주행 기술은 세계 시장에서 경쟁력을 인정받고 있지만, 국내에서는 규제와 제한된 실증 환경 때문에 충분한 데이터를 축적하지 못하고 있습니다. 결국 한국이 뒤처질 위험이 있는 것은 자동차 기술이 아니라, 자율주행 AI를 고도화할 데이터입니다.
...앤트로픽은 설립 초기부터 ‘안전하고 신뢰할 수 있는 AI’를 핵심 가치로 내세워왔습니다. 실제로 기업과 공공기관에서도 클로드는 정확성과 안정성을 강점으로 평가받으며 활용 범위를 넓혀가고 있습니다. 가장 안전한 AI를 만들겠다는 철학이 역설적으로 가장 민감한 국가 안보 분야에서 경쟁력이 된 것입니다. 하지만 바로 여기서 새로운 딜레마가 시작됩니다. AI 기업들은 대부분 “인류에 도움이 되는 AI”를 만들겠다는 목표를 내세웠습니다. 특히 앤트로픽은 안전성을 이유로 오픈AI에서 독립한 회사입니다. 그런데 그렇게 만든 AI가 국가 안보와 군사 분야에서 활용되기 시작한 것입니다.
...문제는 최신 AI 대부분이 내부 작동 원리를 알기 어려운 블랙박스 구조라는 점입니다. 수천억 개의 파라미터가 복잡하게 작동해 결과를 만들어내기 때문에, 개발자조차 판단 과정을 완전히 설명하기 어렵습니다. 그래서 금융권에서는 성능만큼이나 ‘설명 가능한 AI(XAI, eXplainable AI)’가 중요한 기술로 떠올랐습니다. 다소 성능이 낮더라도 판단 근거를 제시할 수 있는 모델이 실제 업무에서 더 높은 평가를 받기도 합니다.
...지금까지 검색 결과 상위에 노출되기 위해 검색 엔진 최적화(SEO)에 투자하고 검색 광고를 구매하던 기존 이커머스 모델은 새로운 도전에 직면하고 있습니다. 앞으로 기업의 경쟁 무대는 ‘검색 결과 페이지’가 아니라 ‘AI의 추천 목록’이 될 것입니다....소비자는 더 이상 수십 개의 상품 목록을 직접 비교하지 않습니다. AI가 가격, 재고, 리뷰, 브랜드 신뢰도, 개인 취향을 종합해 선택지를 좁혀줍니다. 중요한 것은 ‘상품이 어디에 진열되는가’가 아니라, ‘AI가 왜 그 상품을 선택하는가’입니다. 앞으로 기업은 사람의 관심을 끄는 것뿐 아니라 AI가 이해하고 추천할 수 있는 구조를 만들어야 합니다.
...문제는 그 기술자가 은퇴하면 그 노하우도 함께 사라진다는 점입니다. AI는 이 감각을 데이터로 학습합니다. 설비에서 평소와 다른 진동이나 소음이 감지되면 미리 이상 징후를 알려주고, 작업자가 실제 설비를 점검합니다. AI가 사람을 대신하는 것이 아니라, 숙련자의 경험을 디지털 자산으로 남기는 것입니다. 감각은 AI가 맡고, 최종 판단은 사람이 담당합니다.
...양질의 데이터, 의료 특화 AI, 그리고 AI와 의료진이 함께 판단하는 협업 구조를 얼마나 잘 설계하느냐가 앞으로 의료 산업의 경쟁력을 결정하게 될 것입니다.
다만 최종 판단의 주체는 여전히 인간이며 이를 가능하게 하는 구조가 HITL*입니다. 이 구조가 필요한 이유는 의료 판단의 결과가 생명과 직접 연결되기 때문입니다. AI가 높은 정확도를 보여도 모든 예외 상황을 완벽하게 처리할 수는 없습니다. 따라서 의료 AI의 핵심은 정답률을 높이는 것보다 의사가 AI의 판단 근거를 확인하고, 필요할 때 수정하며, 최종 책임을 질 수 있는 협업 구조를 만드는 것입니다.