진공관에서 HBM4까지, 인류의 계산 방식을 바꾼 반도체 패러다임의 역사와 미래

1. 도체와 부도체 사이에서 찾은 해답과 불순물의 마법

중고등학교 시절로 돌아가 볼까요?

우리가 주변에서 볼 수 있는 물질은 전기가 흐르는 정도에 따라 크게 세 가지로 분류할 수 있습니다. 전기가 아주 잘 통하는 구리나 금 같은 물질을 도체라고 부르고, 전기가 전혀 통하지 않는 고무나 유리를 부도체라고 부릅니다. 반도체는 말 그대로 이 둘의 중간에 있는 물질입니다. 하지만 반도체의 진짜 매력은 단순히 중간 정도로 전기가 통한다는 사실이 아니라, 온도나 빛을 가하거나 불순물을 섞을 때 전기가 통하는 성질을 완전히 마음대로 조절할 수 있다는 점에 있습니다.

가장 대표적인 반도체 재료는 바로 우리 주변의 모래에서 쉽게 얻을 수 있는 실리콘, 즉 규소입니다. 실리콘은 지구상에 아주 풍부하게 존재할 뿐만 아니라, 열을 가했을 때 성질이 안정적이어서 가공하기가 매우 좋습니다. 세계적인 정보기술 중심지를 실리콘밸리라고 부르는 이유도 바로 이 재료의 이름에서 유래한 것입니다. 최근에는 더 빠른 속도와 높은 전력을 버텨야 하는 특수 분야를 위해 갈륨비소나 질화갈륨 같은 화합물을 섞은 차세대 반도체도 활발하게 쓰이고 있습니다.

순수한 실리콘 자체는 사실 전기가 거의 통하지 않는 부도체에 가깝습니다. 이 실리콘을 우리가 쓸 수 있는 유용한 상태로 만드는 핵심 공정이 바로 도핑입니다. 도핑은 순수한 실리콘에 아주 미량의 다른 원소를 의도적으로 첨가하는 기술입니다. 전자가 하나 더 많은 인이나 비소를 넣으면 자유전자가 가득한 N형 반도체가 되고, 전자가 하나 부족한 붕소를 넣으면 빈자리(정공)가 생기는 P형 반도체가 됩니다. 이 N형과 P형을 서로 맞붙여 놓으면 전류가 오직 한 방향으로만 흐르는 성질이 생기는데, 이것이 바로 모든 현대 전자 소자의 기본 뼈대가 되는 구조입니다.

반도체는 쓰임새에 따라 크게 데이터를 저장하는 메모리 반도체와 연산 및 제어를 담당하는 시스템 반도체로 나뉩니다. 메모리 반도체는 우리가 흔히 아는 컴퓨터의 D램이나 스마트폰의 저장 공간인 낸드플래시가 포함되며, 표준화된 제품을 대량 생산하는 특징이 있습니다. 반면 시스템 반도체는 컴퓨터의 두뇌인 CPU나 스마트폰의 AP처럼 복잡한 연산을 처리하며 기술력이 중심이 되는 다품종 맞춤형 시장입니다. 전체 시장 크기나 부가가치 면에서는 시스템 반도체가 훨씬 큰 비중을 차지하지만, 대한민국 기업들은 메모리 반도체 분야에서 세계 최고 수준의 경쟁력을 보유하고 있으며 최근에는 이 독보적인 기술력을 바탕으로 고성능 AI용 메모리인 HBM 시장을 선도하고 있습니다.

2. 30톤짜리 거대 컴퓨터와 뜨거운 유리관

반도체가 발명되기 전, 20세기 초반의 전자제품들을 움직였던 주인공은 바로 진공관이었습니다. 1900년대 초반에 발명된 진공관은 전구처럼 생긴 전선과 유리관 내부를 진공 상태로 만들어 그 안에서 전자가 날아다니는 현상을 이용한 장치였습니다. 중간에 제어판을 두고 전압을 조절하면 전자의 흐름을 이어주거나 끊을 수 있었는데, 이 기능이 바로 라디오나 초기 전화기, 그리고 초기 컴퓨터를 움직인 핵심 원리였습니다.

이 진공관의 위력과 동시에 치명적인 한계를 가장 잘 보여준 역사적 사례가 바로 1946년에 완성된 최초의 대형 전자식 컴퓨터 에니악(ENIAC)입니다. 에니악은 방 하나를 통째로 채울 정도로 거대했으며 그 안에는 무려 1만 8천 개의 진공관이 빽빽하게 들어차 있었습니다. 무게는 무려 30톤에 달했고, 소모하는 전력은 시골 마을 전체가 쓸 수 있는 수준인 150킬로와트에 육박했습니다. 무엇보다 큰 문제는 진공관이 전구처럼 뜨겁게 달궈지다 보니 수시로 타서 끊어졌다고 하네요.  이 때문에 며칠에 한 번씩 컴퓨터 작동을 멈추고 고장 난 진공관을 찾아 새로 갈아 끼워야 하는 엄청난 불편함이 있었습니다.

진공관 시대의 전자공학은 세 가지 명확한 한계를 지니고 있었습니다. 첫째는 유리관 구조 때문에 크기를 줄이는 데 한계가 있었다는 점이고, 둘째는 열을 내야만 작동하기 때문에 전력 소모와 발열이 엄청났다는 점입니다. 마지막으로 필라멘트가 끊어지면 수명이 다하기 때문에 기계의 신뢰성이 매우 낮았습니다. 인류는 자연스럽게 유리관이 아닌, 단단하고 작은 고체 물질 안에서 전기를 제어할 수 있는 방법을 찾기 시작했고 그 갈망이 결국 반도체 시대를 여는 도화선이 되었습니다.

이 문제를 단번에 해결한 것이 바로 1947년 12월 미국 벨연구소의 과학자들이 발명한 트랜지스터였습니다. 게르마늄이라는 반도체 물질을 이용해 만든 이 작은 장치는 진공관과 똑같이 전기를 켜고 끄는 역할을 했지만, 크기는 손톱보다 작았고 열을 낼 필요도 없었습니다. 부러지거나 깨질 유리관도 없으니 수명도 거의 영구적이 었어요. 트랜지스터의 등장으로 전자제품의 크기는 획기적으로 줄어들기 시작했고, 1950년대에 대히트를 친 휴대용 트랜지스터 라디오처럼 대중의 삶 속에 반도체가 깊숙이 들어오게 되었지요.

3. 2년마다 두 배씩 똑똑해진 칩

초기의 트랜지스터는 진공관보다 훨씬 훌륭했지만, 여전히 한 가지 아쉬운 부분이 있었습니다. 복잡한 계산기를 하나 만들려면 수천 수만 개의 트랜지스터와 저항, 전선을 사람이 일일이 손으로 납땜해서 연결해야 했기 때문입니다. 전선이 꼬이거나 납땜이 떨어지면 기계 전체가 멈추는 통에 더 복잡한 제품을 만들기가 어려웠습니다. 이 한계를 극복하기 위해 1958년 텍사스 인스트루먼트의 잭 킬비와 페어차일드의 로버트 노이스는 하나의 실리콘 판 위에 트랜지스터와 전선을 한꺼번에 인쇄하듯 그려 넣는 집적회로(IC)를 발명해 냈습니다.

집적회로의 탄생은 사람이 손으로 부품을 조립하던 시대의 종말을 의미했습니다. 이제 컴퓨터의 성능은 손재주가 아니라, 커다란 도면에 회로를 정교하게 그린 뒤 이를 얼마나 작게 축소해서 실리콘 웨이퍼 위에 찍어낼 수 있느냐는 공정 기술의 싸움으로 바뀌었습니다. 하나의 칩 안에 들어가는 트랜지스터 수가 많아질수록 컴퓨터는 더 똑똑해지고 가격은 더 저렴해지는 신세계가 열린 것입니다.

1965년 인텔의 공동 창립자인 고든 무어는 반도체 역사상 가장 유명한 법칙을 발표합니다. 바로 하나의 반도체 칩에 들어가는 트랜지스터의 숫자가 약 2년마다 두 배씩 증가한다는 경험적 관측이었습니다. 이를 무어의 법칙이라고 부릅니다. 이 법칙은 자연계의 절대적인 물리 법칙은 아니었지만, 전 세계 반도체 기업들이 기술 개발을 할 때 반드시 달성해야 하는 공동의 목표이자 약속처럼 작용했습니다. 실제로 업계는 지난 수십 년 동안 이 속도를 기적적으로 유지하며 발전해 왔습니다.

트랜지스터를 더 작게 만들어 빽빽하게 넣을 때마다 연산 속도는 빨라졌고 소모 전력은 줄어들었습니다. 1971년 인텔이 선보인 최초의 상용 마이크로프로세서 4004 칩에는 약 2,300개의 트랜지스터가 들어있었지만, 오늘날 우리가 쓰는 최첨단 스마트폰 칩이나 고성능 그래픽카드에는 무려 수백억 개의 트랜지스터가 손바닥보다 작은 공간에 밀집해 있습니다. 이 놀라운 집적도의 발전이 개인용 컴퓨터(PC)의 보급과 인터넷 혁명, 그리고 스마트폰 대중화를 이끈 경제적 핵심 엔진이었습니다.

[아래 이미지는 1971년 인텔에서 선보인 Microprocessor 4004 입니다]

4. 머리카락 10만분의 1 한계에 부딪힌 나노미터 전쟁

반도체 기업들이 무어의 법칙을 지키기 위해 벌인 핵심 전쟁은 바로 회로의 선폭을 줄이는 미세공정 경쟁이었습니다. 초창기에는 마이크로미터 단위였던 회로의 두께는 점차 나노미터 단위로 진입했습니다. 나노미터는 10억 분의 1미터를 뜻하는데, 이는 인간의 머리카락 굵기를 무려 10만 등분 한 것과 비슷한 상상하기 힘들 정도로 미세한 크기입니다. 최근의 선도 기업들은 3나노미터 공정을 넘어 2나노미터 미만의 초미세 영역을 향해 치열한 레이스를 펼치고 있습니다.

이렇게 극도로 얇은 회로를 실리콘 웨이퍼 위에 그리려면 특수한 빛이 필요합니다. 필름 카메라로 사진을 찍듯 빛을 쏘아 회로를 새겨야 하는데, 선이 너무 얇아지다 보니 기존의 빛으로는 선이 번져서 그릴 수가 없게 된 것입니다. 이때 구원투수로 등판한 것이 바로 극자외선(EUV) 노광 장비입니다. 네덜란드의 ASML이라는 기업이 전 세계에서 독점 생산하는 이 장비는 아주 짧은 파장의 빛을 사용해 초미세 회로를 정밀하게 그릴 수 있게 해줍니다. 장비 한 대당 가격이 수천억 원을 호가하고 1년에 만들 수 있는 수량이 한정되어 있어, 이 장비를 얼마나 많이 확보하느냐가 첨단 반도체 경쟁의 성패를 가르는 전략 자산이 되었으며 전체 공급망의 핵심 병목이기도 합니다.

하지만 회로 두께가 원자의 크기 수준에 가까워지면서 평면에 회로를 그리는 방식은 커다란 벽에 부딪혔습니다. 선과 선 사이가 너무 가까워지다 보니, 전기가 흐르지 말아야 할 때도 옆 선으로 전기가 새어 나가는 누설 전류 현상이 발생하고 이로 인해 엄청난 열이 발생했기 때문입니다. 공정이 미세해질수록 오히려 불량률이 치솟고 비용이 천문학적으로 늘어나는 문제가 터진 것입니다. 이에 반도체 업계는 평면 구조를 버리고 트랜지스터를 입체적으로 세우는 핀펫(FinFET) 구조를 도입했으며, 최근에는 전선 사방을 게이트가 감싸 전류를 더 완벽하게 통제하는 지이에이(GAA) 구조로 전환하며 물리적 한계를 돌파하고 있습니다.

이러한 한계 상황 속에서 반도체 산업의 핵심 화두는 아주 결정적인 변화를 맞이하게 됩니다. 과거에는 무조건 회로를 ‘얼마나 작게 만드느냐’에 목숨을 걸었다면, 이제는 단일 칩을 무작정 줄이는 것이 경제적·물리적으로 불가능하다는 점을 인정하기 시작한 것입니다. 대신 서로 다른 기능을 하는 칩들을 아주 정교하게 이어 붙이거나(칩렛 기술), 칩을 수직으로 3차원처럼 높게 쌓아 올려 성능을 높이는 3차원 집적 기술로 무게중심이 이동했습니다. 이를 무어의 법칙을 넘어섰다는 의미에서 비욘드 무어(Beyond Moore)라고 부르며, 이 새로운 시대의 가장 대표적인 주인공이 바로 다음에 설명할 HBM입니다.

5. 좁은 길을 넓히는 대신 초광폭 고속도로를 뚫다

최근 뉴스에서 가장 자주 들리는 단어 중 하나인 HBM은 고대역폭 메모리(High Bandwidth Memory)의 약자입니다. 그 구조를 쉽게 설명하자면, 기존의 메모리 반도체인 D램을 평면으로 넓게 깔아두는 대신 빌딩처럼 위로 차곡차곡 쌓아 올린 형태입니다. 그리고 이 아파트 같은 구조의 칩들을 관통하는 머리카락보다 얇은 미세한 전극 통로(TSV, 실리콘 관통 전극)를 수천 개 뚫어서 위아래 칩을 직접 전기적으로 연결한 초고성능 메모리입니다.

HBM의 핵심 개념을 이해하기 위해서는 대역폭이라는 단어의 뜻을 알아야 합니다. 대역폭은 쉽게 말해 ‘단위 시간 동안 얼마나 많은 데이터를 한 번에 주고받을 수 있는가’를 뜻합니다. 이것을 일상생활 속의 도로와 자동차 통행량에 비유해 보겠습니다. 기존의 전통적인 메모리가 차선이 2차선이나 4차선 정도로 좁은 도로라면, 아무리 자동차(데이터)의 속도를 높여도 한 번에 지나갈 수 있는 차량 수에 한계가 있어 정체가 발생합니다. 반면 HBM은 차선의 숫자를 수천 개로 대폭 늘려버린 초광폭 고속도로와 같습니다. 차 한 대의 속도를 무리하게 올리지 않아도 수천 대의 차가 동시에 나란히 달릴 수 있기 때문에 전체 통행량이 압도적으로 늘어나는 원리입니다. 데이터를 많이 보내면서도 전력 소모를 획기적으로 줄일 수 있는 이유가 바로 여기에 있습니다.

이 HBM이 갑자기 전 세계 반도체 시장의 중심이자 귀하신 몸으로 떠오른 결정적인 계기는 바로 인공지능(AI) 열풍 때문입니다. 챗GPT 같은 거대한 생성형 AI를 학습시키고 구동하려면 사람의 뇌 세포에 필적하는 엄청난 양의 데이터를 인공지능 두뇌인 GPU(그래픽처리장치)에 끊임없이 집어넣어 주어야 합니다. 그런데 GPU의 연산 속도는 무지막지하게 빠른 반면, 기존 메모리가 데이터를 보내주는 속도가 너무 느리다 보니 GPU가 데이터를 기다리며 멍하니 서 있게 되는 이른바 메모리 병목 현상이 발생했습니다. 아무리 좋은 슈퍼카를 사도 도로가 막히면 속도를 낼 수 없는 것과 같은 이치입니다.

HBM은 바로 이 인공지능 시대의 꽉 막힌 교통 정체를 완벽하게 뚫어버리는 유일한 해결책으로 낙점되었습니다. 엔비디아를 비롯한 전 세계 대형 인공지능 칩 제조사들은 자신들의 핵심 연산 장치 바로 옆에 이 HBM을 바짝 붙여서 하나의 패키지로 묶어 공급하기 시작했습니다. 전 세계 데이터센터가 인공지능용으로 급격히 전환되면서 HBM 수요는 폭발적으로 늘어났고, 제조 공정이 워낙 까다로워 물량이 부족하다 보니 글로벌 빅테크 기업들이 미리 예약을 해야만 구할 수 있는 전략적 핵심 자산이 되었습니다.

6. 2026년 HBM4 양산과 글로벌 반도체 패권의 향방

2026년 현재, 반도체 업계의 가장 뜨거운 격전지는 바로 6세대 제품인 HBM4 시장입니다. 2026년 2월 12일, 삼성전자는 공식 발표를 통해 업계 최고 성능을 자랑하는 HBM4의 세계 최초 양산 및 출하에 성공했다고 전격 공개했습니다. 이로써 대한민국 기업들은 기술 리더십을 다시 한번 증명하며, 뒤를 바짝 추격하던 미국의 마이크론 등 후발 주자들과의 기술 격차를 성공적으로 벌리는 데 성공했습니다.

이번에 양산된 6세대 HBM4는 이전 세대 제품과 비교했을 때 데이터를 주고받는 대역폭이 무려 2배 가까이 넓어졌으며, 인공지능 데이터센터의 가장 큰 골칫거리인 전력 소모와 발열 문제도 크게 개선되었습니다. 이 새로운 칩은 글로벌 인공지능 시장을 지배하고 있는 엔비디아의 차세대 대형 인공지능 가속기 칩에 탑재되어 본격적으로 공급되고 있습니다. 한국을 대표하는 두 거인인 삼성전자와 SK하이닉스는 시장을 장악하기 위해 서로 다른 전략을 펼치고 있어 흥미롭습니다. SK하이닉스는 기존에 검증된 안정적인 제조 공정과 독자적인 핵심 패키징 기술을 앞세워 높은 수율(합격품 비율)과 공급 안정성을 강조하는 전략을 씁니다. 반면 삼성전자는 업계 최고 수준의 초미세 공정 능력과 함께 설계부터 생산, 패키징까지 한 곳에서 모두 해결할 수 있는 일괄 생산 체계(Turn-key)의 강점을 활용해 시장의 판도를 단숨에 뒤집는 속공 전략을 펼치고 있습니다.

글로벌 시장의 판세는 선두 자리를 굳건히 지키려는 SK하이닉스와 그 뒤를 맹렬히 추격하는 삼성전자, 그리고 3위권에서 기회를 엿보는 마이크론의 3파전 구도가 지속될 것으로 보입니다. 다만 글로벌 테크 기업인 AMD가 자신들의 차세대 인공지능 핵심 가속기에 삼성전자의 HBM4를 대규모로 채택하기로 결정하는 등 대형 고객사들의 확보 경쟁에 따라 앞으로의 점유율 순위는 언제든 요동칠 수 있는 상황입니다. 동시에 현재의 반도체 시장은 순수한 기술 경쟁을 넘어 복잡한 국제 정치적 역학 관계가 얽혀 있습니다. 중국 메모리 반도체 기업들이 거대한 자본을 바탕으로 무섭게 추격해 오고 있으며, 이에 대응해 미국 정부의 첨단 기술 수출 통제 조치가 날로 강화되는 등 지정학적 리스크가 상존하고 있습니다.

7. ‘비욘드 무어’ 시대의 투자 관전 포인트

앞으로의 반도체 산업과 투자 시장을 바라볼 때 가장 주목해야 할 핵심 키워드는 단연 첨단 패키징입니다. 과거에는 반도체 주식을 평가할 때 어느 회사가 선폭을 1나노미터 더 줄였는가만 보았다면, 앞으로는 서로 다른 초소형 칩 조각들을 얼마나 정교하게 이어 붙이고 수직으로 잘 쌓아 올리는지 그 조립과 포장 능력이 회사의 가치를 결정하게 될 것입니다. 단일 칩을 미세화하는 비용보다 여러 칩을 효율적으로 묶어 하나의 거대한 시스템으로 만드는 통합 능력이 성능 개선의 핵심 동력이 되었기 때문입니다.

우리가 주목해야 할 또 다른 흐름은 인공지능 연산 수요가 폭발함에 따라 컴퓨터 구조 자체가 메모리와 연산 장치의 경계가 사라지는 방향으로 진화하고 있다는 점입니다. HBM을 시작으로 앞으로는 메모리 반도체 내부에 직접 간단한 연산 기능을 집어넣어 데이터 이동 거리를 제로로 만드는 기술(PIM) 등 상상을 초월하는 하이브리드 형태의 차세대 반도체들이 대거 등장할 예정입니다.

결론적으로, 100년 전 방 하나를 가득 채우고 벌겋게 달아오르던 거대한 유리관 진공관에서 출발한 인류의 전자공학은 이제 손톱만 한 공간에 수백억 개의 스위치를 넣고, 그것을 다시 아파트처럼 수직으로 쌓아 올려 인공지능이라는 가상 인간의 뇌를 지탱하는 경이로운 단계까지 도달했습니다. 반도체의 역사는 한계에 부딪힐 때마다 늘 생각의 전환을 통해 길을 찾아왔습니다. 지금 우리 눈앞에 펼쳐지는 HBM4의 양산과 첨단 패키징 시대로의 대전환은 기술의 끝이 아니라, 인공지능이 이끄는 인류 문명의 새로운 도약을 전방에서 지원하는 가장 위대한 출발점이 될 것입니다.