AI 발전과 함께 진화하는 하드웨어와 캐패시터의 특징

생성형 AI 서비스의 급속한 발전과 보급에 따라, 이를 지원하는 하드웨어의 연산량도 비약적으로 증가하고 있습니다. 그렇다면 왜 연산량이 증가하고 있는지, 이러한 요구에 대응하기 위해 하드웨어는 어떻게 진화하고 있는지에 대해 살펴보겠습니다. 이번 포스팅에서는 생성형 AI의 개요와 이를 뒷받침하는 하드웨어 역할과 발전, 그리고 연산 처리 성능에 크게 기여하는 캐패시터에 대해 소개합니다.

5. 파나소닉 전도성 폴리머 캐패시터의 특징

6. 생성형 AI용 하드웨어에 기여하는 포인트

serverimg

1. 생성형 AI의 개요와 작동 방식

최근 자주 언급되고 있는 생성형 AI는 기존 AI와 달리 새로운 콘텐츠를 만들어내는 기술입니다. 대표 사례인 ‘ChatGPT’는 2022년 공개 이후 빠른 속도로 사용자 수를 늘리며 다양한 문서 작성, 음악, 디자인, 프로그래밍 등 여러 분야에 활용되고 있습니다.
‘ChatGPT’를 계기로 생성형 AI 기술을 활용한 다양한 서비스들이 등장하고 있습니다. 생성형 AI는 우리의 생활을 풍요롭게 할 것으로 기대되지만, 저작권 문제와 일자리 감소 우려 등 논란도 존재합니다. 앞으로는 로봇이나 중공업 분야 등 물리적 분야로의 확장도 예상됩니다.

기존 AI와 생성형 AI의 차이점은 다음과 같습니다. 기존 AI는 데이터 분석과 예측 수행에 초점이 맞춰져 있는 반면, 생성형 AI는 데이터 기반으로 지시된 내용을 새롭게 생성하는데 특화되어 있으며 짧은 시간 내에 새로운 콘텐츠를 창출합니다.

생성형 AI가 새로운 콘텐츠를 만들어내는 방식은 크게 두 단계로 나뉩니다.

(1) 학습 단계
방대한 데이터를 이용해 데이터의 특징을 파악하는 계산이 이루어지며, 이를 통해 고도화된 생성이 가능한 추론 모델이 만들어집니다. 이 과정은 서비스의 범위와 정밀도에 따라 시간이 오래 걸릴 수 있으며, 빠른 서비스 제공을 위해 학습 시간 단축이 필요합니다.

(2) 추론 단계
학습된 모델을 바탕으로 사용자 입력에 대한 답변이 생성됩니다. 이 과정은 매우 빠르게 진행되며, 일반적으로 수십 초 이내에 완료됩니다. 빠른 응답 속도가 사용자 만족도에 영향을 미치기 때문에, 1초 이내의 빠른 처리 속도가 중요합니다.

2. 생성형 AI의 과제

생성 AI는 활용 범위와 편리성으로 인해 매우 기대되는 기술이지만, 아직 실용적인 측면에서는 해결해야 할 과제도 남아 있습니다. 그 중 하나는, 확률을 기반으로 답변을 생성하기 때문에 가끔 부정확한 내용을 만들어내는 ‘환각 현상'입니다. 이는 AI가 마치 환각을 보는 것처럼 가장 가능성 높은 거짓 정보를 출력하는 현상을 말합니다. 이 과제를 해결하기 위한 방법 중 하나로는 학습 시 사용되는 데이터 양과 계산 파라미터 수를 늘리는 것입니다. OpenAI의 ChatGPT에 사용된 생성형 AI 모델은 이러한 방법으로 생성 정확도를 높인 것으로 알려져 있습니다.

3. 하드웨어의 역할과 발전

현재 생성형 AI 서비스는 대부분 웹 서비스 형태로 제공되며, 계산 처리는 클라우드 데이터 센터에 설치된 다수의 서버에서 수행됩니다. 기존의 웹 서비스는 보통 한 대의 서버에 1~2개의 CPU가 핵심 계산 처리 역할을 담당했으나, 2010년대에 들어서면서 기존 CPU로는 효율적으로 성능을 향상시키기 어려워졌습니다. 이에 대한 해결책으로 도입된 것이 바로 가속기(Accelerator)입니다. 이는 서버에 별도의 고효율 프로세서를 추가하여 처리 성능을 효율적으로 향상시키는 방식으로, AI와 같은 대량 데이터 처리가 필요한 서비스에 적합합니다. 생성 AI용 가속기로는 GPU와 ASIC가 일반적으로 선택되고 있습니다.

AI_Server

4. 전력 공급과 캐패시터의 중요성

생성형 AI에 사용되는 하드웨어에서 캐패시터는 다양한 곳에서 사용되지만 특히 주요 연산 처리를 수행하는 프로세서 전원 라인에서 매우 중요합니다. 또한 프로세서가 연산 처리를 수행하기 위해서는 충분한 전류 공급이 필요합니다. 이 전류를 공급하는 역할이 바로 전원입니다. 전류는 전원 라인을 통해 프로세서로 전달되는데, 프로세서는 전원 공급 속도가 따라오지 못할 만큼 고속 · 대전류를 필요로 합니다. 공급이 제대로 따라오지 않는다면, 전압이 크게 낮아져 프로세서의 작동이 멈출 수 있습니다. 이러한 사고를 방지하기 위해, 프로세서에 고속으로 전류를 공급하는 역할이 바로 "캐패시터" 입니다. 그러나 캐패시터를 설치했더라도 그 용량이 부족하면 역시 전압이 낮아지고 작동이 멈출 수 있어, 파나소닉의 "전도성 폴리머 캐패시터"와 같은 대용량 캐패시터를 사용해 장기적이고 안정적인 연산 처리를 지속할 수 있게 합니다.

A：전도성 폴리머 캐패시터 없을 경우
→ 전류 공급이 부족하여 전압이 낮아짐
→ 전압의 안정화가 이루어지지 않아 허용 범위를 벗어남
→ 시스템이 셧다운되고, 데이터 처리 중단

AI_Server_02

B：전도성 폴리머 캐패시터 있을 경우
→ 전류 공급이 충족되어 전압 강하를 억제함
→ 전압이 허용 범위 내에 유지됨 = 전압 안정화
→ 보다 빠른 처리로 원활하게 전환 가능

AI_Server_03

5. 파나소닉 전도성 폴리머 캐패시터의 특징

소형 · 저배

AI용 프로세서는 높은 계산 능력을 발휘하기 위해 대전류가 필요하며, 이에 따라 프로세서의 크기가 해마다 커지는 경향이 있습니다. 이때, 대전류 요구에 대응하기 위해 전원 공급 장치의 크기도 커지게 되고, 그 결과 기판 표면에 캐패시터를 배치할 공간이 없어지는 경우가 늘어나고 있습니다. 이러한 문제에 대해, 파나소닉 인더스트리의 전도성 폴리머 알루미늄 전해 콘덴서(SP-Cap)는 기판 뒷면에 배치할 수 있는 저배(높이 2mm 이하) 제품이 충실하게 갖추어져 있어, 엄격해지는 실장 면적 문제에 대해 효과적인 솔루션을 제공하고 있습니다.

AI_Server_04

반면에, 표면에 콘덴서를 배치할 수 있는 경우에도 방열 구조를 단순하면서도 방열 성능이 높은 설계로 만들 수 있어, 하드웨어의 신뢰성을 높일 수 있습니다.

AI_Server_05

고신뢰성

AI용 하드웨어의 요구 사항 중 또 하나 중요하게 여겨지는 요소는 장기 신뢰성입니다. 특히 학습 과정에서는 프로세서가 오랜 기간 동안 풀 가동되기 때문에, 이 기간 동안 고장 없이 안정적으로 작동해야 하고 고온에 견디며 장기 신뢰성이 높은 제품이 필요합니다. 이러한 하드웨어의 요구에 부응하기 위해, 파나소닉 인더스트리는 고온 환경에서도 장기 사용이 가능한 전도성 캐패시터 제품을 개발하였으며, 프로세서 주변이 고온일 때도 신뢰성을 확보할 수 있는 유효한 선택지로 자리 잡고 있습니다.

6. 생성형 AI용 하드웨어에 기여하는 포인트

기존의 웹 서비스에 사용되는 서버에서는, 프로세서에 공급되는 전력은 서버 랙에 있는 AC/DC 컨버터에서 12V로 배전되는 것이 일반적입니다. 반면에, 생성형 AI에 사용되는 서버는 프로세서 탑재 수가 많기 때문에 48V로 배전하는 사례가 많아지고 있습니다. 12V로 배전할 경우 매우 큰 전력 손실이 발생하지만, 48V로 할 경우 전류를 1/4로 줄이고 전력 손실을 1/16로 줄일 수 있기 때문입니다. 이때, 프로세서용 전압은 48V에서 DC/DC 컨버터(1st stage)를 통해 중간 전압으로 변환한 후, 후단의 DC/DC 컨버터(2nd stage)를 사용하여 프로세서가 사용하는 1.xV 이하로 변환하는 것이 일반적입니다. 또한, PCIe나 SSD 등 12V를 사용하는 디바이스에 대해서는, 48V에서 별도의 DC/DC 컨버터를 통해 12V가 배전됩니다.

앞서 언급한 바와 같이, 파나소닉 인더스트리의 전도성 폴리머 캐패시터는 프로세서에 고속 대전류를 공급하는 데 사용되고 있으며, 전체 회로를 보면 각각의 전원(DC/DC 컨버터)의 입출력에도 캐패시터가 배치되어 있습니다. 이들 캐패시터 역시, 입력 측에서의 전류 공급 지연을 보완하고, 시스템을 안정적으로 동작시키기 위해 배치되어 있습니다. 생성형 AI에서는 전원 문제로 인해 시스템이 다운되는 것이 큰 손실이기 때문에, 전원 회로 전체에 걸친 신뢰성 확보는 하드웨어 설계의 가장 중요한 과제 중 하나입니다. 파나소닉의 전도성 폴리머 캐패시터는 높은 안전성과 신뢰성을 갖추고 있어, 생성형 AI용 하드웨어 전체에 걸쳐 유효한 선택지가 되고 있습니다.

AI_Server_06

구분	벌크 캐패시터 표준 정격	상품	특징
(1) 1st stage 입력 (40-60V)	47μF ～100μF	Aluminum Electrolytic Capacitors	저렴하고 대용량을 지지 (액체 전해질에 의한 온도 특성 및 용량 감소 우려 있음)
		OS-CON	전고체에 의한 온도 안정성과 긴 수명 및 신뢰성을 지원 (신뢰성을 중시하는 경우 E-cap 사용 불가)
		Hybrid	반고체에 의한 E-cap과 OS-CON의 중간 특성을 지지
(2) 1st stage 출력 · 2nd stage 입력 (5-15V)	100μF ～470μF	OS-CON	대전류 변동 백업 및 전원 평활에 대용량 + 고리플전류 특성이 효과적
(2) 1st stage 출력 · 2nd stage 입력 (5-15V)	100μF ～470μF	POSCAP	기판 뒷면에 장착이 필요한 고밀도 서버나 가속기(Accelerator) 카드 등의 대전류 변동 백업에 2mm의 부품 높이가 효과적
(3) 2nd stage 출력 (<1.xV)	220μF ～1000μF	SP-Cap	대전류 변동 백업에 대용량 + 저 ESR 특성이 유효. 출력의 기판 표면은 면적 여유가 적은 경우가 많아, 뒷면 장착이 가능한 2mm의 부품 높이가 효과적
(3) 2nd stage 출력 (<1.xV)	220μF ～1000μF	POSCAP	소형 · 대용량으로 고밀도 서버나 가속기(Accelerator) 카드 등에 최적