AI는 ‘전기 먹는 하마’…美 가계 평균의 1만7000배. 주목 받는 액침냉각과 뉴로모픽

전기 먹는 하마인 챗GPT


더뉴요커에 따르면 오픈AI의 챗GPT는 거대한 ‘전기 먹는 하마’로 묘사되고 있습니다. 이 기술은 하루에 약 2억건의 질문을 처리하며, 이를 위해 소비하는 전력 규모가 하루에 50만 킬로와트시(Kwh)에 이르는 것으로 추정됩니다.

이는 미국 가계의 하루 평균 전력 사용량인 29Kwh의 1만7000배가 넘는 전력 소비량입니다. 이러한 생성형 AI 응용이 늘어날수록 전기 소비량이 기하급수적으로 증가할 것으로 예상됩니다. 만약 알파벳 산하 구글이 모든 검색에 AI를 도입한다면, 전기 소모량은 천문학적인 수준으로 증가할 것으로 예상됩니다.

이에 대해 우려하는 의견도 나왔는데, “AI는 엄청나게 에너지 집약적”이라고 언급하며 AI서버의 엄청난 전력 소비와 AI의 확대로 인한 전력 소비의 증가에 대해 우려하고 있습니다.

데이터센터

AI 데이터센터 구축 호재…전력설비 기업 신바람

국내외 전력설비 기업의 주가가 급등하고 있는 이유는 다양합니다. 먼저, 전력 소모가 많은 인공지능(AI) 데이터센터의 구축이 증가하고 있기 때문입니다. 특히 미국에서는 대선을 앞두고 리쇼어링 현상이 일어나며 공장 구축을 위한 전력설비 수요가 늘어나고 있습니다.

또한, 공급업체의 쇼티지로 인해 가격 결정력이 높아지면서 실적이 개선되고 있습니다. 이러한 전력설비 기업의 실적 개선에는 여러 요인이 작용하고 있는데, 그 중 가장 중요한 것은 AI 서비스를 위한 데이터센터 건립이 늘고 있다는 점입니다.

일론 머스크 테슬라 CEO는 최근 한 콘퍼런스에서 “1년 전에는 AI 신경망 칩의 부족이 문제였고, 그 다음은 변압기의 부족, 그리고 다음은 전력의 부족이 예상된다”고 언급하며 전력 부족 문제에 대한 우려를 표명했습니다. 이러한 요인들이 종합적으로 전력설비 기업의 실적 개선을 이끌고 있습니다.

전력

뜨거운 AI 서버 ‘잘 식혀야’ 비용 아낀다…


AI와 빅데이터 기술의 발전으로 처리해야 할 데이터 양이 급증하면서, 액침냉각 기술이 폭발적으로 늘어난 AI 수요에 주목받고 있습니다.

이 기술은 특수 액체를 사용하여 서버를 냉각함으로써 운영 비용을 절감할 수 있습니다. 특히, 고성능 AI 서버의 전력 소비가 늘어나면서 기존의 공랭식 냉각 기술만으로는 한계에 도달하고 있어, 액침냉각 기술이 대안으로 부상하고 있습니다.

그러나 액침냉각 기술의 상용화에는 데이터센터 설계 변경과 표준화 문제 등의 난관이 존재하며, 기업들은 이를 해결하기 위해 노력하고 있습니다. 현재 기업들은 액침냉각 기술을 개발하거나 도입하는 데 노력하고 있으며, 삼성전자는 메모리 성능과 호환성에 대한 검증을 진행 중입니다.

미국의 슈퍼마이크로컴퓨터는 액침냉각 테마로 강력한 모멘텀을 가지고 있습니다.

엔비디아

가장 진화 된 꿈의 AI반도체 ‘뉴로모픽 칩’ 시동

국내 연구진이 뉴로모픽 컴퓨팅 기술을 활용하여 초전력 고성능 인공지능(AI) 반도체를 개발했습니다.

해당 기술은 인간 뇌의 작동 원리를 모방하여 뇌의 신경세포와 신경세포 간 연결을 모방한 회로를 사용하여 데이터를 효율적으로 처리합니다.

개발된 칩은 엔비디아의 GPU A100 그래픽카드와 비교하면 전력 소모가 625분의 1에 불과하고 칩 면적도 41분의 1로 작은 것이 특징입니다.

연구진은 인간 뇌의 작동 방식과 유사한 기술을 사용하여 상보형 트랜스포머를 개발하였으며, 삼성 28나노 공정을 통해 실제 반도체를 제작했습니다.

이러한 저전력 AI 반도체는 기존의 상용화된 AI 반도체보다 전력 소모가 적고 속도가 빠르며, 오픈AI의 언어모델인 GPT-2를 사용하여 언어를 생성하는 데도 뛰어난 성능을 보여줍니다.

뉴로모픽 반도체는 향후 온디바이스 AI 기술 관련 스마트폰과 같은 기기에서의 기존의 한계를 극복하는데 도움이 될 것으로 기대됩니다.

뉴로모픽

액침냉각과 뉴로모픽 관련주는?

현재 액침냉각의 글로벌 대장주로 고성능, 고효율 서버를 생산하는 기업으로 AI 핵심 기술로 꼽히는 데이터센터, 클라우드 컴퓨팅, 고성능 컴퓨팅 솔루션을 개발중입니다.

지난 1년 동안 무려 10배 이상 올랐으며, 5년 기준으로는 55배 상승했습니다.

반도체 GPU 서버 액침냉각 대장주로 22년 말부터 액침냉각 시스템의 개발에 착수하여 1상형과 2상형 제품을 모두 개발했습니다. 액침냉각 시스템은 과열된 액체를 냉각하는 방식에 따라 1상형과 2상형으로 나뉩니다.

GST는 1상형 시제품 개발을 완료한 후에는 곧바로 2상형 제품의 개발에 착수했습니다. 2상형은 1상형보다 고도화된 기술이 필요하며, 국내 기업 중 2상형을 개발한 곳으로 GST가 유일하다고 업계에서 분석되고 있습니다.

차세대지능형반도체 기술개발사업 국책과제로 설계 부문을 맡아 한국전자기술연구원(KETI)과 디바이스용 인공지능(AI) 칩을 개발중입니다. 스파이킹 뉴럴 네트워크 방식의 뉴로모픽 프로세서를 기반으로 성능향상을 위해 합성곱신경망 을 추가한 하이브리드형에 초점을 맞추고 있습니다.

9년 4월 네패스에서 물적분할해 설립한 PMIC, SoC, RF 시스템 반도체 테스트 전문업체로 뉴로모픽 인공지능칩 테스트를 개발했습니다. 네패스아크가 테스트 개발한 제품은 네패스 퓨처인텔리전스사업부에서 개발한 것으로 칩 자체에서 학습한 판단(인지) 기능을 모두 포함하고 있습니다.

SMCI 2024 03 14 16 12 40
1년간 1680% 상승한 슈퍼마이크로컴퓨터 (SMCI)

속보는 ⚡️번개맞은뉴스 – 상위2% 주식텔레그램 채널(클릭)

현실을 3D 가상에 구현한다”디지털 트윈” 기술 알아보기

5세대 HBM 양산 시작한 마이크론, 삼성, SK하이닉스 따라올까?

글로벌 빅파마가 목숨걸고 확보하려는 이 기술 알테오젠의 ‘키트루다SC’

폭발적 성장 AI반도체 알아보기

비트코인 4차 ‘반감기’… 50만달러 돌파할까?

내용이 유익하다면, 공유해 주세요!