현재 램 부족 사태의 원흉
작성자 정보
-
할라당 작성
- 작성일
컨텐츠 정보
- 548 조회
- 40 댓글
- 목록
본문
# 베라 루빈 NVL72 상세 요약
- CPU: Vera CPU 36개 (88코어 Arm 기반 Olympus 커스텀 코어, LPDDR5X 메모리 최대 1.5TB 지원)
- GPU: Rubin GPU 72개 (HBM4 메모리 탑재, GPU당 288GB, Transformer Engine 지원)
- 슈퍼칩 단위: Vera CPU 1개 + Rubin GPU 2개 결합
- 기타 칩: NVLink 6 스위치, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet 스위치 등 6개 칩 극한 공동 설계
## 성능 (Blackwell 대비)
- 추론(Inference): 5배 향상 (NVFP4 기준 3.6 EFLOPS, GPU당 50 PFLOPS)
- 훈련(Training): 3.5배 향상 (NVFP4 기준 2.5 EFLOPS)
- 토큰당 비용: MoE 모델 기준 10분의 1 수준 (추론 비용 대폭 절감)
- MoE 모델 훈련: 필요한 GPU 수 4분의 1로 감소
- 메모리: HBM4 20.7TB + LPDDR5X 54TB
- 대역폭: NVLink 6로 GPU당 3.6 TB/s, 랙 전체 260 TB/s (인터넷 전체 대역폭 초과)
램을 몇층씩 적층으로 쌓은 HBM4를 '테라'단위로 씀.시스템 구조라 1GPU당은 288GB,
이런데 램이 안부족하면 그게 더 신기할 지경임
더 보기: 카지노 게임
관련자료
-
이전
-
다음
댓글 40
항히스타민제님의 댓글
-
항히스타민제 - 작성일
대당 300만달러 ㄷㄷ
SJDH님의 댓글
-
SJDH - 작성일
스펙보니까 300만달러가 왠지 혜자같은데ㄷㄷ
카에데카렌님의 댓글
-
카에데카렌 - 작성일
메모리가 27TB짜리면 시발 ㅋㅋㅋ 24GB의 1000배잖아3000달러짜리 gpu를 1000배 뻥튀기해줬는데 가격도 1000배만 올린거면 쌉혜자네 ㅋㅋㅋ
개중년님의 댓글
-
개중년 - 작성일
- 부가설명 -어차피 DDR5와 HBM의 웨이퍼 가공 공정은 매우 유사하기 때문에(단일 웨이퍼 패키징하면 DDR5, 적층해서 구멍뚫고 패키징하면 HBM)소비자용 메모리 생산할 라인을 HBM용으로 전용(용도를 바꿈)하기가 매우 쉽다는 것.그래서 DDR5 칩을 생산하던 라인이 죄다 HBM용 웨이퍼 공정으로 바뀌는 바람에소비자용 메모리 모듈 생산량이 거의 사라지다 시피 함
고추장크림흑맥주님의 댓글
-
고추장크림흑맥주 - 작성일
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 매우유사
돌가죽님의 댓글
-
돌가죽 - 작성일
이게 본문보다 더 핵심에 가깝긴 해
지민정님의 댓글
-
지민정 - 작성일
램을 그렇게 많이 쓴다고? 전기를 얼마나 처박아야하는거야 ㅋㅋㅋㅋㅋ 와
nesy님의 댓글
-
nesy - 작성일
그래서 전력 관련주가 오르고 있음
Earth2님의 댓글
-
Earth2 - 작성일
머스크가 에너지가 돈을 대신할거라는 이유
히오스사랑꾼님의 댓글
-
히오스사랑꾼 - 작성일
램좀 그만먹어 이자식들아
콜보싸님의 댓글
-
콜보싸 - 작성일
중국산 램 쓸수도 없고 암울라네
더블그라탕버거님의 댓글
-
더블그라탕버거 - 작성일
아 저래서 램가격이 막 오르는거였구나 생산을 안해서 그런게 아니라
까모님의 댓글
-
까모 - 작성일
램 가격이 오르면 풀생산 갈기지ㅋㅋ 돈벌시간인데ㅋㅋ근데 소매시장에 풀어봐야 푼돈이고 저기에 팔면 목돈이라 푼돈을 다 버리는거지ㅋㅋ게다가 소매시장에 오르는 가격이 그대로 삼,하에 추가되는게 아니라 물량 남겨놓고도 가격 계속올리는 총판이 벌어가는 구조라..
우상미님의 댓글
-
우상미 - 작성일
많이 풀면 가격이 내려가니까, 일부러 고점각 잡는거야?
까모님의 댓글
-
까모
- 작성일
품절이랑 재고소진 존나띄우면서 가격이 계속 오름.솔직히 어차피 싯가면 걍 씨발 팍팍 올려도 되는데 그러진 않는거보니까그러면 거부감에 걍 안사 씨발. 이러거나 법적으로 문제생기거나 이러나봄.
도플갱어2님의 댓글
-
도플갱어2 - 작성일
저거때매 램 가격 폭등하니까 램 다시 뽑는다는 이야기도 있던데
요리왕님의 댓글
-
요리왕 - 작성일
야이씨 ㅎㅎ 삼성 파운드리 안 쓸거야? ㅎㅎ
개드리퍼70님의 댓글
-
개드리퍼70 - 작성일
74테라 ㅋㅋㅋ
종이접기매매법님의 댓글
-
종이접기매매법 - 작성일
전세계가 이악물고 AI개발하겠다는데 특이점이 안올수가 있겠냐? 2035년설도 보수적으로 잡은걸지 모름
카에데카렌님의 댓글
-
카에데카렌
- 작성일
데이터가 문제임 데이터가이미 유튜브며 블로그며 AI가 생성한 데이터로 poisoned되었는데AI가 스스로 문제내서 스스로 풀면서 더 똑똑해지는 과정까지 못가면 ... 여기서 사람들의 기대치처럼 AGI 성능이 많이 늘어날수없고 과투자했다고 끝날지도
유나이티드헬스님의 댓글
-
유나이티드헬스
- 작성일
유나이티드헬스2026.01.07@종이접기매매법[삭제 되었습니다]
종이접기매매법님의 댓글
-
종이접기매매법
- 작성일
아직까진 이것저것 시도해보는 단계니까 더 좋은 방법 찾겠지모
개월째가입후회중님의 댓글
-
개월째가입후회중 - 작성일
이래서 치킨먹고 그 쇼를 했구나
nesy님의 댓글
-
nesy
- 작성일
ㅇㅇ 맞음지금 현대차 떡상하는 것도 엔비디아가 올려준 영향이 큼
샤크군님의 댓글
-
샤크군
- 작성일
치킨먹은대가가 이거였어!?
살지능님의 댓글
-
살지능
- 작성일
진짜 10년내에 데이터센터 다 우주로 옮길듯냉각 관리 어떻게 하냐 ㅋㅋㅋ 그럼 누가 이득이다? 테슬라지 뭐
모히또볶음밥님의 댓글
-
모히또볶음밥
- 작성일
우주 방사선 처리 어떻게함??그냥 바닷가에서 수냉하는게 맞지 않음?
내가빅뱅이론님의 댓글
-
내가빅뱅이론
- 작성일
우주는 무중력이라 오히려 냉각이 더 불리한데?
네이버페이님의 댓글
-
네이버페이 - 작성일
무중력말고 다른거!
내가빅뱅이론님의 댓글
-
내가빅뱅이론
- 작성일
데이터센터 위성 하나당 4km × 4km 넓이의 방열판이 필요하다는데 그런 걸로 기업별로, 최소한 한 국가별로 수천개씩 쏘아올려서 상용화를 할 수가 있을런지...
icecoke님의 댓글
-
icecoke
- 작성일
HBM 버전 지난건 일반 컴퓨터에 쓰게 해주면 안되겠니?어차피 그렇게 될꺼잖아?
2026님의 댓글
-
2026 - 작성일
예전에 비트코인 채굴 이슈로 글카 가격 오를때아 반도체들 오르겠구나 했는데ai는 왜 먼저 생각을 못했지 ㅠㅠㅠㅠ
곩맋픎읺렔싪없슩룲님의 댓글
-
곩맋픎읺렔싪없슩룲
- 작성일
지금 엔디비아 풀매수 해야하나
Epoch님의 댓글
-
Epoch - 작성일
lamb?
유저093님의 댓글
-
유저093 - 작성일
수십 테라단위로 박아넣는구나ㅋㅋㅋㅋ
전개협님의 댓글
-
전개협 - 작성일
짱ㄲ들에게 ddr5 기회가 온거지ㅈ같은 램이라도 켜지기만 하면 살 기세임
태혀니님의 댓글
-
태혀니
- 작성일
램값 개비싸더라,..
남양주시진접읍님의 댓글
-
남양주시진접읍
- 작성일
SSD도 그가격이면 재고가 부족하다
FDBG님의 댓글
-
FDBG
- 작성일
하드랑 SSD는 안씀?
