human retweeted
앞으로 메모리 반도체 관련해서 트렌드가 완전히 바뀔 걸로 보여짐.
오늘 글로벌 테크 업계를 뒤흔든 외신 뉴스 3건이 동시에 떴는데, 그 내용을 나란히 놓고 보면 돌아가는 흐름이 꽤 심상치 않음.
1. 인텔의 '탈(脫)HBM' 선언: 비싼 HBM 빼고 노트북용 램 480GB를 때려 박음
- 인텔이 데이터센터용 차세대 AI GPU(D-시리즈)를 전격 공개했는데, 스펙이 굉장히 기묘함.
- 당연히 들어가야 할 초고가 메모리인 HBM(고대역폭 메모리)이나 GDDR7을 아예 빼버리고, 그 자리에 일반 노트북이나 스마트폰에 들어가는 저렴한 저전력 범용 메모리(LPDDR5X)를 무려 '480GB'나 꽂아 넣었음.
- 엔비디아의 최신 블랙웰 울트라(B300)에 들어가는 HBM3e 용량이 288GB인데, 인텔은 훨씬 값싼 범용 메모리를 써서 용량은 오히려 1.7배로 늘리고 전력 소모는 350W(일반 공랭식)로 확 낮춰버린 거임.
- 왜 이런 짓을 했을까? 이제 AI 시장의 중심이 모델을 처음 만드는 '학습(Training)'에서 실제 서비스를 굴리는 '추론(Inference)·에이전트 구동'으로 넘어가고 있기 때문임.
- 추론 단계에서는 너무 비싼 HBM을 쓸 바에야, 속도가 조금 느려도 값싼 범용 메모리를 대용량으로 때려 박아서 가성비 있게 돌리는 게 훨씬 이득임. 즉 빅테크들이 한국 메모리 기업들의 고마진 돈줄인 'HBM'을 우회하는 가성비 루트를 본격적으로 뚫기 시작했다는 뜻임.
2. 중국 딥시크(DeepSeek) + 화웨이의 '탈(脫)엔비디아·자체 칩' 완전 독립
- 미국이 중국에 엔비디아 첨단 칩과 HBM 수출을 막았을 때만 해도, 다들 "중국은 미리 사둔 엔비디아 칩 재고 다 떨어지면 차세대 AI 학습은 아예 못 해서 무너질 것"이라고 생각했음.
- 실제로 지금까지 딥시크를 비롯한 중국 기업들은 화웨이 칩으로는 단순 서비스 구동(추론)만 겨우 돌리고, 가장 난이도가 높은 '모델 사전학습(Pre-training)'만큼은 제재 전에 사재기해 둔 엔비디아 칩(H800·H20 등)이나 우회 수입 물량에만 의존해 왔음.
- 그런데 방금 디인포메이션(The Information) 보도에 따르면, 지금 '화웨이' 엔지니어들이 아예 딥시크 본사에 상주하며 차세대 칩을 공동 설계하고 있고, 올해 말부터는 가장 난공불락이던 '사전학습'에까지 엔비디아 대신 화웨이 자체 칩(어센드 950DT)을 본격 투입하기로 했다고 함.
- 심지어 엔비디아의 독점 무기인 '쿠다(CUDA)' 소프트웨어를 대체할 자체 툴까지 오픈소스로 풀고 있음.
- 즉, 미국(엔비디아)과 한국(메모리) 반도체를 단 한 개도 쓰지 않고 '중국산 AI(딥시크) + 중국산 칩(화웨이) + 중국산 메모리(CXMT·YMTC)'만으로 최첨단 AI 학습까지 끝내는 기술 독립을 만들어낸 셈.
- 중국의 기술 독립은 한국 매출에도 당연히 큰 영향이 있을 수밖에 없는 게, 작년 기준 삼성전자(약 71조 원·비중 30%)와 하이닉스(약 26조 원)가 중국에 판 물량만 합쳐서 연 97조 원(거의 100조 원)에 달함. 만약 중국이 AI 칩부터 메모리까지 완전한 기술 독립을 이뤄내서 이걸 다 자국산으로 대체해 버리면, 우리가 매년 깔고 가던 100조 원짜리 최대 시장이 그대로 날아가는 셈임.
3. 엔비디아의 갑질 시작: "핵심 두뇌는 TSMC에 맡길 테니, 한국은 위에 얹을 D램만 싸게 가져와라"
- 그럼 남은 엔비디아 HBM 시장에서라도 한국 기업들이 지금처럼 높은 마진을 계속 챙길 수 있을까? 이것도 쉽지 않아 보임.
- 쉽게 설명하면, HBM은 일반 D램 여러 장을 아파트처럼 높게 쌓아 올린 메모리임. 근데 아파트도 그냥 벽돌만 쌓는다고 끝이 아니라, 맨 아래 1층에 전체 데이터를 통제하는 '핵심 두뇌 칩(베이스 다이)'이 들어가야 작동함.
- 지금까지는 삼성이나 하이닉스가 이 1층 두뇌부터 위층 D램까지 통째로 만들어서 납품했기 때문에 기술값도 비싸게 받고 마진도 많이 남겼음. 특히 삼성전자는 "우린 파운드리(반도체 위탁생산 공장)까지 다 있으니까 1층 두뇌부터 꼭대기 D램까지 우리 공장에서 혼자 다 만들 수 있다"는 걸 최대 무기로 밀었음.
- 그런데 방금 로이터(Reuters) 보도에 따르면, 엔비디아가 차세대 HBM부터 삼성·하이닉스·마이크론 3사에 새로운 조건을 통보함.
- "앞으로 1층에 들어갈 핵심 두뇌는 엔비디아 방식대로 통일할 거고, 생산도 무조건 대만 TSMC(3나노) 공장에서 만들어라. 너희는 그 위에 올릴 D램만 똑같은 규격으로 만들어 와라"라고 요구한 거임.
- 결국 자존심 세우던 삼성전자조차 엔비디아에 납품을 해야 하니 어쩔 수 없이 사상 처음으로 경쟁사인 대만 TSMC 공정을 쓰기로 합의함.
- 이게 의미하는 바는 아주 명확함. 가장 부가가치가 높은 '1층 핵심 두뇌'는 엔비디아와 TSMC가 다 해 먹고, 앞으로 삼성·하이닉스·마이크론은 엔비디아가 정해준 똑같은 규격에 맞춰 '그냥 위에 쌓을 D램 벽돌만 납품하면서 누가 더 싸게 주나 단가 경쟁을 해야 하는 하청 구조'로 밀려나고 있다는 뜻임.
정리해보면 지금 반도체 판에서 동시에 벌어지고 있는 트렌드 변화는 딱 이 3가지임.
- 한쪽(인텔·빅테크)에서는 "HBM 너무 비싸서 못 쓰겠다"며 저렴한 일반 메모리(LPDDR5X)로 우회로를 뚫고 있고,
- 한쪽(중국 딥시크·화웨이)에서는 아예 미국·한국 반도체를 안 쓰고 자기들끼리 다 해 먹는 자체 생태계를 만들고 있으며,
- 가장 큰 고객(엔비디아)은 HBM의 핵심 두뇌를 대만 TSMC에 몰아주면서 한국 기업들을 단순 D램 납품 하청으로 길들이기 시작했음.
정작 돈을 쓰는 글로벌 빅테크 플레이어들은 이미 '비싼 HBM 이후의 판'을 조용히, 그리고 아주 냉혹하게 새로 짜고 있는 상황이라 앞으로 시장에 다양한 격변이 일어날 것으로 보여짐.
human retweeted
the final algorithm is something i’m calling “agentic gradient” which is where an agent can just do whatever it wants to its harness or weights
the meta-RL problem is getting it to actually work, and there are many many bridges to cross along the way
human retweeted
Arena Physica, 전자기 파운데이션 모델 'Heaviside'를 Microsoft Discovery에 공개
Arena Physica는 전자기학 파운데이션 모델 Heaviside를 마이크로소프트의 엔지니어링 플랫폼인 Microsoft Discovery에 제공한다. 기존에는 설계한 구조물이 실제로 어떻게 동작할지 검증하기 위해 시뮬레이션 결과를 몇 시간에서 며칠씩 기다려야 했는데, 이번 협력은 이 검증 시간을 줄여 하드웨어 개발 속도를 높이는 데 목적이 있다.
Heaviside-1은 25만 건의 3차원 전자기장 시뮬레이션으로 학습한 3억 5,000만 매개변수 모델이다. 구조물의 형상과 재료, 여기 조건을 입력하면 전체 3차원 전자기장 응답을 밀리초 단위로 예측한다. 회사 측 설명에 따르면 기존 해석기보다 약 10만 배 빠르며, 상용 해석기 대비 오차는 1데시벨 이내다.
주요 활용 분야는 RF/밀리미터파 반도체, 첨단 패키징, 인터커넥트 설계다. 특히 BGA 패키징과 SerDes 연결 구조의 전자기 검증을 가속해, 신호 무결성이나 열-전자기 통합 설계에서 발생하는 병목을 줄이고 엔지니어가 다양한 설계안을 빠르게 검토하도록 돕는 것이 기대 효과다.
human retweeted
In our recent PNAS work, we showed that a local, biologically plausible learning rule can be designed so that both the neural network and the learning rule itself are "learned." More importantly, this rule always emerges to behave like a generalized gradient descent.
arxiv.org/abs/2412.20018v2
human retweeted
Optimus and Cybercab will be the vast majority of Tesla’s value.
The only things that will scale to incredible size (K2 and beyond) economically are super intelligence, robots, solar power and mass to space.
And, of course, if you have the first two, the rest will follow.
But Roadster is super cool, so we’re doing it anyway.
human retweeted
More evidence of simulation hypothesis.
Once a species becomes godlike, they erase all pain, friction, and strife with technology.
Then they reset their memories and go into simulation to experience hardships as if they have real stakes.
human retweeted
현대차를 보면서 예전 디스플레이가 떠오름
중국 업체들이 가격으로 시장을 흔들기 시작했을 때도 처음에는 품질과 기술력에서 한국이 앞서 있다는 자신감이 있었는데 하지만 막대한 생산능력과 가격 경쟁력이 결합되면서 산업의 판 자체가 바뀌었음
자동차도 이 흐름에서 자유로울 수 있을까?
현대차는 여전히 생산능력과 품질, 글로벌 판매망이라는 강점이 있음, 하지만 전기차 가격 경쟁에서는 중국 업체들이 압박하고, 자율주행에서는 테슬라가 소프트웨어 중심의 경쟁을 강화하고 있음
문제는 현대차가 기술이 없다는 게 아님. 기존 자동차 제조 역량만으로 다음 자동차 산업에서도 우위를 유지할 수 있느냐는 것임
특히 피지컬 AI와 로보틱스가 본격적으로 상용화되기까지 시간이 걸린다면, 그때까지 기존 자동차 사업이 얼마나 많은 현금과 경쟁력을 유지하느냐도 중요하다고 본다
중국의 치킨게임으로 한국 디스플레이 산업이 겪었던 압박이 자동차에서도 반복된다면, 단순히 차를 잘 만드는 것만으로는 부족할 수 있지 않을려나..
자동차 산업의 패러다임이 바뀌는 지금, 과거의 성공이 미래의 생존을 보장해 주지는 않아 보인다
human retweeted
It's not bad luck.
It's hubris.
Being cocky is not a good attribute for a trader.
Everything is about calibrating risk.
human retweeted
Intoxicating.
I’ve been programming for 45 years, since so was 10. I’ve been a pro game coder for 33 years. Everything from hand coded assembly to UE 5.8. The paradigm shift to agentic coding is intoxicating. It is the biggest productivity jump I have ever experienced.
human retweeted
Elon Musk in new upcoming interview says AI and robots will need to fix the deficit:
"There's no way we were gonna solve the deficit from within the government. The only way we're going to solve the national debt is with AI and robots. We're not gonna solve it by trying to save our way there. The appetite to cut spending is not there at the presidency, the House, the Senate or the judiciary. Basically, no one in authority in the government whatsoever — with maybe a few rare exceptions.
Maybe if the president made that his primary goal, we could do that. If you try to solve the deficit and stop wasteful spending, you make a lot of enemies. President Trump likes to be liked. He doesn't like people calling him, being upset about ... some funding being stopped.
I kinda got carried away, basically and was gone for too long from my companies. What I should have done was be more in the background ... and probably only had it last for a month or two. I should have gone back and focused on AI a little sooner than I did."
The full podcast interview with Walter Isaacson drops this Tuesday.
human retweeted
I've noticed that I never see people say "that money could have been used to feed people" whenever Disney spends half a billion dollars on a Marvel movie.
human retweeted
In retrospect, Isaac Asimov may have been Hari Seldon in disguise. Eighty-four years after the first Foundation stories appeared, many who read his novels in their youth have grown up and begun quietly setting his plan in motion—advancing the long project of human continuity across time, knowledge, and worlds.
When you look outward from the Sun, the vast darkness of the universe overwhelms the senses. The stars are distant, the voids immense, and the scale of what lies beyond is difficult to hold in the mind. Yet our ancestors, gazing toward the horizon of the seas and what they called the edge of the world, were not primarily thinking that their ships might fall off it. They were already charting a new course for humanity, treating the unknown not as an ending but as the next stretch of open water.
Fear is how entropy keeps us caged—by narrowing our horizon to what is already known and safe. Curiosity is what keeps history moving, turning the same darkness into a direction.
As parents, our duty is to keep our children safe from the dangers that are real while preparing them to travel farther than we have. The horizon does not disappear because we love them; it is why we prepare them to meet it.
human retweeted
Just like when the world realized, with the arrival of the iPhone that maybe you would, as your teachers disputed, “always have a calculator in your pocket”, I’m beginning to realize I will never have to be good at doing my digital chores again.
I can relax about my complete ADHD-driven incompetence in filling out my taxes, or responding to emails, or paying my bills, as I will always have an executive assistant in my pocket. A new era is here
human retweeted
For two years, @WalterIsaacson lived in an Airstream next to Elon Musk while writing his biography.
Isaacson didn't want a book built on a series of interviews. Instead, he got near-constant access to observe Musk firsthand.
That's how he saw Musk's "demon mode" up close.
Here's how he describes the mood swings:
"He gets really dark and really difficult. He just goes silent."
"There are people like Gwynne Shotwell and [Tesla design chief] Franz von Holzhausen who know how to push him out of demon mode. He also knows how to get himself together when he goes on stage."
"It depends on what's crossing his mind at the moment. It's almost like a storm cloud coming in off the Gulf."
"There'd be times I'd watch him go into demon mode. I'd be sitting at dinner at a restaurant in Austin and Grimes would be next to me, and she'd say, 'Oh, demon mode's about to come.'"
"I'd watch people text Gwynne to come run into the conference room when he's about to kill Falcon Heavy or something."
And he doesn't think Musk has gotten any less mercurial, either.