Jinsung Son (손진성) (@OKson) header
Jinsung Son (손진성) (@OKson) profile picture

아이웍스 디지털인프라사업본부장 | DC SQUARE 편집인 (https://xitter.cf/t.co/FLDjp26WAX) | IBM Champion 2021–2026 | 데이터센터 · AI 인프라 · 클라우드

Joined August 2009
Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)Photo by Jinsung Son (손진성) (@OKson)
Jinsung Son (손진성) retweeted
국가 슈퍼컴퓨터 ‘한강’, GPU 8,496개 탑재해 12월 14일 정식 서비스 시작 기존 CPU 기반 계산과학과 시뮬레이션에 더해, GPU를 활용한 AI 기반 과학연구까지 지원할 예정 NVIDIA GH200 8,336개와 H200 160개를 탑재하며, 이론 연산성능은 614PF로 5호기 ‘누리온’의 24배에 달함 대학과 정부출연연구기관뿐 아니라 기업의 기술개발에도 활용할 계획이며, 중소기업과 스타트업에는 컨설팅과 기술지원도 제공할 예정 news.hada.io/topic?id=36505
14
3
25
4,584
Jinsung Son (손진성) retweeted
For the first time, end-to-end hardware-based in-flight encryption covers the entire Fibre Channel data path from server to array. Emulex SecureHBA is now integrated into Everpure FlashArray. storagereview.com/review/emu… @Everpure @Broadcom #FibreChannel #SAN #storage #security
1
5
455
Jinsung Son (손진성) retweeted
GPU 수명이 짧은 이유 AI 학습이나 추론용 GPU는 쉬지 않고 연산을 수행합니다. 일반 서버 CPU보다 훨씬 높은 전력(최대 700W 이상)을 사용하고, 발열과 부하도 엄청납니다. 이런 환경에서 GPU 칩은 물리적으로 빠르게 열화됩니다. 즉, GPU는 단순히 “계산을 많이 하는 부품”이 아니라, “고열과 고전력 속에서 혹사당하는 반도체”인 셈입니다. 실제 구글과 메타의 사례 보통 클라우드 서비스 제공업체(CSP)의 GPU는 60~70% 수준의 가동률로 운영됩니다. 이 정도면 1~2년, 길어야 3년 정도가 수명이라는 게 구글 AI 아키텍트의 설명입니다. 메타(Meta)가 Llama 3(405B) 모델을 훈련시킬 때도 흥미로운 데이터가 있습니다. GPU 16,384개(H100 80GB)를 사용한 54일간의 훈련 중 총 419건의 예기치 못한 중단이 있었고, 그 중 148건(약 30%)이 GPU 자체의 문제, 72건(약 17%)이 HBM3 메모리 오류 때문이었습니다. 이를 환산하면 연간 GPU 고장률이 약 9%, 3년간 누적 고장률은 약 27% 수준입니다. 즉, 3년 내 GPU 4대 중 1대꼴로 문제가 생긴다는 뜻입니다. GPU 수명 늘리는 방법? 유일한 방법은 가동률을 낮추는 것입니다. 하지만 그렇게 하면 장비 회전율이 떨어지고, 투자금 회수 속도도 느려집니다. 결국 대부분의 데이터센터는 “조기 교체”를 감수하더라도 풀가동 전략을 선택합니다. 요약하자면 AI 시대의 데이터센터는 마치 고성능 자동차 경기장과 같습니다. 매일 한계치까지 엔진을 돌리다 보니, 부품(GPU)의 교체 주기도 짧아질 수밖에 없습니다. 이 말은 곧, AI 인프라 투자비용이 단순히 초기 장비값이 아니라 ‘지속적인 유지비 전쟁’이라는 뜻이기도 합니다. AI 성장의 속도가 빠를수록, GPU의 교체 주기는 더 짧아질 것입니다. 이건 단순한 기술 문제가 아니라, 앞으로 AI 인프라 산업의 수익성과 자본 구조를 결정짓는 중요한 변수로 볼 수 있습니다. tomshardware.com/pc-componen…
31
155
21
501
83,190
Jinsung Son (손진성) retweeted
AMD and @IBM are partnering to build hybrid quantum-centric supercomputing, fusing quantum and AI with the best of high-performance hardware and software to solve the world’s toughest real-world challenges at unprecedented speed and scale. amd.com/en/newsroom/press-re…
49
220
55
1,433
208,908
Jinsung Son (손진성) retweeted
AI Inference at scale? 🤔 Open source to the rescue! Dive into #vLLM, distributed systems, and the path to practical #AI in the enterprise with @kernelcdub and @addvin on the latest "Technically Speaking." red.ht/3FEEZJ6
6
20
2,957
Jinsung Son (손진성) retweeted
이탈리아의 어느 카페... 행복해지는 영상이다... tumblr.com/armengoldira/7252…
23
17,161
2,515
14,559
3,294,975
Jinsung Son (손진성) retweeted
Happy #DaylightSavingTime from the IBM Cloud Data Center in Dallas.
5
29
139
19,382
Jinsung Son (손진성) retweeted
IBM Flashsystem SafeGuard Copy? 스토리지 내 스냅샷 기능 중 하나인 IBM Flashsystem Spectrum S/W 기능 중 하나로 스냅샷 백업된 데이터 위변조를 방지하는 기술입니다. Flashsystem 5200, 7300, 9500 등 Entry 제품을 제외한 모든 제품에 기능을 사용할 수 있습니다. redbooks.ibm.com/redpapers/p…
1
1
36
Jinsung Son (손진성) retweeted
레드햇 "올해 디지털 전환 최우선 과제는 보안" zdnet.co.kr/view/?no=2023012…
1
1
24
Jinsung Son (손진성) retweeted
“2035년 이후의 전략 및 로드맵에 대한 IBM AIX 경영진 가이드입니다. lnkd.in/e-7Xcs49 AIX/Power는 최상의 사이버 보안, 가용성, 적은 OS 패치 및 유지 관리, Ansible 자동화를 통한 Linux와 유사한 운영을 위한 완벽한 통합 설계입니다. IT 인프라를 개선하고 TCO를 줄이려면…”
1
1
33
Jinsung Son (손진성) retweeted
IBM, 3천900명 정리해고…(26만명 중 1.6%) "이번 감원은 킨드릴 분사, 왓슨헬스 매각 후 남아있는 인력을 중심으로 이뤄질 예정이다. 다만 캐버노 CFO는 "고성장 사업 분야에서는 계속 인력을 채용할 것"이라고 덧붙였다." zdnet.co.kr/view/?no=2023012…
1
47
Jinsung Son (손진성) retweeted
[디지털트윈 칼럼] 챗GPT(ChatGPT)와 디지털트윈 (출처 : ZDNet Korea | 네이버 뉴스) naver.me/F8nAHfTj
1
49
Jinsung Son (손진성) retweeted
IBM AIX 7.1 서비스 연장이 발표되었습니다. 공식 링크를 참조하세요! lnkd.in/exqBYiY3 #IBM #AIX
1
52
Jinsung Son (손진성) retweeted
Daily Security Briefing - 9월 3주차 community.ibm.com/community/…
Jinsung Son (손진성) retweeted
내년에 참가해볼까 하는데 가능할까? joongang.co.kr/article/25100…
2
1
5
Jinsung Son (손진성) retweeted
메모리 시장 대세된 기업용 SSD… 삼성·SK, 전 세계 70% 점유 biz.chosun.com/it-science/ic… – at Jinju-si, Republic of Korea
1
1
Jinsung Son (손진성) retweeted
인텔, 데이터센터용 ‘인텔 플렉스 시리즈 GPU’ 발표・・・150억 달러 시장서 엔비디아와 경쟁 - 테크수다 techsuda.com/archives/17839
1
1