오픈AI 협업 발표, 엔비디아 대체 성공. 퓨리오사

★★★★★★★
아이디어링 : 원격근무시대. First Mover의 시대. 아이디어 회의 방법론 2편 
https://kmong.com/gig/317396

원격근무시대. 아이디어 회의 방법론 2 드립니다. - 크몽

 

[속보] 한국 스타트업 일냈다.. 오픈AI 협업 발표, 엔비디아 대체 성공

 

https://www.youtube.com/watch?v=1Ad0RxN0D3U

 

한국 스타트업 퓨리오사ai가 엔비디아 독점 체제에 균열을 내는 놀라운 성과를 발표했습니다. 이 콘텐츠는 퓨리오사ai가 단 두 장의 칩으로 엔비디아 h100 수십 장이 필요했던 초거대 AI 모델 구동에 성공하며, 오픈ai와 협력하게 된 배경과 그 기술적 의미를 심층적으로 다룹니다. 엔비디아 gpu의 전력 및 비용 병목 현상이라는 AI 시대의 근본적인 한계를 어떻게 극복했는지, 그리고 퓨리오사ai의 독자적인 텐서 컨트랙션 프로세서(tcp) 아키텍처가 왜 더 효율적인지 구체적인 설명을 통해 이해할 수 있습니다. AI 인프라 비용 절감과 지속 가능한 AI 발전을 위한 새로운 패러다임을 제시하는 이 혁신적인 기술이 궁금하다면 반드시 시청해야 할 콘텐츠입니다.

 

1. 퓨리오사AI와 오픈AI의 협력 발표 및 기술적 성과

 

1.1. 퓨리오사AI의 초거대 AI 모델 구동 성공

1. 충격적인 협력 발표:

   1. 2024년 5월 23일 목요일 저녁, 서울에서 퓨리오사AI와 오픈AI가 엔비디아를 이기기 위한 협력을 발표하였다.

   2. 더 자세한 내용은 월요일에 발표될 예정이다.

 

1. 레니게이드 AI 반도체 칩의 성능:

   1. 퓨리오사AI는 단 두 장의 레니게이드 AI 반도체 칩으로 1,200억 개의 파라미터를 가진 GPT 오픈소스 모델을 실시간으로 구동하는 데 성공하였다.

   2. 이는 기존 엔비디아 H100 GPU 수십 장이 필요했던 작업을 단 두 장의 칩으로 완료한 것이다.

 

1. 퓨리오사AI 백준호 대표의 자신감:

   1. 백준호 대표는 과거 인터뷰에서 GPU를 뛰어넘는 효율로 AGI 인프라를 만들겠다고 언급한 바 있으며, 이번 성과로 그 자신감의 이유가 입증되었다.

   2. 많은 사람들이 엔비디아를 이길 수 없다고 호언장담했지만, 퓨리오사AI는 엔비디아보다 훨씬 적은 리소스로 GPU의 전력 및 비용 병목 현상이라는 AI 시대의 근본적인 한계를 극복하는 새로운 설계를 만들어냈다.

 

1. 엔비디아와의 비교:

   1. 엔비디아는 약 2만 명의 직원을 보유한 전 세계에서 가장 강력한 기술 기업으로 불리며, 시가총액 또한 매우 높다.

   2. 반면 퓨리오사AI는 약 160~180명의 직원과 3천억 원 초반대의 투자금(이번 펀딩 포함)으로 엔비디아 제품을 대체하는 사례를 만들어내고 있다.

   3. 이는 단순한 고효율을 넘어선 기술적인 패러다임의 변화 없이는 불가능한 일이다.

 

1. 오픈AI가 퓨리오사AI와 협력한 이유:

   1. 엔비디아가 향후 10년간 AI 솔루션 시장을 독점하는 것은 모든 사람이 원하는 그림이 아니기 때문이다.

   2. 현재 AI 생태계의 상당 부분 이익은 엔비디아로 흘러가고 있으며, 엔비디아는 전 세계 시가총액 1위가 예상될 정도로 성장했다.

   3. 빅테크 기업들이 자체 칩을 개발하려는 이유도 엔비디아에 종속되고 싶지 않기 때문이다.

   4. AI가 지속 가능하려면 인프라 비용이 절감되어야 하는데, 현재 AI 서비스 회사들은 인프라 비용(H100 등) 때문에 손실을 보고 있다.

   5. 따라서 엔비디아보다 더 지속 가능한(sustainable) 솔루션에 대한 시장의 강력한 동력이 존재한다.

   6. 이는 전기차에 대한 니즈가 환경 문제와 결합하여 새로운 생태계를 만든 것과 유사하다.

   7. 퓨리오사AI는 이러한 시장의 니즈와 기술적 혁신을 통해 충분히 경쟁할 수 있다고 설명한다.

 

1. AI 혁명의 현재와 미래:

   1. 현재 AI 혁명은 엔비디아라는 단일 기둥 위에서 이루어지고 있으나, 전 세계 기업들이 감당하기에는 너무 비싸고 전력 소모가 크다.

   2. 오픈AI조차 이러한 구조에만 의존할 수 없는 상황이다.

   3. 퓨리오사AI와의 협력 시연은 엔비디아 독점에서 벗어나려는 전환점이 될 수 있다.

 

1. 퓨리오사AI 2세대 칩의 특징:

   1. 뉴럴 네트워크 기반의 AI는 범용적으로 지원할 수 있도록 설계되었다.

   2. 특히 GPT-3와 같은 강력한 초거대 언어 모델 및 멀티모달 모델(시각적 요소 포함)을 강력하게 지원한다.

   3. GPT-5급 모델(트릴리언 파라미터)은 칩 한 개만으로는 지원할 수 없으며, 여러 칩을 연결하여 지원해야 한다.

 

1. 추론(Inference) 시장의 중요성:

   1. 퓨리오사AI의 칩은 구글, 아마존 등 데이터 센터에 들어가는 엔비디아 B200, H100 같은 추론용 칩을 대체할 수 있다.

   2. AI 컴퓨팅 수요에서 추론의 요구량은 현재도 크지만 앞으로 훨씬 더 커질 것이다.

   3. AI의 궁극적인 목적은 추론이며, 훈련은 모델 개발 단계이고 서비스는 모두 추론에 해당한다.

   4. AI 서비스가 확산될수록 추론의 양은 기하급수적으로 증가할 것이다.

   5. 오픈AI와 같은 곳에서 엄청나게 많은 추론을 H200, B100으로 수행하고 있으며, 퓨리오사AI 솔루션이 이 영역을 빠르게 대체해 나갈 것이다.

 

1. 레니게이드 칩의 가격 및 설치:

   1. 퓨리오사AI 칩은 시장에서 성능과 효율에 맞춰 경쟁력 있는 가격에 판매될 예정이며, 저렴하지는 않다.

   2. HBM(고대역폭 메모리)이 탑재되어 있기 때문이다.

   3. 일반 그래픽 카드처럼 PCI 슬롯에 꽂아 사용할 수 있다.

   4. 실제 카드는 히트싱크가 없는 형태이며, 완제품은 PCI 카드 형태로 개발된다.

   5. 워보이(Warboy)라는 이전 제품은 레니게이드보다 작고 전력 소모도 50~60W급으로 절반 정도였다.

 

1. 퓨리오사AI의 TCP(Tensor Contraction Processor) 아키텍처:

   1. 퓨리오사AI의 NPU(신경망 처리 장치)는 AI 워크로드에 가장 필요한 일들을 중심으로 네이티브하게 설계되었다.

   2. TCP 아키텍처는 텐서 컨트랙션(Tensor Contraction) 전체를 하나의 기본 단위(primitive)로 돌리고 그 안에서 최적화할 수 있도록 설계되었다.

   3. 반면 GPU나 다른 AI 반도체들은 훨씬 더 작은 레벨의 행렬 연산을 기본 단위로 삼는 경우가 많다.

   4. 작은 행렬 연산들을 수많은 연산에 매핑하는 데 엄청난 오버헤드가 발생한다.

   5. 퓨리오사AI는 추상화 레이어를 고도화하여 컴파일러와 개발자들이 거대한 사이즈와 다양한 형태의 텐서 컨트랙션 연산을 하드웨어에 효율적으로 매핑하기 쉽다.

   6. 텐서 컨트랙션을 덩어리로 보기 때문에, 너무 쪼개서 로컬하게만 보는 것이 아니라 글로벌한 관점에서 처리하여 훨씬 더 글로벌한 최적화를 할 수 있다.

   7. 이는 100명의 사람을 하나하나 관리하는 대신, 10명씩 덩어리로 묶어 연산 특성에 맞게 조합하여 실행하는 것과 유사하다.

   8. 하드웨어가 내부적으로 전체적인 시각에서 최적화할 수 있는 조건을 제공한다.

 

1.2. AI 반도체 산업의 미래와 퓨리오사AI의 비전

1. 글로벌 AI 컴퓨팅 리더십 확보:

   1. 퓨리오사AI는 3~5년에 걸쳐 글로벌 시장에서 리더십을 확보하고, 그에 따른 많은 일을 해나갈 계획이다.

   2. 글로벌 AI 컴퓨팅 분야의 리더가 되어 지속 가능한 AI(Sustainable AI)를 실현하는 기술적, 제품적 혁신을 지속할 것이다.

 

1. 협력의 중요성:

   1. AI 프런티어 현장에서 모두가 최선을 다하고 있으며, 좋은 결과를 내야 한다는 생각으로 협력의 중요성을 강조한다.

   2. 이러한 협력들이 어느 순간 폭발적인 힘을 발휘할 것이라고 생각한다.

 

1. AI 반도체 산업의 지속 가능성:

   1. AI 반도체 산업이 일시적인 현상이 아니며, 5년 뒤에 사라질 것이라고 전혀 생각하지 않는다.

   2. AI는 앞으로 더욱 확산되고 중요해질 기술이다.

   3. AI 반도체는 '생각하는 기계(thinking machine)'를 만드는 것으로, 매우 근본적인 기술에 속한다.

   4. 퓨리오사AI는 이 생각하는 기계를 더욱 강력하면서도 지속 가능하게 만드는 기술을 개발하고 있다.

   5. 향후 10년을 생각했을 때, 이 영역에서 좋은 제품과 글로벌 경쟁력을 갖춘 토대를 구축하는 것이 가장 중요한 일 중 하나라고 판단하고 최선을 다하고 있다.

 

어린이 수하물 사랑스러운 여행 가방, 스피너 바퀴에 앉고 타는 어린이 여행 가방, 비밀번호 휴대 트롤리 수하물 가방
https://s.click.aliexpress.com/e/_DeJ31md
출처: https://richcat.tistory.com/17515 [리치캣의 현재 그리고 미래:티스토리]

Kids Luggage lovely Travel suitcase on spinner wheels Sit and ride Children's travel bag password carry on trolley luggage bag -