Artificial Intelligence/AI Tech Trend 🌟2023. 4. 5. 01:03[AI News] 22.04.04 인텔과 허깅페이스가 함께하는 '생성 AI'의 컴퓨팅과 지속가능성 과제 해결 및 그 여정!
본문요약 - 사용자가 인공지능(AI), 머신러닝 모델 및 데이터 세트를 공유할 수 있는 세계 최대 플랫폼이자 커뮤니티인 허깅 페이스(Hugging Face)는 인텔의 AI 하드웨어 가속기가 현재 시판 중인 어떤 GPU보다 빠르게 추론을 실행한다는 성능 결과를 지난달 28일 공유했다. 하바나 가우디2는 1,760억 개의 매개변수에서 엔비디아의 A100대비 20% 더 빠른 추론 성능을 보였다. - 또한 가우디2 서버에서 인기 있는 컴퓨터 비전 워크로드를 실행할 때 동급 A100 기반 서버 대비 1.8배 높은 와트당 처리량을 보여, 뛰어난 전력효율성을 입증했다. - 현재 챗GPT 등 생성 AI 툴은 업계 내 새로운 가능성을 제시해 기대감을 불러일으켰으나, 해당 모델이 요구하는 컴퓨팅으로 인해 기업들은 컴퓨팅 ..