차세대 AI 엔진을 가동하는Soul Machines
휴먼 OSTM 플랫폼 개발자는 HP Z8 워크스테이션의 높은 성능과 메모리, 가상화 기능을 사용하여 브랜드 경험을 향상시킵니다.
2023년부터 마켓에 출시되는 제품의 경우, 로고와 로고 위치 변경이 예정되어 있습니다. 이에 실제 제품은 사진 및 영상 속 이미지와 다를 수 있습니다.
의미 있는 방법으로 고객과 소통하려고 노력하는 기업들
공유 장소
Soul Machines는 Human OS 플랫폼으로 개인화된 서비스의 새로운 지평을 열었습니다. 이 스타트업의 목푠는 AI 기반 시뮬레이션에서 실행되는 Digital People™을 만들어 최종 사용자와 원활한 상호 작용을 제공함으로써 서비스 산업의 대중화를 지원하는 것입니다. 머신러닝과 AI 모델을 훈련시키기 위해 Soul Machines는 메모리와 컴퓨팅 용량의 제약을 받지 않는 빠르고 효율적인 그래픽 기능을 갖춘 강력한 머신이 필요했습니다. 그래서 Nvidia Rapids 소프트웨어 제품군과 함께 HP Z8 G4 워크스테이션을 사용하여 하나의 워크스테이션에서 머신러닝 챗봇인 Facebook의 BlenderBot 자체 버전과 같은 대규모 모델을 위한 과정을 설정했습니다. 이는 고객 경험을 혁신하기 위한 핵심 단계입니다.
업종
기술
목표
HP Z8 G4에서 대규모 메모리 집약적 인공지능 교육 모델 및 가상화 실행
접근방법
90억 개의 매개변수를 가진
Facebook의 BlenderBot 자체 버전과 같은 복잡한 머신러닝 모델 교육
인간과 기계 협업의 장점
Soul Machines는 전 세계 산업 전반의 강력한 브랜드 경험을 위하여 하이퍼리얼 컴퓨터 생성 이미지와 자율 애니메이션을 결합하여 처음 만든 Digital People™로 인간과 유사한 상호 작용을 구현합니다. 이 회사의 소프트웨어 및 기술 부사장인 Shane Blackett은 "Soul Machines의 야망은 서비스 산업의 대중화에 도움이 되는 Digital People을 만들어 개인화된 서비스가 중요한 교육과 의학, 기타 여러 분야를 돕는 것입니다."라고 밝혔습니다.
Soul Machines는 샌프란시스코에 본사를 두고 뉴질랜드 오클랜드에서 연구 및 개발 업무를 수행하고 있으며, 최종 사용자가 즐거운 고객 경험을 하기를 원하는 비전 있는 고객들과 협력하고 있습니다.
"추가적인 수준의 엔지니어링을 수행하지 않고도 작업을 용이하게 할 수 있는 컴퓨터를 보유해야 했습니다. 그렇지 않았다면 아마도 시도하지 않았을 것입니다.”
Shane Blackett
소프트웨어 및 기술 부사장
Soul Machines
Blackett은 "예를 들어 디지털 피플이 제안한 내용을 사용자가 하거나 둘이 협업할 수 있는 3방향 상호 작용에서 디지털 피플과 사용자, 그리고 웹페이지 콘텐츠가 공존하는 방향으로 나아가고 싶습니다.”라고 설명합니다. "우리는 디지털 피플을 만들기 위해 확장 가능한 플랫폼을 제공하기 위해 노력하고 있으며 충실도와 사실감을 제공하기 위해 AI 기반 시뮬레이션을 실행하고 있습니다.”
Soul Machines가 개발한 Human OS 플랫폼은 인간과 기계의 협업을 지원하는 특허 받은 Digital Brain이 특징입니다. 이 회사는 AI와 머신러닝, 연합학습, 기타 복잡한 솔루션과 같은 다양한 모델에서 작업합니다. Soul Machines의 고객은 금융 기관에서 소비재에 이르기까지 다양한 산업 분야에 걸쳐 있습니다. 예를 들면 일본의 글로벌 CPG의 디지털 담당자가 온라인으로 일본어와 영어로 화장품을 판매합니다.
"사용 가능한 머신 중에서 단일 머신으로는 아마도 Z8이 가장 강력할 것입니다.”
Aiireza Nejati
Soul Machines 수석 R&D 소프트웨어 엔지니어
디지털 페르소나에서는 학습과 감지, 행동에 이르는 인지 과정을 인식하도록 학습된 모델을 실행합니다. 그러나 다양한 AI 기반의 머신러닝 모델을 훈련 및 실행하고 이러한 이미지를 렌더링하려면 엄청난 컴퓨팅 성능과 비디오 메모리, 그래픽이 필요합니다. 그래서 HP Z8 워크스테이션을 도입했습니다.
HP Z8로 작업하는 팀원들과 함께 일하는 Soul Machines의 수석 R&D 소프트웨어 엔지니어 Alireza Nejati는 "메모리 제약을 받는 교육 모델이 많기 때문에 단일 시스템에서 사용할 수 있는 그래픽(GPU)의 양, 즉 메모리가 HP Z8을 선택한 가장 큰 동기였습니다.”라고 설명합니다.
IT 문제
• HP Z8의 컴퓨팅 성능 활용
• 대용량 GPU 메모리 활용
• 단일 머신에서 중요한 머신러닝 및 AI 모델 훈련
• 클러스터 관리 소프트웨어를 사용하여 작업 할당
• 가상화 역량 확장
비즈니스 문제
• AI 개발을 지원하기 위해 사용 가능한 새로운 기술 탐색
• 속도와 효율성을 실현
• 수동 개입의 필요성 감소
• 네트워크가 실시간으로 학습하도록 유도
• 향후 프로젝트를 위해 고성능 워크스테이션 활용
Soul Machines
소개
Soul Machines는 Digital People™을 만들기 위해 인공지능을 인간화하는 데 중점을 둡니다. Human OS™ 플랫폼은 빠르고 친근하게, 전례 없는 방식으로 인간과 기계의 협업 기능을 활용합니다. Soul Machines는 특허 받은 Digital Brain을 보유하고 실물 같은 대화형 디지털 피플을 만드는 유일한 회사입니다. AI를 통해 고객 경험을 변화시키기 위해 세계 유수의 브랜드들과 협력합니다.
메모리와 파워 활용
Soul Machines가 2020년 초에 HP Z8을 사용하기로 결정했을 때 뉴질랜드는 코로나19 폐쇄 조치를 시행했습니다. 회사는 IT 운영의 대부분을 회사 외부로 이전했고 Nejati의 팀은 기다려야 했습니다. 그러다 마침내 그해 6월에 워크스테이션을 사용할 수 있었습니다.
“사용 가능한 머신 중에서 단일 머신으로는 아마도 Z8이 가장 강력할 것입니다.”라고 Nejati는 말합니다. “우리에게는 많은 메모리가 필요했기 때문에 어떤 기계로도 불가능했던 많은 모델을 실행할 수 있었습니다.”
그는 Z8의 구성 가능성, 듀얼 제온 골드 프로세서, 최대 3TB DDR5 ECC 메모리, 고속 데이터 저장을 위한 4개의 NVMe M.2 슬롯, 2개의 RTX 8000 그래픽 카드를 사용하는 최대 96GB GPU 메모리를 지적합니다. Z8의 인텔® Optane™ DC 영구 메모리는 매우 크고 복잡한 데이터세트로 작업할 때도 이점이 있습니다.
처음에 Soul Machines는 Z8을 서버로 배포하여 수동으로 실행했습니다. 이후 리소스를 보다 효율적으로 관리하기 위해 Z8과 함께 번들로 제공되는 Nvidia Rapids 소프트웨어 라이브러리 제품군으로 눈을 돌렸습니다. 이전에 Soul Machines가 HP Z8에서 훈련한 가장 큰 모델은 선별된 데이터세트를 사용하여 여러 소스의 온라인 대화를 훈련시킨 오픈 도메인 챗봇인 Facebook BlenderBot의 자체 버전이었습니다. BlenderBot은 다른 머신러닝 모델만큼 크지는 않지만 90억 개의 매개변수가 있습니다.
Nejati는 "하나의 머신에서 모든 것을 훈련시키는 것은 상당히 어려운 일이며 해당 모델을 훈련하려면 96GB의 비디오 메모리가 모두 필요합니다."라고 말합니다. "50기가였다면 못 했을 겁니다.”
이전에는 모델이 작을 때 GPU 하나에 모델을 맞춰 훈련하는 것이 가능했다고 합니다.
Nejati는 "현대 모델은 너무 커서 모델의 한 인스턴스라도 여러 GPU에 분산해야 하며 모든 GPU가 동일한 시스템에 있을 때 훨씬 더 쉽다"고 말합니다. “GPU가 서로 다른 시스템에 있을 때 완전히 또 다른 소프트웨어 엔지니어링 과제가 됩니다. 병렬로 실행하는 것이 아니라 순차적으로 실행하기 때문에 전체 모델을 여러 GPU에 적절하게 분산시켜야 합니다.”
고객 개요
용도
맞춤형 고객 경험을 제공하기 위한 머신러닝 및 AI 기반 모델 교육
하드웨어
HP Z8 G4 워크스테이션
추가적인 장점
HP Z8은 리소스를 보다 효과적으로 사용할 수 있는 기회도 제공했습니다. 예를 들어 BlenderBot 프로젝트는 Soul Machine의 소프트웨어와 함께 해당 기술을 푸시하는 방법을 배우기 위한 노력이었습니다. HP Z8의 강력한 성능 덕분에 Soul Machines와 같은 소규모 회사에서 이 작업을 수행할 수 있었습니다.
Blackett은 "추가적인 수준의 엔지니어링을 수행하지 않고도 작업을 용이하게 할 수 있는 컴퓨터를 보유해야 했습니다."라고 밝힙니다. “그렇지 않았다면 아마도 시도하지 않았을 것입니다.”
교육 모델 외에도 Soul Machines는 가상화로 더 많은 작업을 수행하는 데 HP Z8을 사용했습니다.
Nejati는 "이러한 머신러닝 모델을 개발하는 데 있어 한 가지 큰 과제는 다른 사람의 코드를 실행하고 그것을 기반으로 구축할 수 있어야 한다는 점입니다."라고 말합니다.
다양한 시스템에서 개발된 오픈소스 코드를 실행하는 것은 기본적으로 오류가 발생하기 쉬운 환경에서는 쉽지 않습니다. Nejati는 가상화가 큰 이점을 제공한다고 말합니다.
“가상화가 제대로 작동하려면 Z8과 같은 더 강력한 컴퓨터가 필요했습니다. 정말 불가능하다고 생각했던 것들이 있었는데 가상화가 그것을 가능하게 했습니다.”
Aiireza Nejati
Soul Machines 수석 R&D 소프트웨어 엔지니어
"원하는 사양으로 컴퓨터에 가상 머신을 설정하기만 하면 해당 코드가 실행됩니다."라고 그는 말합니다. “머신러닝 모델을 실행할 때 사람들은 최대한의 속도를 원합니다. HP Z8은 강력한 성능을 제공하며 가상 머신을 기본 머신처럼 실행할 수 있어 실제로 많은 시간을 절약할 수 있었습니다.”
Soul Machines가 다른 워크스테이션에서 로컬로 실행하려고 시도한 모델이 있었지만 가상화 없이는 작동하지 않았습니다.
"가상화가 제대로 작동하려면 Z8과 같은 더 강력한 컴퓨터가 필요했습니다."라고 Nejati는 말합니다. “정말 불가능하다고 생각했던 것들이 있었는데 가상화가 그것을 가능하게 했습니다.”
원활한 사용자 경험을 만들기 위해서는 네트워크가 몇 가지 훈련 샘플만으로 더 쉽게 학습할 수 있도록 훈련되는 신속한 실시간 머신러닝을 실현하는 것이 필요하게 되었습니다. 즉각적인 요청을 신속하게 처리하는 시스템이 있다는 것은 큰 장점입니다. Soul Machines 팀은 복잡한 머신러닝 작업을 HP Z8로 보내는 것이 로컬에서 작업하는 것보다 훨씬 빠르다는 것을 알게 되었습니다.
Blackett은 "이전에 사용하던 하드웨어에 해당 시스템을 구축하는 것은 불가능했습니다."라고 말합니다.
세상이 보다 정교한 인텔리전스와 데이터로 이동함에 따라 HP Z8과 같은 워크스테이션은 Soul Machines에게 많은 기회를 열어줍니다. 회사가 성장함에 따라 모델을 기반으로 하고 새로운 가능성을 조사할 수 있는 능력이 필수적입니다.
Blackett은 "앞으로 또 다른 도전과제가 있을 것으로 확신한다"며 "이것이 우리 사업에서 어떻게 작동하는지 조사하고 평가할 수 있는 방법이 필요하다"고 말합니다. "거대한 컴퓨팅 능력을 가지고 있지 않다는 이유로 그것을 배제한다면 스타트업으로서 우리에게 도움이 되지 않습니다. Z8과 같은 도구가 있다는 사실을 감안할 때 이러한 대형 모델 중 일부로 돌진하는 것이 정말 중요합니다."
멋진 비즈니스 솔루션을 만들 수 있도록 HP가 도와드리겠습니다.
관련 글
• 사례 연구
HP Z8의 강력한 디지털 아카이빙 성능을 발견한 CyArk
포괄적인 역사 유적지 기록에 필요한 방대한 데이터 분석의 기초를 마련한 Z by HP에 대한 이야기를 읽어보세요.
• 사례 연구
Z by HP와 Red Rocks 커뮤니티 대학교의 차세대 강의실 구현
RRCC 강사가 전체 학생의 발전을 위하여 혁신적인 머신러닝 플랫폼을 통해 데이터 활용 능력을 높이는 방법을 알아봅니다.
제품 살펴보기
탁월한 성능을 발휘하는
인텔® 제온®
및 인텔® 코어™ i9 프로세서
질문이 있으신가요?
세일즈 서포트에 문의하세요.
소셜 미디어에서 Z by HP 팔로우
제품 선택에 도움이 필요하신가요?
제품에 대한 지원이 필요하신가요?
고지 사항
4AA7-9918KOP, 2021년 8월
제품은 표시된 이미지와 다를 수 있습니다.제품 이미지는 단지 설명을 위한 것으로 나라별로 제품 가용성과 색상이 다를 수 있습니다.
여기에 포함된 정보는 사전 통지 없이 변경될 수 있습니다. HP 제품 및 서비스에 대한 유일한 보증 사항은 해당 제품 및 서비스와 함께 제공되는 보증서에 명시되어 있습니다. 여기에 설명된 내용 중 어느 것도 추가적인 보증을 제공하지 않습니다. HP는 여기에 포함된 기술적, 편집상 오류나 누락에 대해 책임을 지지 않습니다.
인텔, 인텔 로고, 코어, 제온은 미국 및 기타 국가에서 인텔 또는 그 자회사의 상표 또는 등록 상표입니다. Microsoft 및 Windows는 미국 및/또는 기타 국가에서 Microsoft Corporation의 상표 또는 등록 상표입니다. NVIDIA 및 Quadro는 미국 및 기타 국가에서 NVIDIA Corporation의 상표 및/또는 등록 상표입니다. Linux®는 미국 및 기타 국가에서 Linus Torvalds의 등록 상표입니다. AMD는 Advanced Micro Devices Inc의 상표입니다.