아마존의 새로운 AWS 서비스를 통해 고객은 빠른 AI 프로젝트를 위해 엔비디아 GPU를 임대 가능
점점 더 많은 회사가 GPU에 대한 액세스가 필요한 대규모 언어 모델을 실행하고 있습니다. 그 중 가장 인기 있는 제품은 Nvidia 제품이므로 가격이 비싸고 공급이 부족한 경우가 많습니다. 단일 작업을 위해 비용이 많이 드는 리소스에만 액세스해야 하는 경우 클라우드 공급자로부터 장기 인스턴스를 임대하는 것이 반드시 의미가 있는 것은 아닙니다.
이 문제를 해결하기 위해 AWS는 오늘 ML용 Amazon Elastic Compute Cloud(EC2) 용량 블록을 출시했습니다. 이를 통해 고객은 일반적으로 교육과 같은 일종의 AI 관련 작업을 실행하기 위해 정의된 시간 동안 이러한 GPU에 대한 액세스를 구매할 수 있습니다. 기계 학습 모델을 사용하거나 기존 모델을 사용하여 실험을 실행합니다
이것은 필요한 시간만큼 미래 날짜에 필요한 인스턴스 수를 예약할 수 있는 GPU 인스턴스를 예약하는 혁신적인 새로운 방법입니다.
고객은 인스턴스당 8개의 GPU를 갖춘 1~64개 인스턴스의 클러스터 크기로 NVIDIA H100 Tensor Core GPU 인스턴스에 액세스할 수 있습니다. 최대 8주 전부터 1일 단위로 최대 14일까지 시간을 예약할 수 있습니다.
고객의 관점에서 작업 실행 시간, 사용할 GPU 수, 초기 비용을 정확히 알 수 있어 비용에 대한 확신을 얻을 수 있습니다.
Amazon의 경우 이러한 수요가 많은 리소스를 거의 경매 환경에 투입하여 수익을 보장할 수 있습니다
새로운 기능은 오늘부터 AWS 미국 동부(오하이오) 리전에서 정식 출시됩니다.
https://finance.yahoo.com/news/aws-lets-customers-rent-nvidia-171034431.html
*** 본 정보는 투자 참고용 자료로서 그 정확성이나 완전성을 보장할 수 없으며, 어떠한 경우에도 법적 책임소재에 대한 증빙자료로 사용될 수 없습니다.