노타

[카이로스]

젠슨 황 CEO, 동사 등 AI 스타트업들과 별도 간담회진행 예정 소식 등에 급등

▷언론에 따 르면, 젠슨 황 CEO가 이르면 이날 저녁 입국해 5일부터 본격적인 방한 일정을 시작할 예정인 가운데, 오는 8일 서울 신라호텔에서 열리는 비 공개 행사에는 동사와 업스테이지, 베슬AI 등 주요 AI 스타트업들이 참석하는 것으로 알려짐. 동사는 엔비디아 GPU 기반 영상 분석 및 AI 모 델 경량화 기술을 보유하고 있다며, 이 자리에서는 AI 인프라와 데이터센터, AI 모델 생태계 협력 방안이 논의될 것으로 전망되고 있음.
▷아울러 금일 동사는 언론을 통해 AI PC 환경에서 GPU와 NPU를 함께 활용하는 이기종컴퓨팅 기반 대규모언어모델(LLM) 추론 최적화 기술을 구현했다고 밝힘. 동사는 인텔 루나 레이크 기반 AI PC에서LLM 구동 과정을 입력 처리 단계와 답변 생성 단계로 나눠 각각 최적의 연산 장치를 배치하는 ‘분리형 추론(Disaggregated Inference)’ 기술을 적용했다며, 이에 따라 입력처리 연산은 GPU가 담당하고 답변 생성은 NPU가 수행하도록 설계했다고 설명.
▷이와 관련, 채명수 동사 대표는 "AI PC 시대에는 단순히 AI 모델을 기기에 탑재하는 것을 넘어 GPU와 NPU 등 다양한 연산 장치를 모델 특성에 맞게 조합하는 최적화 역량이 중요하다"며, "모델 경량화와 런타임 최적화, 하드웨어 최적화 기술을 결합해 온디바이스 AI 실행 효율을 지속적으로 높여 나가겠다"고 밝힘.