멀티모달(Multimodal) AI가 최근 큰 주목을 받고 있다. 멀티모달 AI는 텍스트, 이미지, 음성 등 여러 종류의 데이터를 동시에 처리할 수 있는 AI 기술을 뜻한다. 이를 통해 기계가 인간처럼 여러 감각을 동시에 활용할 수 있게 되어 더 풍부하고 복잡한 정보를 이해하고 처리할 수 있다.
우리의 일상생활에는 다양한 형태의 정보가 복합적으로 존재한다. 텍스트나 이미지 등 단일 유형의 데이터만 다루는 기존 AI에 비해 멀티모달 AI는 보다 복잡하고 다양한 작업을 수행할 수 있기에 잠재력이 높다.
멀티모달 AI에서 '모달(Modal)'은 '모달리티(Modality)'의 축약된 표현이다. 모달리티는 특정한 정보나 통신의 유형을 나타내는 전문 용어다. 텍스트 모달리티는 텍스트 데이터를 의미하며 자연어 처리에 주로 사용된다. 또한 이미지나 비디오와 같은 시각적 데이터를 의미하는 비주얼 모달리티, 음성이나 소리와 관련된 데이터를 의미하는 오디오 모달리티 등이 있다. 모달리티라는 다소 어려운 용어를 사용하는 이유는, 모달리티가 여러 데이터 형식이나 채널 간의 관계와 어떻게 상호작용하고 정보를 제공하는지와 같은 복잡한 개념을 포함하는 단어이기 때문이다.
멀티모달 AI는 이와 같은 다양한 모달리티들을 결합하여 복잡한 패턴을 인식하거나 예측하는 데 사용되는 AI다. 각 모달리티는 상호보완적인 정보를 제공할 수 있으며, 함께 사용함으로써 전체 시스템의 성능을 향상시킬 수 있다.
멀티모달 AI 분야에서 가장 잘 알려진 업체로 독일 스타트업 지나(Jina)AI를 꼽을 수 있다. 2020년 설립된 지나AI는 개발자 서비스 깃허브(GitHub)를 통해 오픈소스로 멀티모달 AI와 관련된 여러 기능을 제공하고 있으며 전 세계 4만명 이상의 개발자가 이를 사용하고 있다. 개발자가 이를 이용하면 텍스트, 이미지, 비디오 및 기타 형태의 데이터를 처리하는 AI 애플리케이션을 손쉽게 개발할 수 있다.
지나AI는 일반 사용자를 위한 서비스도 다수 제공하고 있다. 프롬프트퍼펙트(PromptPerfect)는 챗GPT, 미드저니, 스테이블디퓨전 등 여러 생성형 AI 서비스에서 사용하는 프롬프트 자동 개선 서비스를 제공한다.
AI에 고민 맡기는 의사결정 서비스 등장해
래셔널(Rationale)은 비즈니스 또는 개인의 의사결정을 도와주는 서비스로, 결정을 보류 중인 내용을 입력하기만 하면 최신 AI 모델이 장단점을 나열하고, SWOT 분석을 생성하고, 여러 옵션을 평가하거나 결과를 예측하도록 도와 합리적인 결정을 내릴 수 있도록 해준다. 래셔널은 인과관계 분석, 상황별 분석, 다중 옵션 분석, 비용 편익 분석과 개인화된 분석을 제공하는데, 앞으로는 이처럼 AI에게 대신 고민을 맡기는 의사결정 지원 서비스가 대중화될 가능성이 있다.
신엑스플레인(SceneXplain)은 이미지에서 텍스트를 식별하고 표와 다이어그램을 해석하는 서비스로, 전문적인 이미지 스토리텔링 경험을 제공한다. 신엑스플레인은 기존 캡션을 능가하는 정교하고 자세한 설명을 제공하며, 연재만화의 내용도 이해할 수 있다. 멀티모달 AI답게 이미지, 텍스트, 음성을 종합적으로 처리할 수 있어 이미지에 대해 질문하면 음성으로 대답해 준다.
텍스트를 제공하면 가장 적합한 배너를 생성해 주는 베스트배너(BestBanner)도 흥미로운 서비스다. 예를 들어, 뉴스 기사의 중요한 내용을 베스트배너에 입력하기만 하면 독특하고 매력적인 배너를 생성해 주며 이를 뉴스 사이트나 소셜미디어(SNS)에 사용하면 된다. 생성된 배너 이미지의 저작권은 사용자에게 있다.
다만 이들 서비스는 무료로 이용하기에는 여러 제약이 따르며 제대로 이용하기 위해서는 유료 멤버십 가입이 필요하다. 사용자들의 AI 서비스에 대한 관심이 높아, 실제 생산성 향상에 도움을 주는 서비스에는 비용을 지불하고서라도 이용하려는 사용자들이 계속 늘고 있다.
멀티모달 AI 투자한 메타·MS의 행보
메타(구 페이스북)는 지난 8월 22일 '심리스M4T(SeamlessM4T)'라는 명칭의 멀티모달 AI 기반 번역 모델을 선보였다. 심리스M4T는 100여개 언어에 대한 음성-텍스트, 음성-음성, 텍스트-텍스트, 텍스트-음성 번역 기능을 제공한다. 최근 AI 관련 메타의 행보와 마찬가지로, 연구용 라이선스에 따라 연구자와 개발자들이 사용할 수 있도록 총 27만 시간 분량의 음성 및 텍스트 데이터 세트를 공개했다.
마이크로소프트는 손쉽게 AI를 학습시킬 수 있는 로브(Lobe)라는 명칭의 소프트웨어를 선보였다. 이를 이용하면 이미지 분류, 이미지 내의 물체 감지, 데이터 분류라는 3가지 단계로 머신러닝 프로세스를 단순화해 자동 학습을 시킬 수 있다.
사실 일반 개발자가 AI 모델 자체를 만드는 건 쉬운 일이 아니다. AI 모델의 학습에는 대량의 정제된 데이터가 필요하며, 이러한 데이터를 수집하고 전처리하는 과정은 꽤 복잡하다. 또한 딥러닝과 같은 고급 기술은 복잡한 알고리즘으로 만들어져 있어 상당한 수학적 지식이 있어야 한다.
모델의 성능을 해석하고 최적화하는 과정은 전문적인 지식과 경험이 필요하며, 이러한 과정 없이는 효과적인 모델을 개발하기 어렵다. 하지만 지나AI, 심리스M4T, 로브 등과 같은 AI 플랫폼이나 도구를 이용하면, 개발자는 단지 애플리케이션 개발만 하면 되기 때문에 앞으로 이와 같은 AI 플랫폼 및 도구의 활용이 대세가 될 것으로 전망된다.
AI 전략을 연구하는 에포크(Epoch)가 2023년 발표한 보고서에 따르면, 주요 AI 시스템 38개를 조사한 결과 가장 높은 비중을 차지하는 모델 1위는 언어 모델이었고, 2위가 멀티모달 모델이었다. 최근 가장 인기를 끌고 있는 챗GPT, 바드 등에서 사용하는 언어 모델이 23개에 달했고 멀티모달이 4개였다. 나머지는 이미지, 음성 등 하나의 모달리티를 처리하는 모델들이 차지했다.
멀티모달 AI는 의료 진단, 가상 비서, 자율주행 차량 등 많은 분야에서 활용될 수 있으며, 발전 가능성이 높다는 점에서 미래의 기술로서 큰 기대를 모으고 있다. 예를 들면 질병 진단 시 AI가 텍스트와 의료 영상을 동시에 분석함으로써, 이전에는 어려웠던 진단을 더 정확하고 신속하게 해낼 수 있다.
하지만 멀티모달 AI의 개발과 활용은 단순한 기술적 진보를 넘어서 윤리, 규제, 사회적 영향 등의 다양한 측면을 신중하게 고려해야 하는 문제가 있다. 정부, 기업, 학계 등 다양한 이해당사자들과의 협력 및 기술의 책임 있는 활용을 향한 공동 노력이 필수적이다.
류한석 류한석기술문화연구소장
첫댓글 잘 보고 갑니다^^
잘봤습니다. 감사합니다.
챗gpt 다음이군요
잘보고갑니다