도움이 되는 교란: 비선형 역학이 에지 센서 시계열을 강화하는 방법

[아름이]

도움이 되는 교란: 비선형 역학이 에지 센서 시계열을 강화하는 방법
날짜:
2023년 1월 25일
원천:
도쿄공업대학
요약:
엔지니어들은 센서 시계열에서 작동하는 신경망의 분류 성능을 지원하기 위한 간단한 계산 방식을 시연했습니다. 제안된 기술은 기본 비선형 동적 시스템에 외부 강제력으로 기록된 신호를 공급하고 이 교란에 대한 시간 응답을 원래 데이터와 함께 신경망에 제공하는 것을 포함합니다.

Tokyo Institute of Technology(Tokyo Tech)의 엔지니어들은 센서 시계열에서 작동하는 신경망의 분류 성능을 지원하기 위한 간단한 계산 방식을 시연했습니다. 제안된 기술은 기본 비선형 동적 시스템에 외부 강제력으로 기록된 신호를 공급하고 이 교란에 대한 시간 응답을 원래 데이터와 함께 신경망에 제공하는 것을 포함합니다.

우리 주변의 세계에서 인간 활동의 거의 모든 측면의 효율성과 지속 가능성을 지원할 것을 약속하는 센서의 확산이 일어나고 있습니다. 사물 인터넷을 사회에 제공하는 엔지니어가 직면해야 하는 한 가지 과제는 이러한 센서에서 발생하는 데이터 홍수를 처리하는 방법입니다. 특히, 모든 데이터를 클라우드로 스트리밍하는 것은 허용할 수 없는 기술적, 경제적 및 환경적 영향을 미치기 때문에 센서 자체에 가까운 에지에서 데이터를 최대한 줄여야 합니다. 이에 대한 대응으로 제한된 연산 자원에서 실행하면서 특정 행동과 관심 상황을 감지하는 데 적합한 소형의 고효율 분류기에 대해 전 세계적으로 많은 연구가 진행되고 있습니다.

"에지 인공 지능에 적합한 시계열 분류기의 개발을 지원하는 새로운 접근 방식은 데이터 증대입니다. 전력 및 크기 요구 사항을 충족하려면 상당히 작아야 합니다. 분류기 이론은 잘 확립되어 있지만 시계열에 대한 데이터 증가는 아직 초기 단계라고 할 수 있습니다. 예를 들어, 우리 연구실에서는 수학적 원리뿐만 아니라 경험적 고려 사항에 기반한 다양한 기술"이라고 연구를 수행한 Nano Sensing Unit의 박사 과정 학생이자 연구의 공동 저자인 Chao Li는 설명합니다.

일반적으로 데이터 증대는 분류기 훈련 직전이나 도중에 수행되며 강력한 워크스테이션 또는 클라우드 컴퓨터에서 실행됩니다. 그 결과 더 긴 기록을 사용할 수 있는 경우와 같이 분류기를 교육하는 데 사용할 수 있는 데이터의 양이 시간 차원을 따라 확장됩니다. 분류기 교육에 필요한 유형의 고품질 데이터는 귀중하고 준비하는 데 비용이 많이 들기 때문에 이는 중요합니다. 그러나 이것이 가능한 데이터 증대의 유일한 형태는 아닙니다. "우리는 다른 차원, 즉 입력 차원의 수를 의미하는 시계열의 수를 따라 데이터를 확장하는 아이디어를 내놓았습니다. 일반적으로 에지 애플리케이션은 하나 또는 최대 몇 개의 센서 시계열에서 작동할 수 있습니다. 한 가지 가능성은 계산 작업을 수행하여 더 많은 것을 생성하는 것입니다. 효율적으로 학습할 수 있도록 적합한 형식으로 분류자가 사용할 수 있는 초기 정보를 최대한 많이 만들려고 합니다. 많은 신호 처리 작업을 구현할 수 있지만 특히 파괴적인 계산은 고유한 활동이 부여된 동적 시스템을 시뮬레이션하고 환경에서 기록된 신호로 외부 강제로 시스템을 교란시키려는 것입니다."라고 Ludovico Minati 박사는 설명합니다. , 연구의 수석 저자.

뇌-인터페이스 시스템의 성능을 개선하기 위해 이전에 개발되어 바이오인터페이스 유닛에서 특허를 받은 개념에서 시작하여 연구원들은 이를 실현하는 방법에 대한 많은 실용적인 측면을 신중하게 고려했습니다. 칼라에 장착된 가속도계를 사용하여 기본적인 소 행동의 분류를 목표로 그들은 운동학적 신호를 필터링 및 전처리하고 주입하는 방법을 개발하여 시뮬레이션된 동적 시스템이 발산하지 않고 신호를 받아들이고 응답할 수 있도록 했습니다. 그런 다음 미리 결정된 기능 추출기 및 다층 퍼셉트론 또는 컨볼루션 신경망에 제공하기 위해 활동에서 가장 관련성이 높은 시계열을 추출하는 방법을 탐색했습니다. "Rössler 및 Lorenz 시스템과 같은 많은 저차원 시스템, 물리학자와 제어 엔지니어에 의해 수십 년 동안 연구되어 온 이 기술은 실제로 대부분 미개척 상태로 남아 있는 놀라운 계산 잠재력을 가지고 있습니다. 이 연구는 구체적인 애플리케이션 시나리오에 배포하기 위한 특이한 단계를 밟았습니다."라고 이러한 종류의 시스템과 시스템의 동작에 대해 Tokyo Tech 연구원들에게 몇 가지 이론적 기여를 제공한 이탈리아 카타니아 대학의 Mattia Frasca 교수는 설명합니다. 아날로그 회로로 구현.

연구원들은 동적 시스템에서 파생된 추가 시계열, 즉 가속도계 축당 하나의 별도 Rössler 시스템을 통해 데이터를 보강함으로써 분류 성능을 상당한 양으로 높일 수 있었습니다. "이것은 도발적인 아이디어를 제안하기 위한 진정한 초기 연구에 불과하고 실질적인 향후 작업이 필요하지만, 우리는 또한 매우 간단한 아날로그 하드웨어 회로를 사용하여 동적 시스템을 실현할 수 있었고 그 응답을 활용한 덕분에 여전히 개선을 관찰할 수 있었습니다."라고 덧붙였습니다. 루도비코 미나티 박사. "우리의 접근 방식은 최근 Minati-Frasca 발진기로 알려진 기본 트랜지스터 회로를 사용하여 연구를 수행한 저수지 컴퓨팅을 연상시킵니다. 그러나 역학이 저차원이고 네트워크 대신 단일 발진기가 사용되기 때문에 실제로는 다릅니다. .

인터뷰 후 팀은 초기 결과가 유망하지만 구체적인 사례에 대한 일반적인 적용 가능성을 확인하기 위해 다른 데이터 세트 및 설정에서 이러한 유형의 탐색적 연구를 확장하고 개발해야 한다고 설명했습니다. "한 가지 중요한 점은 이 접근 방식이 디지털 또는 아날로그 방식으로 매우 제한된 리소스로 구현될 수 있다는 것입니다. 사실 우리의 과거 연구에서는 CMOS 무질서 시스템이 1μW만큼 낮은 전력으로 작동하는 것으로 나타났습니다. 프로세스 기술과 기존 설계의 최적화가 한계에 도달함에 따라 이와 같은 근본적으로 새로운 아이디어에 대한 자신감 있는 탐색이 지속적인 혁신을 위해 필요한 것 같습니다."라고 유닛 책임자인 Dr. Hiroyuki Ito가 결론을 내립니다. 방법론,Chaos, Solitons 및 Fractals 및 모든 실험 기록은 다른 사람들이 향후 작업에 사용할 수 있도록 무료로 제공되었습니다.

출처 : https://www.sciencedaily.com/