맨홀 뚜껑으로 잠자리 : 인공 지능을 혼란스럽게하는 이미지가있는 데이터베이스

[아름이]

맨홀 뚜껑으로 잠자리 : 인공 지능을 혼란스럽게하는 이미지가있는 데이터베이스

다람쥐 또는 강치입니까? 연구자들은 인간의 신경 네트워크가 실패하는 동안 쉽게 인식 할 수있는 이미지를 수집했습니다.

미국 연구원들은 인공 지능 패턴 인식에 실패한 7500 개의 이미지 데이터베이스를 발표했습니다. 다른 말로하면 맨홀 덮개로 인식 된 잠자리 이미지와 바다 사자로 보인 다람쥐 또는 꽈배기처럼 구부러진 버섯이 99 %의 확률로 신경망에 의해 식별됩니다.

버클리, 시카고, 워싱턴 대학의 연구원들은 이것들이 재 처리 된 이미지가 아니며 "자연적인 적대적인 예"라고 말합니다. 인공 지능 연구에서 이러한 "적대적인 이미지"는 기계에 의해 오인 된 이미지를 의미합니다 . 일반적으로 인간의 눈을 어지럽히 지 않는 특수 이미지 노이즈의 추가와 같은 표적 공격의 형태에 대해 논의하지만 신경 네트워크에서는 심각한 오인으로 이어질 수 있습니다. 그러나 이러한 7500 이미지는 고의적으로 설계된 요소 없이도 현명 할 수 있어야합니다. KI : DenseNet-121과 같은 신경망은 테스트에서 단 2 %의 인식 정확도를 나타냅니다.

연구자들에 따르면, 이미지의 어려움은 신경 네트워크의 경향을 이용하여 분류에서 질감이나 색을 과장하는 데에만 기인 한 것은 아닙니다. 오히려 네트워크를 교육하기위한 일반적인 방법조차 여기에서 더 나은 결과를 제공하는 데는 적합하지 않습니다. 예제를보다 확실하게 인식하려면 추가 연구가 필요합니다. ImageNet-A로 알려진 이미지 데이터베이스는 ImageNet 교육 데이터 세트 로 자유롭게 사용할 수 있습니다 . arxiv.org에 게시 된 논문 에서 자세한 내용을 설명합니다.