도시바 메모리, 고속·고에너지 효율 딥러닝 프로세싱 알고리즘 및 하드웨어 아키텍처 개발

2018-11-07 10:10
도쿄--(Business Wire / 뉴스와이어)--메모리 솔루션 분야의 세계적 기업인 도시바 메모리 코퍼레이션(Toshiba Memory Corporation, 이하 ‘도시바 메모리’)이 인식 정확성의 저하 없이 고속, 고에너지 효율 딥러닝(deep learning) 프로세싱 알고리즘 및 하드웨어 아키텍처를 개발했다고 6일 발표했다.

FPGA[1] 상에서 수행되는 이 새로운 딥러닝 프로세서는 기존의 제품에 비해 4배나 높은 에너지 효율을 자랑한다. 이번의 기술 개발 뉴스는 11월 6일 대만에서 열린 2018년도 IEEE 아시아 고체회로 컨퍼런스(IEEE Asian Solid-State Circuits Conference 2018, A-SSCC 2018)에서 발표됐다.

딥러닝 계산은 많은 경우 방대한 분량의 곱셉누산(MAC) 연산을 필요로 하며 이로 인해 상당한 연산 시간과 대량의 에너지 소비를 요한다. 매개변수(비트 정확성)를 대표하는 비트 숫자를 줄이는 기법은 총 연산시간을 줄이기 위해 전부터 제안된 바 있으나 지금까지 제안된 알고리즘 중 하나는 비트 정확성을 하나 또는 두 개의 비트로 줄이므로 일종의 인식 정확성 면에서 저하를 초래한다. 도시바 메모리는 신경망 상의 각 층위에서 개별 필터[2]에 대한 MAC 연산의 비트 정확성을 최적화함으로써 MAC 연산을 줄이는 새로운 알고리즘을 개발해냈다. 이 새로운 알고리즘을 통해 MAC 연산은 인식 정확성 저하를 가져오지 않으면서도 줄어들 수 있게 됐다.

이에 더해 도시바 메모리는 상이한 비트 정확성을 갖는 MAC 연산에 적합한 비트-패럴랠 방법(bit-parallel method)이라고 불리는 새로운 하드웨어 아키텍처도 개발했다. 이 방법은 각 비트 정확성을 하나하나 나눠서 다양한 MAC 단위에서 한 비트씩 병렬처리 하는 방식을 채택한다. 이로써 직렬로 처리하는 기존의 MAC 아키텍처에 비해 프로세서 내의 MAC 단위의 사용효율을 크게 향상시킬 수 있게 됐다.

도시바 메모리는 딥 신경망인 ResNet50[3]을 다양한 비트 정확성과 비트 병렬 MAC 아키텍처를 활용하여 FPGA 상에서 처리할 수 있게 됐다. 이미지네트(ImageNet)[4]의 이미지 데이터 유형에 대한 이미지 인식의 경우 위의 기법은 이미지 데이터를 인식하는 데 따른 작동 시간과 에너지 소비량 면에서 기존의 기법과 비교할 때 인식 정확성 면의 저하를 초래하지 않으면서도 25% 정도 절약을 해주는 것으로 나타났다.

향후 AI는 다양한 기기 상에서 구현될 수 있을 것으로 기대되고 있다. 딥러닝 프로세서와 관련하여 고속, 고에너지 효율 기술은 낮은 에너지 소비량이 매우 중요한 요건이 되는 스마트폰과 HMD[5] 등 에지 디바이스와 데이터센터에서 많이 활용될 것으로 보인다. GPU 같은 고성능 프로세서는 AI의 고속 작동에 매우 중요한 기기가 될 것이다. 한편 메모리와 저장 공간도 빅데이터를 활용하는 AI에 있어서 매우 중요한 기기로 떠오를 가능성이 크다. 도시바 메모리는 AI 기술과 관련하여 부단한 R&D 활동을 지속하고 있으며 데이터 기반 컴퓨팅 시대를 앞두고 메모리와 저장 공간 분야에서도 이노베이션을 가속화하고 있다.

[1] FPGA : 필드 프로그래머블 게이트 어레이(Field Programmable Gate Array). 이는 제작 후 고객 또는 설계 업체가 자체적으로 환경 설정을 하는 집적회로를 지칭.
[2] 필터 : 일반적으로 신경망의 한 층위에는 수천 개에 달하는 필터가 존재한다.
[3] ResNet50 : 딥 신경망의 일종으로서 이미지 인식 목적의 딥러닝을 벤치마킹 하는데 일반적으로 활용된다.
[4] 이미지네트 : 방대한 규모의 이미지 데이터베이스. 이미지 인식을 벤치마킹 하는데 일반적으로 활용된다.
[5] HMD : 헤드 마운티드 디스플레이.

도시바 메모리 코퍼레이션(Toshiba Memory Corporation) 개요

도시바 메모리 코퍼레이션(Toshiba Memory Corporation)은 플래시 메모리와 SSD의 개발과 생산 및 판매를 전문으로 하는 메모리 솔루션 분야의 세계적 선도기업이다. 도시바 메모리는 2018년 6월 베인 캐피털이 주도한 산업컨소시엄에 의해 인수되었다. 도시바 메모리는 인간의 삶을 풍요롭게 해주는 첨단 메모리 솔루션과 서비스를 개척하는 한편 사회의 지평을 넓혀가고 있다. 회사의 혁신적인 3D 플래시 메모리 기술인 빅스 플래시(BiCS FLASH™)는 첨단 스마트폰, PC, SSD, 자동차, 데이터 센터 등 고밀도 애플리케이션 스토리지의 미래 모습을 만들어가고 있다. 도시바 메모리에 대한 자세한 정보는 웹사이트(https://business.toshiba-memory.com/en-apac/top.html) 참조.

비즈니스 와이어(businesswire.com) 원문 보기: https://www.businesswire.com/news/home/20181106005345/en/

[이 보도자료는 해당 기업에서 원하는 언어로 작성한 원문을 한국어로 번역한 것이다. 그러므로 번역문의 정확한 사실 확인을 위해서는 원문 대조 절차를 거쳐야 한다. 처음 작성된 원문만이 공식적인 효력을 갖는 발표로 인정되며 모든 법적 책임은 원문에 한해 유효하다.]

웹사이트: http://toshiba.semicon-storage.com/ap-en...