딥러닝 기반의 순방향 전파형 가중치 양자화 기법

주우정, Kang Sanggil

Published Jun 1, 2018• 0 citations

Abstract

여러 분야에서 뛰어난 성능을 보이는 딥러닝은 뉴럴 네트워크의 은닉 계층을 늘려 깊은 네트 워크 구조를 형성할 수 있다. 이에 따라 복잡한 데이터를 쉽게 분류할 수 있으나, 가중치 수 증가로 인해 학습 연산량 및 메모리가 증가한다. 이처럼 많은 연산과 메모리가 필요한 딥러닝은 일반적으로 클라우드 상으로 학습하나, 클라우드는 사용자와의 통신상태가 원활해야 하며 서비스 비용에 대한 부 담감 및 개인정보 유출에 대한 위험성을 가진다. 이러한 문제를 해결하기 위해서 딥러닝을 임베디드 디바이스에 탑재해야 하며 온디바이스 탑재를 위한 네트워크 경량화가 필요하다. 경량화 기법으로는 프루닝 기법과 양자화 기법이 널리 사용되고 있으며 기존 양자화 기법은 비지도 학습 중 하나인 Kmeans를 사용하여 각 계층의 가중치들을 군집화하여 대푯값을 결정한다. K-means 기법에서 군집의 개수를 의미하는 K는 시행착오 방법을 통해 설정해야 하며 이에 따른 오버헤드가 발생한다. 또한, 기 존 양자화 기법은 네트워크 각 계층의 연결 관계를 무시한 채 독립적으로 양자화한다. 우리는 연산 오 버헤드 문제를 해결하기 위해 가중치들의 통계적 정보를 이용한 즉각적 가중치 양자화 기법을 제안하 고 네트워크 각 계층의 의존관계를 고려하여 순차 적으로 양자화함으로써 향상된 학습 성능을 보여준다.

Related papers

동형암호적 양자계산이 가능한 양자오류정정부호 기법

손일권, 이종현, 이원혁 +2 more

최근 엄청난 계산 능력을 보여주는 양자 컴퓨터와 정보 접근성이 높고 비용이 낮은 클라우드 컴퓨팅에 대한 개발이 활발하 게 이루어지고 있다. 이러한 양자 컴퓨터의 경우 양자오류정정부호가 필수적이며, 클라우드 컴퓨팅의 경우 보안성 및 계산성 을 확보하기 위해 동형암호가 사용될 수 있다. 각각 다른 목적을 위해 사용되는 이 두 기법은 서로 비슷한 가정을 바탕으로 하고 있어, 양자오류정정부호를 기반으로 동형암호를 구성하는 연구들이 진행되어왔다. 따라서 본 논문에서는 일반적인 양자 오류정정부호를 변형하여 동형암호적 양자정보처리가 가능한 기법을 제시한다. 기존의 양자오류정정부호를 이용한 동형암호 기법의 경우 부호를 사용하였지만 오류정정 능력이 전혀 없는데 반해, 제시한 양자오류정정부호 기법을 사용하면 동형암호적 양자정보처리가 가능하면서도, 동시에 양자오류정정부호 본연의 기능인 양자정보의 연산, 저장 중의 오류를 정정할 수 있는 장점이 존재한다.

융합보안논문지Sep 1, 20190 citations

하드웨어왜곡과 불완전한 채널상태정보가 물리계층보안에 미치는 영향

심규성, 안병구

물리계층보안은 신호의 물리적 특성을 이용하여 정보를 보호하는 보안 기법이다. 현재 이에 대한 연구가 활발히 진행 중이지만 해결해야할 다음과 같은 문제점들이 존재한다. 도청자는 자신의 존재를 숨기기 위해서 자신의 채널상태정보를 다른 합법적인 노드와 공유하지는 않는다. 그리고 노드가 신호를 전송할 때 하드웨어 왜곡이 발생하지만 많은 연구들은 노드 모델들이 이상적인 것으로 가정을 하고, 하드웨어 왜곡문제를 고려하지 않고 있다. 이와 같은 문제점들을 해결하기 위한 본 논문의 주요한 특징 및 기여도는 다음과 같다. 첫째, 도청자의 채널상태정보를 얻기 위해서 조력자노드를 합법적인 노드주변에 설치하고, 조력자노드의 채널상태정보를 이용하여 노드모델에서 하드웨어 왜곡을 고려한다. 둘째, 제안된 시스템 모델의 인터셉트 확률에 대한 Closed-Form Expression을 제시한다. 제안된 시스템의 성능평가를 위해서 다양한 시뮬레이션를 통하여 제안된 시스템 모델의 물리계층보안에 미치는 영향을 알아본 결과, 불완전한 채널상태정보는 인터셉트 확률에는 영향을 미치지 못한 반면에, 불완전한 노드모델의 경우, 인터셉트 확률, 에르고딕 시크리스 용량과 보안채널용량에 영향을 준다는 것을 보여준다.

Journal of the Institute of Electronics Engineers of KoreaApr 1, 20160 citations

무선 센서 네트워크를 위한 물리계층 보안 기술연구

임상훈, 전형석, 최진호 +1 more

본고에서는 센서 네트워크의 분산 검출 분야에서 최근 활발히 연구되고 있는 물리계층 보안기술들을 소개하고자 한다. 복잡한 연산과정을 요구하는 기존 암호학 기반의 보안 시스템은 배터리용량과 연산 능력이 제한된 센서 네트워크에서 많은 유지보수 비용을 유발할 수 밖에 없다. 본고에서 소개할 물리계층 보안기술들은 기존의 통신 모뎀 기술을 보안 강화의 목적으로 재활용하는 기술이다. 따라서, 복잡한 연산이나 추가적인 하드웨어를 필요로 하지 않기 때문에 자원이 제한된 센서 네트워크에 매우 적합하다. 본고에서는 센서네트워크에서 제안된 대표적인 물리계층 보안기술인 확률적 암호화 (stochastic encryption) 기법과 채널 인지 암호화 (channel aware encryption) 기법을 소개한다. 제안된 물리계층 암호화 기술을 두 가지 무선 채널 모형 PAC (parallel access channel)과 MAC (multiple access channel)에서 간략화된 모델로 재해석하여 센서 네트워크를 위한 보안 기술로서 적합성 여부를 평가하도록 하겠다.

한국통신학회지(정보와통신)Jan 1, 20140 citations

양자암호통신 집적화 모듈 기술

최중선, 고해신, 최병석 +2 more

본고에서는 미래 초고신뢰 및 최고 등급 보안 통신을 제공할 수 있는 양자암호통신 기술에서 집적화칩 형태의 양자키분배 송신부와 수신부 부품 및 모듈에 관한 최신 연구동향과 한국전자통신연구원(ETRI)에서 개발된 무선 양자암호통신을 위한 편광 부호화/복호화 집적화칩 및 모듈 기술 내용에 대해 기술한다. 양자암호통신 기술은 그 동안 시연 및 상용 시스템 개발이 진행되는 등 빠르게 발전하고 있다. 또한, 세계 각국은 2000년대 중반 이후로부터 협력을 통하거나 또는 독자적으로인 테스트베드 시스템 개발, 네트워크 구축 및 확장을 진행하고 있다. 이러한 발전에도 불구하고 양자암호통신 기술은 아직 널리 사용되지 않고 있으며 이는 범용적으로 사용되기 위한 주요 요구사항인 저가화, 소형화, 고성능, 대량 생산 가능한 기술 등이 아직 미비하기 때문이다. 이러한 요구조건을 만족할 수 있는 기술은 기존의 고가의 개별 벌크 광학 부품을 사용하지 않고 새로운 집적화칩 형태의 부품, 집적화 모듈 및 시스템을 개발하는 것이다. 본고에서는 유선과 무선 양자암호통신에서 집적화칩 및 부품과 집적화칩 기반 양자암호통신 송수신부 모듈 기술에 대한 최신 동향을 분석한다. 또한, 최근 한국전자통신연구원에서 연구된 무선 양자암호통신을 위해서 최초 제작된 평판형 광도파로 기반 4 ´ 1 편광부호화/복호화 칩 및 편광부호화칩을 이용한 무선 양자키분배기술에 대해서 소개한다.

한국통신학회지(정보와통신)Jul 1, 20190 citations

모바일 네트워크를 위한 완전 보안 메시지 전송과 연결성

Sun Yung Ly

완전 보안 메시지 전송이란 정보 이론적으로 공격자가 메시지에 대한 정보를 전혀 획득할 수 없는 것을 말한다. 완전 보안 메시지 전송 프로토콜 구현에 필요한 최소 노드의 수를 네트워크 연결성이라 하고, 완전 보안메시지 전송 프로토콜과 네트워크 연결성 사이의 상호 작용에 대한 연구가 유선 네트워크 상에서 이루어졌다. 그러나 모바일 네트워크에서의 완전 보안 메시지 전송에 대한 연구는 이루어져 있지 않다. 본 논문에서는 n명의 이용자가 있는 모바일 네트워크를 n개의 노드를 갖는?Klogn?차수의 무향 그래프로 모델링하고(단, K=5.1774), 이 네트워크 모델 상에서 수행될 수 있는 완전 보안 메시지 전송 프로토콜을 제안하였다. 또, 제안된 프로토콜과 네트워크 연결성과의 상호 작용을 조사하였다. 그 결과, 전체 n명의 사용자, t 명의 공모된 공격자에 대하여 비잔틴 공격을 위한 연결의 수가 T=t?Klogn?로 되고, 완전 보안 메시지 전송에 최소 (2T+1)의 연결이 필요함을 증명하였다. 또, 모바일 네트워크에서의 연결성 (2T+1)은 유선 네트워크의 (2t+1) 연결보다 더 커야함을 증명하였다.

한국정보기술학회논문지Jun 1, 20100 citations

결합 변환 상관 평면의 이동 변위와 무작위 위상 영상을 이용한 광 암호화 시스템

신창목, 이우혁, 조규보 +3 more

본 논문에서는 결합 변환 상관 평면에 이동 변위에 따른 위상 성분의 영향을 또 다른 암호화 매개변수로 이용하여 무작위 위상 영상과 매개 변수 값을 암호화 요소로 사용하는 광 암호화 방법을 제안하였다. 암호화 과정 시 사용자만이 알고 있는 이동 변위 수치를 원 영상에 더하여 위상 변조한 후, 위상 변조한 무작위 위상과 공간 영역에서 곱한다. 곱해진 영상을 푸리에 변환을 하여 최종 암호화 영상을 생성하며, 이 때 키 영상은 무작위 위상 영상을 푸리에 변환하여 얻는다. 생성된 암호화 영상은 원 영상을 재생 시 키 영상과 이동 변위 수치 정보가 동시에 필요로 하며, 키 영상은 복소함수로 세기 검출기로 쉽게 복제가 힘들뿐만 아니라 설사 키 영상이 복제하거나 도난 또는 분실된 경우에도 불법 사용자는 이동 변위 정보를 획득해야만 원 영상 정보를 재생할 수 있으므로, 좀 더 높은 암호화 수준으로 원 영상 정보를 보호할 수 있다. 복호화 과정은 결합 변환 상관 평면에 암호화 영상과 키 영상을 암호화 시 사용한 이동 변위 값에 따라 위치시켜 간단히 구현할 수 있으며, 간섭계 구조나 4-f 상관기 구조를 이용하지 않으므로 광축 정렬이 나 외부 환경 변화에 영향을 받지 않고 원 영상을 재생할 수 있다.

한국광학회지Jun 1, 20060 citations