Home

본 절에서는 AI 학습데이터의 위·변조 및 부정확성 사례를 통해 AI의 사이버보안 필요성을 제시한다. 먼저 AI 학습데이터로 인한 사고는 다음과 같다[1].

- AI 챗봇 악의적 학습 유도 : 2016년 마이크로소프트(MS)에서 인공지능 채팅로봇 Tay를 공개했으나 사용자의 의도적인 인종·성차별 메시지 학습으로 16시간만에 종료시켰다.

- 적대적 스티커 기반 공격 : 구글 리서치 그룹은 이미지 인식 인공지능 알고리즘을 오작동 시킬 수 있는 ‘적대적 스티커(Adversarial patch)’를 발표하였다. 적대적 스티커는 원형의 추상적 이미지를 담은 스티커로, 단순히 인쇄해서 사물 옆에만 붙여두면 이미지를 인식하는 인공지능 알고리즘의 오작동을 야기하였다.

- 미국 플로리다주 브로워드 카운티의 범죄 재발가능성 예측 오류 : 약 18,000명의 범죄자를 대상으로 향후 2년동안 새로운 범죄를 일으킬 가능성에 대해 인공지능을 활용한 범죄자 예측 알고리즘을 통해 분석한 결과 흑인이 백인보다 범죄 재발 가능성이 약 54% 높은 것으로 파악되었으나, 동일기간 실제 데이터를 분석한 결과 오히려 백인의 재범 비율이 높게 나타났다.

- 딥러닝을 통한 의료 기록 위조 : 이스라엘 벤구리온대학교의 인공지능 연구진은 딥러닝 기술을 통해 만든 악성코드를 심어 환자의 3D 스캔 영상을 조작하는 실험을 진행하여 3명의 의사를 대상으로 전원을 속였으며, 실제 병원에서 사용되는 3D CT영상이나 엑스레이, MRI 등의 병원데이터가 보안 장치 없이 유통되어 적용되는 문제점이 제기되었다.

- AI를 활용한 딥페이크 : 2017년말 스와핑 알고리즘을 적용해 얼굴을 바꾸는 딥페이크를 통해 미국의 레딧(Reddit)에 가짜 동영상을 확산시켜 영상의 진위를 가리기 어려웠으며, AI 기술 플랫폼에서 AI 학습데이터의 유출에 대한 대응의 필요성이 제시되었다.

상기 사례를 통해 수많은 데이터를 통해 학습을 하는 인공지능은 부적절하거나 불안전한 데이터에 대한 취약성이 있으며, 악의적인 데이터 적용 시, 인공지능의 기능 및 성능과는 무관하게 잘못된 결과값을 도출할 수 있다. AI의 효율성 및 보급성을 기반으로, 공격자가 데이터를 통하여 AI를 부정적으로 사용하거나 AI 시스템을 교란시키는 공격을 수행하는 등의 보안 위협이 존재한다. 즉, 사이버공격으로 인한 데이터 위·변조 발생 시, AI의 학습효과, 학습방향 등을 훼손시킬 수 있기에 AI 학습데이터 제공 전 데이터 관리가 필요하다.

인공지능의 학습데이터 중요성과 함께 학습데이터 수집 및 가공 서비스가 증가하고 있으며, 최근 블록체인과 AI의 융합을 위한 연구가 진행되고 있다. 본 절에서는 연구에서 제안하고자 하는 AI 학습데이터 환경모델 기반기술인 블록체인과 AI 데이터와의 연계를 위한 관련 연구 사례를 소개한다.

Kim(2019)는 블록체인 구조에서 블록들이 직접 병렬적으로 데이터를 수집하게 하고 각 블록들이 수집한 데이터를 타 블록의 데이터와 비교하여 양질의 데이터만을 선별하는 방안을 제안하고, 비교를 통해 분석된 데이터를 통한 학습용 데이터셋을 구성하였다[2].

Aum(2019)은 블록체인을 이용한 레이블 타입 데이터 관리 기반의 AI 학습 데이터 생산성 향상 시스템 및 방법을 통해 해킹에 대비하여 안정적 데이터 저장 체계를 확립할 수 있도록 하였고[3], 블록체인 노드의 스토리지 자원이 보다 효율적으로 활용 될 수 있는 블록체인 기반 데이터 관리 방법 및 그 장치를 제시하였다[4].

Asaph(2016)의 연구사례는 의료 연구를 목적으로 블록체인을 기반으로 하는 데이터 공유 메커니즘을 제안하였다[5].

딥러닝을 포함한 다양한 종류의 인공지능 기술은 분석 및 학습 알고리즘, 컴퓨팅 시스템, 데이터로 구성되며 데이터 학습 여부가 알고리즘 고도화에 직결된다. 인공지능 학습을 위해서는 데이터 예시가 필요하며, 딥러닝을 활용하여 특정 기능의 AI 모델을 구현하기 위해서는 목적에 맞는 데이터셋을 구성하여 학습을 해야 한다. AI 머신러닝 학습 흐름은 아래 그림과 같으며, AI 모델에 적용하기 위한 데이터는 일반적으로 다음과 같은 프로세스를 따른다.

Fig. 1. 
AI machine learning flow

- 데이터 수집 : 비정형 데이터의 수집단계로 이미지, 텍스트, 음성 등의 데이터 중 개발하려는 인공지능의 목적 및 기능에 맞는 데이터를 추출하는 1차 전처리 수행

- 데이터 전처리 : 수집된 데이터를 머신러닝 모델의 입력에 적합한 형태로 바꿔주는 단계로, 데이터에 빠진 부분(결측값)을 채우거나 삭제, 중복 또는 필요한 데이터 속성을 선택 혹은 삭제 또는 데이터의 기존 속성을 조합하거나 모델의 필요에 따라 원시데이터를 지정된 형식으로 변환하는 과정을 포함

- 데이터 분석 : 정형화된 데이터의 패턴을 탐색, 데이터 매핑, 탐색 및 추론에 기반한 데이터 추출, 일부 데이터를 통한 데이터의 학습 등 인공지능에 적용하기 위한 데이터 분석 과정

데이터 수집 과정에서의 원시 데이터(Raw data)는 인공지능 알고리즘에 적용하기에는 노이즈가 많고 일관성이 없으며 중복된 경우가 많다. 인공지능 모델의 품질이나 신뢰성, 정확성, 성능을 위해서는 고품질의 데이터를 위한 단계가 필수적이며, 본 단계에서 데이터 오류 수정, 중복제거, 불일치 데이터 제거, 충돌 데이터 조정 등 사람의 전문성 및 통찰력을 기반으로 하는 데이터 분석과 조직화가 수행된다. 이러한 데이터의 전처리 작업에 평균 80% 이상 노력이 필요하다고 알려져 있다[6]-[9]. 질 좋은 데이터를 충분히 확보하는 것이 결정적인 인공지능 개발의 초점이 되고, 인공지능이 학습하기 위한 데이터에 대한 품질 보장이 요구된다.

현재 인공지능 기술은 결과에 대한 충분한 근거를 제공하지 못하며 작동과정에 대한 투명성이 보장되지 않는 수동적 인식 영역에 제한되는 한계점으로 인해, AI가 학습하는 데이터에 의존적인 취약점을 갖는다. 또한 인공지능의 특성 중 유익한 용도 또는 유해한 용도 모두 사용이 가능한 이중성의 특성과 블랙박스 구조적 특성으로 인한 취약성으로 인해 AI 보안 위협 등장이 우려된다.

표 1은 악의적인 데이터에 취약성을 이용한 AI에서 적용 가능한 기술적 공격기법으로, AI가 학습하기 위한 데이터의 무결성이 요구된다[10]-[15].

특히, 원시데이터는 AI 학습의 고도화를 위한 데이터 품질 확보를 위해 수작업으로 가공과 검수를 해야 하기에 인적 오류가 내재되어 있다. 데이터의 훼손, 불완전함, 원시데이터와의 차이 등으로 인해 가공데이터를 통한 AI 학습 시 예상 치 못한 결과값을 도출할 수 있다. 즉, AI 모델 구축 과정에서 AI의 상이한 결과값에 대한 검증을 위해 가공된 학습데이터 추적이 필요하며, 이 때 원시데이터에 대한 무결성이 보장되어야 한다[16]-[19].

또한 AI 기술 적용을 위해 다양한 데이터 수집 및 가공 서비스가 제공되고 있으나 정보의 신뢰성 이슈가 부각되고 있다. 악의적인 목적을 위해 신뢰할 수 없는 다량의 데이터 업로드에 대한 출처를 분석하고 추적 가능한 학습데이터 수집 환경이 필요하며, 일반적으로 오픈 데이터를 관리해주는 중앙에서의 서버가 존재한다. 이에 중개 서버가 중단되거나 변조가 가해지면 정보의 신뢰성, 가용성이 침해되는 등 여러 보안 위협을 내재하고 있다. 또한 AI가 학습하기 위한 데이터는 수집 과정에서 빅데이터 형태를 가지기에 빅데이터의 서버에 대한 안전성이 요구되어 진다[20]-[24].

이에 본 연구에서는 데이터 위·변조 방지 및 무결성 보장을 위해 블록체인 기반의 학습데이터 관리 방안을 제안한다.

인공지능 학습모델은 원시데이터를 그대로 사용하여 학습과정을 수행하거나, 원시데이터를 학습에 적합한 형태로 변형하여 생성한 가공 데이터를 이용한 학습 데이터 수행 시 제 3자의 악의적인 공격으로 학습과정에서 사용되는 데이터의 위·변조를 방지해야 한다. 특히, 오픈 네트워크를 통해 복수의 데이터 제공자로부터 다양한 원시데이터를 수집하여 학습데이터로 이용 시, 원시데이터 암호화를 통한 개인정보에 대한 프라이버스 보호가 필요하다[25].

본 연구에서 제안하는 블록체인 구조화를 통한 Data-preserving AI를 위한 학습환경 모델은 블록체인 구조의 특성을 통해 AI가 학습하기 위한 데이터에서 원본 및 가공된 데이터의 무결성의 요건을 만족시키며, AI 학습데이터 제공 전 변조되지 않은 데이터로 학습됨을 보장 할 수 있다[26][27].

그림 2는 본 연구에서 제안하는 구조로, 적어도 하나 이상의 데이터 제공자로부터 수신한 원시데이터 및 상기 원시데이터의 해시코드를 블록체인에 저장하고, 인공지능 학습모델에 블록체인에 저장된 원시데이터를 제공, 인공지능 학습모델에서 사용한 데이터의 해시코드와 블록체인에 저장된 원시데이터의 해시코드 비교를 통한 데이터의 무결성 검증의 구조를 포함한다. 인공지능 학습을 위한 원시데이터는 적어도 하나 이상의 데이터 제공자로부터 수신이 가능한 오픈 네트워크 환경에서 원시데이터의 위변조를 원천적으로 방지하고, 데이터 제공자를 정확하게 추적할 수 있다.

Fig. 2. 
Blockchain-based AI learning data open network

원시데이터를 저장하는 블록체인은 블록헤더와 블록데이터 구성된 블록에서 데이터 제공자로부터 수신한 원시데이터의 블록데이터에 해시코드를 포함하여 암호화 저장하거나, 인공지능 모델의 특성에 따라 원시데이터의 가공 시의 편리성 추구를 위해 원시데이터의 해시코드를 저장하는 블록데이터를 따로 구성할 수 있다.

본 연구에서의 블록체인 적용방안은 불가변성의 특성을 통해 AI가 학습하기 위한 데이터는 위·변조되지 않았음을 통해 무결성을 보장할 수 있다. 또한 악의적 공격, DDoS 등 특정서버의 무력화로부터 안전성을 제공하며, 내부자의 조작을 방지할 수 있다. 또한 학습데이터의 블록 암호화로 인해 데이터와 관련한 유출로부터 자유로우며, AI 결과값에 대한 데이터 추적이 가능하다.

AI 학습환경에서는 원시데이터 및 가공데이터의 추적을 통한 검증 가능한 데이터 감사가 필요하다. 그림 3은 인공지능 학습데이터의 무결성을 검증하기 위한 구조로, 데이터 제공 노드에서 검증노드를 통한 AI 서버와의 유무선 통신망을 통해 연결된 시스템에서 검증노드는 블록체인 서버와의 연결을 통해 데이터의 검증을 수행한다. 검증노드는 데이터 제공 노드로부터 데이터를 수신하면 이를 블록체인에 저장하고, AI 서버로부터 데이터 요청 시 블록체인에 저장된 데이터를 AI 서버 서버로 제공하는 과정을 통해 AI 학습에서의 검증환경을 구축할 수 있다.

Fig. 3. 
Proposed block configuration

검증환경 모델에서의 데이터 제공자 층은 원시데이터 및 원시데이터의 해시코드를 같이 데이터 층으로 전송한다. 데이터 층은 데이터 관리 및 수집을 위한 층으로, 제공자 층에서 전송받은 데이터 및 해시코드를 암호화하고, 블록체인에 저장한다. AI 머신러닝을 위한 층에서는 데이터 층으로부터 데이터 및 암호화된 해시코드를 제공받아 AI를 학습시키고, 학습된 패턴을 통한 향후 결과를 도출하여 모델을 관리한다.

Fig. 4. 
AI environment structure for verification

검증노드에서는 데이터 제공 노드에서 수신한 데이터를 블록체인에 암호화키 및 복호화키를 포함하여 암호화하여 저장한다. 또는 검증노드 내애서 암화화키 및 복호화키 생성 후, 데이터 제공 노드로 수신하여 데이터 제공자가 데이터 제공 시 부여받은 암호화키를 이용하여 데이터 암호화 후, 데이터 제공이 가능하다. 이는 오픈 네트워크에서 다수의 데이터 제공자에게 동일한 암호화키를 이용하여 데이터를 암호화하므로, 하나의 복호화키만을 관리하는 실효성을 갖는다.

데이터 무결성 검증을 위해서는 AI 서버로부터 받은 데이터 및 데이터의 해시코드를 포함하는 무결성 검증 요청 시, 데이터 저장 모듈에서의 블록체인 원장으로부터 해당되는 데이터의 암호화된 해시코드를 제공모듈로 전송한다. 제공모듈에서는 암호화된 해시값을 복호화하여 검증모듈로 전송하고, 검증 모듈에서는 복호화된 해시코드와 AI 서버로부터 수신된 데이터의 해시코드를 비교하여 위·변조 여부를 검증한다.

Fig. 5. 
Process of verification for AI data

인공지능 학습데이터를 위한 연구로는 인공지능 모델 개발에 필요한 데이터를 수집하고, 가공해주는 서비스를 위한 양질의 학습용 데이터셋 제공, 가공·검수 프로세스와 인공지능 기반 자동화 도구 개발에 초점이 맞추어져있다. 또한 AI 모델용으로 쓸 개인 데이터를 공개하도록 유도하는 탈중앙화된 데이터 교환 프로토콜 및 네트워크로, 데이터를 올린 사람은 암호화폐로 보상하기 위한 시스템 및 대화형 인터페이스 개발자와 데이터를 소유한 사람이 네트워크에 가치를 제공하고 보상을 받을 수 있는 프레임워크 등 AI 학습데이터 수집을 통한 보상 방안을 위한 연구가 활발하다.

본 연구에서의 AI 학습환경 모델은 AI 모델 기계학습 시 기반이 되는 학습데이터를 블록체인 구조를 통한 수집, 저장을 통해 데이터 무결성, 암호화를 통한 기밀성을 보장할 수 있다. 이를 통해 AI 학습데이터에 대한 추적 및 검증이 가능하여 AI 모델의 신뢰성을 확보할 수 있으며, 데이터 가공 및 원시데이터 수집을 위한 오픈 네트워크에서의 데이터 제공 및 활용 시 사이버 공격, 데이터 변질 등의 위협을 사전에 방지할 수 있는 장점을 가진다. 즉, 본 연구에서는 AI 환경에서 보안의 필요성을 강조하고, AI 학습의 고도화를 위한 신뢰성 확보에 초점을 두어 학습데이터의 무결성을 보장하기 위한 환경 모델을 제안한 것으로 기존 연구와의 목적에서 차별성을 갖는다.