[카드 뉴스] "인공지능 보안 위협"

안녕하세요 오늘은 인공지능 보안 위협이라는 주제로 카드뉴스를 제작해보았습니다. 

 

인공지능 악용은 공격자가 고의적으로 인공지능 기술을 악용하는 것을 뜻하며, 학습 오류 등에 의한 편향된 결과 도출 등 의도치 않게 발생하는 피해와는 다른 형태의 위협을 의미합니다.

 

최근 인공지능 기반의 딥페이크 기술이 발전하면서 음성 및 영상 조작을 통한 금융 사기 거래가 급격하게 많이 발생하고 있습니다.

 

이러한 딥페이크 기술은 인공지능 기술 중 하나인 생성적 적대 신경망을 이용합니다. 이 신경망의 기술을 이미지의 진위 여부를 판단하는 감별자 알고리즘과 이미지를 만들어내는 생성자 알고리즘으로 구성되어 있습니다. 이 두 알고리즘이 대립하는 과정을 통해 원본의 오차를 줄여 판단이 어렵도록 콘텐츠를 생성하게 됩니다.

 

다음의 두 예시는 딥페이크 관련 사례입니다. 이와 같이 딥페이크 공격을 통해서 지인으로 위장한 음성 생성이나 기존과는 차별화된 피싱 공격기 가능할 것으로 예상됩니다. 

 

딥페이크 공격방식은 대표적으로 학습 데이터 조작과 악의적 샘플 삽입이 있습니다. 

 

이를 대응하기 위해서 정보보호 분야에서 인공지능을 활용하는 대응 전략을 마련해야 하며, 인공지능 기반 금융 서비스 공격을 대비할 필요가 있습니다. 

 

본 자료는 2020년 사이버보안 이슈 전망 보고서 -금융보안원- 를 참고하여 작성되었습니다.