생성형 AI로 인해 발생하는 보안 위협에 생성형 AI로 맞서는 기업들이 있습니다.
NVIDIA는 기업이 검색 증강 생성(RAG)을 사용하는 워크플로를 제공합니다. 이는 생성형 AI의 외부 학습 데이터와 신뢰할 수 있는 지식 베이스를 참고해 결과물을 생성하도록 하는 것입니다. 신뢰할 수 있는 지식 베이스의 리소스로 조직 내부 지식 또는 특정 도메인을 활용합니다. 우선 생성형 AI가 학습 데이터를 수집하고 정제한 후, NVIDIA의 RAG 워크플로는 수집하고 정제한 데이터를 학습합니다. 그다음 지식 베이스 데이터를 학습 데이터에 연결해 결과물의 품질을 높인 후, 최종 결과물을 생성합니다. 이를 통해 생성형 AI가 잘못된 정보를 생성하거나 편향된 결과물을 만드는 것을 방지할 수 있고, 더 정확하고 유익한 결과물을 제공할 수 있습니다.6)
국내 기업인 IGLOO Corporation도 생성형 AI 기술 공격에 맞선 제품을 내놨습니다. 분류형·설명형·생성형 AI 기술을 바탕으로 AI 모델 예측 결과·근거를 자연어 형태로 설명해 주는 기술인데요. AiR라고 불리는 이 서비스는 보안 담당자가 보안 로그, 이벤트의 정탐과 오탐 여부를 명확히 판별하기 위한 기능을 제공하는 데 초점을 맞췄습니다.7)
LG CNS도 생성형 AI를 활용한 보안 솔루션이 있습니다. 바로 SecuXper입니다. SecuXper는 생성형 AI를 업무에 활용할 때 민감한 정보를 걸러내 줍니다. 민감한 정보를 ChatGPT에 실수로 입력했다고 하더라도 자동으로 걸러줍니다. 이를 통해 민감한 정보의 유출을 막을 수 있죠. 지난 5월 8일 진행한 월간 D-Talks [새로운 차원의 보안 위험에 대비하는 법]에서 변화하는 보안 환경과 위협에 대응하는 방법과 함께 SecuXper를 소개드렸습니다. 자세한 내용은 📺다시보기를 통해 확인하실 수 있습니다.
🤔지금까지 생성형 AI와 관련된 보안 위협과, 이에 대응하는 기업의 생성형 AI 보안 솔루션에 관해 알아봤습니다. 생성형 AI로 인한 보안 위협이 발생하지만, 이러한 위협을 생성형 AI를 통해 해결하고자 노력하는 점이 흥미로웠습니다. 창도 방패도 모두 생성형 AI라는 표현이 맞겠네요. 앞으로 생성형 AI가 우리의 업무에 점점 더 많이 쓰일 텐데요, 생성형 AI로 인한 보안 위협이 존재하는 만큼, 보안을 강화하는 데에도 많은 관심을 가져야겠습니다.
1) Cloud CISO Perspectives: 2024년 사이버 보안 전망 보고서
2) 2023년 사이버 보안 위협 분석 및 2024년 전망 발표
3) 사이버 범죄 특화 생성AI ‘웜GPT’ 발견, 기업 보안 주의, ZDNET KOREA
4) 공공분야 챗GPT 활용에 따른 학습 데이터 오염과 “할루시네이션(환각)” 개선 방안, 한국행정연구원
5) 최근 핫 키워드 ‘생성형 AI’, 실제 실현 가능한 보안 위협은?
6) NVDIA 기술 블로그 Technical Brief
7) AI 사이버 공격, AI가 막는다…K시큐리티 솔루션 고도화, 전자신문
