AI 기술의 발전, 새로운 보안 위협의 등장

AI 기술이 비즈니스 운영의 핵심 요소로 자리 잡으면서 이에 따른 새로운 보안 위협과 안전 문제 역시 빠른 속도로 증가하고 있다. 기존의 사이버 보안 솔루션은 이러한 위험을 충분히 대응하기 어려운 상황이다. 시스코(Cisco)가 발간한 '2024 AI 준비 지수(AI Readiness Index)'에 따르면, 조사 대상 기업 중 29%만이 AI 기술에 대한 비인가 조작을 탐지하고 방지할 준비가 되어 있다고 느끼는 것으로 나타났다.

AI 모델의 지속적인 검증, 필수 조치

시스코의 AI 소프트웨어 및 플랫폼 담당인 DJ 샘패스(DJ Sampath)는 AI 모델 검증의 지속적인 필요성을 강조했다. AI 모델은 끊임없이 변화하며 새로운 공격 패턴을 학습하기 때문에, 이를 지속적으로 검증하여 안전성을 확보해야 한다는 것이다. 시스코의 위협 연구팀은 새로 대응해야 할 AI 공격 형태를 감시하고, MITRE, OWASP, NIST와 같은 표준 조직에 협력하여 해결책을 모색하고 있다.

특히 시스코는 프롬프트 주입(prompt injection) 공격, 탈옥(jailbreaking) 및 훈련 데이터 오염(training data poisoning) 등 AI 모델이 악의적인 영향을 받을 수 있는 문제들에 대해 강력한 예방 조치를 취하고 있음을 강조했다.

AI 및 클라우드 환경의 확장은 새로운 보안 복잡성 야기

IDC의 보안 및 신뢰 담당 그룹 부사장인 프랭크 딕슨(Frank Dickson)은 AI와 사이버 보안의 교차점에서 발생하는 새로운 도전과제를 설명했다. 전통적인 온프레미스(on-premise) 환경에서 클라우드로의 변화, 그리고 단일 애플리케이션에서 마이크로서비스(microservices) 구조로의 전환은 보안 문제를 다층화하고 있다. 특히, 대형 언어 모델(LLMs)을 포함한 AI 기술의 발전으로 인해 까다로운 보안 관리가 요구된다.

세분화된 모델을 사용하는 현대 응용 프로그램은 개발자, 최종 사용자, 공급업체 모두에게 취약점을 노출할 가능성이 있다. 각 모델의 강점과 약점이 다르기 때문에 맞춤형 보안 접근 방식이 필요하다.

시스코는 이러한 문제를 해결하기 위해 멀티모델 환경을 위한 AI 방어 솔루션을 제공하며, 고유의 머신러닝 알고리즘을 통해 진화하는 AI 안전 및 보안 문제를 식별하고 대응하고 있다.

기술 혁신의 '새로운 정상화' 적응

시스코의 제품 총괄 부사장인 지투 파텔(Jeetu Patel)은 기술 혁신이 초반에는 혁명적으로 느껴지지만 곧 일상 속에서 흔한 경험으로 자리 잡는다고 설명했다. 그는 ChatGPT와 같은 AI 도구의 발전이 사용자 경험을 급격히 변화시킨 사례를 예로 들며, 인공지능 변형에 따른 무형 문화적 변화를 언급했다.

파텔은 향후 인공지능 일반 기술(AGI)의 도입 역시 이와 비슷한 과정을 통해 우리 생활에 잘 통합될 것이라고 전망하며, 기업들이 이러한 기술 변화에 신속히 적응해야 한다고 강조했다.

내 의견:

AI 기술의 발전은 비즈니스와 생활 전반에 큰 기회를 기대하게 하지만, 동시에 큰 책임이 뒤따른다. 특히 보안과 안전 문제는 시간이 지남에 따라 더 큰 도전 과제로 다가올 가능성이 있다. 시스코와 같은 기업들이 선제적으로 보안 솔루션을 제공하고 있지만, 산업 전반의 협력을 통해 더 강력하고 신뢰할 수 있는 시스템을 구축하는 것이 중요하다. 특히, AI 기술에 의존하는 현대 사회에서는 지속적인 검증과 민첩한 대응이 필수적일 것으로 보인다.