고급 AI 기능의 발전과 함께 복잡성이 증가하고 있으며, 특히 생성 AI(Gen AI)를 수용하는 최고정보보안책임자(CISO)에게 더욱 두드러집니다. 이 기술의 발전은 사이버 보안 공급업체가 증가하는 AI 전쟁에서 위험을 최소화하는 데 필수적입니다. 그러나 적들은 AI와 소셜 엔지니어링 전술을 결합하여 무기를 만드는 데 더 능숙해져, 올해 주요 기업에 중대한 영향을 미쳤습니다.
2024년 전망을 논의하기 위해 한 미디어 매체가 13개 기업의 사이버 보안 리더 16명과 가상 토론회를 개최했습니다. 그들의 공통된 의견은 AI와 사이버 보안 전문가 간의 강력한 협력이 미래의 성공을 위해 필수적이라는 것이었습니다.
AI 에이전트에 대비하고 있습니까?
AI는 사이버 위협에 효과적으로 대응하기 위해 인간의 통찰력이 필요합니다. MITRE의 관리 탐지 및 대응(MDR) 프로그램은 인간의 지능과 AI를 통합하면 해킹을 조기에 식별하고 중화할 수 있다는 구체적인 증거를 제공했습니다. 라스베이거스 시의 최고 혁신 기술 책임자 마이클 셔우드도 최근 인터뷰에서 이를 강조했습니다.
생성 AI의 사이버 보안 역할에 대한 예측
Ericom의 피터 실바는 생성 AI가 공격 경로와 새로운 취약점을 식별하는 패턴 인식을 향상시킬 수 있다고 강조했습니다. 그러나 그는 AI가 탐지를 복잡하게 만들 수 있다고 경고하며, 시스템이 인간 생성 피싱 공격과 AI 생성 피싱 공격을 구별하는 데 어려움을 겪을 수 있음을 지적했습니다.
CrowdStrike의 CTO 엘리아 자이체프는 2024년에는 사이버 범죄자들이 승인된 AI 사용의 취약점을 통해 AI 시스템을 타겟으로 삼고, 직원의 무단 AI 도구 사용으로 인해 생긴 맹점을 악용할 가능성이 높아질 것이라고 경고했습니다. 그는 기업들이 내부 AI 구현을 재검토하고 강력한 가이드라인을 개발하여 위험을 완화해야 한다고 강조했습니다.
CyCognito의 CEO 롭 구르제프는 생성 AI가 보안에 긍정적인 영향을 미칠 것이라고 표현하면서도, 보안 팀 내에서 자기만족을 초래할 수 있다고 경고했습니다. 그는 AI에 과도하게 의존할 경우 보안 운영에 공백이 생길 수 있다고 말했습니다.
Cyberhaven의 CEO 하워드 팅은 연구 결과, 4.7%의 직원이 ChatGPT와 같은 AI 도구에 기밀 정보를 입력했다고 공유했습니다. 그는 AI의 발전이 시간이 지남에 따라 보안 팀이 방어력을 강화하는 데 도움이 될 것이라고 믿고 있습니다.
Gutsy의 공동 창립자이자 CTO 존 모렐로는 생성 AI가 보안 팀이 방대한 이벤트 데이터를 관리하는 방식을 크게 개선시킬 가능성이 있으며, 구식 방법을 사용자 친화적인 형식으로 변환할 수 있다고 언급했습니다.
Honeywell Connected Enterprise의 CTO 제이슨 우르소는 생성 AI가 미숙련 해커들도 정교한 공격을 실행할 수 있게 하여 사이버 보안 지형이 AI 대 AI로 이동할 것으로 예측했습니다.
Ivanti의 최고 제품 책임자 스리니바스 무카말라는 AI로 인한 일자리 불안감이 증가하고 있음을 강조하며, 리더들이 AI 통합 전략에 대한 투명성을 제공해야 인재를 유지할 수 있다고 언급했습니다. 무카말라는 또한 더 나은 AI 도구로 인해 믿을 만한 피싱 시도가 더욱 증가할 것이라고 예측했습니다.
Lacework의 현장 CISO 메리트 베어는 생성 AI가 작업 환경을 변화시키고 인간이 전략적 사고와 창의성에 집중할 수 있도록 자동화를 지원할 것이라고 보았습니다.
Palo Alto Networks의 Prisma Cloud 수석 부사장 안쿠르 샤는 보안 팀이 AI가 크게 가속할 것으로 예상되는 애플리케이션 개발 속도를 관리해야 하며, 명확한 보안 데이터가 없으면 AI의 위험 예방 효과가 감소할 수 있다고 경고했습니다.
Palo Alto Networks의 Cortex CTO 맷 크래닝은 생성 AI가 보안 분석가의 데이터 상호 작용을 단순화하고, 위협에 대한 분석과 대응을 용이하게 할 것이라고 설명했습니다.
Telesign의 CEO 크리스토프 반 드 위어는 2023년에 범죄자들이 생성 AI를 사용하여 설득력 있는 메시지를 작성함으로써 기록적인 피싱 사건이 발생했다고 언급하며, 조직들이 방어를 강화하고 AI로 사기 탐지를 개선해야 할 필요성이 있다고 믿고 있습니다.
Telstra Purple EMEA의 로브 로빈슨은 보안 모니터링을 위한 데이터 포인트 수가 증가함에 따라 CISO의 기술이 변화해야 하며, AI가 보안 문제를 해결하는 핵심 솔루션으로 등장할 것이라고 말했습니다.
WinWire의 CTO 비니트 아로라는 생성 AI가 사이버 보안 자동화를 대폭 향상시켜 보안 전문가들이 복잡한 문제에 집중할 수 있게 할 것이지만, 동시에 악의적인 행위자들이 그 잠재력을 악용할 여지를 남길 것이라고 강조했습니다.
Zscaler의 최고 AI 책임자 클라우디오노 코엘로와 제품 관리 부사장 산자이 칼라는 생성 AI가 컴플라이언스 노력을 혁신하여 이전의 시간 소모적인 프로세스를 자동화할 것이라고 예측했습니다.
글로벌 물류 조직의 CIO 클린트 딕슨은 데이터 성장과 복잡성의 빠른 증가로 인해 사이버 보안의 미래는 AI에 크게 의존할 것이라고 요약했습니다.
결론적으로, 생성 AI의 사이버 보안 통합은 방어력을 강화하고 운영을 간소화할 엄청난 잠재력을 가지고 있으나, 2024년에 기업들이 신중하게 다뤄야 할 새로운 도전과 위험도 동반하고 있습니다.
순위 목록
