AI에이전트 : 비서에서 행동하는 요원으로

https://www.igloo.co.kr/security-information/ai-%ec%97%90%ec%9d%b4%ec%a0%84%ed%8a%b8-%eb%b9%84%ec%84%9c%ec%97%90%ec%84%9c-%ed%96%89%eb%8f%99%ed%95%98%eb%8a%94-%ec%9a%94%ec%9b%90%ec%9c%bc%eb%a1%9c/

 

1. 생성형 AI 진화

• 초기의 생성형 AI는 똑똑한 AI어시스턴트였으나 행동할 수 없다는 한계가 있었음.
• 여기에서 한 단계 나아간 게 AI 에이전트 - AI에게 툴을 쥐어 줌
  
  • 이를 통해 질문에 답변을 넘어 직접 수행할 수 있게 됨.
    • ex) 
    • 생성형 AI : IP차단하는 방법 알려드릴 수 있음. 알려드릴까요?
    • AI 에이전트 : IP차단할 수 있음. 차단해드려여?

 

2. 수만 개의 알람 중 진짜를 찾아내는 1차 방어선 - 관제 업무

• 들어오는 알림 중 90% 이상은 실제 공격이 아니거나, 무시해도 되는 오탐. 그러나 공격을 놓치지 않기 위해 모든 신호를 사람이 일일이 확인함.
• AI가 관제 업무의 1차 방어선에 투입된다면
  • AI는 24시간 쉬지 않고 들어오는 모든 알림을 실시간으로 분석 
  • 분석한 알림을 위험도 순으로 정리해 놓으면 담당자가 출근해서 중요한 것부터 확인할 수 있음.

 

3. 복잡한 조사를 명료하게 정리하는 초고속 비서 - 웹 공격

• 웹 공격 알람이 발생했을 때, 실제 피해로 이어졌는지 확인하려면 WAF로그 확인 → 공격 유형 파악 → 방화벽 로그를 통해 접속 허용했는지 확인 → IPS 로그와 웹 서버 로그까지 교차 검증의 과정을 거쳐야 했음. 
• AI 에이전트가 도입된다면 AI는 관련 장비들을 가지고 다음과 같은 시나리오가 가능해짐.
  • WAF 로그분석 : 공격 구문과 대상 URL 파악
  • 방화벽 & IPS 로그 조회 : 해당 IP의 선행 트래픽(포트 스캔 등) 여부 확인
  • Weblog 교차 검증 : 공격 시점의 응답 코드 확인(200 OK : 공격 성공, 403/404 : 공격 실패)
  • 이후 짧은 결과 보고서 작성

 

4. 복잡한 명령어 대신 한마디로

궁금한 정보를 자연어로 물어보면 에이전트가 알아서 데이터를 추출하고 분석하여 결과값을 보여줌.

즉, 데이터 분석의 대중화가 가능해짐.

 

 

 

 

5. 주니어에겐 성장의 가속도를, 시니어에겐 통찰의 시간을

• 주니어
  • AI에이전트 = 친절한 사수 
  • 쿼리 없이 데이터 조회가 가능하여 업무 장벽이 낮아짐
  • 단순 반복적인 오탐 처리 업무에서 해방되어 공격 기법을 공부하고, 분석역량을 빠르게 키울 수 있는 시간을 확보함. 
• 시니어
  • AI에이전트 = 조력자
  • 짜잘짜잘한 일은 AI에게 넘기고, 고도화된 위협 헌팅 및 보안 전략 수립에 집중할 수 있음.

 

 

6. 에이전트의 자율성과 인간의 신뢰

• AI의 의사결정 과정에 인간이 개입하여 결과를 검증하고 피드백 주는 방식인 휴먼 인 더 루프(Human in the loop)를 사용해야 함.
  • 보안에서는 한 번의 판단 착오가 기업 비즈니스 전체에 영향을 줄 수 있기 때문에.
• 초반엔 AI의 분석과 대응방안을 사람이 검토하고 승인하여 AI가 조직의 보안 환경을 제대로 이해했는지 검증하는 과정이 필요.
  • 이때, AI는 자신의 결론에 대한 근거를 설명할 수 있어야 함. 
• 이후 점진적으로 AI에게 자율 권한으로 위임해 나갈 때, AI의 속도와 인간의 정확성을 모두 갖춘 안전하고 효율적인 보안 체계를 구축할 수 있게 됨.