|
AI 에이전트는 환경을 인식하고 목표를 달성하기 위해 자율적으로 업무를 수행하는 소프트웨어 시스템으로, ▲자율성Autonomy : 인간의 직접적인 개입 없이 독립적으로 작업 수행 ▲반응성Reactivity : 환경 변화에 대한 적절한 반응 ▲능동성Proactiveness : 목표 달성을 위한 주도적 행동 ▲사회성Social ability : 다른 에이전트나 인간과의 상호작용이라는 특징을 가짐으로써 현재 주로 사용되는 단순 생성형 AI와는 구분되는 개념이다. 혹자는 AI 에이전트를 "다중 작업을 수행하는 자율적인 사고체"라고 평가하기도 한다.
글로벌 빅테크 기업들은 이미 'AI 에이전트의 시대'가 도래했음을 알리고 있는데, 실제로 세일즈포스, 이베이, 마이크로소프트 등은 자사 업무에 AI 에이전트를 적극 활용하는 것으로 알려졌다. 2025년 1월, KPMG에서 조사한 'AI Quarterly Pulse Survey'에 따르면, 조사 대상 기업의 절반 이상이 행정지원, 고객 응대, 자료 작성 등의 업무에서 AI 에이전트 도입을 검토하고 있으며, 이 중 37%는 시범 활용 단계에 있는 것으로 집계됐다. 엔비디아의 CEO인 젠슨 황Jensen Huang은 이러한 변화를 '새로운 디지털 인력New digital workforce'으로 부르면서, 미래에는 IT 부서가 AI 에이전트의 HR 역할을 맡게 될 것이라 전망했다. 이러한 AI 에이전트의 도입은 단순히 업무에 AI를 활용하는 차원을 넘어 사람이 AI와 팀이 돼 협업하는 새로운 '하이브리드 팀'을 구성하는 것이다. 따라서 HR 부서에서는 AI 에이전트를 기존의 인력조직과 통합해서 관리하고, AI 에이전트와 사람의 인력을 적절히 조합하는 전략을 수립하며, AI 에이전트와 인간이 조화를 이루는 업무 흐름을 설계해야 한다. 그리고 그 과정에서 AI 에이전트를 도입할 때 발생할 법적·윤리적 문제와 보안 이슈를 선제적으로 검토해야 한다. .jpg) AI 에이전트 도입 시 고려할 보안 이슈 AI 에이전트를 도입할 때 HR 부서에서는 다음의 보안 이슈들을 면밀히 고려해야 한다. 데이터 보안과 개인정보 보호 AI 에이전트가 제대로 기능하려면 데이터가 필요하며, 여기엔 민감한 기밀정보나 개인정보가 포함된다. 따라서 HR이 가장 먼저 신경 써야 할 점은 사내기밀과 개인정보를 보호하는 것이다. 국내 대기업에서 생성형 AI 챗봇에 소스코드를 입력했다가 그 내용이 외부로 유출되는 사건이 발생한 적이 있는데, 이는 AI 에이전트를 도입할 때 사내기밀이나 개인정보에 대한 적절한 가이드라인을 마련할 필요가 있음을 보여준다. 개인정보의 제삼자 제공이나 국외 이전에 대해서도 법률적 요건이 존재하므로, AI 에이전트의 도입 시 개인정보에 대해서는 비식별화 조치 등을 취하고 적법한 요건을 갖추도록 할 필요가 있다. 사이버 보안 및 접근 통제 AI 에이전트는 AI이면서도 인간과 같이 기능할 수 있다. 사이버 보안 및 접근 통제 이슈는 AI 에이전트의 이러한 이중적 지위 모두를 관리해야 하기에 대두된 이슈이다. AI 에이전트는 기업 내부 시스템과 연동돼 작업하게 되는 만큼, 기존 IT 인프라에 새로운 공격 포인트가 될 수 있다. 예를 들어 악의적인 지시나 이른바 '프롬프트 주입' 공격을 통해 AI 에이전트를 교란시켜 의도치 않은 행동을 하게 만들 수 있다. 실제로 미국 국토안보부DHS도 2024년 4월 발간한 보고서에서 자율성Autonomy 그 자체를 핵심 인프라 보안의 새로운 위험 요소로 지목한 바 있다. 자율적으로 작동하는 AI가 잘못된 명령을 실행할 경우, 의도치 않게 시스템을 중단시키거나 이상 신호를 보내는 등 사고를 초래할 수 있다는 우려이다. 또한 AI 에이전트가 중요한 시스템과 데이터에 접근하기 시작하면 비인가된 접근이나 권한 남용의 위험이 생기므로 AI 에이전트에게도 인간 직원처럼 ID를 부여하면서 접근 권한과 행동을 관리하는 등 권한 수준에 상응하는 보안 통제가 필요하다. 실제로 마이크로소프트는 AI 에이전트 전용 ID 및 권한관리 시스템을 도입했는데, 이는 각 AI 에이전트에 고유한 인증ID를 부여해 접근 권한을 통제하는 것이다. 기업이 AI 에이전트를 새로운 '디지털 직원'으로 간주하는 이상, 사람과 동일하게 AI 에이전트 도입 시 권한 부여와 신원 확인 절차를 거치고 활동 중에는 로그 모니터링과 이상 행위 탐지, 미사용 시 접근 권한 회수 등 전주기 관리체계를 수립해야 한다. 또한 AI 에이전트가 외부 API나 도구를 호출한다면, 그 연결 지점마다 암호화와 인증을 적용해 데이터 유출 경로를 차단해야 한다. 요컨대 AI 활용으로 인한 새로운 보안 취약점이 생기지 않도록 IT부서와 협조해 사전에 기술적·관리적 대책을 마련해야 한다. 기존 보안정책 및 규정과의 정합성 AI 에이전트를 도입할 때 HR은 회사의 기존 보안정책, 산업 규제와의 정합성Compliance도 반드시 고려해야 한다. 당장 금융권이나 의료 분야와 같은 특정 산업군의 경우 보다 엄격한 규제가 존재하므로 해당 규제 요구사항을 충족하는 것이 필요하다. 또한 AI 에이전트도 결국 AI의 일종이므로 AI에 공통적으로 적용되는 EU의 'AI act'나 한국의 '인공지능 기본법' 등에서 콘텐츠의 투명성 의무, 고위험 분야에서 사용될 경우 설명 가능성, 기록관리, 사전 위험평가와 안전조치 이행, 국내 책임자 지정 등 기업의 AI 활용에 새로운 법적 의무를 부과하고 있어 이를 확인하고 대응할 필요가 있다. 따라서 HR은 자사에 적용될 국내외 법규와 보안 표준을 검토해, AI 에이전트의 도입이 이러한 기준에 부합하도록 정책을 정비해야 한다. ... 중략 ... |
|
기사 전문은 구독권한이 있는 회원께만 제공됩니다. 먼저 로그인 하세요.
로그인
|
