스스로 일하는 AI 비서, '안전 잠금장치'가 생깁니다

왜 이런 법이 나왔을까요?

내 스케줄을 관리하고 여행 예약까지 스스로 해주는 AI 비서, 정말 편하죠. 그런데 만약 이 AI가 내 허락 없이 비싼 비행기 표를 덜컥 예약하면 어떨까요? 이렇게 사람의 지시 없이 스스로 일하는 'AI 에이전트'가 많아지면서, 혹시 모를 사고를 막을 안전장치가 필요해졌어요.

그래서 내 생활에 뭐가 바뀌는데요?

🧐 "제가 쓰는 AI 비서 앱도 해당되나요?"

네, 스스로 계획하고 외부 앱과 연동해 일을 처리하는 AI라면 해당돼요. 앞으로는 안전장치가 의무화되니, 더 안심하고 사용할 수 있을 거예요.

🧐 "AI가 마음대로 결제하는 것도 막을 수 있나요?"

그럼요. 앞으로 개발사는 AI에게 맡길 수 있는 권한의 범위를 미리 정하고, 사용자가 AI의 작동을 관리·감독할 수 있는 기술적 장치를 만들어야 해요.

딱! 이 조항이 바뀝니다

이번 법 개정으로 '인공지능 에이전트'에 대한 사업자의 책임이 명확해졌어요. 핵심은 새로 생긴 제32조의2 조항이에요. AI가 위임받은 권한을 벗어나 작동하지 않도록 사업자가 기술적 조치를 하고, 사람이 관리·감독하도록 의무를 부여한 거죠.

제32조의2(인공지능 에이전트에 관한 안전성 확보 의무)
① 인공지능사업자는 ... 안전성을 확보하기 위하여 다음 각 호의 사항을 이행하여야 한다.
1. 권한 위임의 범위와 한계의 사전 설정
2. 외부 시스템 연계에 따른 위험의 평가·관리
3. 위임받은 권한을 벗어나 작동하는 것을 방지하기 위한 기술적 조치

짧은 스토리를 들려드릴게요

바쁜 직장인 지혜 씨는 'AI 비서'를 아주 유용하게 쓰고 있어요.

📭 이 법안이 나오기 전엔

지혜 씨가 "다음 주 부산 출장 준비해줘"라고 하자, AI 비서가 항공, 숙소, 렌터카까지 한 번에 예약했어요. 그런데 예산을 초과하고 엉뚱한 호텔을 잡아버렸네요.

📬 이 법안이 시행되면

이제 AI 비서에게 "예산 50만 원 안에서, 해운대 근처 호텔로"라고 명확히 지시할 수 있어요. AI는 설정된 권한을 넘어서지 않고, 최종 결제 전에는 꼭 지혜 씨에게 확인을 받아요.

생각해 볼 점

🎈 기대되는 점

AI 기술의 안전성이 높아져 사용자가 더 믿고 쓸 수 있고, 관련 산업도 더욱 건강하게 성장할 수 있는 기반이 마련될 거예요.

🔎 우려되는 점

기업 입장에서는 안전 조치 의무가 개발에 부담이 되거나, 자칫 과도한 규제로 작용해 기술 발전을 늦출 수 있다는 목소리도 나와요.