"AI윤리원칙-AI전담조직-위험관리정책 수립 등 내부통제장치 마련해야"

▲신새아 앵커= '차상진 변호사의 금융과 법(法)', 오늘(29일)은 금융분야 AI에 대해 이야기 해보겠습니다. 차 변호사님, 금융위원회가 이번달 금융분야 AI 가이드라인을 발표했는데, 먼저 금융분야에서 AI가 현재 어떻게 활용되고 있나요. 

▲차상진 변호사= 네, AI는 금융산업 분야에서 다양하게 활용되고 있습니다.  금융분야에서 AI의 활용이 활발한 이유는 크게 2가지인데요. 하나는 금융기법과 사회가 고도화되고, 정보가 많아짐에 따라 더 이상 사람이 직접 다양한 변수들을 모두 평가하는데 한계가 있다는 점입니다. 

사람이 업무를 함에 따라 발생하는 실수, 흔히 '휴먼에러'라고 하는데요. 이 휴먼에러를 예방할 수 있다는 것도 커다란 장점입니다. 두번째 이유는 인건비에 비하여 AI의 활용이 훨씬 비용이 적고, 빠르기 때문입니다. 마케팅은 물론 금융상품설계나 자산의 운용, 심사 및 평가 등에도 활발하게 사용되고 있습니다.

금융분야 AI 사용 예로는 이미 많은 분들이 '로보어드바이저'라는 단어는 들어보셨을 것입니다. 로보어드바이저는 자산의 운용 및 리밸런싱 등을 머신러닝 기능이 있는 AI을 통하여 수행하는 것을 말합니다. 그 외에도 대출 등 여신기관에서 신용평가 시에는 물론 보험가입 등에서도 이미 활발하게 사용되고 있습니다.

▲앵커= 다만 AI를 활용하다 보면 개인신용정보의 오남용이라거나 안정성, 위험관리 등에 대하여 우려하는 시각도 있을것 같은데 이번 금융분야 AI 가이드라인 역시 이와 관련한 것이죠. 

▲차상진 변호사= 네, 그렇습니다. 아무래도 AI는 스스로 학습하는 딥러닝방식을 이용하기 때문에 말씀하신 내용들에 대하여 우려가 있는 것도 사실입니다. 특히나 개인신용정보의 오남용 문제라든지, 문제 발생시 어디서 문제가 발생하였는지 알기 어렵다는 단점이 있습니다. 

AI가 스스로 학습을 하기 때문에 어디서 어떠한 학습을 통하여 잘못된 학습을 하고 잘못된 판단을 했는지, 그리고 그 책임이 누구 때문인지 알기 어려운 것이죠.

이번 가이드라인은 이러한 점을 방지하기 위하여 AI를 금융거래 및 대고객서비스에 적용한 전 금융업권에 적용되도록 하는 한편, 비금융업이라도 AI의 활용결과가 금융거래에 중대한 영향을 미치는 영향이 큰 경우 역시 적용됩니다.

또한 AI윤리원칙-AI전담조직-위험관리정책 수립의 3개 내부통제장치를 마련하였는데요. 금융회사는 회사별 가치, AI활용 상황 등에 따라 AI서비스 개발·운영시 준수해야 할 원칙과 기준을 수립하도록 하였고요. 또 AI의 잠재적 위험을 평가하고 관리할 구성원의 역할·책임·권한을 상품의 기획·설계·운영·모니터링 등 전 서비스 단계에 걸쳐 구체적 정의할 것을 요구하고 있습니다.

또한 AI 서비스를 자체적으로 평가하고 관리하는 정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리 적용하도록 하고 있습니다. 가이드라인이라는 성격상 일부 추상적일 수는 있으나, 이번 금융분야 AI 가이드라인으로 인하여 금융분야에서 AI의 사용이 보다 가속화 될 것으로 보입니다.

▲앵커= 가이드라인이라고 하면 법률처럼 강행적인 규제는 아니지만 금융기관에서는 이를 무시할 수도 없는 것이라서 AI 활성화 전에 규제부터 시작되어 산업발전에 어려움이 있을 수 있지 않느냐 하는 우려도 있을 수 있는데, 어떻게 생각하세요.

▲차상진 변호사= 네, 말씀하신 것처럼 그러한 우려도 타당합니다. 그러나 또 규제는 양면적인 성격이 있는데요. 규제가 있으면 규제 때문에 분명 하지 못하는 행동들이 존재합니다. 금융기관들이 정책당국에서 발표한 가이드라인이기 때문에 이를 쉽사리 무시하기도 좀 어려울 것입니다.

그러나 다른 한편으로는 어디까지가 허용되는 행동이고 어디부터는 해서는 안되는 행동인지를 결정하기 쉽게 해줍니다. 이러한 점 때문에 아무런 규제가 없다면 금융기관으로서는 어디까지 허용되는 행동인지 어떠한 행위를 할때마다 계속하여 신중하게 판단하여야 하므로 오히려 안 좋을 수 있습니다.

특히나 먼저 가이드라인 형태로 일정의 규율을 내놓았다는 점이 참 적절한 규제의 방식이라고 할 수 있는데요. 가이드라인은 금융기관들이 어디까지 어떻게 행동하여야 하는지에 대한 지침을 주는 한편, 금융기관이 업무를 잘 하려고 하였음에도 발생한 실수에 대하여는 가이드라인 위반이라는 이유만으로는 불이익을 받지 않기 때문입니다.

즉 잘 하려고 하였다가 발생한 가이드라인 위반에 대하여는 감독기관과 협의하여 시정하여 나갈 수 있는 장점과 잘못이 중대하여 법률위반이 발생할 경우에는 법률에 따라 일정한 조치가 이루어질 수 있는 장점이 있습니다. 따라서 금융분야 AI가이드라인을 통하여 금융분야에서 AI의 활용이 보다 활성화 될 것으로 기대합니다.

금융위원회는 이후 금융업권 및 기능·서비스별 특성을 고려하여 가이드라인을 구체화한 세부 실무지침도 마련하다고 하니, 금융기관으로서는 AI 활용을 어떻게 하여야 할지에 대한 보다 확실한 방향이 잡혀 보다 적극적으로 AI를 활용할 수 있을 것으로 기대합니다.

▲앵커= 네 이번 금융분야 AI 가이드라인 통하여 AI를 활용한 금융산업 발달이 어떻게 되는지 한번 지켜봐야 겠네요. 오늘 잘 들었습니다. 

 

저작권자 © 법률방송 무단전재 및 재배포 금지