AI 은행원’의 실제 능력 검증 위한 테스트베드 도입
오는 2분기 중 금융분야 AI 가이드라인도 준비 예정
[미디어SR 김병주 기자]금융당국이 인공지능(AI)이 실제 금융상품을 추천‧판매할 수 있도록 하는 가이드라인을 만든다. 이를 위해 ‘AI 은행원’의 실제 능력을 검증하는 테스트베드도 운영하기로 했다.
13일 진행된 금융위원회의 제 7차 디지털금융협의회에 참석한 도규상 금융위 부위원장은 “금융권의 AI활용을 지원하기 위해 필요한 빅데이터 인프라를 구축할 것”이라며 “AI알고리즘의 유효성을 검증할 수 있는 테스트베드를 만들겠다”고 밝혔다.
금융위의 이번 결정은 서울대학교 산학협력단의 ‘금융분야 인공지능 활성화를 위한 연구용역 결과에 따른 후속 조치다. 이번 연구의 책임자인 고학수 서울대 법학전문대학원 교수는 보고서를 통해 “AI시스템의 잠재적 위험을 평가·관리할 거버넌스를 구축하고 운영의 전과정에서 신뢰성 확보를 위한 적절한 평가조치가 시행돼야 한다”며 “특히 AI의 불완전판매 등 법적 리스크를 해소하기 위해 설명의무 준수가 가능한지 등을 실증적으로 측정하는 ’AI 설명 테스트베드‘구축 필요성이 있다”고 밝혔다.
이에 금융위 관계자는 미디어SR에 “오는 2분기 중 금융분야 AI 가이드라인을 준비하고, 금년 중 금융업권별 실무지침도 단계적으로 마련할 예정”이라고 설명했다.
또 양질의 데이터 확충을 위한 AI 학습 및 교육용 합성데이터 개발 및 금융대화형 AI를 위한 ‘금융말뭉치(금융상품과 상품의 자문 및 판매에 특화된 대화형태의 데이터)’ 데이터 세트 등의 확충도 주문했다.
고 교수는 “투자조언장치의 경우 알고리즘 등에 의한 시세조종 등 불공정 거래 행위를 유발할 가능성이 있는 만큼 추가 심사가 필요해보인다”라고 제안했다.
이밖에 보고서에서는 금융분야 AI 가이드라인 제정을 위한 공정성과 투명성 제고, 딥페이크 등 AI를 통한 새로운 금융범죄에 대한 대비책 마련의 필요성도 제기됐다.
도규상 부위원장은 “AI는 인간보다 정보를 빠르고 더 많이 처리해 의사결정 효율성을 높이지만 편향성 등 공정성 이슈가 제기될 수 있다”며 “소비자보호를 위한 AI감독이슈에 선제적으로 대응하고, 나아가 인간과 AI가 조화를 이룰 수 있는 운영 가이드라인을 만들겠다”고 말했다.