[경제신문스크랩] '망분리 완화·AI 윤리 강령 제정' 김소영 부위원장 "AI 경쟁력 강화할 것"

 

'망분리 완화·AI 윤리 강령 제정' 김소영 부위원장 "AI 경쟁력 강화할 것"

 

기사 요약

---

• 금융위원회 주관으로 "금융권 AI협의회"가 발족되었다. 
• 급변하는 시대, 그리고 AI기술의 빠른 변화에 발맞추어 대응하고자 결성. 
• 현행 문제 1.   2013년에 시행된 "금융권 망분리 규제" 에 따라, 금융권은 인터넷 접속을 통한 서비스 연계가 어렵다. 특히, 외부기업에서 제공하는 생성형AI 서비스를 연계하려면 클라우드로의 인터넷 연결이 필요한데, 이것이 불가능하다. 
• 현행 문제 2.   문제1을 해결하기 위해서 각 기업의 sLLM(소형 자체 개발 LLM) 개발에 있어 "양질의 데이터"가 필요하다. 예를들어, ChatGPT는 "일반적인 데이터"가 학습된 거대 언어모델이지만, 금융업계에서는 ChatGPT만큼 큰 모델이 필요하지도 않을 뿐더러, "금융에 특화된 데이터" 가 더욱 학습된 모델이 필요하다. 그렇기 때문에, 새롭게 AI모델을 학습시켜야 하는데, 개별 회사가 이런 데이터 수집, 구축이 어려우므로, 외부에서 누군가가 데이터를 통합하고 합성데이터를 제공하여 도움을 주었으면 한다는게 금융권의 입장이다. 
• 현행 문제 3.    위의 과정과, AI모델 활용과정에서 "거버넌스"가 필요하다는 요구이다. 정부나 민관이 협력하여 거버넌스를 구축하여 AI모델 사용시 필요한 윤리기준을 설정하거나 관리감독하는 주체가 필요하다는 것이다.

 

나의 생각

---

• 이 주제와 관련한 기사와 youtube 영상을 찾아보기 전까지는 단순히 "ChatGPT 갖다 쓰면 되는거 아닌가" 라고 생각했다. 
• 근데 기업들은 내부 전산망을 외부와 분리해서 외부의 해킹 공격에 대비하기 때문에, 인터넷 연결이 쉽지 않고, 그에따라 외부 오픈소스 활용이 어렵다는것을 알게 되었다. 특히 금융권은 고객들의 민감한 데이터를 갖고있기 때문에 더욱 망분리와 관련한 규제가 심하다. 그렇기 때문에 ChatGPT 갖다가 써먹는게 어렵다. 
• 나는 그리고 특정 기업에 특화된 LLM 모델 학습이 필요하다는것을 까먹고있었다.. 이를 위해서는 작은 LLM모델을 효율적으로 학습시켜야 할것이다. 즉, ChatGPT가 필요한게 아니라, 하나은행GPT, 신한은행GPT가 필요한거다
• 좀 찾아보니, 구글, 메타 등에서도 sLLM을 개발하고 있다고 한다. 이런것들을 사와서 기업 내부망에서 사용하면 되지 않을까.. 싶다. 특히 PEFT(Parameter Efficient Fine Tuning)을 통해서 AI모델 말딴 layer의 파라미터들만 금융관련 데이터 기반 fine-tuning을 진행하면 될것같다. 

[Hugging Face] PEFT에 대해 알아보자

작지만 오히려 좋아! 소형 언어 모델(sLLM)

 

오늘의 경제 단어

---

• 망분리 규제 : 망분리 규제는 외부의 침입으로부터 내부 전산자원을 보호하기 위해 내부망과 외부망을 분리하는 네트워크 보안기법의 일종입니다. 물리적 망분리와 논리적 망분리가 있는데, 물리적 망분리는 개인당 컴퓨터를 2대씩 사용하게 해서, 하나는 기업 내부망 이용을 위한것, 하나는 인터넷 연결된 외부망 이용을 위한것. 

 

 

기사 원문

파란색은 요즘 산업의 트렌드

빨간색은 수치적 변화

---

김소영 부위원장이 "전세계적으로 AI 패권 경쟁이 치열해지는 가운데 우리 정부는 '초거대 AI 초일류 국가 도약'을 주요 국정목표로 설정하고 AI 경쟁력 강화를 추진하고 있다"고 28일 밝혔다.

김 부위원장은 이날 서울 중구 은행회관에서 '금융권 AI 협의회 발족식' 모두발언을 통해 "주요 국가들도 생성형 AI의 활성화 및 안전한 활용 방안에 대해 치열하게 고민하고 있다"며 이같이 말했다.

김 부위원장은 "미국의 경우 생성형 AI의 안전한 개발과 배포를 지원하기 위해 정부, 기업, 학계 등 다양한 집단이 논의하는 'AI 안전 컨소시엄'을 지난달 발족하는 등 생성형 AI의 혁신 생태계 마련을 적극 추진하고 있다"며 "EU의 경우 생성형 AI의 위험수준에 따라 차등화된 의무를 부여하고 위반시 제재토록 하는 AI 법안이 이번달 최종 승인돼 2025년부터 단계적 발효를 앞두고 있다"고 부연했다.

이에 금융위원회도 이번 출범하는 '금융권 AI 협의회'를 통해 현장에서 제기된 AI 활용에 있어 애로사항을 해결하겠다고 밝혔다.

 

앞서 금융위원회는 지난 2월부터 총 3회에 걸쳐 업권별 릴레이 간담회를 실시했다.

그 결과 생성형 AI를 활용하기 위해서는 클라우드 환경이 필수적이지만 금융회사에서 망분리 규제로 인해 클라우드를 이용하기 어렵다는 의견이 다수 제기됐다. 또한 생성형 AI 학습 등을 위해서는 방대한 양질의 데이터가 필요하지만 개별 회사가 이런 데이터를 확보하기 어려우므로 데이터 결합, 합성데이터 활용 확대 등에 대한 지원 요청도 있었다. 이와 함께 생성형 AI 활용시 발생할 수 있는 윤리 기준 등을 마련하기 위한 거버넌스가 부재하다는 의견도 제기됐다.
이런 의견들에 대해 김 부위원장은 "향후 '금융권 AI 협의회'를 통해 반드시 해결방안을 찾겠다"고 강조했다. 그는 "협의에서는 국내외 AI 기술과 정책동향을 함께 공유해 우리 금융회사들이 빠르게 변화하는 AI 기술에 신속히 대응할 수 있도록 하겠다"며 "AI 협의회가 금융권의 양질의 데이터 공동확보, AI 공동학습 등 협업을 지원할 수 있는 매개체가 되도록 하겠다"고 힘주어 말했다.

끝으로 김 부위원장은 "생성형 AI의 활용은 금융회사와 소비자에 미치는 영향력이 크고 다양할 수 있는 만큼 여러 전문가 지혜를 함께 모으는 것이 중요하다"며 "오늘 발족하는 협의회를 통해서 금융권에서 AI 활용이 활성화되고, AI를 안전하게 활용할 수 있도록 다양한 의견을 모아 우리 금융산업을 한 단계 더 도약시킬 수 있기를 기대한다"고 당부했다.