AI기본법 (24.05.09 ~ )

 

 

24.05.08

https://www.joongang.co.kr/article/25247847

이종호 장관 "AI 기본법 통과돼야 AI범죄 처벌 가능" | 중앙일보

이종호 과학기술정보통신부 장관이 “‘인공지능(AI) 기본법’이 통과돼야 딥보이스 같은 AI 악용 범죄에 대한 처벌 규정을 시행령에 담을 수 있다”며 21대 국회 회기 내 통과를 재차 촉구했다.

 

이 장관은 8일 세종시에서 취임 2주년 기자간담회를 열고 “(AI 기본법 수정안에) 시민단체가 제기한 우려를 모두 해소했다”며 이같이 말했다. 이른바 ‘AI 기본법’으로 불리는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 법률’ 제정안은 국내 AI 산업 육성과 신뢰성 확보를 위한 조항을 담고 있는 법이다. 지난해 2월 국회 과학기술정보방송통신위원회(과방위) 법안 소위를 통과했지만 여야 갈등의 여파로 오는 21대 국회가 끝나는 이달 말 폐기될 위기에 처했다. 이 장관이 언급한 시민단체 우려 사항은 ‘우선 허용·사후규제’ 원칙으로, 수정안에선 해당 조항이 삭제됐다.

 

이 장관은 “저도 굉장히 정교하게 목소리를 흉내 내는 ‘딥보이스’에 두려움을 느낀다”며 “AI 산업 발전뿐 아니라 신뢰성 확보 조항까지 담긴 균형을 갖춘 법이라 국민에게 다가올 위험을 해소할 수 있다”고 말했다.

 

일본 정부가 라인야후에 한국 네이버와 자본 관계 등을 재검토하라는 행정지도를 내린 것과 관련해선 “우리 기업이 해외 사업과 투자에서 부당한 대우를 받지 않도록 하는데 최우선 가치를 두고 대응할 예정”이라고 밝혔다. 정부의 대응이 미진한 것 아니냐는 지적엔 “지난해 말부터 네이버와 소통하면서 협력하고 있었다”며 “네이버가 민감한 경영 판단을 해야 할 일인데, 정부가 갑자기 끼어들면 문제가 될 소지도 있어 진중하게 국가 이익을 위해 대응하고 있다”고 했다.

 

이와 관련해 강도현 과기정통부 2차관도 “외교부를 비롯한 관계 부처와 매우 긴밀히 협의하는 과정”이라며 “(이 문제와 관련한) 과기정통부의 입장은 굉장히 강경하다고 다시 말씀드린다”고 강조했다.

 

최근 정부가 추진 중인 연구·개발(R&D) 예비 타당성 조사(예타) 방식 개편에 대해서도 언급했다. 이 장관은 “기존 절차 대로면 R&D 사업이 너무 지연돼 빨리 연구에 착수할 수 있도록 제도를 고쳐가고 있다”고 말했다.

 

이 장관은 지난 2년간 성과로 누리호와 다누리호 발사, 우주항공청 특별법 제정, 디지털 권리장전 제시 등을 꼽았다.

 

 

24.02.06

https://www.fnnews.com/news/202402060931375920

[특징주] 크라우드웍스, 각국 AI·딥페이크 규제 소식에...정부 수주 이력 부각↑

 

[파이낸셜뉴스] 각 국에서 딥페이크를 규제한다는 소식에 대표 수혜주로 거론되는 크라우드웍스의 주가도 강세다.

6일 오전 9시 30분 현재 크라우드웍스는 전일 대비 1350원(+3.86%) 상승한 3만 6350원에 거래되고 있다.

최근 미국 유명 가수 테일러 스위프트의 얼굴을 합성해 만든 음란 이미지가 SNS에 확산하면서 딥페이크 규제가 필요하다는 우려가 나온다.

일반인들 역시 딥페이크 피해에서 자유롭지 못하다.

4일(현지시간) CNN 등 외신에 따르면 지난 2일 홍콩경찰은 브리핑을 열고 딥페이크 기술을 악용해 사기를 벌이던 일당 6명을 검거했다고 발표했다. 홍콩 경찰에 따르면 이들은 영국에 본사를 둔 홍콩의 한 다국적기업의 재무담당자에게 영상통화를 걸어 2억홍콩달러(약 340억원)를 송금하게 한 후, 돈을 가로챈 혐의를 받고 있다.

해당 기업의 재무담당자가 이들의 사기에 속은 이유는 영상통화에서 그에게 송금을 지시한 사람의 얼굴과 목소리가 실제 해당회사 최고재무관리자(CFO)와 똑같았기 때문이다. 이 담당자가 본 영상과 음성은 모두 AI를 이용해 합성·복제된 가짜였던 것으로 경찰조사에서 드러났다.

이처럼 AI를 악용해 정교한 딥페이크 기술이 만들어지고, 범죄가 성행하면서 홍콩 뿐만 아니라 전세계 경찰 당국에서 촉각을 곤두세우고 있다. 유사범죄가 국경을 넘어 곳곳에서 발생하고 있기 때문이다.

실제 미국 백악관도 우려를 표명한 가운데 우리나라에서도 지난 1월 29일부터 딥페이크 선거운동이 금지되면서 관련 테마에 관심이 몰린 것으로 보인다. 지난해 개정된 공직선거법에 따라 딥페이크 영상 등을 제작·유포할 수 없고 적발 시 7년 이하 징역 또는 1000만 원 이상 5000만 원 이하의 벌금이 부과된다. 선관위는 AI감별반과 모니터링 전담 요원을 편성해 감시에 들어간다.

여기에 유럽연합(EU) 27개국이 세계 최초의 인공지능(AI) 규제법인 ‘AI법’을 2일(현지시간) 만장일치로 승인했다. AI법은 이르면 내달 유럽의회 최종 투표를 거쳐 이르면 여름 이전에 발효될 예정이다.

이같은 소식에 최근 딥페이크 영상 방지와 관련한 국책 사업을 수행한 이력이 있는 크라우드 웍스에 기대 매수세가 몰렸다는 관측이 나온다.

크라우드소싱 기반 인공지능(AI) 데이터 수집·가공 플랫폼 기업 크라우드웍스는 지난 2020년 과기부가 추진하는 ‘딥페이크 방지영상’과 ‘랜드마크 이미지’의 AI 학습용 데이터 구축 사업을 수주한 바 있다.

해당 사업을 통해 크라우드웍스는 사람의 얼굴을 악의적으로 변조한 ‘딥페이크 방지영상 AI 데이터’를 대량으로 생성했다. 한국인 특성을 반영하는 얼굴 합성과 탐지용 합성 데이터를 확보하기 위한 작업이었다. 변형 알고리즘을 통해 생성된 딥페이크 영상을 탐지 및 검출해내는 AI용 학습용 데이터 확보 차원이었다.
크라우드웍스의 주력 사업은 딥페이크 규제 움직임과 동시에 최근 과기부의 AI 보안 기업 육성 기조와도 맞닿아 있다. 과기부는 2025년까지 약 60개사의 AI 보안 기업을 육성하기로 했으며 크라우드웍스는 이와 관련 AI 보안 시제품 개발 지원 사업을 진행 중인 것으로 알려졌다. 당시 사업은 과기부가 AI통합지원 플랫폼인 AI허브를 통해 AI 개발에 필요한 데이터를 누구나 활용할 수 있는 양질의 데이터를 대규모로 구축 · 개방하기 위함이다.