인공지능의 문제점을 직시하고 있는 국내외 기업과 정부 

 미국 비영리 단체 ‘생명의 미래 연구소’는 지난 3월 29일 ‘GPT4’ 이상의 인공지능 시스템 개발 속도를 지금보다 늦춰야 한다는 내용의 공개서한을 발표했다. 연구소는 “인공지능의 사회적 실익이 가늠되지 않았다”고 주장했다. 이 서한에는 테슬러 CEO 일론 머스크와 애플 공동 창업자 스티브 워즈니악 등 유명 인사들도 잇따라 이름을 올린 것으로 알려져 파장이 거셌다. 

 이처럼 이미 국내외 단체와 정부에선 인공지능의 위험성에 대처하고 있다. 인공지능의 가장 직관적 문제점인 표절에 대해 뉴욕과 시애틀의 공립학교에서는 교내 와이파이망과 컴퓨터를 통한 챗GPT 접속을 차단하는 조처를 내렸고 하버드, 예일대 같은 일부 명문대 역시 AI 감지 프로그램을 도입하기로 했다. 우리나라 역시 예외는 아니다. 서울대는 최근 교내 AI 연구원과 함께 챗GPT를 이용한 부정행위를 방지하기 위한 툴 개발 등 대책을 논의하고 있고, 국민대는 지난 2월 챗GPT 윤리강령을 선포했다. 

 인공지능의 개인정보 취급 문제도 화두에 올랐다. 이탈리아 정부는 챗GPT 접속을 중지했고, 이탈리아 데이터보호청은 오픈AI가 유럽연합(이하 EU)의 개인정보보호규정(GDPR)을 준수했는지의 여부를 조사하겠다고 발표했다. 

인공지능을 적극 장려하는 우리 사회 

 국제사회의 우려와는 달리, 우리 사회는 챗GPT를 포함한 AI 기술 적용에 우호적이다. 지난 1월에는 대통령이 공무원들의 챗GPT 활용을 권고한 바 있고, 문화체육관광부 역시 AI를 문화 분야에 적극 활용할 방안을 모색한다고 밝혔다. 그렇게 인공지능 열풍에 힘입어 2월 14일 국회 과학기술방송통신위원회(이하 과방위) 법안 심사소위원회는 ‘인공지능산업 육성 및 신뢰 확보에 관한 법률안(이하 인공지능 기본법)’을 통과시켰다. 

 하지만, 이내 인공지능 기본법은 거센 비판에 직면했다. 인공지능 기본법 11조에 명시된 “인공지능 기술이나 제품, 서비스가 국민의 △생명 △안전 △권익에 위해가 되거나 △공공의 안전 보장 △질서 유지 △복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 누구도 인공지능 기술이나 제품, 서비스의 출시를 제한할 수 없다”는 ‘우선허용·사후규제’ 원칙이 그 근원이다. 

챗GPT가 불러온 인공지능 붐, 용이하기에 더 엄격한 규제를 

 EU 집행위원회 인공지능법 초안에 따르면 인공지능에 의한 위험을 4단계로 구분하고 사전·사후에 엄격히 규제한다. △보건의료 △교통 △보안 △고용 △법률 시스템 등 5개 영역에서 인체에 위해를 가하거나 법적 분쟁 가능성이 존재하는 용도로 AI 기술을 사용하는 경우 ‘고위험(High-Lisk)’군으로 정의하고 이를 제재한다. 그에 따라 모든 고위험 AI 기술은 EU의 엄격한 적합성 평가를 거쳐 인증을 획득해야만 사용할 수 있게 됐다. 

 하지만, 현재 국회에서 논의 중인 ‘인공지능 기본법’은 인공지능의 위험을 규제할 수 있는 조항이 빈약하며, 산업 육성에 주된 초점이 맞춰져 있는 모습이다. 또한, 사전 규제를 무력화하고 있는데, 이에 법안심사소위원회는 인공지능의 위험관리 시스템 구축이나 설명 의무 등을 부여하는 것은 초기 단계 인공지능산업 발전을 저해할 우려가 있다는 논거로 필요시에 보완 입법하겠단 입장을 밝혔지만 한번 잃은 신뢰성을 다시 회복할 수 있을지 많은 이 들이 우려를 표하고 있다. 

 세계적 흐름에 맞춰 인공지능에 대한 규제체계를 더욱 명확히 설계해야 할 필요가 있다. 우리 사회는 챗GPT를 포함한 인공지능 열풍에 편승하기보다는, 더 장기적인 관점에서 인공지능에 대한 탄탄한 토대를 쌓아가야 한다. 

박준호 기자 Ι parkjunho@kyonggi.ac.kr