인공지능(AI)는 인간의 학습 능력, 추론 능력, 지각 능력을 인공적으로 구현하려는 컴퓨터 과학의 세부 분야 중 하나이다. 인간 언어, 프로그래밍 언어, 예술, 화학, 생물학 또는 복잡한 주제를 AI에게 학습시킬 수 있다. 생성형 인공지능(생성형 AI)은 인공지능의 다음 단계라고 볼 수 있다. 생성형 AI에게 프롬프트(사용자 요청)를 입력하면 대화, 이미지, 동영상 등을 생성할 수 있다. 이때 AI는 이미지 인식, 자연어 처리(NLP), 번역과 같은 작업에서 기존에 학습한 데이터를 모방하려고 한다. 예를 들어, 영어 어휘를 학습하고 이를 처리하는 단어로 시를 지을 수 있다. 하지만 생성형 AI가 생성하는 콘텐츠가 "새로운 것" 또는 "원본"으로 간주될 수 있는지에 대한 여부는 논쟁의 여지가 있지만, 많은 경우에서 인간의 특정한 창의적 능력과 비슷하거나 이를 능가할 수 있다. 생성형 AI에는 대표적으로 ChatGPT와 DALL-E가 있다.
2022년 11월 30일, 생성형 AI중 하나인 ChatGPT의 실체가 세상에 공개되었다. 실생활에 유용한 고성능 AI가 등장함에 따라 세간의 관심이 GPT로 쏠렸다. 다양한 분야에서 GPT를 이용하였고, GPT는 자신의 답변마저 학습하며 점점 성장했다. 하지만 GPT도 결국에는 생성형 AI이기 때문에 완벽하지는 않았다. 생성형 AI의 대표적인 문제로 꼽히는 사회적, 윤리적 문제가 남아있었기 때문이다. 이러한 문제들을 바로잡기 위해서 AI 규제에 대한 목소리가 점점 커졌다.
Théâtre D’opéra Spatial 2022년, 미국의 한 미술대회에서 AI로 그린 그림이 1등을 수상하는 일이 있었다. 대회에서 1등을 수상한 작품 <Théâtre D’opéra Spatial>은 앨런이 ‘미드저니(Midjourney)’라는 AI 프로그램을 이용해 제작했다고 밝혔다. 이 사건으로 인해 미국에서는 AI가 그린 그림이 대회에 출품될 수 있는지에 대한 뜨거운 토론이 벌어졌다.[1]
2023년, 한 국제학교에서 재학생 7명이 영문 에세이 과제를 작성하면서 ChatGPT를 사용하여 과제를 제출한 사건이 있다.[2] 이 학생들은 결국 과제 점수가 0점이 되었다. 이 사건은 국내 교육기관에서 ChatGPT가 사용된 부정행위의 첫 번째 사례이다. 문장이나 단어를 몇 개만 바꿔도 ChatGPT 사용 여부를 판단하기 어려워져 교육기관에서 골머리를 앓고 있다.
2023년, 삼성전자에서 엔지니어가 실수로 내부 소스코드를 챗GPT에 업로드해 유출하는 사고가 있었다.[3] 이 외에도 기밀 유출이 3번이나 일어나 삼성전자에서는 임직원들의 GPT 사용을 금지했다. 대신 내부 AI를 만들어 ChatGPT의 공백을 채웠다.
2024년, 구속된 마약사범이 생성형 인공지능(AI) 챗지피티(GPT)로 탄원서를 위조한 사건이 있다.[4] 그는 탄원서를 제출해서 보석을 통한 석방을 시도했는데, 한 지자체 체육단체의 팀장 명의를 도용하여 탄원서를 제출하기까지 했다. 하지만 문법이 어색한 것을 느낀 판사가 진위를 확인하여 문서가 위조인 것을 밝혀냈다. 검찰은 앞으로 이 사건과 비슷한 유형의 사건에 엄정히 대응할 것이라고 말했다. 이 사건은 국내에서 생성형 AI기술을 악용한 증거조작, 위조 범행의 첫 사례이다.
대한민국에서는 AI의 개념 규정, 산업 육성 방안, 규제 원칙을 포함한 ‘AI 기본법안’은 2023년 초 발의된 뒤 1년 넘게 국회 상임위에 머물러 있다.[5] 규제를 더 담아야 한다는 의견과 산업 육성이 먼저라는 의견이 합의점을 찾지 못하고 대립하고 있기 때문이다. 이 법안은 대한민국 21대 국회의 임기가 끝나기 전까지 통과되지 못하면 폐기될 예정이다.
세계 각국에서는 AI 규제법이 이미 존재하는 경우도 있고, 막 입법 절차를 거치고 있는 경우도 있다. 예를 들어서 미국에서는 2019년 트럼프 전 대통령이 행정명령 제13859호로 발표한 "미국 인공지능 구상" 이후, 「생성적 적대 신경망 출력물 확인법」과 「국가 인공지능 구상법 2020」을 제정하여 AI 연구개발과 훈련 지원을 중심으로 한 명문 규정을 마련하였으며, 전담조직으로 백악관 과학기술처에 국가인공지능구상실을 신설하였다. 미국 외에도 싱가포르, 중국, 캐나다 등의 국가들은 이미 AI 규제법안이 존재한다.[6]
유럽연합(EU)에서는 세계 최초로 마련한 포괄적 인공지능(AI) 규제법이 압도적 찬성으로 통과되었다.[7] 법안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눈다. 고위험 등급으로 분류되는 의료·교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술을 사용할 때 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다. 일부 AI 기술 활용은 원천 금지된다. 예를 들어서 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 ‘사회적 점수 평가’(소셜 스코어링)가 대표적이다. 이 법안은 EU 27개국 장관들이 최종 승인하면 관보 게재를 거쳐 발효된다. 일부 금지 조항은 발효 뒤 6개월부터 적용되며 이후 단계적으로 도입되어 2026년 이후 전면 시행된다.
