그림 인공지능/논쟁

덤프버전 :


파일:나무위키+상위문서.png   상위 문서: 그림 인공지능

파일:나무위키+넘겨주기.png   관련 문서: 그림 인공지능/논란 및 사건 사고


1. 개요
2.1. 낙관론
2.2. 비관론
3. AI의 학습 방식
3.1. 긍정론
3.2. 부정론
4. 상업적 이용 여부
5. 저작권 관련
5.1. 한국
5.2. 미국
5.3. EU
5.4. 영국
5.5. 일본
5.6. 기업 단위
6. AI 생성물의 저작권 인정 여부
7. 저작권 면책 여부
8. 실용성 여부
8.1. 사용 가능론
8.2. 사용 불가론


1. 개요[편집]


그림 인공지능에 대한 논쟁을 정리한 문서. 본 문서에는 2022년 "잠재 확산 모델을 이용한 고해상도 이미지 합성 연구"[1]를 기반으로 개발된 Stable Diffusion과 이를 기반으로 한 AI 프로그램들의 성능을 가정한 시점의 서술 및 아직 등장하지 않은 강인공지능 기반 그림 인공지능의 성능, 이로 인한 기술적 실업 등을 예측하여 가정한 서술이 혼재되어있다. 이 부분을 감안하여 적절히 필터링하면서 본 문서를 열람하는 것이 좋다.


2. 기술적 실업 관련[편집]



2.1. 낙관론[편집]


AI로 초안을 뽑고 그걸 상세하게 손봐서 그림을 완성하는 식으로 작업 시간이 단축될 것이라는 낙관적인 의견이 있다.[2] 일러스트레이터들이 AI 그림을 경쟁자가 아닌 도구로써 다루어 적응하기만 하면 매우 유용한 도구가 될 수도 있다. 물론 그림이라는 기술의 진입장벽은 낮아지고 하나하나의 결과물의 가치는 종래에 비해 낮아질 수 있겠으나, 결국 사람이 감상하기에 군데군데 하자가 있는 그림의 문제점을 파악하고 상업에 사용될 수 있는 수준까지 수정하는데는 그만한 미술적 지식과 기술이 필요하기에 태그만 고르고 좋은 그림이 나올때까지 AI를 돌리는게 전부인 사람은 시장에서 경쟁력을 가지지 못한다. 당장은 화제성 때문에 커미션 시장이 주춤하지만 성공적으로 적응한 개개인은 그만큼 적은 시간과 노력으로 많은 그림을 뽑아낼 수 있게 되어 시간 대비 수익률이 늘어날 수도 있다.

아이디어는 있지만 실력이 부족해 그림을 포기했던 새로운 창작자들이 나타날 거라는 의견도 있다. 애시당초 그림의 진입장벽은 그림 인공지능이 나오기 한참 전부터 기술의 진보로 인해 21세기 이전의 사람이 본다면 충격받을 정도로 낮아졌다. 인공지능이라는 점에서 특별히 주목을 받고있을 뿐 결국 기존의 패러다임과 크게 다르지 않다는 의견도 있다.

또한 인공지능도 결국 프로그램인 이상 인간이랑 달리 설정되어 있는 코드 외에 작화 기법을 선보일 수 없기에 사람마다의 개개인의 개성이 들어간 그림들을 완벽히 대체할 수 있는 것은 아니라는 반론이 있다. 설령 큰 상업성을 가지더라도 AI 그림은 사람이 그리는 그림과는 다른 별개의 시장이 되지 않겠냐는 것. 실제로 인공지능 그림이 대두된 뒤 많은 이미지 투고 사이트의 규정이나 버츄얼 유튜버등 특정 컨텐츠에 대한 2차 창작물의 규정들에서는 AI 그림을 한사코 금지하지는 않으나 사람이 그린 그림과 구별하라는 가이드라인이 공통적으로 나타나고 있다.

정말로 뉴스나 SNS에서의 주장대로 인간은 예술가로서 실업하고 AI에게 완전히 대체된다고 하더라도 그리 오래가진 못할 가능성이 높다. 아무리 대작인 게임이라도 컨텐츠가 업데이트되지 않으면 언젠가는 질리듯이, 과거의 일러스트들을 대량 흡수하여 다채롭고 거대해진 AI 그림들 역시 언젠가 질리기 마련이며, 소비자들이 새로운 것을 원하더라도 정작 AI에 일러스트를 흡수당한 인간 작가들은 사라져서 트렌드를 추가할 방법이 없다. 결국엔 다시 인간 작가들이 등장하게 되는 구조라는 것.[3][4]

또한 디지털 그림의 시대가 나오면서 웹툰 시장이 생겼듯이, 이 AI로 새로운 시장이 생길거라는 낙관적인 전망도 있다. 그리고 기존 웹툰, 애니메이션 산업도 여러 명이서 엄청난 시간을 들이면서 힘들게 작업하는 경우가 많은데, 인공지능이 개발된다면 이에 필요한 시간과 인력이 획기적으로 감축될 수도 있을 것이다.

한편 경제 논리로 그림 인공지능의 기술적 실업 문제를 바라보는 견해도 있다. 그림 인공지능으로 아무리 다양한 창작이 가능하다 한들 이윤을 기대하고 시장에 내놓을 선택권과 시장 속에서 구매하고 향유할 선택권은 여전히 인간들에게 있고, 인간들의 취향과 예술적 감각은 시대를 막론하고 대중적 영역에 머물러 있는 것이 다수이다. 구체적으로는 기업가 - 생산자(예술가) - 소비자의 3단계에서 그림 인공지능은 생산자의 위치를 대체하지만, 결국 기업가는 여전히 인간이기에 시장성이 높은, 다시 말해 높은 이윤을 기대할 수 있는 대중적 장르나 양식을 원하는 것이 보편적일 것이다. 이 관계에서 벗어난 독립 예술가들, 특히 비대중적일지라도 매니아층에게 고유의 창작관과 예술성을 인정받는 독립 예술가들의 영역은 인공지능 발전 수준 외의 영역이다. 창작관은 작품 외적의 시대상, 개인사 등을 반영하기 마련이고, 평소 이러한 인간 예술가들의 창작관에 공감하며 깊이 있게 감상하는 수준의 매니아층은 소수이기 때문이다. 인공지능으로도 구현하기 어렵고, 구현한다 해도 시장성이 부족해 기업가 입장에서 쓸모가 없다는 뜻.[5]

2.2. 비관론[편집]


자신이 들인 시간에 비해 간단하고 높은 퀄리티의 일러스트를 뽑을 수 있다는 점에 지금까지 쌓은 자신의 노력과 경력에 대해 허탈해 하거나, 그리고 머지않아 일러스트레이터들은 최상위 실력을 지닌 일부를 제외하고 전부 AI로 대체되어 진입장벽이 살인적으로 높아질 것이라는 비관적인 의견이 존재한다. 또한 저작권 논란 관련해서도 개인적으로만 소장하는 것은 문제가 되지 않기 때문에 커미션 시장은 큰 타격을 입을 거라는 우려도 있다.

대표적으로 유입이 완전히 사라질 것이라는 우려가 크다. AI로 그림 시장의 저점이 엄청나게 높아져 버렸으니 취미생활이든 장래희망이든 그림으로 입문하는 초보자들이 사라질 것이라는 의견.[6] 당장 커미션계나 웹소설[7]같은 쪽은 벌써부터 빠르게 NovelAI를 사용한 일러스트들로 대체되어가고 있으며, 여기에 허탈감을 느끼고 절필을 선언하거나 곡소리를 내는 반응들이 여기저기서 들려오고 있다. 이는 그림작가에게 ai가 작가보다 더 잘그린다 모욕하는 사례들도 한 몫 한다. 또한 유입이 감소하면 일러스트 학원의 수요가 줄어들어 학원 강사로 생계를 이어가던 일러스트레이터들도 피해를 입을 것이라는 우려도 있다.

그리고 AI 일러스트에게 주로 잠식당한 커미션계에는 커미션 자체를 벌이로 하는 사람들도 많지만 그림의 연습을 위해 다양한 요구에 응하는 연습을 겸해 가벼운 용돈벌이나 최소한의 생활비를 마련하기 위해 커미션을 받는 시기를 거치는 수련생들도 상당히 많다. 전자 그룹에게 AI는 손쉬운 짤 양산을 도와주는 유용한 도구가 될 여지가 있지만 후자 그룹에게는 안 쓰자니 그림이 완성속도나 가격면에서 경쟁력을 잃게 만들고 인체의 대부분을 AI에게 그리게 하자니 사람이 할 것이 장식, 머리카락 일부분이나 손만을 리터칭하는 것 밖에 없어 그림 연습을 위해서는 써서는 안 되는 계륵이 된다. 아마추어에서 프로로 향하는 중간단계가 꽤 불안정해진 것이다.

최악의 경우 사람이 그리는 그림 시장 자체가 축소되면 결국 사람이 그리는 그림으로 학습하는 AI도 정체되어 같은 그림만 되풀이 할 뿐이며, 트렌드의 변화나 개성있는 그림체들은 앞으로 등장하지 못하게 될 것이라는 우려도 있다. # 당장은 도장찍기식 그림체를 가진 일러스트레이터들이 주로 도태되고 개성적인 그림체를 가진 사람들이 살아남겠지만, 문제는 그림 시장이 반토막이 나서 그림을 시작하는 사람들 자체가 사라지는 경우이다. 당장 10년 전에 유행한 그림체를 봐도 미려한 그림체의 기준은 유명한 소수의 아티스트 뿐만이 아니라 다양한 젊은 아티스트들의 시도들에 의해 잘 그렸든 못 그렸든 서로 영향을 주고받으며 시시각각 변해왔음을 알 수 있으나, 시장이 한 번 망가지면 10년이 지나도 20년이 지나도 같은 그림체, 같은 구도밖에 못 볼 수도 있다는 것.[8] 결국은 아티스트들이 활동을 해야 AI도 계속된 기계학습에 사용될 원본 데이터를 확보할 수 있는데, 고참 일러스트레이터들도 이미 업계에 뛰어든 사람은 어쩔 수 없지만 지금부터 그림을 그리기 시작하는 사람들은 다른 길을 가라고 만류하며 이 상태로는 미술시장이 축소될 것을 예견하고 있다.[9]

소위 작화만 그럴싸하게 좋은 양산형 작품들이 늘어날 가능성도 있다. 정말로 자신의 세계관과 아이디어가 있다면 굳이 AI의 힘을 빌리지 않아도 재미있고 소비자를 열광시킬수 있는 작품을 만들수 있다. 만화로는 원펀맨 원작이 대표적인 사례고 게임으로는 언더테일, 애니메이션은 케모노 프렌즈 1기가 있다. 이들의 특징은 작화는 그리 좋다고 볼 수 없으나 훌륭한 아이디어와 연출로 사람들을 사로잡은 대표적인 작품이다. 그리고 이세계 양판소 애니중에서도 의외로 작화와 연출은 괜찮은데 내용 때문에 쓰레기 취급 당하는 부류도 꽤나 존재한다. 이를 근거로 작화는 그저 조미료에 불과하고 메인 메뉴는 아이디어라 할 수 있는데, 어중간한 아이디어와 실력으로 AI그림체만 믿고 뛰어 드는 사람들이 많아져 결과적으로 양산형 작품들이 늘어날 가능성도 존재한다.

일각에선 AI의 작품은 질리기 마련이고 인간 작가에게 기회가 매번 돌아올 것이라는 공생적이고 긍정적인 견해도 있으나, 작품을 내놓는 족족 순식간에 학습 및 양산이 가능한 현 기조가 유지된다면 기회를 붙잡으려 트렌드 연구에 몰두한들 신선한 그림체 업데이트를 위한 일회용 부품 따위로 취급당할 여지가 다분하다. 돈만 된다면야 하는 사람은 물론 나오겠지만, 지속적인 이윤을 창출할 수 없고 AI에게 새로운 영감을 주는 제한적 역할만 해야 될 것이니 풀타임 전문가는 크게 줄어들 것이며 이에 실망해 줘도 안먹겠다는 경우, 나아가 소질이 있는데도 아예 시작도 안하는 경우도 속출할 것이다.


3. AI의 학습 방식[편집]



3.1. 긍정론[편집]


이를 긍정하는 측의 주장은 아직까진 지능이라고 부르기엔 많이 부족하지만 인간의 학습과의 유사성이 어느정도 있으므로, 학습데이터에 저작권이 있는 이미지를 이용하는 것에 대해 관용을 베풀어야 한다는 입장이다.

또한 사진기의 도입과 정물화의 쇠퇴, 자동차의 도입과 마차의 쇠퇴, 공장의 기계화와 공장 노동자의 실업 등 기술의 발전으로 인한 기존 노동자의 실업과 업계의 쇠퇴는 과거에도 수없이 되풀이 된 일이며 섣부르게 이를 규제하고 금지시키는 것은 기술적인 퇴보라고 주장한다.

파일:AI와 인간 visual signal처리 비교.jpg

또한 그림 AI 모델에 쓰인 딥러닝에 필수요소인 CNN은 근본이 인간의 시신경, Visual cortex의 구조와 정보처리방식을 모방한 모델이며#1 이는 단순히 통계적인 예측이 아닌 이미지의 분석을 수학적으로 모델링 한 것에 가깝다.#1#2 "잠재 확산 모델을 이용한 고해상도 이미지 합성연구"라고 해서 이미지 합성이라는 단어가 단순한 콜라주를 의미하는 것이라고 생각하면 안된다. 이미지를 해석하고 재구성하는 모델을 만드려는 노력에서 탄생한 것이 현재 그림 AI인데 이를 단순 합성 프로그램 정도로 말하는 것도 관련 기술을 낮춰서 말하는 것이다.

CNN의 구조는 다중 회귀분석으로 구성된 노드가, 다중 다층 구조로 되어있는 복잡한 구조다. 이를 설명하기 위해 대개 그래프 상에서 점들을 구별하는 하나의 선이 점점 경계가 맞춰지는 예시를 사용하곤 하나 이는 모델의 학습과정을 단순화하여 나타낸 것이지 실제 모델이 학습할 때는 2차원이 아닌 훨씬 많은 차원에서 학습이 이루어진다. 이 구조가 통계적으로 적합한 이미지를 결과물로 출력하는 것이라고 말하는 것은 원자력 발전소가 물을 끓여서 터빈을 돌린다는 식으로 그저 일반인이 이해하기 쉽게 풀어 말한 수준에 불과하다. 이를 근거로 AI를 마치 선택기계처럼 묘사하는 서술도 AI에 대한 인식에 왜곡을 줄 수 있다.

비슷한 시기에 이슈가 된 chatgpt 또한 간단한 연산이나 코딩, 논리적 사고의 결과물을 출력하는 것이 가능하다. 이는 인터넷 상에 그러한 텍스트가 있기 때문만이 아니라, 학습된 알고리즘에 의해 gpt모델이 논리적 처리를 할 수 있기 때문이기도하다.

LoRA Dreambooth 등으로 추가학습을 하지 않은 stable diffusion 순수 모델이 원본과 유사한 이미지를 생성할 확률은 0.03%로 1만개당 3개 꼴이다.# 이는 ai 모델이 원본 이미지를 그대로 모사하는 것이 아니라고 할 정도의 수치다.[10] 개인이 데이터를 선별한 학습이 아닌 무선별 학습이라면 그림 ai가 학습한 이미지를 가공,변형, 재구성없이 결과물에 반영한다는 주장이 반박되는 것이다.

CNN은 인간의 시각피질 column구조를 모방하고 있으며 시각정보가 column을 반복통과하면서 정보의 추상성이 증가하는 것처럼, 딥러닝 AI 또한 입력값이 노드층을 통과하며 더욱 추상화된다. 이해와 사고의 정의에 따라 해석이 달라질 수 있겠으나 폭넓게 보면 추상적 사고의 여지가 있다. 다만, 이에 대해서는 모든 전문가가 동의할만한 이론이 없기 때문에[11] 결국 개인의 가치관에 따라 다르게 보일 수 밖에 없다.


3.2. 부정론[편집]


이를 부정하는 측에서는 그림을 복구하려 시도할 뿐인 현대 인공지능 메커니즘은 사람의 학습방식과 비견될 것이 못 된다고 주장한다. 특히 ChatGPT의 큰 인기 덕분에 많은 AI 전문가들이 지적하는 부분이 바로, "현존 모든 AI의 데이터 학습 방식은 인간 학습 방식과 완전히 같지 않다"라는 점이다.#1 #2 #3 #4 그 이유는 뇌와 ai가 근본적인 구조부터 다르기 때문이다. 인공신경망은 생물학적 뉴런의 구조와 기능을 모방하도록 설계되었지만 데이터기반 훈련을 통해 데이터를 학습하는 것인 반면 생물학적 뉴런은 가소성이라는 과정을 통해 학습한다. 가소성이란 경험에 따라 뉴런간의 연결강도와 수의 변화를 통해 구조와 기능을 바꾸는 뇌의 능력을 말함. 반대로 인공 신경망은 생물학적 뉴런의 행동을 시뮬레이션하는 수학적 모델일 뿐이고, 이러한 모델은 들어오는 신호에 대해 단순한 계산을 수행하는 상호 연결된 노드로 이루어져있다. 따라서 근본적으로 인공신경망은 수학모델인 반면 뉴런은 생물학적 모델이다. 이러한 모델의 차이는 학습 방법의 차이로 이어진다.

이에 따른 위 긍정론의 반론이다.

CNN, 비지도 학습, 강화 학습은 뇌의 기능과 일부 유사점이 있지만, 생물학적 뉴런이 학습하는 방식과는 차이가 있다.

1. CNN은 컨볼루션 필터를 사용하여 입력 데이터에서 특징을 추출하는 인공 신경망의 한 종류이다. 생물학적 뉴런에는 이러한 필터가 없지만 환경의 특정 자극에 반응하는 수용 필드가 있다.

2. 비지도 학습은 레이블이 지정된 데이터를 사용하지 않고 입력 데이터에서 패턴이나 구조를 찾으려는 머신 러닝의 한 유형이다. 하지만 생물학적 뉴런은 피드백, 자기 조직화, 가소성 등과 같은 다른 메커니즘을 사용한다.

3. 강화 학습은 행동에 대한 보상이나 처벌을 받아 시행착오를 통해 학습하는 머신 러닝의 한 유형이다. 그러나 생물학적 뉴런은 도파민, 세로토닌, 엔도르핀, 호로몬 등과 상호작용해서 학습하는 부분이 인공신경망과 가장 큰 차이점이다.
또한 AI가 2진수 기반 계산을 수행한다는 점은 뇌의 학습방법과 큰 차이점을 보인다는 점이다. AI는 0과 1로 이루어진 이진 데이터를 처리하고 저장하는 반면, 뇌는 아날로그 신호를 처리하고 저장하고, AI는 논리 회로나 행렬 연산과 같은 정확하고 고속의 계산을 수행할 수 있지만, 뇌는 병렬적이고 분산된 계산을 수행할 수 있다.
AI는 주어진 데이터나 목표에 따라 학습하는 반면, 뇌는 움직임이나 감각을 통해 자율적으로 학습한다. AI는 "고정된 구조"와 알고리즘을 사용하는 반면, 뇌는 "가변적인 구조"와 알고리즘을 사용한다.


파일:i2i 반전.png
[12]

그림생성 ai 가 비논리적인 결과물을 출력하는 것도 이러한 맥락에서 이해 될 수 있다. 머리가 여러개 달렸다거나, 손가락이 6~7개 달린경우, 맥락에 맞지 않는 행동, 사진을 상하반전시키고 i2i 시키면 매우 비논리적인 출력물을 내놓는 점, 학습한 데이터안에서만 결과물을 출력한다는 한계점 등. 이는 현재 이미지 생성 ai 가 패턴을 인간처럼 논리적으로 이해하고 그리는게 아니라는 증거가 된다. 또한 ai에게는 감정과 의식이 없고, 연역추론이 극히 제한되어있다는 부분 역시 인간과 구별되는 특징이다.

요약하자면, ai 와 강화학습, CNN 등의 개념이 뇌의 일부 기능을 모방했다고 했지만 ai 노드의 창발적 속성이 두뇌의 속성과 비슷하다는 강력한 증거(일부분 유사한거 말고)가 많이 부족하고, 뉴런과 노드라는 근본적인 구조에서 오는 차이로 인해 나타나는 학습방법의 차이가 더 크기때문에 뇌와 똑같다는 말을 함부로 할 수 없는 것이다.

다시 본문으로 돌아와 인간의 학습 과정에서는 수많은 요소들이 복합적으로 작용한다. 물론 타인의 작품에서 영감을 받아 분석하는 과정도 포함된다. 하지만 인간은 여기서 끝나는 게 아니다. 직접 실제로 보고 듣고 느끼는 것(경험, 문화적 요인 등), 동기, 감성, 주관적요소(개인의 특성, 성취감, 취향, 성향, 가치관 등등) 수많은 요소들이 복합적으로 얽혀 재창조 과정이 반드시 일어나기 마련이다. 개개인마다 독특한 스타일이 발현되어 발전시켜 나갈수있었던 이유 중 하나이다. 하지만 인간의 학습 요소 중 일부분을 구현했다는 점을 오히려 완전히 그대로 구현했다고 착각하고[13] [14] 저작권 및 초상권 세탁, 여론 조작 및 데이터 조작, 딥페이크, 가짜 뉴스 등에 이용되는 것을 경고하며 AI를 받아들이는 사람들이 잘못된 정보나 환상이 아닌 제대로된 사실을 받아들여야 AI의 발전이 있을 수 있음을 이야기하고 있다.

위에도 언급했지만 사람의 학습은 재현만이 아닌 재해석과 재창조의 과정이 반드시 존재한다. 예컨대 유명 일본 만화작가 오다 에이치로는 마찬가지로 유명한 만화가 선배인 토리야마 아키라의 그림체에 매우 크게 영향을 받았지만, 결과적으로 오다 에이치로가 완성시킨 그림체와 토리야마 아키라의 그림체는 일부 흔적만 찾아볼 수 있을 뿐 결코 같지 않다. 사람은 결코 타인을 완벽하게 모방할 수 없기 때문에 모작과 같은 학습법도 대상의 그림을 똑같이 흉내내려는 목적이 아니라 기법의 목적을 이해하여 자기 방법으로 재해석하기 위한 방법에 지나지 않고, 최종적으로 표현하는 것은 자신의 인생 경험을 통해 센스나 기호 등의 형태로 정립된 오리지널리티이기 때문에, 인간의 학습은 이렇듯 새로운 창조로 이어지는 것이다. 그러나 그림 인공지능에게는 인생의 경험도 그로부터 나온 자체적인 오리지널리티도 존재하지 않으며 이런 문제는 고도의 자체학습이 가능한 강인공지능 수준에서나 최소한의 성립이 가능한 논쟁이지 그림 인공지능은 그림이 예쁘게 나오는 원리를 이해하는 진짜 학습이 아니라 그저 데이터 사이에서 절충안을 찾아내 픽셀 패턴을 노이즈 방식으로 재현할 뿐인 단순한 모방품 제조기이며, 이는 사람의 학습방식과는 근본적으로 다르기에 사람과 똑같다는 논리로 정당화하긴 힘들다.

인간과 ai의 학습이 다르다는 근거는 ai 산출물에서도 찾아볼 수 있다. ai는 인간이라면 귀찮아서라도 절대 하지 않는 방법으로 인체 등을 틀리는 모습을 자주 보인다. 이는 인간에게 있는 고정관념이 ai에게는 없기 때문이다. 인간은 사물을 대충 빠르게 보고, 미처 보지 못한 부분은 고정관념으로 보정한다. 예술가들은 이러한 고정관념을 개개인의 방식으로 가지고 놀면서 작품을 만들고 있으나, ai는 그렇지 않다.

현존 그림 ai의 샘플링 대상은 흔히 ai는 스스로 학습하는 것이라는 고정관념 때문에 '학습 대상'이라고 으레 표현되고 있으나, 모델을 학습하는 과정에서 원본 이미지의 역할은 '원재료', 모델을 학습하는 알고리즘은 '자동 공정'에 가깝다.

인공신경망의 학습은 결과값(yo)에 추론값(y*)을 대입시켜서 나오는 오차(yo-y*)를 다시 히든레이어라는 행렬값(x1 ~ xn)에 되먹임(Feedback)하는 오류 역전파알고리즘(Error BackPropagation)을 기반으로 한다. 여기서 결과값(yo)는 원본 이미지에 해당하며 인공신경망은 오차(yo-y*)를 최소화 하는 방향으로 학습하는데, 이는 사실상 원본이미지의 정보를 모델의 형태로 압축하는 과정이므로, 학습의 결과로 생성되는 모델의 파라미터는 원본 이미지들의 가공물이라 할 수 있다. 즉, 학습이 아닌 가공(加工)의 대상이 되고 있음에도 일반대중이 ai가 그림 그리는 법 자체를 배웠다고 착각하는 것이다. 모델을 이용해 그림을 만드는 것 자체에는 원본 이미지가 사용되지 않으나, 모델 자체에 원본 이미지의 정보들이 압축되어있으니 모델을 통해 그림을 만드는 것 또한 간접적으로 원본 이미지가 사용되는 것과 같다.

비유하자면 좋은 그림을 봤을 때 자신도 같은 매력을 가진 그림을 그려보려고 노력하는 사람과, 좋은 그림들을 포토샵으로 짜집기해서 이어붙여 놓고 '원래 그림과는 달라졌으니 이젠 자기 창작물'이라고 주장하는 사람을 같은 창작가라고 부를 수 있을지 고찰해보자. 물론 후자의 경우도 콜라주와 같은 하나의 표현방식으로 인정받을 수는 있겠지만, 할 줄 아는 게 그것밖에 없고 원작자들에게 허가도 없이 작품을 이용하고 훼손한 사람들이 예술가로서 인정받지 못하듯이 이와 같은 방식으로 작품을 생성하는 디퓨전 방식의 그림 생성기에도 같은 논란이 끊임없이 잇따를 수 밖에 없다.

사진기로 인한 그림계의 생태계 변화와 ai로 인한 변화와는 다른 것도 문제다. 드림부스를 이용할 경우 단 십수개의 그림만으로도 작풍을 그대로 모방하는 것이 가능하다. ex) 60장의 그림만으로 화풍을 학습한 ai로 인간작가 행세를 한 사건 즉, ai보다 못그리면 ai에게 밀리고, ai보다 잘 그리면 ai의 학습 데이터로서 아무런 대가없이 소비되어버린다. 사진기가 도입되었을 당시에 그림계는 작가의 의도를 담아 개성을 발현시키는 방식으로 발전했다. 그런데 지금같은 상황이 지속된다면 인간 작가는 개성으로도 살아남을 수 없게된다.

자동화된 공장이나 자동차는 이제와서 노동자나 마차의 보조를 필요로 하지 않으며, 소수의 전문적인 기술자의 개발만으로 그 기능을 유지・보수하고 보다 공정을 고도화시키는 것이 가능한 완전히 독립된 기술들이다. 반면 화제가 되는 Stable Diffusion 기반의 인공지능은 당장 데이터셋을 빼버리면 아무것도 학습하지 못하고 향후로도 사람 일러스트레이터들의 작업물이 투입되지 않으면 새로운 트렌드를 따라가지도 못하는, 인간으로부터 전혀 독립하지 못한 기술이다. 자동화 공장의 경우 사람을 더이상 필요로 하지 않는 기계가 완성되었기에 수순에 따라 사람이 도태되는 것이지만, 그림 인공지능은 기계가 사람의 생산물을 여전히 필요로 하는데도 필요로 하는 사람들에게 아무런 보상도 없이 데이터와 수요만을 일방적으로 빨아먹기에 더 문제가 되는 것이다. 지금 그림 인공지능이 선보이는 생산력은 인공지능 자체가 뛰어나서가 아니라 남이 공들여 생산한 핵심 자원을 대가 한 푼도 지불하지 않고 자기 생산에 투입할 수 있다는 부조리에서 비롯되며[15], 이를 방치하여 사람이 만든 그림시장이 사라지면 정작 그 자리를 대체해야 할 그림 인공지능은 스스로는 새로운 걸 아무것도 못 만들어낸다는 또 다른 부조리가 생긴다. 반면 데이터에 정당한 대가를 지불한다면 AI그림의 수익화 문제, 예술가들의 생계 문제, 그로 인한 그림의 다양성과 발전성 저해 문제, AI 그림의 범람 문제 등 수많은 문제들이 해결될 수 있다. 이러한 이유로 데이터셋에 작가들의 그림을 넣기 전에 허가를 받고, 아티스트가 요구한다면 대가 지불 절차를 거치라는 의견들이 많다. [16]

AI 학습 데이터의 저작권을 인정할 경우 지출될 것으로 예상되는 비용 때문에 찬반 여론이 더욱 뜨거운 것으로 보인다.[17] 하지만 계약은 하기 나름이다. 게티이미지와 같이 레디메이드식으로 완성된 이미지를 거래하는 경우 통상 수수료 계약을 한다. 이때, 계약된 저작물로 인한 수익이 0이면 원저작자에게 지급해야할 돈도 0이 된다. 또, 사람들의 선의로 학습데이터를 모으는 것 또한 가능하다. SKT와 투아트가 개발 중인 시각장애인을 위한 시각보조 인공지능 서비스의 고도화를 위해, '착한 한 장 챌린지'를 진행한다. AI 학습 쟁점에서 중요한 것은 데이터 원작자의 동의가 있느냐일 것이다. # 기계적으로 많은 데이터를 수집하기에 원저작자의 동의를 받기 어렵다는 의견은 게으른 의견이다. 크롤링 기술을 쓰면 특정 사이트에서 특정 데이터를 분류하여 수집하는 것이 가능히다. 그렇다면 이미지를 주로 다루는 플래폼과 연계하여 기술을 발전시키면 될 일이다.

실생활에 꼭 필요하지 않은 사치재일수록, 특정 브랜드를 소비함으로서 자신의 개성을 나타내는 트랜드가 있다. 이 때문에 여러 기부 활동을 했음을 적극적으로 알려서, 긍정적인 이미지를 가지려고하는 기업들이 대다수다. 그림관련 산업들 또한 제작과정이 비윤리적이라는 이미지를 갖게되면 의외로 치명적이다. 트위터 등지에서 ai 그림을 싫어한다는 의견을 적극적으로 내는 사람이 많은 이유가 여기 있다. 그림을 그려주는 ai 대부분이 학습용 데이터를 원저작자 동의 없이 끌어다 쓰기 때문이다.

약인공지능은 권리를 주장할 자아도 의식도 존재하지 않을뿐더러 자체적으로 자유의지를 통해 구동하지 않기 때문에 결국 인간의 도구로 규정될 수밖에 없다. 그런 도구에게 아무런 합의도 없이 그 어떠한 권리도 함부로 부여해선 안 된다. 지적재산권을 존중하며 원저작자의 동의를 모두 받은, 논란의 여지가 없는 데이터로 ai를 만드는 게 중요하다. 기술은 반드시 윤리적으로 활용되어야한 하기 때문이다. 이에 따라 2023년도 초부터 빅테크 ai들의 윤리 경쟁이 시작되었다. #


4. 상업적 이용 여부[편집]


DLsiteFANZA 등의 상업 사이트에 AI로 생성한 CG 일러스트를 판매하고 있는 정황이 발견되었다. 개중에는 AI로 만든 일러스트임을 고지하지 않고 판매하고 있기도 했다. DLsite와 FANZA 측에서는 공지를 통해 다음과 같이 판매 방침을 알렸다. #

FANZA
◆ 작품 판매에 관한 방침 (2022년 10월 7일)
FANZA 동인은 창작활동을 하고 있는 모든 동아리를 응원합니다.
AI로 생성한 작품에 대해서는, 기존의 창작 작품과의 구별을 통해
유저가 AI로 생성한 작품이라고 이해한 뒤 구매할 수 있는
FANZA 동인 환경 조성을 정비해 나가고 싶습니다.
따라서 아래에 향후 구체적인 대응내용을 기재하겠습니다.
확인해 주시면 감사하겠습니다.
◆ 지원 내용
· 10월 07일(금) ~ 10일(월) 발매 예정인 AI로 생성된 작품 판매 보류
(대응 정비를 위해 일단 판매를 보류하겠습니다.)
· 【AI생성】 작품 키워드 태그 부여 필수화
(AI로 생성한 작품에 대해서는 해당 태그 부여를 필수로 합니다.)
· 작품설명에 AI 서비스 이용, 사용한 AI 서비스명 기재 필수화
(AI 생성된 작품에 관해서는 상기 항목을 작품 설명란에 기재하는 것을 필수로 합니다.)
※ 대응 내용이나 방침은 변경될 수 있습니다.
미리 알아두시기 바랍니다.
-
[ 원문 펼치기 · 접기 ]
◆作品販売に関する方針(2022年10月7日時点)
FANZA同人は、創作活動をされているすべてのサークル様を応援しております。

AI生成された作品につきましては、従来の創作作品との区別を進め、
ユーザー様がAI生成作品と理解したうえでお手に取っていただけるような
FANZA同人での環境づくりを整備していきたいと考えております。

つきましては、下記にて今後の具体的な対応内容を記載いたします
ご確認いただけますと幸いです。

◆対応内容
· 10月07日(金)~10日(月)発売予定のAI生成作品と思われる作品販売の見送り
(対応整備のため、一旦販売を見送らせていただきます。)

· 【AI生成】の作品キーワードタグ付与の必須化
(AI生成された作品に関しましては、上記のタグの付与を必須といたします。)

· 作品説明へのAIサービスの利用、使用しているAIサービス名の記載の必須化
(AI生成された作品に関しましては、上記項目を作品説明欄へ記載いただくことを必須といたします。)

※対応内容や方針は変更となる可能性がございます。
あらかじめご承知おきください。


DLsite
【발표 개요】
Al작품에 대해 많은 호응을 얻고 있으나,
Al은 발전중인 기술이라 불명확한 부분이 많기 때문에 ,
현 상황에서는 과도한 규제를 하지 않고,
향후 상황을 감안하여 대응 등을 검토하고자 합니다.
그렇지만 Al작품이라는 것을 쉽게 판별할 수 있도록 해야 한다고 생각하고 있어,
제작자(서클) · 이용자가 이용하기 쉬운 서비스를 제공할 수 있도록 준비하겠습니다.
따라서, 10월 8일(토) 이후에 발매 예정인 Al을 사용한 CG 작품에 대해서는,
일단 판매를 보류하고 준비가 되는 대로 발매하도록 하겠습니다.
-
[ 원문 펼치기 · 접기 ]
【発表概要】
Al作品につきまして多くの反響をいただいておりますが、 Alは発展途上の技術であり不明際・不確実な部分が多いため、 現状では過度の規制は行わず、今後の状況を鑑みながら、 対応などを検討してまいりたいと存じます。
しかしながら、Al作品であることは容易に判別できるようにするべきと考えており、 サークル様・ユーザー様にとって使いやすいサービスをご提供できるよう準備を行ってまいります。
そのため、10月8日 (土)以降に発売を予定しているAlを使用したCG作品につきましては 一旦販売を見送りとさせていただき、準備が出来次第の発売とさせていただきます。


반대로 크몽에서 AI작품이라고 인증한 후 판매하는 판매자도 있다는 것이 확인되었다. [18] #

웹소설 사이트 중에서는 노벨피아19금 작품들이 NovelAI를 포함한 AI 그림들을 굉장히 적극적으로 이용하고 있으며, 그를 이용한 작품들에는 '법적인 분쟁이 생길 경우 모든 책임은 작가에게 있다'는 형식의 문장이 일괄적으로 들어가 있다.

이후 일본에서는 pixiv에서의 작가들의 보이콧을 겸한 대량 비공개 사태를 시작으로, 해당 회사에서 운영하고 있는 팬박스에서도 AI 생성 작품들의 게재를 일시적으로 금지한다는 공지가 올라왔다. 이후 Fantia나 DLsite 등 각종 사이트에서 그 뒤를 따르듯 AI 생성 작품들의 게재를 일시 정지하겠다는 공지가 업로드 되었다.

2023년 5월을 기점으로 Fantia DLsite pixiv 모두 Ai그림을 통한 수익창출을 중단한다는 공지가 나왔다.

AI 그림 생성 모델 업체별 상업적 이용 가능 여부 소구 현황


5. 저작권 관련[편집]




이 문서는 나무위키의 이 토론에서 저작권 논쟁에 대해 다음 합의사항에 따라 서술으(으)로 합의되었습니다.
타 위키에서의 합의내용이 더위키에서 강제되지는 않지만 문서를 편집하실때 참고하시기 바랍니다.


토론 합의사항

[ 펼치기 · 접기 ]
#000000,#eaeaea본 문서의 저작권 관련 논쟁은 다음 원칙에 따라 서술한다. ([[https://namu.wiki/thread/PoorGrievingMoldyBed|토론]])> 1. 모든 '법률적 문제 제기'에 관한 서술은 출처를 등재해야 서술할 수 있다. 이 때 출처는 판례 또는 토론 관리 방침 내 근거 신뢰성 순위 5순위 이상의 학설에 근거해야 하며, '콜라주', '샘플링', '패러디' 등 AI와 관계 없는 사례를 유추적용하여 독자연구하는 것은 금지한다. (신영역법학인 인공지능에 대해 직접적으로 다루는 자료여야 한다.)> 1. 상술한 판례 또는 학설을 부연설명하는 것으로서 언론기사를 제외한 8순위 이상의 법조인(변호사, 법무사 등)의 논고를 인용할 수 있다.> 1. 시행되지 않은 법안을 인용하는 것을 금지한다.



5.1. 한국[편집]


한국은 국외 대다수의 국가와 마찬가지로 저작물은 "인간의 사상 또는 감정을 표현한 창작물"로 규정하며 저작자는 저작물을 만든 사람으로 규정하고 있다. 현행법상 인간이 만든 것만 창작물로 인정된다.

2018년에 대한민국 교육부와 한국연구재단의 지원을 받아 이화여자대학교 정책과학대학원의 조연하 교수가 AI학습시 저작물 사용에 대한 연구논문을 발표한 바 있다. 여기에 따르면 인공지능 학습 단계에서 예상할 수 있는 저작권 침해 유형은 복제권, 전송권, 2차적저작물 작성권과 동일성유지권이라고 한다. 또, 기술적 공정이용에 대해서는 기술발전이란 목표가 공정이용을 정당화할 수 있는 근거가 될 수 없고, 문화적 가치창출이란 공정이용 면책의 취지에서 벗어난다고 했다. 이에따라 인공지능 학습의 공정이용에 대한 조항을 신설하는 것을 제안했는데, 개정안 중 AI 학습시 저작권 침해 면책권의 경우 원저작권자의 본질적인 이익과 충돌할 가능성이 있다는 이유로 입법 보류되었다.# 즉, AI 학습의 위법성에 대한 법률만 있을 뿐 정당성을 입증하는 법률은 없다. #

지식재산권법학자 정상조 서울대 법학전문대학원 교수는 문체부 등이 개최한 2022 콘텐츠분쟁조정 포럼에서 "사람과 달리 인공지능은 데이터를 학습하는 과정에서 복제[19]와 전송이 일어나기 때문에 저작권·개인정보 침해 등이 문제가 될 수 있다"고 함과 동시에 "현실적으로 일일이 저작권자의 허락을 받기 어려우므로, 가장 중요한 것은 결국 데이터의 수집과 이용이 공정이용에 해당하는지 여부" 라고 주장했다. 또한, "데이터 활용 권리보호에 관련해 5개 부처에서 5개 법률을 내는 것은 어떠한 나라에도 있을 수 없는 중복보호, 중복규제다" 라면서 "콘텐츠의 생산과 활용에 있어서 보호도 중요하지만, 활용을 촉진해야 인공지능에 의한 콘텐츠 산업을 육성할 수 있다. 따라서 권리 보호와 이용 활성화의 균형점을 찾는 게 중요하다"고 하였다. 규제에 대해 긍정적인 쪽으로 편집한 기사규제에 대해 부정적인 쪽으로 편집한 기사에서 각기 다르게 발언을 선별 인용하고 있다. 전체적인 맥락 속에서 이해할 필요가 있다. [20]

문체부의 AI 저작권 관련 민원 답변에선, 발의 상태인 개정안에서 "AI 학습을 위한 다수의 저작물 이용을 무조건적으로 허용하는 것은 아니고, 일정한 조건 하에서 저작물 이용을 가능하게 하고 있다"며, "이는 인공지능·데이터마이닝 등 산업이 발달함에 따라 저작물을 포함한 대량의 정보를 분석하여 새로운 데이터를 창출하는 산업계 종사자의 예측가능성과 저작권 보호를 균형적으로 고려하기 위한 것"이라 밝혔다. 국내를 비롯 대다수의 국외 모두 AI를 이용한 산출물을 저작물로 인정하여 보호되지 않고 있다는 점 역시 들었다. 이런 점들을 토대로 저작권자 권익 보호와 산업 발전을 동시에 고려하겠다고 밝혔다.

2023년 3월, 국내 출판물에 AI 그림을 삽입한 사례가 생겼다. 하나는 스테이블 디퓨전 활용법 책과 다른 하나는 어린이과학동아 2023년 3월호에 수록된 AI 일러 및 만화 이다. 해당 그림에서 반지의 제왕 간달프와 겨울왕국의 어린 엘사의 모습이 보여진다. #1, #2 책 속의 텍스트는 저작권으로 인정되나 책속에 사용된 AI 이미지들은 저작권으로 인정되기 어렵다.


5.2. 미국[편집]


저작권법 306조 인간 저작 요건

미국 저작권청은 저작물이 인간에 의해 창작된 경우 원본 저작물을 등록합니다.

저작권법은 "정신의 창조적 힘에 기초한" "지적 노동의 결실"만 보호합니다. 상표권 사건, 100 U.S. 82, 94 (1879). 저작권법은 "저작자의 독창적인 지적 개념"으로 제한되기 때문에, 특허청은 인간이 저작물을 창작하지 않았다고 판단하는 경우 등록을 거부합니다. Burrow-Giles Lithographic Co. v. Sarony, 111 U.S. 53, 58(1884). 이 요건을 충족하지 못하는 저작물의 대표적인 예는 아래 섹션 313.2를 참조하세요.

US COPYRIGHT OFFICE PRACTICES COMPENDIUM#


1.저작자의 원본 저작물
2.유형의 표현 매체에 고정 [21]
3.최소한의 창의성이 있는 작품[22]
미국 저작권 사무소 관행 개요서 3판 pdf 자동 다운로드 주의

이미지 생성 AI의 저작권에 대한 미국의 사례로 스티븐 탈러와 크리스티나 카쉬타노파가 있다. 우선 스티븐 탈러의 '천국으로 가는 최신 입구'은 미국 저작권청의 판결문이 존재한다.# 다음은 판례 내용의 일부를 발췌했다.

* II. 행정 기록

2018년 11월 3일, 탈러는 다음 저작물에 대한 저작권 등록 신청서를 제출했습니다. 저작물 및 저작물의 저작자는 "크리에이티비티 머신"(machine-generated works)으로 확인되었으며, 탈러는 다음과 같이 기재되었습니다. 양도 진술서와 함께 청구인으로 기재되었습니다: "기계의 소유권" 그의 신청서에서,탈러는 이 저작물이 "컴퓨터에서 실행되는 알고리즘에 의해 자율적으로 만들어졌다"는 내용의 메모를 특허청에 남겼습니다.

2019년 8월 12일자 서신에서 한 저작권 사무소 등록 전문가는 이 청구가 "저작물을 뒷받침하는 데 필요한 저작권 주장을 받침하는 데 필요한 인적 저작물이 부족하다"는 이유로 등록을 거부했습니다.

(중략)

탈러는 미국 저작권청에 최초 등록 거부에 대한 재고를 요청했습니다. 인간 저작자 요건은 위헌이며 법령이나 판례에 의해 뒷받침되지 않습니다. 법령이나 판례에 의해 뒷받침되지 않는다"고 주장했습니다.

라이언 애보트가 미국 저작권청에 보낸 서신에 (Sept. 23,2019)("1차 요청")저작권 사무소는 1차 요청에서 제기된 사항에 비추어 저작물을 검토한 후 요청, 사무소는 청구를 재평가하고 다시 한 번 저작물에 "유지에 필요한 인간 저작물이 부족하다"고 결론을 내렸습다. 저작권 주장을 유지하는 데 필요한 인간 저작물이 부족했습니다. "저작자가 저작물에 충분한 창작적 입력이나 개입을 했다는 증거를 제공하지 않았습니다. 증거를 제공하지 않았기 때문입니다." 이에 따라 라이언에 대한 미국 저작권청의 첫 번째 재검토 요청 거부했습니다.

미국 저작권청은 또한 "저작권법에 대한 대법원의 오랜 저작권법, 대법원 및 하급심 판례에 대한 해석을 포기하지 않을 것이라고 밝혔습니다. 저작물은 저작자가 창작한 경우에만 저작권 보호의 법적 및 형식적 요건을 충족합니다. 인간 저작자에 의해서만 저작물이 저작권 보호의 법적 형식적 요건을 충족한다는 오랜 해석을 포기하지 않았습니다."

(중략)

* III. 논의

위원회는 이 저작물이 다음과 같이 인공지능에 의해 자율적으로 창작되었다는 탈러의 진술을 기준점으로 받아들입니다.

인간의 창의적 기여 없이 인공 지능에 의해 자율적으로 만들어졌습니다. actor: "일반적으로 미국 저작권청은 등록 자료에 명시된 사실을 받아들입니다."

미국 저작권청, 미국 저작권청 관행 종합편람 § 602.4(C)(제3판 2021)("종합편람(제3판)"). 그러나 저작권법은 "지적 노동의 결실"만 보호합니다. "[인간] 정신의 창조적 힘에 기초한 것"입니다. COMPENDIUM(제3차) § 306(상표권 사건, 100 U.S. 82, 94(1879) 인용); 또한 다음을 참조하세요. 특허청(제3조) § 313.2(특허청은 "기계에 의해 생산되거나 "창의적인 입력이나 개입없이"작동하는 단순한 기계적 프로세스 인간 저작자"), 법령에 따라 "저작물은 반드시 인간에 의해 창작되어야 하기" 때문입니다.

따라서 탈러는 저작물이 인간 저작물의 산물이라는 증거를 제시하거나 저작권청이 한 세기에 걸친 저작권 법리에서 벗어나도록 설득해야 합니다. 그는 둘 다 하지 않았습니다.

탈러는 저작물이 인간 저작자의 기여로 만들어졌다고 주장하지 않습니다. 따라서 위원회의 유일한 쟁점은 그가 주장하듯이, 미국 저작권청의 저작자 요건인 요건이 위헌이며 판례에 의해 뒷받침되지 않는지 여부입니다. 현재, "사무국은 사람이 저작물을 창작하지 않았다고 판단하는 경우 등록을 거부합니다." 보상금 (세 번째) § 306. 이 기준에 따라 이 저작물은 등록할 수 없습니다. 검토 후 법률 텍스트, 판례 및 오랜 저작권 사무소의 관행을 검토한 후, 위원회는 다시 한 번 미국에서 저작권 보호의 전제 조건은 인간 저작물이라는 결론을 내렸습니다. 따라서 해당 저작물은 등록할 수 없습니다.

저작권법은 유형의 표현 매체에 고정된 "원본 저작물"을 보호합니다. 유형의 표현 매체. 17 U.S.C. § 102(a). "저작물의 원본"이라는 문구는 "법원이 정한 독창성의 기준을 변경하지 않고 통합"하기 위해 의회에서 "의도적으로 정의하지 않은 1909년 저작권법에 따라 법원에 의해 확립된 [1909년] 저작권법에 따라 법원이 정한 독창성의 기준을 변경하지 않고 통합하기 위해" H.R. REP. NO. 94-1476, 51면(1976). 이 용어는 "매우 광범위하다", 같은 책, 52쪽, 그러나 그 범위는 무제한이 아닙니다. 의회는 헌법에 따라 보호받을 수 있는 것보다 더 작은 창작물을 포괄하기 위해 이 표현을 선택했습니다. 포괄하기 위해 이 표현을 선택했습니다. 이러한 차이로 인해 이 법은 "의심할 여지없이 이 법안이 보호하지 않지만 향후 의회가 원할 수 있는 기존 주제의 다른 영역을 남겨 둡니다. 의회가 원할 수 있습니다."

(중략)

대법원 판례 외에도 하급 법원은 비인간 창작물에 대한 저작권 보호를 확대하려는 시도를 저작권 보호를 비인간 창작물로 확대하려는 시도를 반복적으로 거부해 왔습니다.

(중략)

마찬가지로 원숭이가 카메라로 촬영한 사진에 저작권을 등록할 수 없습니다. 법은 저작자의 "자녀", "미망인", "손자", "홀아비"를 다음과 같은 용어로 규정하고 있습니다. "모두 인간을 의미하며 동물을 반드시 배제합니다." 나루토 대 슬레이터, 888 F.3d 418, 426 (9th Cir. 2018); 켈리 대 시카고 공원 지구, 635 F.3d 290, 304 (7th Cir. 2011) (거부) 참조

원숭이가 찍은 사진 및 "애플리케이션" 등 인간의 저작물이 아닌 저작물 성령을 저자로 명명하는 노래 신청서" 등의 예를 제공합니다. 컴펜디엄 (세 번째) § 313.2. 동안 위원회는 인공 지능이 저작권 목적으로 저작자가 될 수 있는지 여부를 고려한 미국 법원을 알지 못합니다. 저작권법상 저작자가 될 수 있는지 여부를 고려한 미국 법원을 알지 못하지만, 법원은 일관되게 인간이 아닌 표현물은 저작권 보호를 받을 자격이 없다고 일관되게 판단해 왔습니다.

(중략)

* IV. 결론

본 문서에 명시된 이유에 따라 미국 저작권청 검토 위원회는 다음과 같이 결정합니다. 는 본 저작물에 대한 저작권 등록 거부를 확인합니다. 37 C.F.R. § 202.5(g)에 따라, 이 결정은 이 사안에 대한 최종 기관 조치로 간주됩니다.

해당 판결에서 가장 주목할 만한 점은 USCO가 "인간 저자의 창의적인 입력이나 개입 없이 무작위로 또는 자동으로 작동하는 기계 또는 단순한 기계적 프로세스에 의해 생성된 작품을 등록하지 않을 것”이라고 개요서에 명시되어 있다는 것이다.#


다음으로 크리스티나 카쉬타노파의 사례가 있다.

미국 저작권청은 그림 인공지능을 활용한 크리스티나 카쉬타노파의 '새벽의 자리야(Zarya of the dawn)'에 저작권을 부여하였다. 하지만 미국 저작권청("USCO")은 자리야 소설을 등록한 직후인 2022년 9월에 카슈타노바에게 보낸 공문에서 "이 그래픽 소설의 창작 과정에 인간이 실질적으로 관여했음을 보여줄 수 있는 세부 정보를 제공하라"고 요청했다고 변호사가 밝혔다. 미국에서 저작권 등록은 사람이 저작한 작품에 대해 유보되어 왔기 때문에 인간과 인공지능의 관여 수준은 매우 중요합니다. 이러한 배경에서 미국 저작권위원회는 저작물의 창작성이 불충분하거나 저작물이 정해진 저작자 요건을 충족하지 못하여 관련 법률 및 규정, 즉 37 C.F.R. S. 201.7(c)완료된 등록의 취소에 따라 무효로 간주되는 경우 등록을 취소할 수 있다.#

이후 해당 작품 '새벽의 자리야(Zarya of the dawn)'와 관련한 저작권 보호에 대한 취소 심사를 진행하고 있다. 이 과정에서 '새벽의 자리야'의 저작권이 박탈되었다는 기사가 나왔으나 미국 저작권청(USCO)이 시범 운영 중인 기록 관리 소프트웨어의 결함으로 인해 실수로 AI로 생성된 그래픽 소설의 저작권 등록이 취소되었음이 알려졌다. 1월 26일 기사에서도 마찬가지로 저작권 등록을 박탈했다는 과거의 기사가 오류였다며 정정했다.

현재는 '새벽의 자리야'는 작가의 변호사를 통해 컴퓨터 생성 이미지를 포함하여 책의 모든 측면이 저작권이 있으며 "저작물 전체의 저작권 가능성 외에도 각 개별 사진은 그 자체로 저작물을 생성하는 창작 과정의 결과"라고 주장하며 이를 설명하는 문서를 보냈다. #

이후 해당 작가는 트위터를 통해 "'미 저작권청은 앤디 워홀 재단 대 골드스미스 사건'에 대한 대법원 판결이 계류 중이기 때문에 (인공지능 보조 만화책의) 제 저작권에 대한 결정을 5월까지 미룰 수 있으며, 미 저작권청은 공정 사용 데이터의 변형 부분이 어떻게 적용되는지 확인해야한다"라고 말했다.

다만 이는 해당 작가와 작가 측 변호사의 주장이며, 미 저작권청에 최초 저작권 보호 신청을 했던 상태에서 저작권이 인정되었으나, 현재 저작권 취소 "절차 심의"를 시작한 상태기에 재판 결과를 지켜봐야할 필요가 있다.

해당 '앤디 워홀 재단 대 골드스미스 사건'은 사진가 골드스미스가 음악가 프린스를 촬영한 저작권이 있는 사진을 앤디 워홀 재단이 무단으로 사용하여 워홀의 마릴린 먼로 프린팅 사진 작품과 같은 방식의 창작물을 만든 것에 대한 저작권 침해 소송이다. 1심에서 저작권 침해가 아니라 판단했으나, 2심에서 뒤집혀 골드스미스가 저작권 침해를 받은 것이 맞다고 판결했다. 이 때 앤디 워홀 재단의 주장은 해당 사진을 "공정 이용"에 사용했다고 주장했고, 2심 법원은 이에 대해 공정 이용이 아니라고 판결한 부분이다. 현재 3심이 진행 중이며 이 3심이 2023년 5월에 나올 것으로 판단되어 미 저작권청이 해당 결정을 참고하기 위해 AI 만화가에 대한 저작권 신청 "취소 심의"를 연기한 것이다.

파일:새벽의 자리야.jpg
2023년 2월 23일 미국 저작권청은 미드저니를 활용해서 만든 그래픽 소설의 이미지는 저작권 보호를 받아서는 안된다고 전달했다. "새벽의 자리야(Zarya of the Dawn)" 작가 크리스 카슈타노바(Kris Kashtanova)는 카쉬타노바가 집필하고 편곡한 만화책의 일부에 대한 저작권을 가질 수 있지만 미드저니가 제작한 이미지에 대해서는 저작권이 없다고 전달한 것이다. 이에 따라 저작권청은 서신에서 "인간 저작물이 아닌" 이미지를 생략하기 위해 "새벽의 자리야"에 대한 등록을 재발급할 것이라고 밝혔다. #

이에 대해 카슈타노바는 "좋은 소식으로 저작권청이 제 저작권을 인정했기 때문에 새벽의 자리야는 공식적으로 등록이 유지된다는 것입니다. 미드저니와 다른 툴을 사용해 창작하는 모든 분들께 기쁜 날입니다. 새벽의 자리야처럼 이미지를 책에 넣을 때 편곡은 저작권이 있고, 스토리는 순수하게 인공지능이 제작한 것이 아니라면 저작권이 있습니다. "고 말했다. 하지만 저작권청이 개별 이미지에 대한 저작권을 인정하지 않은 점에 대해 실망을 표했다. 이에 대해 일부 기술을 이해하지 못해 잘못된 결정이 내려진 것 같고 제너레이티브 AI 모델의 출력은 아티스트의 창의적인 입력에 직접적으로 의존하며 무작위가 아니라는 점을 이해하는 것이 기본이라며 변호사를 통해 Midjourney가 제작한 개별 이미지가 창의성을 직접적으로 표현한 것이므로 저작권이 있다는 점을 추가로 설명하기 위해 옵션을 검토 중이라고 밝혔다. #


2023년 3월 16일날, 미국 저작권청의 새로운 지침이 나왔다. 이를 소개하는 기사는 4월 1일날 발행되었다. 원문기사, 전문

미국 저작권청은 인간 저자가 상당한 창의적 입력을 제공하지 않는 한 AI로 생성된 저작물은 저작권 보호 대상이 아님을 명확히 하는 정책 성명서를 발표했습니다. 청은 저작권 보호가 인간이 만든 저작물에 대해 유보되어 있다고 주장하지만 예술 창작에서 AI의 진화하는 환경을 인정합니다.

키 포인트

AI로 생성된 저작물은 그 자체로 저작권 보호를 받을 수 없습니다.

인간 저자는 작업에 상당한 창의적 입력을 제공해야 합니다.

청은 AI 및 저작권과 관련된 법적 및 사실적 발전을 계속 모니터링할 것입니다.

AI는 창작 과정에서 인간 작가가 사용하는 도구로 간주될 수 있습니다.

저작권 보호는 사람이 독창적인 표현과 창의성으로 만든 저작물에 적용됩니다.

저작권 보호를 받을 수 있는 예

인간 예술가는 AI를 사용하여 그림에 대한 여러 스타일을 생성하지만 예술가는 이러한 스타일의 요소를 선택, 수정 및 결합하여 최종적이고 고유한 작품을 만듭니다.

저자는 AI를 사용하여 줄거리 아이디어나 캐릭터 특성을 제안하지만 궁극적으로 작가는 스토리를 작성하고 캐릭터를 개발합니다.

음악가는 AI를 사용하여 코드 진행이나 멜로디를 생성하지만 음악가는 이를 크게 변경하고 확장하여 독창적인 작곡을 만듭니다.

인간 아티스트는 AI를 사용하여 추상 패턴을 생성하지만 아티스트는 이러한 패턴을 수동으로 선택, 재배치 및 수정하여 고유한 디지털 콜라주를 생성합니다.

아티스트는 AI에 특정 입력 매개변수(예: 색상 팔레트, 주제)를 제공하고 AI 생성 출력을 추가 수동 조정 및 추가를 위한 기반으로 사용하여 독특한 최종 작품을 생성합니다.

사진가는 AI를 사용하여 이미지를 향상하거나 수정하지만 사진가는 전체 구도를 계속 제어하고 최종 결과와 관련하여 중요한 창의적 결정을 내립니다.

저작권 보호를 받을 수 없는 예

인간의 개입 없이 AI가 주제, 스타일 및 색상을 자율적으로 선택하는 순수 AI 생성 그림

인간의 개입 없이 전체 플롯, 설정 및 캐릭터 개발이 AI에 의해 생성되는 AI 생성 스토리

인간 아티스트의 창의적인 입력이나 수정 없이 전적으로 AI가 작곡하고 편곡한 음악 작품

창작 과정에 사람이 개입하지 않고 임의로 선택한 입력 데이터(예: 다양한 사진)를 기반으로 AI가 만든 디지털 아트워크

기존 아트워크의 AI 생성 재구성으로, AI는 사람의 입력 없이 변경하거나 업데이트할 요소를 자율적으로 선택합니다.

AI가 자동으로 주제, 스타일 및 색 구성표를 선택하고 인간 예술가가 창작 과정에 참여하지 않는 일련의 AI 생성 초상화 또는 풍경

캐릭터 생성과 관련하여 AI 생성 캐릭터의 저작권 보호는 프로세스에 관련된 인간 입력 및 창의적인 의사 결정 수준에 따라 달라집니다.

예: AI를 사용하여 다양한 캐릭터 디자인 요소를 생성한 다음 인간 아티스트가 이러한 요소를 선택, 결합 및 정제하여 독창적인 캐릭터(예: 스파이더맨에서 영감을 받은 새로운 슈퍼히어로)를 만드는 경우 최종 캐릭터 디자인은 저작권이 될 수 있습니다. 아티스트의 상당한 창의적 기여로 인해 보호됩니다.

반대로 AI가 인간의 입력 없이 캐릭터를 자율적으로 생성하는 경우(예: 독특한 외모와 배경이 있는 완전히 새로운 캐릭터) 창작 과정에 인간의 저작물이 포함되지 않기 때문에 생성된 캐릭터는 저작권 보호를 받을 수 없습니다. .

AI 모델을 교육하는 데 상당한 인간 개입과 창의적인 의사 결정이 필요한 경우 생성된 이미지는 저작권 보호 대상이 될 수 있습니다. 생성된 이미지의 창의적인 방향을 안내할 뿐만 아니라 모델을 선택, 개선 및 조정하는 인간 저자의 참여는 잠재적으로 인간 저자의 요구 사항을 충족할 수 있습니다. 그러나 저작권 적격성은 사례별로 결정되며 각각의 특정 사례에는 고유한 고려 사항이 있을 수 있음을 기억하는 것이 중요합니다. AI로 생성된 예술을 둘러싼 법적 환경이 계속 발전함에 따라 저작권 문제에 대한 구체적인 지침은 항상 법률 전문가와 상담하는 것이 좋습니다.



5.3. EU[편집]


현행 EU 저작권(2019)는 공정이용, 연구 목적에 한해 데이터 마이닝을 제한하고 있다.

EU를 포함 영국과 중국을 비롯 일본을 제외한 AI 관련 법을 채택한 국가 대부분은 TDM(Text Data Mining)을 비상업적, 연구 용도 목적의 공정 이용과 비상업적 용도로 제한해두고 있다.

최근 유럽연합이 학습 데이터의 저작권을 공개하도록 강제하는 규제법안 초안을 마련했다고 알려지는 등 국제적으로도 규제 논의가 본격적으로 시작되고 있다. #


5.4. 영국[편집]


저작권의 저작자 및 소유권

(1)이 부분에서 저작물과 관련하여 "저작자"는 저작물을 창작한 사람을 의미합니다.

(2)그 사람은 다음과 같이 간주됩니다.(a)~(d)

(3)컴퓨터로 생성된 문학, 연극, 음악 또는 예술 저작물의 경우, 저작자는 저작물의 창작에 필요한 준비를 수행한 사람으로 간주됩니다.[23]

(4)이 파트의 목적상 저작자의 신원을 알 수 없거나 공동 저작물인 경우 저작자 중 누구의 신원도 알 수 없는 경우 저작물은 "저작자 미상"으로 간주됩니다.

(5)이 파트의 목적상 저작자의 신원을 합리적인 조회를 통해 확인할 수 없는 경우 저작자의 신원을 알 수 없는 것으로 간주하지만, 일단 신원이 알려진 경우 이후에는 신원을 알 수 없는 것으로 간주하지 않습니다.

Copyright, Designs and Patents Act 1988#


해당 영국 법안 중 '컴퓨터로 생성된' 3번 문항은 법안 발의 당시 AI에 대한 고려가 없는 1988년이었으며, 해당 내용 역시 2003년에 개정되었다는 점에 주의해야함. 특히 해당 영문 번역 문체는 오해의 소지가 있는데, "창작에 필요한 준비"의 경우 컴퓨터로 창작된 결과물을 인간 창작물에 사용할 수 있는 준비를 수행했다는 의미로 봐야한다.[24]

2022년 6월, 영국 지식재산청(The Intellectual Property Office)에서의 의견 수렴과 자문회의 결과 발표에서 컴퓨터 생성 저작물(Computer-Generated Works, 이하 "CGW")의 AI가 생성한 저작물 보호 찬성 측인 기술 업계의 입장은 다음과 같다: "AI 생성 저작물은 저작권, 디자인 및 특허법[25]으로 이미 보호되고 있고 이를 지속해야 하며 AI 시스템 자체가 아닌 AI 시스템의 소유자나 사용자에게 저작권 보호를 부여해야 한다. 반면 창작 업계(보호 반대)에서는 창작성(Originality)에 대한 정의가 확실하지 않으며, 인간이 AI를 활용하여 창작한 저작물의 경우 저작권 보호를 받을 수 있지만 AI가 단독으로 생성한 저작물은 보호를 받을 수 없거나 저작권법이 아닌 별개의 권리로 보호해야 한다고 주장하고 있다. 결과적으로 CGW의 보호 수준에 대해 옵션0을 채택함에 따라 현행 법률을 유지한다고 밝히고 있다. 다음으로 해당 발표에서는 TDM 면책 요건의 확장에 대해서도 다루고 있는데 현재 TDM는 연구, 저널리즘, 마케팅 등 다양한 분야에서 사용되며 이미 EU, 일본, 싱가폴 등 여러 국가에서 TDM의 상업적 활용을 촉진하고 있기 때문에 이와 관련된 영국 내 여러 권리자 및 데이터 사용자의 의견을 수렴한 옵션 5가지를 제시하고 의견을 구하였고 결론적으로 모든 용도에 대해 TDM 면책 적용하는 옵션을 선택함에 따라 상업과 비상업을 불문한 모든 목적의 TDM에 있어서 자유롭게 저작물에 접근할 수 있도록 개정을 추진하고자 한다고 밝혔다."#

2022년 영국 정부에서 발표한 "인공지능과 IP: 저작권과 특허권"에 따르면 저작물은 AI 의 도움을 받은 사람이 만들 수 있다고 명시하고 있다. 기존 저작권법 보호에 적힌 내용대로 작품이 독창적인 인간의 창의성을 표현한다면 다른 도구를 사용하여 만든 작품과 마찬가지로 저작권 보호의 혜택을 받고 있다는 것이다. 또한 영국은 인간 창작자가 없는 컴퓨터에서 생성된 저작물을 보호하는 몇 안 되는 국가 중 하나이다. [26] 컴퓨터로 생성된 저작물(CGW)의 "저자"는 "저작물 생성에 필요한 조치를 취한 사람"으로 정의하고 있다.#

그러나 2022년 말과 2023년 초 연예계 음악 종사자 및 영상 매체 종사자(영화, 드라마 등)들이 자신들의 이미지, 음성, 음악, 영상물들을 AI 학습하여 현재 AI 생성물이 저작물 보호 회색지대에 놓여있는 것을 악용해 저작권 세탁을 하거나 창작자와 저작권 보유자를 착취할 수 있다는 허점을 지적하며 탄원서를 영국 정부에 제출한 바 있다.


5.5. 일본[편집]


(저작물에 표현된 사상 또는 감정의 향유를 목적으로 하지 않는 이용) 제30조의 4 저작물은 다음 각 호의 경우 기타 해당 저작물에 표현된 사상 또는 감정을 스스로 향유하거나 타인에게 향유시키는 것을 목적으로 하지 않는 경우에는 그 필요성이 인정되는 한도 내에서 어떠한 방법으로든 이용할 수 있다. 다만, 해당 저작물의 종류 및 용도 및 해당 이용형태에 비추어 "저작권자의 이익을 부당하게 해치는 경우에는 그러하지 아니"하다.

1. 생략

2. 정보분석(다수의 저작물 기타 대량의 정보로부터 해당 정보를 구성하는 언어, 소리, 영상 기타 요소에 관한 정보를 추출하여 비교, 분류 그 밖의 분석을 하는 것을 말한다. 제47조의5제1항제2호에서 같다) 의 용도로 제공하는 경우

3. 생략

쇼와 45년 법률 제48호 저작권법#


구체적으로는 다음과 같은 경우에는 저작물의 이용이 인정된다.

* 미술품의 복제에 적합한 카메라나 프린터를 개발하기 위해 미술품을 시험적으로 복제하는 행위

* 인공지능의 개발을 실시하기 위해서 저작물을 학습용 데이터로서 수집하여 이용하거나, 수집한 학습용 데이터를 인공지능의 개발이라고 하는 목적하에서 제3자에게 제공(양도나 공중 송신 등) 하는 행위

* 컴퓨터의 정보 처리 과정에서 백엔드에서 저작물을 복사하여 그 데이터를 사람이 전혀 지각하지 않고 이용하는 행위

* 프로그램의 조사 해석을 목적으로 프로그램의 저작물을 이용하는 행위(소위 「리버스 엔지니어링)

문화청|저작권법의 일부를 개정하는 법률(2018년 법률 제30호)에 대해서 #


무단으로 ai의 학습소재로 작품이 사용되었을 경우 AI 개발회사를 고소해 이길 가능성에 대해 위의 일본의 저작권법 30조의 4 제2호가 적용된다. 일본 카키누마 변호사는 그림 인공지능에 의한 생성과 같은 '정보 해석'을 위해서라면, 타인의 저작물을 마음대로 사용할 수 있다고 규정하고 있다. 따라서 이 일본의 저작권법이 적용되면 재판을 해도 이길 가능성은 없다는 것이라고 설명한다. 데이터 · AI 법무 전문가 · 카키 누마 타이치 변호사에게 물어! AI 관련 저작권법 Q&A[27]

일본을 포함한 대부분의 국가의 저작권법 하에서는 저작권이 발생하는 것은 인간의 창작물에 한정되며, 인간이 창작에 관여하지 않고 AI의 이용에 의해 완전 자율적으로 작성된 콘텐츠에는 저작권이 발생하지 않는 상황이다. 즉, 인간이 AI를 도구로서 이용한 것일 뿐인지, AI가 완전 자율적으로 생성했다고 말할 수 있을지에 대해 일본에서의 논의에서는, 이 점은 인간에게 '창작 의도'와 '창작적 기여'가 있었는지에 의해 판단된다. 2017년 3월·지적 재산 전략 본부 검증·평가·기획 위원회·새로운 정보재 검토 위원회 #

컴퓨터에 의한 창작물의 저작권 검토로 2005년의 저작권 심의회 제 9 소위원회(컴퓨터 창작물 관계) 보고서(2009년 11월 문화청)가 있다. 위 보고서에서는 "컴퓨터 창작물의 저작물성에 대해서는 현시점에서는 사람이 사상감정을 창작적으로 표현하기 위한 "도구"로서 컴퓨터 시스템을 사용했다고 인정되는 경우가 많아 그 결과로서 컴퓨터 창작물의 저작권은 현행 저작권법 하에서 긍정된다. '라는 기재가 있어, '현시점에서는 컴퓨터 창작물의 작성 과정에서 어떠한 사람의 창작적 기여가 통상 수반되고 있어, 전술한 바와 같은 현행 저작권법의 해석·적용에 의해 대응하는 것이 가능하다라고 적혀있다. 이러한 CGW에 대한 해석은 영국 저작권법에서도 동일하게 나타난다.

즉, AI를 사용한 창작물이라도, 사람에 의한 '창작적 의도'와 창작 과정에 있어서의 구체적인 '창작적 기여'가 있으면 현행의 저작권의 대상이 된다라고 하는 정리가 행해졌는데다가, 그러한 창작적 기여 등이 없는 창작물에 대해서는 향후의 검토 과제로 여겨졌다고 일본 변호사 니시오 공신은 설명하고 있다.#

이후 AI를 이용한 창작물에 대한 저작권 검토로 2016년 4월 '차세대 지재 시스템 검토 위원회 보고서' (지적 재산 전략 본부 검증·평가·기획 위원회 차세대 지재 시스템 검토 위원회)[28]로 나온 바 있다. 이 보고서에 따르면 "현재 지재제도상 인공지능이 생성한 생성물은 인공지능을 인간이 도구로 이용하여 창작을 하고 있다고 평가되는 경우에는 권리가 발생 다른 한편으로, 인간의 관여가 창작적 기여라고 할 수 없고, 인공 지능이 자율적으로 생성되었다고 평가되는 경우에는, 생성물이 콘텐츠이든 기술 정보이든, 권리의 대상이 되지 않는다고 해석된다. 즉, AI에 의해 자율적으로 생성된 창작물에 대해서는, 현행의 지재 제도상은 권리의 대상이 되지 않고, 아무도 저작권이나 특허권을 보유 하지 않는다고 설명한다.#

위와 같은 법률로 인해 건국대학교 일반대학원 권용수 법학박사는 '일본이 기계학습의 파라다이스인 이유는 저작권법에 있다'라며 한국저작권위원회에 기고문을 작성하였다.

이외 일본의 AI 저작권 법률에 대해 자세히 정리된 사이트로 일본 법무법인 storia의 법률 검토가 있다.
  • Midjourney, Stable Diffusion, mimic 등 이미지 자동 생성 AI 및 저작권#[29]
  • 이미지 생성 AI를 이용하여 생성한 콘텐츠를 자사 서비스에서 이용할 때 주의해야 할 사항#[30]

2023년 3월 2일, 자민당 소속 참의원인 야마타 다로 의원이 AI에 관련하여 저작물에의 영향이나 문제가 많은 가운데, 안이하게 나라가 AI를 이용한 문화예술 활동의 촉진 등을 구가하는 것은 위험. 서둘러 디지털상의 저작권 토론을 진행하고 있다고 밝혔다. 해당 링크 또한 생성형 챗 gpt 를 포함한 AI에 관해 대응과 검토가 필요할 시 내각부를 중심으로 대응할 것이라는 입장을 표하였다. 기사 링크


5.6. 기업 단위[편집]


이미지 생성 AI '스테이블 디퓨전'의 개발사 Stablity AI는 2022년 10월부터 Novel AI의 제로데이 해킹으로 인해 민간에 소스코드로 풀리며 탄생한 Web UI의 저작권, 초상권 침해 및 인간 기본권 침해 등의 항의와 논란으로 인해 논란이 일어난지 한 달만인 동년 11월 2.0 버전을 출시한 바 있다. 해당 버전에서 학습 데이터에서 음란물을 비롯한 성인물을 제거했고, 특정 창작자의 화풍을 모방하는 기능[31]을 다운그레이드했다. 이후 같은 해 12월, 3.0 버전을 발표하면서 원작자가 데이터셋에 있는 자신의 작품을 삭제할 수 있게 되었다. 데이터셋에서 작품을 생략하길 원하는 아티스트는 Stablity AI가 별도로 마련한 홈페이지 ‘헤브아이빈트레인?(HaveIBeenTrained?)’에 접속해 텍스트나 파일을 입력하면 된다.#

OpenAI는 이미지 생성 AI와 함께 생성 AI로써 저작권 문제에 큰 지적을 받아왔고, 2023년 1월 자신들의 블로그를 통해 AI의 규제 가이드라인을 발표했다. 허위 정보로 인한 언어 모델의 오용 가능성 예측 및 위험 감소 방법에 대한 기사이며, 여기서 AI 사용자의 오용 위험성과 사회적 파장에 대한 완화 전략 중 문제 소지가 있는 데이터 수집 제한 및 AI 생성 콘텐츠 식별 등이 담겨있다.

미드저니와 DALL·E, Gaugan2와 같은 거대 기업의 투자를 받은 AI들은 일찌감치 이 논란을 지적받아 저작권과 초상권 침해 등의 문제를 해결하기 위해 음란물 이미지 생성을 금지했다. 단, 2023년 1월 게티이미지사가 자신들의 이미지를 무단 학습한 뒤 유료로 서비스 제공을 한 점이 공정이용에 어긋난 저작권 침해 행위라며 이들 회사에 저작권 침해로 소송을 시작했다.


6. AI 생성물의 저작권 인정 여부[편집]


  • [[대한민국|{{{#!wiki style="display: none; display: inline"
    대한민국}}}{{{#!wiki style="display: inline; display: none"
    틀:국기|{{{#!wiki style="display: none; display: 대한민국"
    행정구}}}{{{#!wiki style="display: inline; display: none"
    틀:국기|
    ]]

< 생성형 인공지능(AI) 저작권 안내서 주요 내용 >

(중략)

④ (생성형 인공지능 산출물의 저작권 등록) 등록은 인간의 사상 또는 감정이 표현된 창작물에 대해서만 가능한바, 인간의 창작적 개입이 없는 인공지능 산출물에 대한 저작권 등록 불가 (단, 인간의 창의적 작업 부분 예외가능)

- 출처 : 문체부 보도자료

2023년 12월 27일, 문화체육관광부에서 발간 예정인 생성형 인공지능(AI) 저작권 안내서의 일부 내용을 보도자료에서 공개하였다. 다만 AI 생성물중 인간이 직접 개입한 부분에 대해선 '편집저작권'으로 인정된다고 밝혔다. 이미 가이드라인 이전에 한국저작권위원회에서 AI 생성물의 저작권 신청 등록을 거부한 바 있다. #

  • [[미국|{{{#!wiki style="display: none; display: inline"
    미국}}}{{{#!wiki style="display: inline; display: none"
    틀:국기|{{{#!wiki style="display: none; display: 미국"
    행정구}}}{{{#!wiki style="display: inline; display: none"
    틀:국기|
    ]]
2023년 8월, 미국 법원이 AI가 만든 예술작품은 저작권 보호 대상이 아니라고 처음으로 판결했다. # 미국 콜롬비아 지방법원은 AI로 만든 예술작품의 저작권 등록을 거부한 미국 저작권청의 결정을 인정하는 판결을 내렸다.

  • [[중국|{{{#!wiki style="display: none; display: inline"
    중국}}}{{{#!wiki style="display: inline; display: none"
    틀:국기|{{{#!wiki style="display: none; display: 중국"
    행정구}}}{{{#!wiki style="display: inline; display: none"
    틀:국기|
    ]]
2023년 12월, 베이징 인터넷 법원이 중국 최초로 AI 생성 콘텐츠에 대한 저작권을 인정했다. #


7. 저작권 면책 여부[편집]


저작권이 없는 이미지 학습에 대해 각 국가별 방침을 정리한 항목이다. 참고로 이용자 본인이 학습되는 이미지에 저작권을 가지고 있다면 이러한 무단 학습에 전혀 관련 없다.

  • 한국
③ (인공지능 이용자에 대한 안내사항) 원하는 인공지능 산출물을 만들기 위해 입력하는 텍스트나 이미지, 오디오 등의 데이터가 타인의 저작권을 침해하거나 침해를 유도하지 않도록 유의
* 특히, 이용자는 인공지능 산출물을 외부로 전송 등의 방식을 이용해 저작권을 침해하지 않도록 유의
2023년 12월 27일, 문화체육관광부에서 위의 가이드라인을 제시했는데, 무단 학습은 저작권 침해가 있으니, 사용자에게 저작권이 없는 이미지 학습을 하지마라고 권고 했다.

  • 미국

  • 영국
2023년 2월, 영국 정부가 광범위한 AI 텍스트 및 데이터 학습 저작권 면책 확장 계획을 취소한다고 밝혔다.#


8. 실용성 여부[편집]



8.1. 사용 가능론[편집]


정병익 PD는 기존에 "3주가 걸리던 3D 아트 콘셉트 작업이 반나절, 길면 3일이면 끝난다"라며 "퇴근할 때 인공지능에게 명령을 해두고 아침에 밤새 작업이 된 수백 장의 아트를 고르는 형태로 디자인 분야의 프로세스가 바뀌고 있다."라고 했다.

- 정병익 너디스타 PD "게임 개발에 AI 도입 불가피.. 이미 변혁은 시작됐다"


많은 사람들이 AI의 사용 용도를 일러스트, 만화로 한정해서 생각하는데 의외로 게임쪽에서 이미 사용중이다.

컨셉 이미지나 홍보용 이미지, 즉 간단한 소품이나 배경, 혹은 단일 캐릭터 그림 같이 지금의 AI가 충분히 대체할 수 있는 분야가 있는 것도 사실이며, 양산형 게임이나 웹 소설 표지 같이 창의성은 상관없이 때깔만 고운 그림이라도 상관없는 클라이언트가 AI를 적극적으로 사용되는 분야가 있는 것도 사실이다. 실제 아마추어 웹 소설 표지 영역은 NovelAI, WebUI 등의 AI 그림이 지속적으로 이용되고 있는 분야 중 하나이다.

AI 만화라는 새로운 개념이 등장할 수도 있다. 실제로 WebUI로 만화를 만든 사례들이 있으며#1#2, Controlnet, Lora 그외 각종 확장기능의 등장으로 결과물의 방향을 조절할 수 있는 툴이 대폭 넓어졌다.# 게임을 예시로 들어보자면, 쯔꾸르 게임과 같은 게임제작 툴로도 게임을 만들 듯이, AI를 이용하여 만화를 만드는 것도 충분히 가능한 상황이다. 물론 상업적 이용이나 공적 이용에 대해서는 아직 저작권 이슈로 사용이 어렵겠지만, 디시의 침팬치 만화처럼 사적인 목적으로 만드는 만화는 저작권 이슈로부터 자유롭다. 실제로 침팬치 만화 또한 저작권이 있는 이미지를 무단으로 사용했고 이 때문에 카톡 이모티콘 등록에 실패한 사례가 있다.# 수익을 목적으로 하지 않는 만화에 대해서 저작권을 일일이 따져야 한다면 당장 침팬치 만화부터 따져봐야 할 것이다. 침팬치 만화가 포토툰이라는 장르로서 인정되고 일반 커뮤에 업로드하는 정도로는 저작권에 대해서도 깊게 파고들지 않는 것이 관례라면, AI 만화 또한 장르로서 인정 받기만 한다면 같은 논리로 이러한 것이 문제되지 않는다. 물론 손그림 만화가 아닌 AI만화라는 점을 분명히 명시하고 말이다. 그리고 좀 더 장기적으로 보면 저작권 문제가 없는 학습 자료만을 가지고 학습한 인공지능을 이용한 AI툰이 웹툰 시장에 나올 수도 있다.

다만 원작의 의도를 해치는 것을 원하지 않는 원작자가 있을 경우 존중해야한다. 저작물 사용에 있어, 수익성이 없다고 하여 페페 더 프로그의 장례식과 같은 일이 반복되도록 할 수는 없는 일이다.

제작의 노력에 관해서도 AI를 사용하여 단순 일러스트를 그리는 것과, 의도 전달을 위한 만화를 그린다는 것에는 비교할 수 없는 시간과 노력이 들어간다 AI 만화를 만드는 과정에서도 의도 전달을 위한 구상, 동작 설정, 적절한 Lora, 확장기능, 모델 선택 결과물 가공, 업스케일링, 최종 경과물 선정과 같은 결과물의 질을 향상시키기 위한 시간과 노력이 꽤나 들어간다.[32] 소위 딸깍충이라는 말처럼 그저 클릭질만 한다고 만화가 뚝딱 만들어지는 것이 아니다. 이러한 이유가 aI를 사용하여 만화를 그리는 것에 걸림돌이 되기도 한다. 이런 것을 감안하면 들어가는 노력으로도 AI 만화가 하나의 장르로서 충분히 인정받을만한 가능성이 있는 것이다.

다만 그에 대한 소비자의 인식이 좋지 않은 것은 ai 만화가 넘어야 할 산이다. 활용부터 난관…소비자는 ‘별점테러’, 창작자는 “내가 학습도구?” (생성형AI리스크)

아마추어 영역이 아닌 실제 기업 혹은 프로 영역 역시 AI 그림을 사용한 사례 역시 존재한다. 국내 대기업인 신한금융그룹에서 Midjourney를 이용하여 광고 포스터를 제작한 사례가 있다. #1 #2 만화가 이현세도 자신의 자료를 이용해서 ai를 제작한다고 발표했다. # 이외에도 수많은 사용 사례를 보려면 사용 사례 문단 참고. 다만 해당 문단에 따르면 상황에 따라 소비자들의 비판을 받을 수 있어, 사용에 신중할 필요는 있다.

특히 웹툰 제작 과정이 더욱 편리해질 것이라는 의견도 있다. 현대의 웹툰은 나날히 상향평준화된 퀄리티로 인하여 작품 하나에만 많게는 10명 이상이 투입되고 있고 작가들도 과로 및 손목, 허리 통증으로 고통을 호소하고 있다. 애니메이션 역시 각종 컴퓨터 그래픽 툴들을 사용하고 있지만 여전히 원화에는 시간이 많이 소요되며, 마찬가지로 점점 상향평준화 되어가는 퀄리티로 인해 작품 하나에 수십 수백명의 제작진과 수십억 이상의 금액이 소요된다. 이 때문에 AI를 통해 다수의 인력을 대체하고 시간을 단축시킬 수 있어 긍정적으로 바라보고 있다.[33] 그밖에도 허접한 실력으로 커미션을 받아놓고 먹튀하거나 폭리를 취하는 등의 양심없는 악질 빌런들이 사라질 것이라고 고소해하는 의견도 있다. 허나 이를 이용해 AI 그림으로 후원 사이트에서 사기성 장사질을 하거나 정상적인 커미션에서 러프만 빼먹고 튀는 등의 커미션 사기를 치는 경우도 생겨났기에 이런 면에선 오히려 악화된 면도 있기에 일장일단이 있다.


8.2. 사용 불가론[편집]


Stable Diffusion 자체의 원리 상 인간의 논리가 전혀 적용되지 못한다. 데이터 학습 방식도 이미지를 단계별 노이징화 하며 노이즈 했을 때 보이는 특정 패턴과 확률을 값으로 저장하여 학습한다. 이후 완전히 노이즈화 된 값에서 학습해둔 데이터를 기반으로 복원하는 과정을 거치므로, 여기서 인간의 논리[34]는 전혀 개입할 수 없고 가장 큰 한계점이다. 이 한계점은 아무리 발전한들 아주 기초적이고 기본적인 구조 자체를 바꾼 AI가 등장해야하며[35], 그 경우 사실상 준AGI급(강인공지능) 이상의 인공지능의 탄생과 마찬가지이다.

또한 현재 Web UI로 민간에 떠도는 모든 스테이블 디퓨전 기반 프로그램들은 모두 2.0 이전 버전의 구 버전 프로그램들이다. 이는 스테이블 디퓨전이 2022년 11월, 각종 논란과 항의를 받고 저작권과 초상권, 음란물 유포 등의 침해 소지가 있는 이미지 학습을 금지시킨 2.0 버전을 배포했기 때문이며, 뒤이어 3.0 버전에서는 아예 원작자가 학습 되었는지 여부를 직접 삭제할 수 있는 사이트를 만들어 운영하고 있기 때문이다. 때문에 현재의 Web UI 기반 프로그램들은 구 버전 자체의 한계가 정해져있는 상태이다.

또한 만화나 애니메이션 분야에선 실용성이 떨어진다는 의견이 많다. 트렌드에 강하게 영향을 받는 단일 일러스트 분야 역시도 실용성에 대한 비판이 제기되고 있다.

먼저 일러스트 분야의 트렌드는 단순히 밈에서 그치는 것이 아니라, 특정 시기에 유행하는 색감이나 표현법, 세부 디테일, 의상을 비롯한 여러 분야의 디자인 트렌드 등을 포함한다. 이는 기존의 자료를 토대로한 학습이 필수인 그림 AI로서는 당연히 트렌드에 뒤떨어질 수 밖에 없다. 트렌드가 바뀔 때마다 AI가 트렌드를 인지해 표현할 수 있을 정도의 방대한 양의 자료를 계속해서 학습시켜야하는데, 윤리적인 문제를 떠나 그런 수고를 할 바에 직접 그리는 것이 경제적으로나 시간적으로나 훨씬 이득이다. 또한, 무작정 데이터만 많이 넣으면 해결되는 문제도 아닌게, 자칫 과적합이라는 오류가 일어날 수 있다. #

이러한 이유로 Stable Diffusion 기반의 그림 AI가 인간을 대체할 수 있을 것이라는 주장에는 부정적인 주장이 우세이다. 실제로 2022년 10월 초 NovelAI가 처음 공개되었을 때는 일러스트레이터 업계의 종말이 왔다는 평가와 함께 그림 시장에 격변이 도래할 것이라는 전망이 있었으나, 당시의 커다란 화제성에도 불구하고 시간이 지나며 Stable Diffusion 기반 AI의 허점과 한계가 하나 둘 드러나면서, 게임 원화나 애니메이션 등 실제 프로 실무 영역에는 사실상 Stable Diffusion 기반의 자동 생성 AI 그림들을 이용하려는 사례는 매우 적다.

새로운 화풍, 연출, 구도, 채색법 등을 학습시키려면 결국 사람이 그림을 그려서 표본을 만들어야 한다는 딜레마가 있다. 알파고가 자기대국으로 실력을 늘린 것처럼 아직까지는 AI가 스스로 만든 그림을 학습시키는 것은 현실적으로 어려울 가능성이 높은데, 바둑은 규칙에 따른 승패가 존재하기에 AI도 100% 이해할 수 있고 자체학습을 통해 승리를 하기 위한 새로운 전략을 낳을 수 있지만 그림의 매력에는 승패가 없다. AI가 스스로 자기가 만든 그림이 실패작인지 성공작인지를 판단할 수 없기 때문[36]에 작위적이고 어색한 구성의 그림은 물론이고 손이 공중에 떠있거나 다리가 3~4개씩 달린 실패작까지 대량으로 학습될 가능성이 있기 때문이다.[37]이 때문에 기존의 데이터가 필요없는, SF 창작물이나 이론 상으로 회자되는 강인공지능에 대한 예시를 붙여 AI의 실용성에 대한 비판을 하는 이유이기도 하다.

특히 애니메이션의 경우 솔리드 드로잉, 즉 정확하고 일정한 작화가 필수적으로 요구되며 이것이 어긋나면 작화 붕괴가 된다. 마지 심슨의 머리카락 테두리 물결 갯수까지도 일정해야 한다는 말이 있는 심슨 가족처럼 깐깐한 작품도 있는데다가, 셀 애니메이션은 특성상 컷 하나에도 자세만 미세하게 바뀐 비슷한 그림이 수십장이 들어가기에 AI 그림으로 작화를 안정시키기는 힘들다. 그림체를 안정시키는데만도 캐릭터 디자이너가 수천장을 그려서 학습시켜야 할 판이다. 2D 애니메이팅이 노가다라는 말을 들어도 배우에게 연기를 시키는것과 다를 바가 없는 창의력이 필요한 작업이다. 원화 한장마다 애니메이터가 감을 살려서 동세를 줘야 한다. 영화가 그렇듯이 클리셰적인 연기 뿐만이 아니라 어떤 작품에도 나온 적 없는 장면이 새 애니메이션이 만들어질때마다 나오게 될것인데 머신러닝에 기반한 AI에게 이런 작업을 맡기기는 어렵다. 2D 애니메이션의 경우는 그림 AI를 쓰느니 차라리 3D 모델을 응용하는 편이 나은 상황인데 카툰 렌더링 기술이 발전하고 있는 건 어제오늘 일이 아니니 별 새삼스러운 일도 아니다. 대신 장차 조금 더 기술이 발전한다면 로토스코핑, 스톱모션 기법등 애니메이션 산업의 초창기에 사용되었던 기술에 다시 적극적으로 활용될 여지가 있긴 하지만 그렇게 사용하면 결국 인간이 직접 연기하거나 키 프레임을 잡아줘야 하기 때문에 효율이 좋아졌을 뿐이지 애니메이터라는 직업이 퇴출 될만큼 엄청난 혁신은 아니다.[38] '효율적인 그림체 필터'의 역할 밖에 하지 못하는 셈이다. 게다가 AI가 특정 작가나 같은 그림체를 재현하기 위해서는 비슷한 구도와 색감,데셍을 구현시킨 도장찍기 그림을 최소 3천장은 봐야 하기 때문에 재현 가능한 그림체가 그리 많지 않다.

애니메이션을 만들기 힘든 이유와 마찬가지로 그림 인공지능은 통일성 있는 그림을 생성하는 것[39]에는 취약하며, 디자인이 통일된 캐릭터의 2차 창작 등에서도 분명히 그 캐릭터를 그리려 한 것은 알겠는데 어딘가 다른 결과물이 나오기 쉽다. 자세히 뜯어보면 장식이나 헤어파츠, 눈매의 디자인 등이 비슷하게 생긴 다른 캐릭터의 파츠를 빌려다 재현된 것들이 많다. 말하자면 원하는 그림을 뚝딱 만들어준다기 보다는 인공지능에 의해 특정 캐릭터에 '가까워지도록' 변수가 설정되었을 뿐인 랜덤형 키메코나가 양산되는 상태나 다름없는 것. 그나마도 인지도가 있고 인터넷에 이미 그 캐릭터의 일러스트가 수만장이 뿌려진 캐릭터들이니까 이렇게 가깝게라도 재현이 가능한 것이지 지명도가 없거나 원안만 정해져 있는 캐릭터를 순수하게 그 캐릭터의 특징 태그들만들 조합해 재현하는 건 불가능에 가깝다.[40][41][42] AI 일러스트를 사용한 2차 창작물들이 대폭 늘어났지만 그들 대다수가 약속이라도 한 듯이 자기 그림을 '◯◯ cosplay girls' 라고 소개하고 있는 현황[43][44]이 아무리 태그를 잘 짜도 그 위화감을 없애기가 곤란한 현황을 잘 보여준다. 상업에 있어서도 AI를 돌려서 좋은 퀄리티의 일러스트 한 장을 뽑아내기는 쉽지만, 같은 캐릭터의 다른 그림들을 일정한 그림체와 퀄리티로 뽑아내기엔 애로사항이 많다. 예시를 들면 똑같이 라이트 노벨의 표지를 그려도 취미 수준의 인터넷 소설의 일러스트는 보통 표지에 쓸 것 딱 한장만 그려주면 끝이기에 그림 인공지능이 나서기 딱 좋지만, 좀 더 본격적으로 출판될 만한 인기 작품에서는 단행본마다 표지도 다르고 삽화도 다양하며 이들 모두가 일정한 그림체와 퀄리티로 그려질 필요가 있기에 그림 인공지능을 쓰기는 힘들어진다.

사실 아직까지 그림 AI로 일정한 퀄리티 이상의 결과물을 뽑기 위해서는 충분히 검증된 표본만을 참고하도록 입력할 키워드의 범위를 좁혀야 하는데, 이렇게 하면 당연히 다양성이 줄어들게 되며 요구사항을 충족하는 일러스트를 뽑기 힘들어진다. 물론 인간이 그려도 고객의 니즈를 완벽하게 만족시킬수는 없겠지만, 지금의 그림 AI는 조건이 조금만 꼼꼼해져도 '쓸만한' 그림을 뽑을 확률이 현저히 낮아진다[45]. 이렇다보니 태그로 특징을 하나하나 입력해줘야하는 마이너한 캐릭터라면 외모나 복장을 재현하기도 힘든 것이 현실이다. 결론적으로 그럴듯하게 잘 그리는 것까지만 가능할 뿐이지 인간이 원하는 일러스트를 정확히 뽑아내기는 힘든 수준이며 AI가 스스로 생각해서 그리는 것이 아닌 이상 그림 AI가 인간을 완전히 대체하기에는 아직까진 한계가 있다는 것, 결국에는 기술의 발전으로 그림 시장과 일자리는 사라지지 않겠냐며 반문하기도 하겠지만, 설령 AI가 스스로 학습해서 특정 인물의 그림체나 특징을 완벽하게 구현하는 강인공지능이 등장한 시기라면, 그림뿐만 아니라, 다른 곳에서도 인간의 노동력을 이용한 일자리 대신 대체한 강 인공지능이 폭넓게 응용되고 있을 확률이 매우 높을것이다.[46]

나루토, 원피스 등 누구나 알 법한 거장의 만화가들을 보면 각자 자신만의 개성적인 작화가 있듯, 그림을 어느정도 배워서 지식이 쌓인 무명 일러스트레이터들은 십중팔구 자신만의 작화를 손에 넣게 된다. 만약 어떤 일러스트레이터가 피나는 노력과 시간 속에 탄생한 자신만의 작화 수천장을 AI에 때려박아 완벽히 학습시키지 않는 이상, 그 작가의 작화를 AI가 완벽히 흉내낼 가능성은 없다고 봐도 무방하다.[47] AI의 그림은 이미 유명해진 작가들의 일러스트들을 학습하여 그들을 흉내내거나 어레인지하는 수준에 불과하다. 자신의 작화를 미쳤다고 AI에게 꾸준히 제공하지 않는 이상, AI와는 차별화된 자신만의 작화를 탄생시켜 사람들을 놀라게하고 감동시킬 수 있으며, 그렇게 개성있는 작가로 성공하게 되는 것이다. 그림을 시작하려는 입문자들은 AI에 겁먹지 말고 자신만의 작화, 그림체를 찾기 위해 꾸준히 실력을 쌓아가면 그만이며, AI를 적으로 볼 게 아니라 구도, 디테일을 참고할만한 거대한 레퍼런스로 취급한다면 그림 실력 향상에 나름대로의 조력자가 되어 줄 가능성이 있다.

Novel AI의 이미지 제너레이터의 경우 손가락 개수 표현, 인체 표현 오류 등이 존재한다. 이는 인체 혹은 물체를 인지하고 결과물을 도출하는게 아닌 Stable Diffusion 방식 자체의 근본적인 한계점이다. 이를 업그레이드 한다고 단 시간 내에 개선될 문제점은 아니며, 이 방식의 근본적인 해결점은 방식 자체의 알고리즘을 변화해야한다.

또한 AI 산출물은 저작권이 전혀 없으며, 무단으로 복제 전제 혹은 재차 AI를 이용해 산출물을 만들거나, 타인이나 기업이 무단으로 이용해도 법적으로 구제받거나 보호받을 수 없는 것이 현실이다. 이러한 AI 산출물의 권리 보호를 받고싶다면 세계적으로 등장하고 있는 개정안이 발의 되어야하는데, AI와 AI의 산출 방식은 원 저작권자의 권리 보호를 전혀 하지 않고 있기에, 개정이 되더라도 AI 산출물과 AI의 적법 사용에 따른 책임이 뒤따르게 되며, 개정이 된 미래에는 오히려 원저작자의 권리가 더 우선[48]이 된다. 즉, 결국 AI의 상업적 이용에 상당한 제약이 존재할 수 밖에 없다.

AI 찬성 혹은 이용자 측에서는 'AI가 등장하지 않던 시절에도 서로 저작권을 어기면서 게임이나 미디어를 만드는 경우가 많았고 잡을 수 없으며, AI에게 적용하는 것은 맞지 않는다.' 식으로 호도하며 저작권은 필요 없는 논의로 이야기를 한다. 그러나 저작권의 존재 이유는 이들 말처럼 무용지물이 아니라, 침해를 당했을 때 최소한의 법적 권리와 보호를 받을 수 있다는 점에서 기인한다. 괜히 전 세계적으로 거의 공통 사항으로써 해당 법이 집행되고 있는게 아니다. 애초에 필요가 없는 것이었다면 자신들이 만든 AI 산출물은 미래에도 전혀 권리 보호를 받지 못하여 무단으로 이용해도 되는 사실상 무료 공개용 데이터일 뿐이다. 스스로 결과물의 가치를 깎는 안일한 주장이다.

AI 사업가들은 자신이 개발하는 기술의 밝은 전망에 대한 자신감을 과시하기 위해 여러가지 달콤한 발언을 늘어놓고 있지만, 세상에는 좋은 전망에도 불구하고 이런저런 걸림돌과 결점을 해결하지 못하고 실용화가 늦어지고 있는 신기술이 아주 많다. 기대치가 성공을 보장해주지는 않으며 실무의 세계에서 '곧 가능하다'는 '불가능하다'와 다를바 없는 말이다. 마찬가지로 그림 AI의 미래 역시, 상술한 문제점에 대한 해결책을 언제 찾을 수 있느냐에 달려 있다고 할수 있다.

미드저니 등장 이후 해외의 많은 공모전들에서 AI 그림들이 무차별적으로 입수된 것에 대한 해법을 찾는 움직임이 있었다. 그러던 중 노벨 AI 이미지 제너레이터로 인해 벌어진 각종 트롤링 사건들로 아시아권의 공모전에서도 방지 대책이 빠르게 논의되기 시작했으며, 가장 확실한 AI 방지책 중 하나로 그림의 제작 과정을 요구하는 것이 주가 되었다. # 픽시브 공모전 등에서도 AI 그림의 공모전 참여를 제한하며 그림의 제작 과정이 없으면 무효 처리로 하는 등의 해법이 나왔다. 특정 공모전에서는 AI 이용자들이 반발하는 경우 때문에 'AI 그림 참여 제한'이라는 명시는 빠지고, '그림 제작 과정 필수 지참' 등만 남겨놓아서 사실상 AI 이용자들의 편법 공모전 참여가 불가능해졌다.

AI에 들어가는 자원이 인간에 비해 현저히 적다는 사실이 널리 퍼져있다는 것도 문제이다. 물론 시간과 비용이 현저히 적게 든다는 것은 장점이나, 소비자도 그것을 알고 있으며, 이에 인간의 작품보다 훨씬 더 적은 가격으로 AI 컨텐츠를 이용하길 바라는 사람이 적지 않다. 게임 등에 ai 그림을 사용했을 때, 그림업계에 있지 않은 소비자까지도 반발하는 이유이기도 하다. 이는 커피원두의 가격만으로 스타벅스 커피의 가격을 계산하는 심리와 비슷하다. 당연하지만 컨텐츠를 만드는데는 그림만 들어가는 경우는 거의 없고, 부가적인 작업들이 필수적임으로 가격을 낮추는 것에는 한계가 있다. 하지만 그것을 이해해주는 소비자는 없다.

위 문단과 관련하여, AI 그림이 사용되는 것에 대한 대중들의 시선은 상당히 싸늘하다. 이러한 예시는 게임 분야에서는 승리의 여신 니케, 백야극광의 사례를, 만화 분야에서는 랜덤채팅 그녀의 사례를 보면 알 수 있다. 특히 백야극광의 경우, ai 논란이 터진 일러스드레이터는 한명이었음에도 불구하고 다른 작가들까지 해명해야하는 헤프닝이 있었다. 이는 신뢰의 문제이기 때문에, 한번 논란이 터지면 '다른 그림도 혹시?'라는 생각이 들 수 밖에 없기 때문이다. 이러한 시선은 비단 상업적 이용에만 국한되지 않는다. 미술관 전시나 공모전 등에서도 AI에 대한 반응이 극단적으로 엇갈리고 있고, 이로 인해 로스트아크 팬아트 공모전을 포함해 여러 공모전에서 생성 AI를 사용을 금지하는 규정을 내거나 상술한 경우처럼 그림 제작과정을 필수 지참하는 규정을 내세워 AI 그림 제작자들의 참여를 막는 경우가 조금씩 늘어나고 있다. 각 사례의 더 자세한 내용은 그림 인공지능/논란 및 사건 사고의 문서에서 볼 수 있다.

위와 같은 싸늘한 인식 때문에 AI 탑재에 적극적인 클립스튜디오에서도 생성 AI 기능은 탑재계획을 철회했다. 클튜를 이용한 것만으로도 생성 AI를 사용한 것으로 의심받을 수 있다는 피드백 때문이었다. 실제로 타인의 저작물을 학습한 생성 AI를 이용해서 직접 그린 것처럼 사기를 치는 사례가 급증함에 따라, 미소녀 그림체라면 덮어놓고 의심부터 하는 사례도 다수 생겼기에, 직접 그리는 작가의 피로도도 상당히 높아진 상태다.


[1] R. Rombach, A. Blattmann, D. Lorenz, P. Esser and B. Ommer, "High-Resolution Image Synthesis with Latent Diffusion Models", arXiv:2112.10752 \[cs.CV\], 13 Apr 2022. #[2] 역으로 초안을 그린 것을 AI가 완성하는 식으로도 응용할 수 있을 것이라는 의견 또한 있다.[3] 현대 기술력으로 만들어진 AI강인공지능이 아니라, 지속적으로 작가들의 컨텐츠가 추가되어야 성장하는 원시적인 구조라서 인류와의 공생이 필수이다.[4] 학습 데이터 저작권 문제는 해결되어야 할 것이다. 그렇지 않으면 나오는 족족 훔치는 일이 다반사이기 때문에 그림 연구에 아무도 투자하지 않을 것이다. 발명에 특허가 인정되는 이유도 아무도 발명을 하지 않을 것을 방지하기 위함이다. 그림체 자체는 저작권을 부여할 수 없으나, 한 장의 완성된 혹은 완성본 일부의 그림/이미지는 저작권이 부여된다. 모든 그림 AI의 학습 데이터 방식은 결론적으로 완성본 혹은 일부를 온전히 사용하기 때문(해상도를 작게 하는 등은 결국 일부를 이용한다는 의미와 동일하다. 해상도를 작게하든 안하든 완성본을 이용한 것이기 때문.)에 이 경우 그림/이미지에 대한 정당한 대가 지불이 진행되어야 한다.[5] 그림 인공지능과 다른 영역이지만, 미국에서는 매년 몇 만 톤의 옥수수가 버려진다. 버려질 옥수수들이 시장에 나가게 되면 가격이 폭락한다는 아주 단순한 사실 때문. 수요에 맞게 공급이 이뤄져야 적절한 이윤을 볼 수 있다는 뜻인데, 이런 간단한 경제적 명제는 비단 식량 뿐만 아니라 어느 영역에나 적용된다. 예술 작품이 인공지능을 통해 공장제로 쏟아진다면, 상품으로서의 가치가 적용될 것이고 결국 똑같은 현상이 발생할 것이다.[6] 김락희 작가는 10월 10일 방송에서 "(그림에 대한)원동력이 사라질 것이다. 그림 대중성은 높아지나 가치와 성취감, 희소성의 증발로 시장은 사라질것"이라는 평가를 남겼으며, 디시인사이드에서는 이제와서 그림으로 먹고 살겠다는 건 히오스 프로게이머가 되겠다고 하는 짓이라는 의견이 많은 이들의 공감을 샀다.[7] 노벨피아등의 웹소설 표지, 삽화[8] 현대에 통용되는 그림 생성 AI는 인간의 기호 요건 자체를 이해하고 분석하는 것이 아니라 특정 그림이 소실되었다고 가정하고 태그나 원본 그림을 통해 어떤 그림이 소실된건지 특정하여 그림을 복원하는 방식으로 그림을 생성한다. 즉 '어떻게 하면 사람들이 더 매료되는 그림'을 그릴까 연구하는 것이 아니라 '어떻게 하면 이 그림을 원래에 가깝게 복원시킬까?'를 고민하는 AI인 것이다. 화제가 되는 인공지능들과 근본부터 다른 강인공지능 AI가 등장하지 않는 한 인공지능이 새로운 예술 트렌드를 개발하는건 불가능하다.[9] 일러스트레이션 외에 디자인 분야와 순수미술은 큰 타격이 없을 가능성이 높지만, 일러스트 시장의 축소만으로도 전체 미술시장이 축소될 것은 자명하다.[10] 보수적인 연구에서조차 귀무가설을 기각할 유의수준을 0.05로 하는 걸 감안하면 0.0003이면 매우 작은 수치다[11] 철학, 심리학, 의학에서 말하는 사고 활동의 정의가 차이가 있다. 대체로 특징을 보면, 철학은 추상적이고, 심리학은 인간중심적이며, 의학은 환원주의 관점에서 해석하려는 경향이 보인다. 그리고 세가지 관점 모두 비교적 신생 기술이고 모델마다 다양성이 어마어마한 ai에게 적용 시키는데는 한계가 있다.[12] 위 이미지는 실제 이미지를 i2i로 반전시켜 출력한 이미지이다.[13] 강조하지만 현대의 모든 인공지능은 '약인공지능' 이라는 점이다.[14] 아직 경험, 감성, 주관적기준, 자아, 의식 같은 학습을 이루는 수많은 요소들이 수학적으로 해명되지 않았다.[15] 당장 지금 남의 그림을 무허가로 가져다가 인공지능에 넣고 자기 그림이 되었다고 좋아하는 사람들은 수백~수만장의 학습용 그림들을 돈 내고 사가라고 하면 아무것도 못한다. 공짜로 하니까 고퀄리티 그림이 나온다고 좋아할 수 있는 것이지 유의미한 결과물을 뽑아내기 위해 못해도 수천만원, 많으면 수억원 지불하고 돌려볼 만한 퀄리티는 아니기 때문.[16] 관련 국민청원이 올라왔으나 홍보는 크게 안된 것으로 보인다. #[17] 학습 찬성 측에서는 학습에 저작권료를 철저히 산정할 시, 비용을 지출할 여력이 있는 대기업만이 유의미한 인공지능 서비스가 가능해지고 프로그램 자체는 가정용 컴퓨터에서도 돌릴 수 있는 오픈소스임에도 플랫폼 독점이 심화될 수 있다는 것을 우려하는 경향이 크다. 실제로 그림 인공지능도 한동안 학습 데이터 저작료 지불 비용을 감당할 수 있는 IT 대기업 위주로 발달해왔고 Stable Diffusion 등장 이후로도 한동안 학습 데이터와 관심의 부족으로 주목 받지 못하다가 NovelAI/이미지 제네레이터의 무단 단보루 크롤링과 해당 체크포인트 파일의 유출 이후에야 폭발적으로 대중화된 바 있다. 사실은 저작권 개념이 저작권 관리 대기업들만 배불린다는 비판은 비단 인공지능 뿐만이 아니라 그 이전부터 간혹 나오던 주장이다. 저작권에 대해 부정적인 의견을 비친 대표적인 단체가 어나니머스다. 이들은 반저작권 운동으로 미국정부 사이트 등을 공격했다가 철창엔딩을 맞았다. 그리고 이에 영향을 받아 해킹과 정보보호에 대한 보호법이 강화되었다. # 이 외에도 유럽에는 해적당이라는 단일쟁점정당이 저작권 규정 약화를 주장하며 원내에 진출한 사례가 몇몇 있다.[18] 일부는 그냥 NovelAI를 사용해서만 판매하는 곳도있었고 리터칭을이용해서 판매하는 곳도있었다.[19] 저작권법 제4절 제1관 제16조 복제권 참조[20] 정상조 교수가 2021년에 출간한 교양서적인 인공지능, 법에게 미래를 묻다에서도 이루다 등을 거론하면서 이 주제를 다루었다. 동 저자의 기술혁신의 기원도 참조. 당 서적에서 정상조 교수는 인공지능 학습을 공정이용의 성립 여부의 맥락에서 접근하고 있으며, 기술혁신의 촉진을 위해 사회적 합의를 할 것을 촉구했다.[21] "유형의 표현 매체에 고정"은 17 USC § 102(a) 의 저작권법 에 따라 저작물에 대한 저작권 보호를 받기 위한 요구 사항 중 하나이다.[22] 저자가 독립적으로 창작한 것 외에도 저작권 보호를 받으려면 저작물이 최소한의 독창성을 보여야한다. Feist Publications v. Rural Telephone Service, 499 US 340 (1991)의 판례에 따르면 미국 대법원은 저작물이 "최소한의 창의성"을 가져야 한다고 판결했다[23] In the case of a literary, dramatic, musical or artistic work which is computer-generated, the author shall be taken to be the person by whom the arrangements necessary for the creation of the work are undertaken.[24] 미국의 싱글 음반 All I Want for Christmas Is You 역시 해당 곡을 작곡한 프로듀서가 이 곡에 머라이어 캐리의 보컬을 제외한 모든 것이 컴퓨터로 생성되었다고 밝힌 바 있음. 미 저작권청과 영국 음반협회에서 이러한 경우 "완성된 곡"에 대한 저작권을 준 바 있음.[25] Copyright, Designs and Patents Act 1988 Section9(3)[26] 영국 법에 영향을 받은 케냐 저작권법(g) 컴퓨터로 생성된 문학, 극, 음악 또는 예술 저작물 또는 컴퓨터 프로그램과 관련하여, 저작물의 창작에 필요한 것을 마련한 사람을 말한다.와 뉴질랜드 저작권법 (a) in the case of a literary, dramatic, musical, or artistic work that is computer-generated, the person by whom the arrangements necessary for the creation of the work are undertaken, 남아프리카공화국, 홍콩, 인도, 아일랜드,등#도 있다[27] 해당 Q&A에는 저작권을 주장하는 데 필요한 "창작적 기여"와 자신의 작품을 학습 데이터로 사용하고 싶지 않은 경우에 대해서도 다루고 있다[28] PDF[29] 법률검토 내용으로는 1. 타인의 이미지나 문장 등의 저작물을 마음대로 수집하여 이용하는 것은 저작권법상 문제 없는가 2. 내가 그린 일러스트를 AI 학습에 사용하는 것은 금지합니다'라고 표명하는 것으로, 실제로 일러스트가 학습에 이용되는 것을 금지할 수 있을까 3. 그림 AI에 의해 자동 생성된 작품에 저작권이 발생하는가에 대해 다루고 있다[30] 해당 블로그 게시글로 "이미지 생성 AI를 이용하여 생성한 AI 제품에 저작권이 발생는가", "해당 AI생성물의 생성·이용행위가 타인의 권리(저작권 등)를 침해하지 않는가",등의 문단이 있으며 예시로 패턴 A~D를 통해 설명하고있다. 이 때 패턴 B~D에 있어서는 타인의 기존 저작물이 이용되고 있기 때문에 저작권 침해의 유무가 문제가 된다고 밝히고 있다.[31] 해당 화풍 기능은 Open AI의 CLIP의 비공개 학습 데이터에서 가져온 것이었고 이를 Laion-2B로 학습된 데이터가 담긴 OpenCLIP으로 변경하여, 기본적인 학습 데이터가 변경되면서 자연스레 다운그레이드 된 것이다.[32] 당장 25컷의 만화를 작붕, 컷간의 일관성을 고려하며 만들다보면 1500장의 이미지를 생성해야하며 이를 선별하고 재배치 하는데만 꼬박 하루라는 시간이 들어간다.[33] 실제로 캡틴 츠바사(2018년 판), 불꽃 소방대, 앙상블 스타즈! 등에 쓰인 CACANi의 경우, 원화(키 애니메이션)을 그리면 원화 사이의 동화 프레임을 자동으로 만들어 준다. 아직 간단한 동작 밖에 만들지 못하지만 그래도 상당히 도움이 된다고 한다.#[34] 여기서 인간의 논리란, 그림에 사용되는 이론적 지식인 인체 해부학, 투시, 구도, 기법, 원근감과 입체감 같은 것을 포함하면서, 동시에 비이론적 지식인 우연성, 색감, 배치, 디자인, 과장, 데프로메, 캐리커쳐 등을 모두 포함한다. 확률을 사용하는 Stable Diffusion과 '맞다, 아니다' 2진 논리를 사용하는 GAN을 비롯 현재 그림 AI는 이런 복잡한 구조의 논리를 인지하며 이미지를 생성하지 않고 있다.[35] 알리바바에서 개발한 Composer의 경우, 학습 전에 이미지를 디자인, 배치, 색감, 구도, 기법과 같은 논리적 요소로 분해한뒤 각 요소에 대한 학습을 통해 이를 우회하려는 중이다.[36] 때문에 초기 그림 AI에 적용된 GAN은 매력적인 그림을 그리는 법이 아니라 AI스럽지 않은 그림을 만드는 법을 학습하도록 되어있으며 결과물이 인간에게 어필하지 못해 물리적 모델링을 기반으로한 디퓨전에 사실상 도태되었다.[37] 물론 튜링 테스트에 이미지 분별 부분을 끼워넣어 자율주행 AI 인식률을 높이듯 판별은 인간에게 맡기는 방식도 가능하지만, 이 경우 자가 학습이 가능한 AI에 비해 학습 속도가 현저히 느릴 수 밖에 없다. 또한 다리가 3개거나, 손가락 모양이 뒤틀리거나 식으로 명백하게 어색한 그림은 빠르게 수동으로 학습에서 제외할 수 있지만, 아래의 예시들에 있는, 직관적으로 빠르게 판단하기 어려운 AI 그림 특유의 사소한 오류들은 그림을 면밀하게 분석하지 않는 이상 인간 판단 하에 모두 잡아낼 수 없고, 이렇게 오류가 있는 그림들을 다시금 반복해서 학습하게 되면 당연히 해당 데이터가 추가될수록 오류율이 오히려 높아지는, 학습을 하는데 오히려 성능이 떨어지는 역설이 일어나게 된다.[38] 스테이블 디퓨전에 컨트롤넷 기능이 등장한 이후 AI 그림의 포즈를 축출하거나 지정하는 것이 수월해지긴 했으나, 3D 애니메이션의 작업방식과 비교하면 3ds Max의 biped나 CAT같은 리깅 도구를 써서 모델을 움직이는 것과 별 다를바가 없다. 단순한 작업을 건너 뛸수 있을 뿐이지 어차피 그걸 움직이는 건 인간이기 때문이다. 그것도 실무에서 호환이되고 결과물이 사용가능할 정도로 나온다는 것을 전제했을때의 얘기다. 다만 단순한 립싱크나 군중씬의 배경 캐릭터들의 동작, 랜더링시 노이즈를 잡아주는 기술 등 노동집약적인 작업을 대체하는 것에 대해서는 디즈니가 오래 전부터 연구하고 있다.[39] 정확히는 '트렌드'의 '많은 사람이 그릴 법한' 미려한 그림체라는 대분류 안에서는 통일성을 가지지만 세세한 그림체나 디자인 면에서 한 사람이 그린 그림처럼 일정한 결과물을 여러 장 뽑기는 매우 어렵다.[40] 예컨대 '분홍색 머리카락을 양갈래로 묶고 화사한 옷을 입은 오리지널 캐릭터가 해변가에 정면으로 서 있는 그림'을 생성하면 좋은 그림 한장이 매우 쉽게 나오겠지만, '아까 그 그림과 동일한 캐릭터가 머리를 포니테일로 바꾸고 상점가에서 소박한 옷을 입고 쇼핑을 하는 옆모습 그림'을 그려달라고 한다면 문제가 단숨에 복잡해진다. 여기에 그림체까지 동일한 작가가 그린 것 처럼 할 필요가 있다면 첫번째와는 달리 그 한 장을 뽑으려고 수백, 많으면 수천 장은 만들어서 그걸 사람 눈으로 비교해야 그럴싸한 결과물이 나온다. 이런 과정을 거쳐도 완전히 동일한 사람이 그린것처럼 보이기는 힘들고 적당히 타협해야 한다.[41] 대신 그림체와 달리 단순한 캐릭터 정도는 구글에서 이런 용도에 특화된 드림부스라는 학습툴을 개발해서 15-30장의 샘플만 있으면 학습이 가능하다는 것이 중론이며, 특히 이미 학습된 AI에 추가적인 개념을 도입하는 것은 훨씬 쉬워, 이미 특정 인물같은 오브젝트는 3-5장이면 학습이 가능하다는 것을 해당 프로그램으로 입증했고 이를 통해 AI관련지식이 없어 최적의 학습 데이터를 마련하기 힘든 일반인들도 10장내외로 학습에 성공했다는 인증이 많다. 하지만 이는 이미 천문학적인 숫자의 저작물을 학습한 ai에 적은 숫자의 저작물을 추가로 학습시켜 미세조정하는 원리로, 근본적인 해결책은 아니다. 또, 이런식으로 미세조정이 들어간 ai는 사용범위가 더욱 한정되어버리는 한계가 생긴다.[42] 실제로 그림체를 유지하는 것 자체에만 집중하면 일정한 그림체로 일러스트를 많이 뽑아낼 수 있으며, AI에게 그림체와 대략적인 컨셉만 지켜달라고 한 후에 아예 CG집을 만들어 파는 사람들도 많이 생겨났다. 그러나 전문적인 상업용 그림으로 갈수록 캐릭터의 자세, 구도, 원하는 분위기, 배경이나 소품의 배치 등을 세세하게 지정하기 때문에 AI 그림만으로 오더를 받기는 힘들어진다. 디퓨전 원리의 AI 그림이라는게 AI가 다른 그림들을 짜집기해서 무더기로 쏟아놓은 그림더미들 중에서 쓸모있는 것을 건져내는 작업이고 원리상 AI는 자기 데이터셋 안에 있는 그림들에 없는 요소는 결코 창조할 수 없기 때문에 정말 별거 아닌 요구 하나만 끼어들어도 원래부터 리터칭 능력이 뛰어난 사람이 아니고서야 할 수 있는게 거의 없다.[43] 그림 인공지능만으로 캐릭터의 코스튬과 헤어를 재현하는게 쉽지 않다보니, 대체적으로 '◯◯가 성장한/어려진 그림', '◯◯가 다른 복장을 입은 그림' 등등 원래부터 머리스타일도 복장도 바꾼 그림이라는 사족을 붙여 그 캐릭터라고 우기는 것들이 많다. 이런 문제점은 실력있는 사람이 리터칭을 하면 해결되나 아이러니하게도 리터칭할 실력이 있는 사람들은그림 인공지능에게 호의적이지 않고 AI생성 태그에는 대부분 그림을 쉽게 얻는게 목적이지 별다른 기술이 없는 사람들만 남아있다 보니 이런 약점이 해소된 AI그림들이 많지 않다.[44] 이런 경향 때문에 원래부터 캐릭터에게 다양한 코스튬을 입히는 그림을 그리는 사람들이 AI로 오인받는 등 괜한 피해를 받기도 한다.[45] 예를들어 퀄리티 상승을 위해 흔히 붙이는 masterpiece를 쓰고 날아차기(jumping, kicking)같은 역동적인 포즈를 주문한 다음에 검은 자켓, 하얀 셔츠, 파란 청바지처럼 옷 색깔을 하나하나 지정해주면 갑자기 인삐 빈도가 굉장히 늘어나며 일부 태그는 종종 무시되기도 한다. 물론 일반인 커미션 수준에서야 적당히 타협하면 그만이지만 정교한 완제품을 만들어 팔아야하는 기업 입장에서는 중대한 결점이다.[46] 2020년대 기준 강인공지능에 대한 기술 개발은 고작 이론적인 부분에서 멈추고 있으며, 그마저도 제대로 된 방향성과 갈피도 잡지 못하는 판국이다. 그리고 강인공지능은 컴퓨터 연산 능력으로는 구현이 불가능해 양자 컴퓨터 등장이 우선되어야할 것이라는 의견이 존재한다. 양자 컴퓨터조차 연구되고 여러 결과물은 나오고 있지만 사실상 이론상에서 멈춰있다.[47] 일례로 Novel AI Image Generator가 Danbooru의 그림 데이터를 기반으로 구성된 것인 만큼, 이름이 알려진 프로 작가들의 그림이라면 이미 Novel AI의 데이터 내에 학습이 되어 있을 가능성이 높다. AI 그림 커뮤니티 등지에서 행해지는, 특정 유명 작가의 그림을 모아 그림체를 다시 학습시키는 소위 '하이퍼'라는 작업은 이미 기존 데이터 내에 존재하고 있을 해당 작가 그림들의 가중치를 높여, 그 그림들을 기반으로 '복원'된 작품이 나올 가능성을 높이는 것이지, AI가 해당 작가의 그림들을 새로 학습하여 그림을 그리는 것이라고는 보기 힘들다.[48] 국내를 비롯 영국, 일본 등의 개정안에선 적법한 절차로 저작물을 이용해야하며, 특정 혹은 일정 조건 하 진행될 수 있도록 하는 내용이 담겨 있어 사실상 원작자의 권리를 우선으로 두고 있다.

파일:CC-white.svg 이 문서의 내용 중 전체 또는 일부는 그림 인공지능 문서의 r602에서 가져왔습니다. 이전 역사 보러 가기
파일:CC-white.svg 이 문서의 내용 중 전체 또는 일부는 다른 문서에서 가져왔습니다.
[ 펼치기 · 접기 ]



파일:크리에이티브 커먼즈 라이선스__CC.png 이 문서의 내용 중 전체 또는 일부는 2023-12-29 13:49:54에 나무위키 그림 인공지능/논쟁 문서에서 가져왔습니다.