생성형 AI

생성형 AI는 새로운 인공지능 데이터를 생성하도록 설계된 인공지능 모델의 한 종류입니다. 이러한 모델은 텍스트, 이미지, 동영상, 오디오의 패턴과 구조를 식별하도록 가르치는 대규모 데이터 세트로 학습합니다. 학습이 완료되면 모델의 알고리즘은 사용자의 입력에 따라 비슷한 특성을 가진 새로운 데이터를 생성할 수 있습니다. 모델에 따라 자연스러운 문단 형태의 텍스트를 생성하거나, 다양한 예술적 스타일의 이미지를 만들거나, 오디오 샘플을 생성할 수 있습니다.

대규모 언어 모델

생성형 텍스트 모델(대규모 언어 모델이라고도 함)은 사용자의 프롬프트를 바탕으로 텍스트 블록을 생성할 수 있습니다. 출력이 사람이 작성한 것처럼 보일 수 있지만, 생성형 텍스트는 실제로 고급 예측 텍스트의 한 형태입니다. 모델은 한 번에 한 단어씩 생성하며, 학습 자료를 바탕으로 문장 순서에서 다음에 나올 단어를 예측합니다. 충분히 많은 데이터가 주어지면 생성형 언어 모델은 에세이, 노래 가사, 심지어 여러 프로그래밍 언어로 작성된 작동하는 소스 코드도 생성할 수 있습니다.

대규모 언어 모델마다 사용하는 학습 데이터 세트가 다릅니다. 가장 큰 모델은 책, 뉴스 기사, 소셜 미디어 게시물, 연구 논문, 에세이 등 매우 다양한 텍스트를 사용합니다. 생성형 텍스트 모델의 예로는 ChatGPT, Google Bard, Bing Chat이 있습니다.

확산 모델

생성형 이미지 모델은 확산 모델링이라는 방법을 사용해 이미지를 만듭니다. 이러한 모델은 머신 러닝을 사용해 학습합니다. 즉, 사람이 각 이미지의 내용과 예술적 스타일을 설명하는 태그를 붙인 대규모 데이터 세트를 분석합니다. 모델은 학습 중에 이러한 태그를 사용해 이미지 안의 특정 패턴과 구조를 관련 텍스트와 연결합니다.

학습 중 확산 모델은 먼저 이미지에 무작위 노이즈를 천천히 추가하면서 여러 단계에 걸쳐 이미지를 분해합니다. 원본 이미지를 잡음으로 바꾼 후에는 내용 태그를 바탕으로 무작위 노이즈를 대체할 세부 정보를 생성하면서 이미지를 천천히 다시 조립합니다. 모델은 신경망이 변수를 조정해 재현된 이미지가 원본과 비슷해질 때까지 이 과정을 수없이 반복합니다. 학습이 완료되면 모델은 학습한 키워드와 태그를 사용해 사용자의 프롬프트로 완전히 새로운 이미지를 만들 수 있습니다. 생성형 이미지 모델의 예로는 DALL-E, Midjourney, Stable Diffusion이 있습니다.

윤리적 우려

생성형 AI 기술의 급속한 발전에는 몇 가지 윤리적 우려가 따릅니다. 이러한 모델은 방대한 학습 데이터 세트를 필요로 합니다. 언어 모델에는 수십 테라바이트의 텍스트가 필요하고, 확산 모델에는 수억 개의 이미지가 필요합니다. 이러한 학습 세트에는 저작권이 있는 자료가 포함되는 경우가 많으며, 원작자에게 출처를 밝히거나 보상하지 않고 해당 작품을 바탕으로 파생 자료를 만들 수 있습니다. 학습 세트에는 당사자의 동의 없이 사람의 사진이 포함될 수도 있습니다. 마지막으로 생성형 AI의 출력물에 저작권을 인정할 수 있는지, 그리고 그 저작권을 누가 소유하는지는 법적으로 아직 명확하게 정립되지 않은 영역입니다.

생성형 AI 모델의 성능은 학습 데이터 세트가 허용하는 범위만큼만 좋으며, 이러한 세트에 포함된 문제는 모델의 출력에 나타날 수 있습니다. 모델의 학습 데이터 세트에 편향된 언어나 이미지가 포함되어 있으면, 모델이 그러한 편향을 학습해 출력에 포함할 수 있습니다. 생성형 AI 모델의 개발자는 증오 발언을 걸러내는 경우가 많지만, 미묘한 편향은 감지하고 제거하기가 훨씬 어렵습니다. 또한 사실과 다른 정보가 포함된 데이터로 학습한 모델은 그 정보를 그대로 전달해 사용자를 오도할 가능성이 있습니다.