혁신과 콘텐츠 무결성의 균형: 생성형 AI의 역설 - AIFocus

생성형 AI의 부상은 양날의 검과 같습니다. 산업 전반에 걸쳐 전례 없는 창의적 잠재력과 자동화를 약속하는 동시에 콘텐츠 품질, 진정성, 그리고 정보 생태계의 미래에 대한 중요한 질문을 제기합니다. AI 생성 콘텐츠가 확산됨에 따라, 상당 부분 자체가 AI 생성물인 기존 데이터에 대한 의존은 피드백 루프를 형성하여 온라인 정보의 질과 독창성을 희석시킬 가능성이 있습니다. 이러한 역학 관계는 다양한 이해 관계자에 대한 장기적인 영향을 전략적으로 검토하고, AI가 인간의 창의성과 지식을 저해하는 것이 아니라 강화하는 미래를 보장하기 위한 강력한 솔루션을 개발해야 함을 시사합니다.

글 한눈에 보기

생성형 AI는 콘텐츠 품질을 저하시킬 것인가?

생성형 AI의 사용 증가는 생성되는 콘텐츠의 질적 저하로 이어질 것입니다. 왜냐하면 이러한 생성 콘텐츠는 점점 더 인위적이고 일반적인 데이터에 기반하게 될 것이기 때문입니다.

예를 들어, 자동으로 생성되는 새로운 이미지는 사람(사진작가 등)이 실제로 생성한 원본 이미지와 기계 생성 이미지를 기반으로 하지만, 후자는 대비나 가장자리와 같은 세부적인 측면에서 전자만큼 훌륭하지 않습니다. 또한 AI 생성 텍스트는 실제 사람이 작성한 독창적인 콘텐츠와 기계가 생성한, 반복적이고 표준적인 텍스트를 기반으로 합니다. 전 세계적으로 생성되는 데이터는 거의 3년마다 두 배로 증가하고 있으므로, 향후 몇 년 동안 인류는 이전보다 더 많은 데이터를 생성하게 될 것입니다. 따라서 인터넷이 AI 생성 콘텐츠로 과부하 되면 해당 콘텐츠는 AI의 결과에 부정적인 영향을 미칠 것입니다.

AI 생성 모델은 웹사이트, 큐레이션된 콘텐츠, 포럼, 소셜 미디어 등의 출처에서 가져온 인터넷 데이터를 사용하여 훈련됩니다. 사람들이 그러한 데이터에 반응하거나, 다시 게시하거나, 지지하는 등의 상호 작용은, 해당 콘텐츠의 출처가 독창적이지 않고 AI에 의해 생성되었다는 사실 때문에 신뢰할 수 없는 콘텐츠의 확산을 심화시킬 것입니다. 더욱이 이러한 상호 작용은 향후 훈련 세트에 포함될 것입니다. 이러한 사실들은 앞으로 생성 모델의 결과에 불리한 영향을 미칠 것입니다.

왜 그리고 어떻게 이런 일이 발생할 수 있을까요? 그리고 우리는 무엇을 할 수 있을까요?

예를 들어, AI 생성 모델에 최후의 만찬 이미지를 만들도록 요청한다고 가정해 보겠습니다. AI는 이전에 접했던 고전 화가들의 최후의 만찬 그림을 기반으로 성공적으로 이미지를 생성할 것입니다. 그러나 생성된 이미지의 세부 사항을 자세히 살펴보면, 특히 손, 손가락, 귀, 치아, 눈동자 및/또는 전경의 기타 특정 작은 세부 사항, 때로는 배경에서 불일치를 쉽게 발견할 수 있습니다. 이러한 세부 사항은 숙련된 예술가에게도 표현하기 어렵습니다. 따라서 AI 시스템이 이러한 세부 사항을 생성하기 어렵거나 AI를 사용하여 필터링 또는 생성되어 비현실적인 작은 세부 사항을 포함하는 이미지(사진 또는 그림)에 점점 더 많이 직면하게 된다면, AI는 명백히 비현실적인 세부 사항이 있는 결과물을 생성할 것입니다. 생성 모델은 학습된 과거 입력의 일반화를 기반으로 항상 출력을 제공하려고 합니다. 그러나 이러한 과거 데이터는 지속적으로 불일치로 인해 위태로워집니다. 더 정확히 말하면, 생성 모델은 현실을 묘사하려고 하지만 자체 생성 콘텐츠에서 물려받은 결함을 포함합니다. 이 과정에서 효율적인 콘텐츠와 비효율적인 콘텐츠를 구별하지 못하는 생성 모델의 무능력 때문에, 장기적으로 생성 모델이 자신도 모르게 스스로를 망치게 될 것입니다.

생성형 모델에 자신이 생성한 결과를 계속적으로 입력하면 어떻게 될까요? 생성 모델은 창의적인 추론 능력이나 새로운 행동이 부족한 통계적 모델입니다. 또한 생성 모델은 감정이 없고, 중립적이며, 혼란도가 낮고, 지루한 콘텐츠를 생성하는 것으로 알려져 있습니다. AI 시스템의 출력을 입력으로 다시 제공하는 실험을 수행했는데, 여러 번 실행 후 시스템 출력은 횡설수설이 되었습니다. ‘쓰레기가 들어가면 쓰레기가 나온다(GIGO)’라는 격언처럼 모든 컴퓨팅 시스템 출력의 품질은 입력에 따라 달라집니다. 따라서 시스템이 덜 우아한 데이터로 진화하고 학습한다면 덜 우아한 데이터가 생성될 것입니다. 결과적으로 AI 모델에 의한 사소한 생성 콘텐츠의 확산은 곧 더 지루하고, 감정이 없고, 편향된 결과를 만들어내고, 불일치와 비현실적인 세부 사항으로 가득 차게 될 것입니다. 이미 강조했듯이 ANN은 입력에 취약하고 일반화에 ‘완벽’하기 때문에 자체 생성 기능을 통해 제공할 결과물을 부정적으로 변형시키면서 세대에서 세대로(즉, 버전 업데이트 및 교육 과정에서) 불순물을 승인하게 될 것입니다.

누군가는 생성 모델이 법률 시험과 같은 영역에서 뛰어난 결과를 제공하는 데 적합하다고 주장할 수 있지만, 이는 공공 및 민간 영역에서 생성하거나 생성을 지원할 광범위한 지식에 대한 적용 가능성에 비해 영향력이 훨씬 적은 좁은 적용 영역임을 유의해야 합니다. 또한 특정 영역에서 생성 모델의 좁은 적용은 유용할 수 있지만, 여기서는 그러한 모델의 전반적인 영향과 장기적인 미래 노력에서의 자체적인 악화를 다루고 있음을 유의해야 합니다. 이와 관련하여 그러한 데이터 중독(예: 인터넷에 퇴화된 콘텐츠를 퍼뜨리는 행위)을 억제하는 궁극적인 방법은 생성 모델에 대한 인식과 책임감 있는 사용을 통해 이루어져야 합니다. 예를 들어, AI 생성 콘텐츠는 온라인에 게시하기 위해 서두르지 않고 매우 잘 다듬어야 하며, 더 나아가 전문가의 검토 또는 개선을 거쳐야 합니다.

경제 생태계 변화

콘텐츠 품질의 잠재적 저하는 다양한 이해 관계자에게 다른 영향을 미칩니다. 콘텐츠 제작자는 AI 생성 대안과의 경쟁에 직면하여 인간의 창의성이 평가절하될 가능성이 있습니다. 광고주는 저품질 콘텐츠의 노이즈를 뚫고 나가는 데 어려움을 겪을 수 있습니다. 사용자는 잘못된 정보와 동질화된 온라인 경험에 노출될 위험이 있습니다. AI 기업 자체는 모델이 수준 이하의 출력을 생성할 경우 평판 문제에 직면하게 됩니다. 규제 기관은 콘텐츠 출처 및 AI 책임에 대한 프레임워크를 모색하면서 이러한 문제를 해결하기 시작했습니다.

AI 생성 콘텐츠의 확산은 기존 비즈니스 모델을 뒤흔들 수 있습니다. 예를 들어 스톡 사진 플랫폼은 AI 이미지 생성기와의 경쟁에 직면해 있습니다. 큐레이션된 고품질의 인간 생성 콘텐츠에 대한 새로운 시장이 프리미엄 상품으로 등장할 수 있습니다. AI 감사 및 검증 도구에 대한 수요도 증가할 수 있습니다. 장기적인 경제적 영향은 이러한 역학 관계가 어떻게 전개되고 기업과 제작자가 어떤 전략을 채택하는지에 따라 달라질 것입니다.

미래 시나리오 및 전략적 대응

앞으로 몇 가지 시나리오가 예상됩니다. 하나는 AI 생성 콘텐츠의 풍부함이 품질을 떨어뜨리고 온라인 정보에 대한 신뢰를 약화시키는 ‘바닥으로의 경쟁’입니다. 또 다른 시나리오는 콘텐츠 환경의 ‘양분화’를 포함하며, 고품질의 인간 검증 콘텐츠는 프리미엄을 요구하는 반면 AI 생성 콘텐츠는 덜 까다로운 애플리케이션을 위한 틈새시장을 채웁니다. 세 번째 시나리오는 현재 모델의 한계를 극복하는 진정한 창의성과 독창성을 갖춘 정교한 AI 시스템의 개발을 예상합니다. 전략적 대응에는 AI 리터러시 투자, 강력한 콘텐츠 검증 도구 개발, 책임감 있는 AI 개발 및 배포를 촉진하는 규제 환경 조성이 포함됩니다. 저자가 제안했듯이 디지털 정보 생태계의 자멸적 저하를 방지하기 위해서는 생성형 AI의 의식적이고 윤리적인 적용이 중요합니다.

참고

Mario Antoine Aoun, How Generative Models Are Ruining Themselves, Communications of The ACM