딥페이크 AI 기술의 발전과 윤리적 문제, 긍정적인 면, 부정적인 면, 기술적 사회적 혁신에 대한 생각

안녕하세요 AI 인사이트 입니다. 

오늘은 제 AI 인사이트 채널 구독자 대학생 한분이 아래 영상을 보시고  아래 내용에 관해 인터뷰를 요청하셔서 답변한 내용 블로그에 올려 봅니다. 

https://youtu.be/GbqraJtLjaY

 

1. 채널 소개란을 통해 Chat GPT의 등장에 감명 받아 채널을 만드신 것을 확인할 수 있었습니다. 그렇다면 혹시 AI에 언제부터 관심을 갖기 시작하셨는지, 특히 딥페이크 기술의 경우 언제부터 알게 되셨고, 사용하게 되셨는지 궁금합니다.

 

Ø  AI 인사이트 답변 :

AI에 관심을 가지게 된건 채널 개설한 올해 2월 부터 입니다. 

chatGPT를 처음 경험 후 느낀 두 근거림과 설레임을 여러분과 공유하고자 AI인사이트 채널을 만들었습니다.

AI 관련 기술에 관심을 가지다 보니 자연스럽게 딥페이크 기술에도 관심을 가지게 되었고 딥페이크 관련 프로그램 사용은 23년 4월 8일 업로드한 mivo 앱을 처음 사용해 봤습니다. 관련 영상은 링크 참고하세요 ^^ https://youtu.be/GbqraJtLjaY

2. 현재 딥페이크가 어느 정도 발전했다고 생각하시는지 (기술력과 관련), 그리고 딥페이크 기술이 앞으로 나아가야 할 방향이 어떻게 된다고 생각하시는지 궁금합니다.

 

Ø  AI 인사이트 답변 :

월간 SW중심사회 22년 7월호에 실린 내용을 보면 미국 UC버클리대와 영국 랭커스터대 공동연구팀은 실제 얼굴과 AI가 합성한 얼굴을 구별하는 실험을 통하여, 사람들이 AI가 합성한 가짜를 구별하지 못하며 오히려 가짜를 더 신뢰한다는 결과를 도출했다고 합니다. 기술 수준은 이미 1년전부터 사람이 구별하지 못하는 영역을 넘어선 것 같습니다. 쉬운 예로 칼처럼 좋은 쪽으로 사용하면 인류 발전에 긍정적인 영향을 미치지 않을까요?

딥페이크 기술은 엔터테인먼트 산업에서 혁신적인 콘텐츠 생성을 가능하게 합니다. 예를 들어, 배우나 가수 등의 디지털 형상을 사용하여 새로운 영화나 음악을 만들거나, 과거의 역사적 인물을 현대에 부활시키는 등의 다양한 창작물이 가능해질 수 있습니다. 이를 통해 새로운 창작 활동과 시장이 형성될 수 있습니다.

 

3. 사람의 얼굴을 바꾼 콘텐츠를 제작할 수 있는 기술인 만큼 딥페이크는 각종 저작권, 성 착취 등 다양한 윤리적인 문제를 야기할 위험성을 지니고 있습니다. 이에 대해 어떻게 생각하시는지, 그리고 앞으로 딥페이크의 발전을 위해 딥페이크의 윤리성과 관련한 법률이 필요하다고 생각하시는지 궁금합니다.

 

Ø  AI 인사이트 답변 :

딥페이크 기술은 실제로 저작권, 개인 명예훼손 등 다양한 윤리적인 문제를 야기하고 악의적으로 오용될 가능성이 많습니다.

그러나 현재 Stable Diffusion, 미드저니 등 AI그림생성 프로그램으로 AI 인물사진을 생성 할 수 있습니다.

만약 이렇게 생성한 얼굴 사진으로 딥페이크 기술을 이용하여 합성을 한다면 개인 명예훼손 문제는 사라지며 새로운 수많은 AI모델이 생성이 가능합니다. 실제 제 유튜브 Shorts 영상 보시면 mivo 앱을 사용하여 수많은 AI 모델을 생성하였습니다. (본 링크 참고https://youtube.com/shorts/n4ZP0_hhbuM?feature=share)

AI 기술이 발전 함에 따라 위 예시처럼 긍정적인 방향으로 사용할 기회도 점점 많아질 것입니다.

 

그러나 이러한 기술을 오용하는 문제는 해결해야 합니다. 그러기 위해서는 기술의 발전, 사용자 교육을 통한 인식개선, 법률적인 안전장치가 필요하다고 생각합니다.

그러나 그러한 법률을 만드는 것은 표현의 자유와 혁신을 억누르지 않으면서 윤리적 문제를 해결해야 할 필요성의 균형을 유지해야 하는 복잡한 작업입니다. 딥페이크와 관련된 잠재적 피해를 적절하게 해결하는 법안을 개발하기 위해서는 입법자, 기술 전문가, 윤리학자 및 기타 이해관계자 간의 다양한 논의를 통해 충분히 심사 숙고하여 제정해야 할 것입니다.

 

4. 앞서 위험 요소들을 언급했지만, 그럼에도 딥페이크가 가져올 기술적, 사회적 혁신과 가치엔 어떤 것이 있다고 생각하십니까?

 

Ø  AI 인사이트 답변 :

현재 수많은 AI 프로그램이 등장함에 따라 앞으로의 인간의 생산성은 이 프로그램을 얼마나 잘 활용하느냐에 따라 개인의 생산성에 많은 차이가 날 것이라고 생각합니다.

대표선수가 chatGPT죠. 저도 회사원이지만 실제로 기획업무에 잘 활용하고 있습니다.

“ 자 그럼 chatGPT 에게 위에서 질문하신 “딥페이크가 가져올 기술적, 사회적 혁신과 가치엔 어떤 것이 있다고 생각하십니까?” 를 물어볼께요 ^^

 

1) 창작자의 자유와 표현의 다양성: 딥페이크 기술은 창작자에게 큰 자유를 제공합니다. 예를 들어, 배우나 모델은 자신의 얼굴을 사용하지 않고도 광고나 영화에서 대체 인물로 출연할 수 있습니다. 이는 실제로는 기회가 제한되었던 다양한 배우들에게 역할과 홍보 기회를 제공하여 창작의 다양성을 증진시킬 수 있습니다.

 

2) 디지털 문화와 인터랙티브한 경험: 딥페이크는 디지털 문화와 인터랙티브한 경험에 새로운 가능성을 제공합니다. 예를 들어, 가상 현실(VR)이나 증강 현실(AR) 기술과 결합하여 사용자가 가상 세계에서 실제 인물과 상호작용하는 경험을 제공할 수 있습니다. 이는 게임, 온라인 커뮤니티, 예술 창작 등 다양한 분야에서 창의적이고 흥미로운 경험을 가능하게 합니다.

 

3) 예술과 엔터테인먼트 혁신: 딥페이크는 영화, TV 프로그램 및 음악 비디오 등 예술과 엔터테인먼트 산업에 혁신을 가져올 수 있습니다. 이 기술을 사용하면 과거의 배우나 가수들을 다시 현대에 부활시키거나, 실제 배우나 가수가 아닌 사람들을 특정 작품에 등장시킬 수 있습니다. 이를 통해 창작자들은 더욱 창의적이고 시각적으로 흥미로운 작품을 만들 수 있습니다.

 

4) 교육 및 훈련: 딥페이크는 교육 및 훈련 분야에서 혁신적인 역할을 할 수 있습니다. 예를 들어, 학생들은 유명한 강연자나 역사적 인물의 얼굴과 목소리를 사용하여 가상의 강의를 듣거나 상호작용할 수 있습니다. 이는 비즈니스 분야에서도 적용될 수 있으며, 실제인과 가상인 간의 상호작용을 통해 효과적인 리더십 스킬 훈련 등에 도움이 될 수 있습니다.

 

5) 의료 진단 및 치료: 딥페이크는 의료 분야에서의 진단 및 치료에 혁신을 가져올 수 있습니다. 예를 들어, 환자의 얼굴 및 음성 데이터를 사용하여 알고리즘이 그들의 건강 상태를 분석하고 질병을 조기에 탐지하는 데 도움을 줄 수 있습니다. 또한 환자들은 가상 의사나 간호사와 상호작용하여 심리적인 지원이나 훈련을 받을 수도 있습니다.

 

6) 문화유산 보존과 재현: 딥페이크는 과거의 문화유산을 보존하고 재현하는 데에도 활용될 수 있습니다. 예를 들어, 고대의 유명 인물이나 역사적 인물들의 얼굴과 목소리를 딥페이크 기술을 통해 재현하여 현대 사람들에게 그들의 역사적 중요성을 보여줄 수 있습니다.

이제 이런 종류의 질문은 chatGPT 에 맡기시고 세은님은 좀더 창의적인 일에 집중하시면 됩니다. 이게 바로 AI의 혁신이죠 ^^

 5. 마지막으로, 앞으로의 딥페이크 및 인공지능 산업에 바라는 것이 있다면 무엇입니까?

 

Ø  AI 인사이트 답변 :

저는 인공지능 산업에 바라기 보다는 이 글을 읽으시는 독자 분들께 한 말씀드리고 싶습니다.

우선 아직까지 chatGPT 를 경험해보지 못한 독자분들은 지금 당장 사용해 보시라고 말씀 드리고 싶습니다.

물론 아직까지는 과거 특정일 기준으로 학습하는 등 부족한 부분도 있지만긍정적이고 열린 마음으로 일단 시작해 보십시요.

좀더 많은 사람들이 AI 기술에 관심을 가지고 chatGPT, Stable Diffusion, 미드저니 프로그램 등 AI 가 더 빠르게 잘 할 수 있는 일은 AI 프로그램에 맡기고 본인은 좀더 창의적이고 혁신적인 일을 하는데 집중 하셨으면 좋겠습니다. 

그러면 본인의 생산성은 아마 AI를 전혀 모르는 사람과 최소 2배이상 차이가 날것입니다. ^^

 

끝으로 AI 인사이트 채널에 놀러 오시면 chatGPT, 미드저니, Stable Diffusion, 딥페이크 기술등 최신 AI 관련 소식을 접할 수 있으니 많은 관심 부탁 드립니다. ^^

https://www.youtube.com/@aiworldinsight

AI 인사이트