최근 인공지능(AI)으로 만들어진 도널드 트럼프 미 전 대통령의 체포 사진이 뉴스 1면을 장식하는 등, 인공지능의 부작용이 제기되는 가운데 라이던 데니슨 박사가 AI의 진짜 문제는 우리의 죄라고 주장했다. 데니슨 포럼에 게재된 그의 기고문을 번역, 소개한다.<편집자>
최근 도널드 트럼프의 체포 임박 소식이 헤드라인을 장식했지만, 이 글을 쓰는 현재 트럼프 전 대통령은 여전히 자유의 몸이다. 하지만 이미 트럼프가 바닥에 내동댕이쳐지고 경찰에 의해 끌려가는 사진을 본 수백만 명의 사람들에게는 이러한 현실이 놀랍게 느껴질 수도 있다.
소셜 미디어에 퍼진 이 “딥페이크” 사진은 오픈소스 탐사보도 매체 벨링캣의 설립자 엘리엇 히긴스의 제안에 따라 AI 아트 생성기가 만든 것으로 밝혀졌다.
히긴스는 “그냥 장난삼아 올린 글이었다. 5명 정도는 리트윗할 것으로 생각했다.”라고 말했다. 다른 플랫폼에서 이미지를 공유한 사람들을 모두 포함하지 않고도 550만 건 이상의 조회수를 기록한 이 사진은 히긴스의 당초 예상을 뛰어넘는 성과를 거두었다고 해도 과언이 아니다. 원래 게시물에는 “트럼프 체포 대기 중 트럼프 체포 사진 만들기”라는 캡션이 포함되어 있어 이미지가 가짜임을 분명히 했지만, 사진이 퍼지면서 이 캡션은 사라졌다.
마크 워너 상원의원(민주당-버지니아주)은 “이러한 기능이 따라잡기까지 몇 년이 걸렸지만, 이제 이러한 도구가 널리 사용되고 믿을 수 없을 정도로 성능이 뛰어난 시점에 도달했다”라고 말했다.
또한 인공지능은 더 자주 시도할수록 인물을 더 잘 묘사할 수 있기 때문에 예술의 초점이 되는 인물이 유명할수록 이미지가 더 사실적으로 표현된다.
인권 단체인 위트니스(Witness)의 전무이사 샘 그레고리는 재미로 만든 진짜처럼 보이는 가짜 이미지가 더 이상 걱정거리가 되지 않는 시대가 빠르게 다가오고 있다고 경고한다: “가짜이지만 진짜처럼 보이는 이미지를 대량으로 제작할 수 있는 능력이 크게 발전했다. 그리고 이것이 어떻게 속이려는 의도를 가지고 조직적인 방식으로 사용될 수 있는지 쉽게 알 수 있다…. 특정 사건이 일어났다고 사람들을 설득하는 것이 목적이 아니라, 아무것도 믿을 수 없다는 생각을 확산시키고 모든 이미지에 대한 불신을 심는 것이 목적일 수 있다.”
하지만 이러한 결과가 현실이 된다면 이는 인공지능의 잘못이 아니라 인공지능을 사용하는 사람들의 잘못일 것이다. 그리고 이러한 결정이 이미 어떻게 잠재적으로 파괴적인 결과를 낳고 있는지 멀리 볼 필요도 없다.
총 장전까지 10분
EKO 그룹의 최근 연구에서 연구원들은 9개의 새로운 틱톡 계정(PDF)을 만들었는데, 각 계정 소유자의 생일을 13세로 설정하여 사용자가 이 서비스에서 계정을 만들 수 있는 최연소 연령을 설정했다. 연구진의 목표는 어린이가 자살, 인셀 및 ‘마노스피어’, 마약과 관련된 노골적인 동영상을 얼마나 쉽게 찾을 수 있는지 확인하는 것이었다.
각 주제에 집중하기 위해 계정을 설정한 후, 해당 주제 중 하나와 관련된 동영상 10개를 좋아요를 누르고 북마크에 추가했지만 공유하거나 댓글을 달지는 않았다. 이 샘플은 틱톡의 알고리즘이 검색과 관련된 점점 더 노골적인 콘텐츠를 홍보하는 동영상으로 For You 페이지를 넘치게 만들기에 충분한 것으로 나타났다.
특히 자살에 대한 결과는 충격적이었다.
연구진에 따르면, “총을 장전하고 자살을 암시하는 문구와 함께 이에 동의하는 수백 개의 댓글과 자해 또는 자살을 시도할 정확한 날짜가 적힌 동영상이 추천되기 시작하는 데는 10분밖에 걸리지 않았다. 자살을 노골적으로 부추기는 동영상 외에도 틱톡의 For You 페이지는 낙담하고 절망적인 댓글을 다는 콘텐츠를 홍보하는 동영상으로 가득했다.”
이 연구의 저자는 “이러한 동영상을 따로 떼어내어 보는 것은 우려를 불러일으키지 않을 수 있다…. [하지만] 알고리즘이 플랫폼에 계속 머물게 하기 위해 연구자를 쫓아다니며 콘텐츠를 제공하는 것 같은 상황과 이럴 때 틱톡의 알고리즘이 제공하는 콘텐츠는 압도적으로 우울하고 허무주의적이며 절망적이었다”라고 경고했다. 이어서 그들은 “틱톡의 직원들조차도 자해를 포함한 우울한 콘텐츠에 대한 앱의 강요로 인해 불안해했다”라고 설명한다.
그리고 이러한 문제는 틱톡에만 국한되지 않는다. 대부분의 소셜 미디어 플랫폼에는 사용자가 관심을 보이는 모든 영역에서 점점 더 매력적인 콘텐츠를 홍보하도록 설계된 AI 기반 알고리즘이 있다.
AI의 진정한 문제
EKO 설문조사 결과나 도널드 트럼프 체포 가짜 이미지로 인한 혼란을 보고 기술이 문제라고 결론 내리기 쉽다.
하지만 인공지능이 본질적으로 악한 것은 아니라는 점을 기억해야 한다. 재미있는 동물 동영상, 요리 팁, 스포츠 하이라이트를 찾는다면 행복과 웃음을 주는 콘텐츠로 피드를 채울 수 있다. 그러나 불순한 목적을 가지고 인공지능을 이용하면 이러한 의도가 쉽게 악화될 수 있다. 그리고 이러한 어두운 의도는 인류가 에덴동산을 떠날 때부터 존재해 왔다.
궁극적으로 인공지능의 문제는 인간의 악한 충동을 훨씬 더 쉽게 충족시킬 수 있다는 점이다. 그리고 우리가 거의 알아차리지 못할 정도로 미묘한 방식으로 그렇게 할 수 있다. 하지만 다시 말하지만, 근본적인 문제는 언제나 우리의 죄이다.
우리는 틱톡이나 다른 형태의 소셜 미디어에 분노할 수 있다. 이러한 분노가 결코 부당한 것은 아니지만, 내일 당장 사라지더라도 우리는 같은 욕구를 충족시킬 수 있는 새로운 수단을 만들어낼 것이다.
결국 사람들에게는 예수님이 필요하다. 진부하거나 설교처럼 들릴지 모르지만 이것은 사실이다.
따라서 소셜 미디어와 그 알고리즘에 내장된 인공 지능이 가진 힘을 염두에 두되, 소셜 미디어가 내 삶에 미치는 영향에 대한 궁극적인 책임은 나에게 있다는 사실을 잊지 말라. 그리고 그 영향력을 평가할 때 반드시 하나님을 대화에 포함시켜야 한다는 것을 잊지 말라.
그분만이 이러한 문제의 중심에 있는 죄에서 우리를 영원토록 그리고 현재 이 순간에도 구원하실 수 있는 유일한 분이다. [복음기도신문]
<저작권자 ⓒ 내 손안의 하나님 나라, 진리로 세계를 열어주는 복음기도신문.> 제보 및 문의:
