Google Pixel 8의 AI가 현실과 판타지 사이의 경계를 흐릿하게 합니다.

Google Pixel 8의 인공지능이 현실과 판타지 사이의 구분선을 모호하게 만듭니다.

이탈리아의 비스타하는 피사의 사나운 탑이나 비슷한 관광 명소를 가본 적이 있다면, 아마도 그 대표적인 ‘탑을 받치는 사진’을 찍어보려고 한 적이 있을 것입니다. 정확한 각도와 거리로 자신을 배치해야만 성공할 수 있는 난해한 샷입니다. 그리고 완벽한 사진을 찍기까지 여러 차례 시도해야 할 수도 있습니다.

구글 덕분에 이런 (1세계) 역경을 더 이상 겪을 필요가 없을 수도 있습니다. 아마도 한 장의 사진만 있으면 충분한데요, 기술 기업인 구글이 ‘매직 에디터(Magic Editor)’라는 AI 기반 도구를 구글 포토를 통해 Pixel 8 및 Pixel 8 Pro에서 사용할 수 있도록 제공하기 시작했습니다.

매직 에디터는 generative AI와 AI 처리 기술을 사용하여 전문적 기술의 필요 없이 사람들이 복잡한 사진 편집을 쉽게 할 수 있도록 도와줍니다. 이는 사진의 밝기와 채도 조절 이상의 역할을 합니다. 피사의 사나운 탑 사진의 경우, 자신의 위치를 바꾸거나 탑을 확대하거나 배경의 타인을 제거하거나 심지어는 배경을 채울 수도 있습니다.

하지만 거기서 멈출 이유가 뭐죠? 구글은 하늘의 색깔도 바꿀 수 있다고 합니다.

“당신이 인기 있는 폭포에서 완벽한 사진을 얻기 위해 가방 끈을 제거하려고 한다면,” 구글의 최고 경영자인 선다르 피차이는 5월에 열린 구글의 개발자 컨퍼런스에서 이러한 기능을 처음으로 공개했습니다. “하늘이 더 밝고 구름이 적도록 설정할 수 있으며,” 그리고 “마무리로 대상의 위치를 바꾸고 크기도 조정하여 폭포 아래에 완벽하게 위치시킬 수도 있습니다.”

피차이에 따르면, 매달 구글 포토에서 17억 개의 이미지가 편집된다고 합니다. 사람들이 어떤 사진이든 빠르게 편집할 수 있는 AI 기반 에디터를 출시하는 것은 당연한 진화와 교묘한 마케팅 캠페인의 일환으로서 필연적으로 이뤄질 일입니다.

“소비자의 입장에서 나는 이런 새로운 도구에 정말 흥분합니다. 특히 나는 자녀의 사진을 찍을 때 자식들이 움직이려 하면서 카메라 앞에 정지해 있는 것을 어려워합니다.” 미국 버지니아 대학교 Darden 경영 대학의 경제학 교수이자 옥스포드 인공지능 거버넌스 센터(Oxford Center for the Governance of AI)의 연구원인 안톤 코리넥(John Doe)은 말합니다.

매직 에디터는 의심할 바 없이 흥미로운 사진 편집 가능성을 열어줄 것입니다. 하지만 이는 온라인 이미지의 진실성과 신뢰성에 대한 의문을 제기하기도 합니다. 구글의 새로운 픽셀 폰은 AI의 약속과 주의 사항을 강조합니다. 한편으로는 사람들이 디지털 미디어를 통해 창의적이고 편리하게 스스로 표현하는 데 새로운 방법을 제공합니다. 그러나 다른 한편으로는 사람들이 온라인에서 자신들의 이상적인 모습을 선보이는 것과 같은 사회적인 의미를 불러일으킬 수 있습니다. 더욱이, AI가 쉽게 변형시킬 수 있는 온라인 콘텐츠에 사람들의 (이미 거칠어진) 신뢰를 심각하게 위협할 수도 있습니다.

누군가가 매직 에디터를 사용하여 자신의 전문적인 사진을 다른 사람들을 속이는 방식으로 가공한다면 어떨까요? 누군가가 가짜 뉴스나 선동 자료를 만드는 데 사용한다면 어떨까요? 누군가가 자신의 기억이나 역사를 삭제하거나 왜곡하는 데 사용한다면 어떨까요? 우리가 소셜 미디어에서 보는 콘텐츠를 AI가 쉽게 수정할 수 있다면, 우리는 어떻게 믿을 수 있을까요?

사진을 수정할 수 있는 포토샵이나 FaceTune과 같은 앱을 다운로드하여 이미 수정된 것은 비밀이 아닙니다. 그 일은 예전부터 이뤄져왔으며 그에 따른 결과를 가져왔습니다. 그러나 매직 에디터는 예전에는 예를 들어 포토샵에서 몇 시간 동안 걸리던 편집 작업을 매우 간편하게 만드는 것입니다. 요즘에는 사람들이 사람을 크기 조정하려면 핀치(pinch) 하면 되거나, 다시 배치하려면 탭한 후 드래그만 하면 됩니다.-

Pixel 8 AI: 마법 편집기와 그 이상

공정하게 말하자면, 마법 편집기의 기능은 현재 Pixel 8 시리즈에서는 제한되어 있습니다. ENBLE 편집장인 Patrick Holland은 자사의 Pixel 8 리뷰를 위해 이 편집 도구를 몇 장의 사진에 테스트해 보았습니다. 한 장의 사진에서는 대형 바위를 땅에서 제거한 후에도, 지상의 바닥재를 인조 잔디에서 벽돌로 변경하는 등을 Google 포토를 통해 몇 초 이내에 모두 해냈습니다.

그러나 대부분의 마법 편집기로 생성된 사진에는 결함이 있으며, 현재 이 도구는 Pixel 8에서 Google이 선보인 다른 도구들보다는 실험적인 단계에 있다고 결론을 내렸습니다.

“일반적으로 마법 편집기를 적용한 사진과 편집되지 않은 사진의 차이를 구별할 수 있습니다.” Holland은 리뷰에서 썼습니다. “AI가 배경을 채우기 위해 시도하는 방식은 보통 뭔가 이상하게 보이는 결과를 가져옵니다.”

Google 역시 이를 인정했습니다. “우리는 결과가 예상과 다를 수 있는 경우가 있다는 것을 알고 있습니다,” Shimrit Ben-Yair은 Google 포토와 Google One의 부사장으로 말했습니다. “당신의 피드백은 최상의 편집을 얻을 수 있도록 개선하는 데 중요한 역할을 할 것입니다.”

아직까지는 Google이 마법 편집기에 워터마크를 사용할 계획이 있는 것으로 알려진 바는 없습니다. 대신, 사람들은 AI로 편집된 이미지인지 확인하기 위해 더 많은 조사를 해야합니다.

가짜 콘텐츠의 표준화

가짜 사진과 잘못된 정보는 이미 여러 소셜 미디어 플랫폼에서 만연한 문제입니다. 최근 몇 년 동안 Facebook, Twitter 및 TikTok은 각각의 사이트에서 오도독거리거나 잘못된 정보의 확산을 허용한 점에 대해 비판을 받았으며, 특히 COVID-19 팬데믹, 2020년 미국 대통령 선거 및 현재 이스라엘과 하마스의 전쟁 중입니다. 이러한 플랫폼 중 일부는 해당 콘텐츠를 라벨링하거나 제거하기 위해 조치를 취했습니다. 그러나 사용자 및 의원들로부터 선정적이거나 편향적인 검열을 비난받기도 했습니다.

“공공 정책적인 관점에서 악의적인 주체들에 의해 진실이 아닌 정보가 더 쉽게 생산될 수 있을 것이라는 사실은 분명합니다,” Korinek은 말했습니다. “아직 기술적인 세부사항은 알지 못하지만, Google이 편집된 이미지에 워터마크를 추가해서 가짜와 진실을 더 쉽게 확인할 수 있도록 할 것을 희망합니다.”

아직 Google은 마법 편집기에 워터마크를 사용할 계획이 없다고 밝힌 바는 없습니다. 그 대신 사람들은 AI로 편집된 이미지인지 판단하기 위해 더 많은 조사를 해야합니다.

“마법 편집기로 편집된 사진은 이미지 파일에 포함된 메타데이터를 포함하며, AI를 사용하여 사진이 편집되었음을 나타냅니다,” Google 대변인인 Friida Turku는 ENBLE에 말했습니다.

마법 편집기가 대통령 선거 기간과 같은 대규모의 잘못된 정보 홍보 캠페인의 중심이 될 것을 기대하고 있나요? 아마도 아닐 것입니다.

하지만 Google은 원본 사진과 완전히 다른 이미지를 만들어낼 만큼 강력한 내장형 편집 도구를 통해 인증되지 않은 콘텐츠의 인터넷 상에서의 보급을 이끌고 있습니다. Google은 우리에게 현실을 “완벽하게” 만들기 위한 도구뿐만 아니라 이러한 실천을 정상화시키고 있습니다. 갑자기 우리는 모든 사진이 몇 초 내에 수정되거나 조작될 수 있는 세상에서 살고 있는데요 – 그래서 그렇게 되지 않았으면 좋겠습니다. 심지어 사피아 피사의 기울어진 탑을 들어 올리고 있는 내 사진조차 제 생각을 바꾸지 못할 것입니다.”

• google