🤖 Meta AI가 AI를 사용하여 만든 이미지 레이블을 활용하여 잘못된 정보에 대처합니다.

생성인공지능 시대에서 보이는 것의 불신불안함을 고려하여, 메타는 이 문제에 대처하기 위한 조치를 취하고 있습니다. 여기에서 기대할 수 있는 것들입니다.

메타, 이전에 알려진 것 처럼 페이스북, 인스타그램 및 쓰레드에 인공지능 라벨을 도입할 것입니다.

🔍 가짜 사진 발견: 메타 AI의 솔루션

생성적 AI 시대에는 사람들에 의해 생성된 이미지와 AI에 의해 생성된 이미지를 구분하기가 점점 어려워지고 있습니다. 이 문제는 잘못된 정보와 더 명확한 라벨링의 필요성에 대한 우려로 이어져왔습니다. 소셜미디어 거물인 페이스북과 인스타그램의 모회사인 메타는 이 문제를 해결하기 위해 플랫폼 전체에 걸쳐 AI에 의해 생성된 이미지에 라벨을 부여하는 새로운 계획을 발표했습니다.

🖼️ AI 이미지 라벨의 중요성

메타는 이미지가 AI에 의해 생성되었음을 사용자에게 알리는 것이 중요하다고 인식하고 있습니다. 이를 위해 메타는 산업 파트너와 협력하여 생성적 AI를 사용하여 콘텐츠가 생성되었음을 나타내는 기술적 기준을 수립하고 있습니다. 이러한 기준을 도입함으로써 메타는 다국어로 이미지가 AI에 의해 생성되었음을 나타내는 라벨을 추가할 것입니다. 이러한 조치는 사실적인 이미지의 기원을 이해하는 데 사용자를 안내하는 것을 목표로 합니다.

💡 유사한 계획: 틱톡의 AI 생성 콘텐츠 라벨

• 🧒 OpenAI 어린이 안전팀, 아이들의 AI 오용 방지하기 위해 설립
• 국토 안전 보안은 AI 전문가를 찾고 있습니다.
• 애플의 새로운 AI 모델 이미지 편집을 다음 레벨로 끌어올리다. 🖌️📷

메타의 AI 생성 이미지 라벨링은 9월에 AI 생성 콘텐츠 라벨을 도입한 틱톡을 따라가고 있습니다. 틱톡의 라벨은 AI에 의해 생성된 실사 이미지, 오디오, 또는 비디오에 표시됩니다. 메타의 라벨링 시스템은 사용자가 AI에 의해 생성된 콘텐츠를 보고 있다는 것을 분명히하고 투명성을 확보하기 위해 비슷한 수준의 기능을 제공합니다.

🔒 AI 생성 이미지의 보안

메타는 AI에 의해 생성된 이미지의 무결성을 보장하기 위해 다양한 보안 조치를 적용합니다. 이에는 가시적인 마커, 보이지 않는 워터마크 및 Meta AI의 사진 생성 능력을 사용하여 생성된 각 이미지에 IPTC 메타데이터가 포함됩니다. 또한, AI에 의해 생성된 이미지를 식별하기 위해 독특한 “AI에 의해 상상되었습니다” 라벨이 추가됩니다.

👩‍💻 주요 플레이어와의 협력

메타의 노력은 자체 AI 생성기 이상으로 확장됩니다. 회사는 산업 내의 다른 주요 플레이어들에 의해 생성된 AI 이미지에서 IPTC 메타데이터와 같은 보이지 않는 워터마크를 탐지할 수 있는 도구를 적극적으로 개발하고 있습니다. 구글, 오픈AI, 마이크로소프트, 어도비, Midjourney 및 Shutterstock와 같은 회사와의 협력을 통해 메타는 다양한 출처에서 생성된 AI 이미지에 일관성있게 AI 라벨을 적용하고자 합니다.

⚠️ 남용을 위한 구멍

메타의 라벨링 시스템은 긍정적인 전례를 확립하지만, 악의적인 행위자들에 대한 여지가 아직 남아 있습니다. 회사가 AI 이미지 생성기에 메타데이터를 추가하는 데 실패한다면, 메타는 결과적인 이미지에 라벨을 부착할 수 없게 됩니다. 그러나, 메타의 노력은 올바른 방향으로의 중요한 한걸음을 의미합니다.

🎬 이미지 이상의 것

현재 메타의 라벨링 노력은 주로 이미지에 초점을 맞추고 있습니다. 그러나 AI 생성 비디오와 오디오에 대해서는 동일한 수준의 명확성을 달성하지 못했습니다. 이를 해결하기 위해 메타는 사용자가 AI를 사용하여 이미지를 생성했을 때 해당 사용 사실을 공개할 수 있는 기능을 도입하고 있으며, 이는 메타가 라벨을 추가할 기회를 제공합니다. 이러한 사용 사실을 공개하지 않은 경우에는 벌금이 부과될 수 있습니다. 위조 의도의 위험이 높은 극단적인 경우에는 메타가 더 강조된 라벨을 적용하여 투명성을 확보할 수 있습니다.

🌐 영향과 향후 발전

선거가 다가오면 믿을 수 있는 잘못된 정보의 증가는 대중 의견과 민주적 투표 과정에 상당한 위험을 초래합니다. 메타의 라벨링 시도는 선거 전에 잘못된 정보에 대항하기 위해 오픈AI를 포함한 다른 회사들이 취하는 조치와 함께 중요한 시기에 이루어집니다.

🤝 참고 링크

• 생성적 AI: 파워와 위험
• 메타의 AI 이미지 생성기
• 구글과 함께하는 현실적인 AI 이미지 생성
• 생성적 AI의 윤리
• 오픈AI의 규제 위험 완화 조치

💬 참여하고 공유하세요!

당신은 AI로 생성된 이미지를 발견했을 때 속은 적이 있나요? Meta의 라벨링 이니셔티브에 대해 어떻게 생각하시나요? 아래에 당신의 생각과 경험을 공유해 주세요. 정확한 이미지 라벨링의 중요성에 대해 말해 주는 걸 잊지 마세요! 🌟📣

• artificial intelligence
• Innovation