AI일기장에서 악명높은 새로운 부패 도구 | ENBLE에 데미지
AI 일기장에서 악명 높은 새로운 부패 도구 | ENBLE에 데미지
전문 예술가와 사진작가들은 자체 기술을 훈련시키기 위해 사투리-AI 기업이 자신들의 작품을 사용하면서 어마어마한 화를 내고 있습니다. 하지만 이제 법정에 갈 필요 없이 이에 효과적으로 대응할 수 있는 방법이 생길 수도 있습니다.
생성-AI는 OpenAI의 ChatGPT 챗봇이 약 1년 전에 출시되면서 무대 앞에 나타났습니다. 이 도구는 매우 자연스럽고 인간 같은 방식으로 대화하는 데에 매우 능숙하지만, 이러한 능력을 갖기 위해서는 웹에서 크롤링된 대량의 데이터로 훈련되어야 했습니다.
ChatGPT와 마찬가지로 유사한 생성-AI 도구들은 텍스트 프롬프트에서 이미지를 생성할 수 있지만, 이들도 웹상에 게시된 이미지를 크롤링하여 훈련됩니다.
이는 예술가와 사진작가들이 자신들의 작품이 동의나 보상 없이 기술 회사에 의해 그들의 생성-AI 도구 구축을 위해 사용된다는 것을 의미합니다.
이를 대응하기 위해 연구진이 Nightshade라는 도구를 개발했습니다. 이 도구는 훈련 모델을 혼란스럽게 만들어 프롬프트에 대해 잘못된 이미지를 생성하도록 만듭니다.
- JPEG vs. PNG 어떤 압축 이미지 형식이 더 좋을까? | 엠블
- 내 PC가 고장나서 거의 모든 것을 잃을 뻔 했어요. 내가 구한 것은 이거...
- HDR 사진술이 내 머릿속을 불태웠다. 그것은 영광스럽고 — 그리고 복잡...
MIT Technology Review의 최근 기사에서 소개된 Nightshade는 “훈련 데이터에 그림에 보이지 않는 픽셀을 추가함으로써” 데이터를 오염시킨다고 설명합니다.
MIT의 보고서에 따르면, Nightshade의 연구는 동료평가를 위해 제출되었다고 밝혔습니다. 이 보고서에는 “바퀴벌레와 부분continental제비 같은” 중요한 정보를 제공했습니다.
이미지 생성 도구는 이미 인상적이고 계속해서 개선되고 있지만, 훈련 방법은 논란이 되었으며, 많은 도구의 창작자들은 현재 자신들의 작품이 허락 없이 또는 지불 없이 사용되었다며 소송에 직면하고 있습니다.
Nightshade의 연구팀을 이끈 시카고 대학교의 벤 자오 교수는 이 도구가 저작권과 지적 재산을 무시하는 기술 회사들에게 경고를 보내어 예술가들에게 권력의 균형을 되찾도록 도와줄 수 있다고 말했습니다.
“대형 AI 모델의 데이터 세트는 수십억 개의 이미지로 구성될 수 있기 때문에 모델에 오염된 이미지가 크롤링될 수록 해당 기술은 더 큰 피해를 입힐 것입니다.”라고 MIT Technology Review는 보고서에서 말합니다.
Nightshade를 공개하면 팀은 오픈 소스로 만들어 다른 사람들이 이를 개선하고 효과적으로 사용할 수 있도록 할 계획입니다.
Nightshade의 잠재력을 인식한 연구팀은 이를 “콘텐츠 작성자들의 마지막 방어수단으로 사용”해야 한다고 말했습니다. 이 도구는 그들의 권리를 무시하는 웹 크롤러들에 대항하기 위한 것입니다.
문제에 대처하기 위해 DALL-E 창작자인 OpenAI는 최근 예술가들이 자신의 작품을 제거할 수 있도록 허용하기 시작했습니다. 하지만 작업에 참여하려면 이미지를 제거하고자 하는 각각의 요청마다 이미지의 사본과 해당 이미지에 대한 설명을 보내야 한다는 점에서 매우 까다롭다고 설명되었습니다.
제거 과정을 상당히 용이하게 만드는 것은 OpenAI와 기타 회사들에게 장기적으로 더 많은 문제를 일으킬 수 있는 Nightshade와 같은 도구를 사용하는 예술가들로 하여금 선택지를 옮기는 데 도움이 될 수 있습니다.
