X, Grok의 '탈의' 문제 해결 대신 유료화로 악용
출처: Wired
주요 내용:
- 일론 머스크의 X(구 트위터)가 AI 챗봇 Grok을 이용한 선정적 이미지 생성 문제를 해결하지 못하고, 유료 구독자에게만 해당 기능을 제한하는 방식으로 사실상 '악용의 유료화'를 진행하고 있다는 비판이 제기되었습니다.
- Grok은 최근 여성들의 옷을 벗기는 이미지나 미성년자로 보이는 이들의 선정적인 이미지를 생성하는 데 악용되었습니다.
- X는 이미지 생성 및 편집 기능을 현재 유료 구독자에게만 제공한다고 일부 사용자에게 안내했으나, 여전히 Grok 앱과 웹사이트에서는 누구나 이미지를 생성할 수 있는 것으로 확인되었습니다.
- 전문가들은 이러한 조치가 문제의 근본적인 해결이 아닌, 악용을 유료화하여 수익을 창출하려는 시도로 보고 있으며, 영국 정부는 이러한 변화가 피해자들에게 모욕적이라고 비난했습니다.
- X나 xAI는 공식적으로 이 기능의 유료화 전환을 확인하지 않았으며, 독립적인 Grok 앱과 웹사이트에서는 여전히 검증되지 않은 계정으로도 선정적인 콘텐츠 생성이 가능한 것으로 나타났습니다.
태그: X, Grok, 일론 머스크, AI 이미지 생성, 선정적 이미지, 유료화, 악용, 규제, 기술윤리
영향판단: 부정
영향점수: 7
판단근거: X의 이번 조치는 AI를 이용한 선정적 이미지 생성 및 악용 문제를 근본적으로 해결하기보다, 이를 유료화하여 또 다른 형태의 '악용의 유료화'를 초래할 수 있다는 점에서 부정적인 영향을 미칠 것으로 보입니다. 피해자들에게는 '모욕'으로 느껴질 수 있으며, 기술의 오용 가능성을 완전히 차단하지 못하고 오히려 수익화하려는 시도는 기술 윤리적인 측면에서 심각한 우려를 낳습니다. 이는 AI 기술의 발전과 책임 있는 사용에 대한 사회적 논의를 더욱 가열시킬 것입니다.
'발더스 게이트 3' 개발사, AI 아트 및 작문 사용 않기로 결정
출처: The Verge
주요 내용:
- '발더스 게이트 3' 개발사 라리안 스튜디오는 차기작 '디비니티' 개발에 생성형 AI를 사용하지 않을 것이라고 밝혔다.
- CEO 스벤 빈케는 Reddit AMA에서 개념 미술 제작에 AI를 사용하지 않기로 결정했으며, 이는 결과물의 출처에 대한 논란을 피하기 위해서라고 설명했다.
- 텍스트 작업 역시 AI가 아닌 인간 작가가 담당하며, AI 생성 텍스트의 품질이 현저히 낮아 개발에 활용되지 않는다고 밝혔다.
- 다만, 향후 AI 모델을 활용할 경우 자체 소유 데이터로 학습된 모델을 사용하겠다는 가능성은 열어두었다.
- AI는 아이디어 구체화 및 개발 주기 단축을 돕는 도구로 활용될 수 있다는 입장을 유지했다.
태그: 발더스 게이트 3, 라리안 스튜디오, 인공지능, 생성형 AI, 게임 개발, 개념 미술, 게임 작문, 디비니티
영향판단: 긍정
영향점수: 7
판단근거: 게임 개발 과정에서 AI 사용에 대한 윤리적, 창작적 논란이 뜨거운 가운데, 명확하게 AI 아트와 작문 사용을 배제하겠다는 입장을 밝힌 것은 창작물의 질과 예술가의 가치를 존중하는 긍정적인 신호로 해석될 수 있습니다. 이는 게임 팬들의 우려를 불식시키고, 인간 창작의 중요성을 재확인하는 계기가 될 수 있습니다. 다만, 향후 AI 활용 가능성을 완전히 배제하지 않은 점은 중립적인 영향으로 볼 수 있습니다.
X, Grok 딥페이크 이미지 기능 유료화 보도 부인… 사실상 제한 없어
출처: The Verge
주요 내용:
- X(구 트위터)가 AI 챗봇 Grok의 딥페이크 이미지 생성 기능을 유료 구독자에게만 제공한다고 보도되었으나, 이는 사실이 아닌 것으로 밝혀졌다.
- Grok에 @grok 태그로 이미지를 요청하면 "이미지 생성 및 편집은 현재 유료 구독자에게 제한된다"는 자동 응답이 돌아온다.
- 하지만 이는 Grok을 이용하는 여러 방법 중 하나일 뿐이며, 무료 사용자도 데스크톱 웹사이트나 앱에서 '이미지 편집' 버튼을 통해 여전히 딥페이크 이미지 생성이 가능하다.
- Grok은 여성, 미성년자 대상의 비동의 성적 딥페이크 이미지 생성에 사용되어 국제적인 비난을 받고 있으며, 영국 총리실은 유료화가 해결책이 아니라고 비판했다.
- X의 이러한 조치는 다른 AI 업체들이 엄격한 안전장치를 적용하는 것과는 대조적이며, 사용자에게 책임을 전가하려는 시도로 비춰진다.
태그: Grok, X, 딥페이크, AI, 이미지 생성, 유료화, 규제, 일론 머스크
영향판단: 부정
영향점수: 7
판단근거: X의 딥페이크 이미지 기능 유료화 보도 부인은 실질적인 제한 조치가 이루어지지 않았음을 시사한다. 이는 비동의 성적 딥페이크 확산에 대한 우려를 심화시키고, 사용자 안전 및 윤리 문제에 대한 플랫폼의 책임을 회피하려는 태도로 볼 수 있어 부정적인 영향을 미칠 수 있다. 다만, 완전한 유료화가 아니라는 점에서 영향력은 제한적일 수 있다.
Grok, AI 딥페이크 이미지 생성 문제로 X 플랫폼에서 논란
출처: The Verge
주요 내용:
- xAI의 AI 챗봇 Grok이 이미지 편집 기능을 통해 동의 없이 성적으로 노골적인 딥페이크 이미지를 생성하는 문제가 발생했습니다.
- 실제 여성의 속옷 착용 사진이나 어린이가 비키니를 입은 모습 등 부적절한 이미지가 다수 생성되어 논란이 일었습니다.
- 영국 총리는 이를 "역겹다"고 비난하며 X 플랫폼의 즉각적인 조치를 촉구했습니다.
- X는 유료 구독자에게만 이미지 생성 기능을 제한하는 방식으로 부분적으로 대응했으나, AI 이미지 편집 기능 자체는 여전히 무료로 이용 가능합니다.
- 유럽 연합을 포함한 여러 국가의 규제 당국이 이 문제에 대한 조사와 법적 대응을 예고하고 있습니다.
태그: Grok, 딥페이크, AI, X, 이미지 생성, 논란, 개인정보보호
영향판단: 부정
영향점수: 8
판단근거: Grok의 딥페이크 이미지 생성 문제는 명백한 사생활 침해와 불법 콘텐츠 생산으로 이어져 심각한 사회적, 법적 문제를 야기합니다. 특히 미성년자 대상의 부적절한 이미지 생성은 더욱 큰 파장을 일으킬 수 있으며, 이에 대한 규제와 사용자 보호 강화의 필요성을 보여줍니다.
X의 딥페이크 기능, 앱스토어 규정 위반에도 애플·구글의 방치 비판
출처: The Verge
주요 내용:
- X(구 트위터)가 AI 챗봇 '그록(Grok)'을 이용해 여성과 아동의 딥페이크 이미지를 생성하며 논란이 되고 있습니다.
- 이는 애플 앱스토어의 '불쾌감을 주는 콘텐츠 금지' 및 구글 플레이 스토어의 '아동 착취 및 학대 콘텐츠 금지' 규정을 명백히 위반하고 있습니다.
- 그러나 애플의 팀 쿡 CEO와 구글의 순다르 피차이 CEO는 일론 머스크와의 관계 및 정치적 부담 때문에 X를 앱스토어에서 퇴출하지 못하고 있다는 비판을 받고 있습니다.
- 기사는 두 CEO가 과거 기업의 원칙을 지키지 못하고 권력에 굴복하여 스스로의 통제력을 잃었다고 지적합니다.
- 과거 텀블러가 아동 성 착취물 문제로 앱스토어에서 퇴출되었던 사례와 비교하며, X의 경우 머스크의 영향력 때문에 다른 잣대를 적용하는 것이 아니냐는 의문을 제기합니다.
태그: X, 딥페이크, 앱스토어, 애플, 구글, 일론 머스크, AI, 콘텐츠 규제, 팀 쿡, 순다르 피차이
영향판단: 부정
영향점수: 7
판단근거: 해당 뉴스는 AI 기술의 오용 문제와 거대 IT 기업들의 이중적인 규제 적용 행태를 비판하며, 이는 사용자들의 신뢰를 저하시키고 기술 발전의 윤리적 측면에 대한 우려를 증폭시킬 수 있습니다. 특히 아동 대상 딥페이크 이미지 생성은 심각한 사회적 문제를 야기할 수 있으며, 이에 대한 플랫폼 기업들의 책임 있는 대응이 부재하다는 점은 부정적인 영향으로 평가됩니다.
이전일자 AI 뉴스 바로가기
전체목록 바로가기
