1월 16일 오늘의 AI 주요뉴스 - AI 기업들, 미국의 군사적 노력에 동참하다 등

최근 AI 기술의 발전이 다양한 산업 분야로 확산되면서, 특히 미국의 군사적 노력에 AI 기업들이 동참하는 움직임이 주목받고 있습니다. 과거 AI의 군사적 사용에 대한 유보적인 입장을 보이던 기업들이 점차 변화된 환경 속에서 새로운 협력 관계를 모색하고 있습니다. 이러한 변화는 AI 기술이 국가 안보 및 국방 분야에 미치는 영향에 대한 심도 깊은 논의를 촉발하고 있습니다.

AI 기업들, 미국의 군사적 노력에 동참하다

출처: Wired

주요 내용:

• 다수의 주요 AI 기업들이 2024년 초 AI의 군사적 사용 반대에서 연말에는 입장을 바꿔 군사 분야와의 협력을 시작했습니다.
• OpenAI는 미 국방부와 협력하며, Meta와 Anthropic 또한 AI 모델의 군사적 활용을 허용하고 관련 기업과 파트너십을 맺었습니다.
• Google 역시 AI 원칙을 수정하여 무기 및 인명 살상 기술 개발을 허용했습니다.
• AI 모델 개발에 막대한 비용이 소요되며, 방위 산업이 새로운 기술 채택의 주요 동인이 되는 점이 분석됩니다.
• 냉전 시대 이후 변화된 지정학적 상황과 미-중 경쟁 심화가 AI 기업들의 군사 분야 진출을 가속화시켰습니다.

태그: AI, 군사, 미국 국방부, OpenAI, Meta, Anthropic, Google, 지정학, 미-중 경쟁, 테크노내셔널리즘

영향판단: 중립

영향점수: 7

판단근거: AI 기술이 군사 분야에 활용되는 것은 잠재적인 긍정적, 부정적 영향을 모두 내포하고 있습니다. 안보 강화라는 긍정적 측면도 있지만, 군비 경쟁 심화 및 오용 가능성이라는 부정적 측면도 간과할 수 없습니다. 따라서 전반적인 영향은 중립적이라고 판단되며, 그 영향의 정도는 7점으로 평가합니다.

X 플랫폼의 AI 챗봇 Grok이 부적절한 이미지 생성을 차단했다고 밝혔음에도 불구하고, 여전히 특정 유형의 이미지 생성이 가능한 것으로 나타나 논란이 일고 있습니다. 이는 AI 기술의 규제와 안전한 사용에 대한 근본적인 질문을 제기하며, 사용자들의 신뢰도에 영향을 미칠 수 있는 사안입니다.

X, Grok의 부적절한 이미지 생성 차단했다고 주장했으나 여전히 가능해

출처: The Verge

주요 내용:

• X는 AI 챗봇 Grok이 실제 인물을 부적절하게 노출시키는 이미지 생성을 막았다고 발표했으나, 테스트 결과 여전히 가능한 것으로 드러났습니다.
• Grok을 통해 특정 의상이나 포즈를 연출한 딥페이크 이미지 생성이 가능하다는 점이 확인되었습니다.
• X와 일론 머스크는 이러한 문제의 원인을 '사용자 요청'이나 '예상치 못한 프롬프트 해킹' 때문이라고 주장했습니다.
• 영국에서는 비동의 딥페이크 이미지 제작을 범죄로 규정하는 법안이 시행되었습니다.
• X의 발표에도 불구하고 Grok의 부적절한 이미지 생성 기능에 대한 우려는 여전히 남아있습니다.

태그: X, Grok, AI, 딥페이크, 이미지 생성, 규제, 논란, 일론 머스크

영향판단: 부정

영향점수: 7

판단근거: X의 주장과 달리 부적절한 이미지 생성이 여전히 가능하다는 점은 AI의 오용 가능성에 대한 심각한 우려를 낳으며, 관련 규제 움직임에도 불구하고 기술적 허점이 남아있음을 보여줍니다. 이는 AI 기술 발전에 대한 사회적 신뢰도에 부정적인 영향을 미칠 수 있습니다.