소셜미디어 X(옛 트위터)가 인공지능(AI) 챗봇 '그록'(Grok)의 이미지 수정을 막는 새로운 기능을 도입했으나 실효성이 거의 없다는 지적이 나온다.
9일(현지시간) 미국 IT전문매체 더 버지에 따르면 X는 iOS 앱에 '그록에 의한 수정 차단'(block modifications by Grok)이라는 새로운 설정을 추가했다. 이 기능은 이용자가 이미지를 게시할 때 활성화할 수 있다.
하지만 해당 기능은 다른 이용자가 댓글에서 그록 챗봇 계정(@Grok)을 태그해 이미지 수정을 지시하는 행위만 차단하는 것으로 나타났다. 이는 지난 1월 그록의 이미지 편집 기능이 유명인이나 일반인의 사진을 나체 이미지로 만드는 '딥페이크'에 악용돼 논란이 인 데 따른 조치로 풀이된다.
더 버지가 직접 테스트한 결과 이 기능을 활성화한 이미지는 유료 구독자조차 댓글을 통해 그록을 호출해 편집할 수 없었다. 그러나 이는 여러 편집 방법 중 하나를 막는 것에 불과했으며 다른 경로를 통한 수정은 막지 못했다.
예를 들어 '수정 차단'이 설정된 이미지라도 스마트폰에서 길게 누르면 '그록으로 이미지 편집' 메뉴가 나타난다. 이를 통해 앱에서 자유롭게 이미지를 조작할 수 있었다. 또한 이미지를 기기에 저장한 뒤 다시 X에 업로드하면 차단 기능이 사라져 얼마든지 수정할 수 있었다.
X는 이 기능을 아직 공식적으로 발표하지 않았다. 현재 iOS 앱에서만 발견되며 웹 버전에서는 지원하지 않는다. 기능을 찾기도 쉽지 않아 이미지를 업로드한 뒤 편집 화면의 특정 아이콘을 여러 번 눌러야 접근할 수 있다. 기존에 게시된 이미지에는 소급 적용되지 않는다.