리브 맥맨그리고
로라 크레스,기술 기자
Liz Kendall 기술 장관은 온라인 안전법을 준수하지 않아 영국에서 Elon Musk의 소셜 미디어 사이트 X에 대한 액세스를 차단하면 규제 기관 Ofcom을 지원할 것이라고 말했습니다.
Ofcom은 플랫폼에 게시된 이미지 아래에 태그가 지정되면 동의 없이 사람들의 옷을 디지털 방식으로 벗긴 X의 인공지능(AI) 챗봇 Grok에 대해 어떻게 해야 할지 긴급히 결정하고 있다고 밝혔습니다. X는 이제 이 이미지 기능의 사용을 월별 요금을 지불하는 사람들로 제한했습니다.
그러나 다우닝 스트리트는 이러한 변화가 성폭력 피해자들에게 “모욕적”이라고 말했다.
머스크는 다른 AI 플랫폼이 검토되지 않는 이유를 묻는 게시물에 답하면서 영국 정부가 “검열에 대한 어떤 변명이라도 원한다”고 말했습니다.
켄달은 “여성과 아동의 이미지를 성적으로 조작하는 것은 비열하고 혐오스럽다”고 말했다.
그녀는 “저와 더 중요한 대중은 몇 주가 아니라 며칠 안에 Ofcom의 다음 단계 업데이트를 볼 수 있을 것으로 기대합니다”라고 덧붙였습니다.
그녀는 온라인 안전법에 “영국 법률 준수를 거부하는 경우 영국 내 서비스 액세스를 차단하는 권한이 포함되어 있다”며 “오프컴이 이러한 권한을 사용하기로 결정하면 우리는 전폭적인 지원을 받을 것”이라고 말했다.
BBC는 X에게 의견을 요청했습니다.
Ofcom 대변인은 “우리는 긴급히 연락을 취했다”고 말했다. [with X] 월요일에 마감일을 오늘로 정하고 [Friday] 설명하기 위해 답변을 받았습니다.”
“현재 긴급 상황에 따라 신속 평가를 진행하고 있으며 곧 추가 업데이트를 제공할 예정입니다.”
Ofcom의 권한 온라인 안전법 회사가 이를 거부할 경우 제3자가 X의 자금 조달을 돕거나 영국에서 접근하는 것을 방지하기 위해 법원 명령을 구할 수 있는 것도 포함됩니다.
이러한 소위 비즈니스 중단 조치는 아직 대부분 검증되지 않은 상태입니다.
합의되지 않은 성적인 이미지를 생성하기 위해 Grok을 사용하는 것은 모든 측면의 정치인들로부터 비난을 받았으며, Keir Starmer 총리는 이를 “불명예스럽고” “역겹다”고 말했습니다.
영국 개혁 지도자인 나이젤 파라지(Nigel Farage)는 이것이 “모든 면에서 끔찍하다”며 X가 금요일 오전에 Grok에 적용한 변경보다 “더 나아가야 한다”고 말했습니다.
그러나 그는 영국에서 X를 금지한다는 생각은 “솔직히 끔찍한 일”이며 표현의 자유에 대한 공격이라고 말했습니다.
자유민주당은 소셜 미디어 사이트가 조사되는 동안 영국에서 X에 대한 접근을 일시적으로 제한할 것을 요구했습니다.
‘굴욕과 비인간화’
Grok은 사용자가 게시물에 직접 태그를 지정하거나 다른 사용자의 게시물 아래에 답글을 달아 특정 응답을 요청할 수 있는 무료 도구입니다.
내장된 “이미지 편집” 기능이나 별도의 앱 및 웹사이트 등 플랫폼의 다른 영역을 통해 액세스하는 경우 이 도구는 X에서 이미지를 계속 편집할 수 있습니다.
비키니나 작은 옷을 입은 여성의 이미지를 편집해 달라는 요청이 많이 접수되었습니다. 이러한 요청을 받은 사람들은 BBC에 다음과 같이 말했습니다.굴욕을 당하다” 그리고 “비인간화된“.
그러나 금요일 아침부터 Grok은 X에 업로드된 이미지를 변경해 달라고 요청하는 사용자에게 “이미지 생성 및 편집은 현재 유료 구독자에게만 제한되어 있습니다”라고 말했으며 사용자는 “이러한 기능을 잠금 해제하려면 구독할 수 있습니다”라고 덧붙였습니다.
BBC News가 본 플랫폼의 일부 게시물은 X의 유료 구독자 등급에 국한된 파란색 체크 “인증” 표시가 있는 게시물만 Grok에 이미지 편집을 성공적으로 요청할 수 있었다는 것을 암시합니다.
카디프 대학의 철학 강사이자 여성 X 사용자인 데이지 딕슨(Daisy Dixon) 박사는 옷을 벗기 위해 Grok을 사용하는 사람들이 증가한 것을 보았다고 말하면서 변화를 환영했지만 “붙어있는 석고처럼 느껴진다”고 말했습니다.
“Grok은 이런 일이 다시 발생하지 않도록 완전히 재설계하고 윤리적 가드레일을 내장해야 합니다.”라고 그녀는 BBC에 말했습니다.
“Elon Musk는 또한 이것이 무엇인지 인정할 필요가 있습니다. 이는 성별 기반 위반의 또 다른 사례입니다.”
인터넷 감시 재단(Internet Watch Foundation)의 정책 책임자인 한나 스워스키(Hannah Swirsky)는 “지금까지 발생한 피해를 되돌릴 수는 없다”고 말했습니다.
“우리는 최근에 우리가 본 것과 같은 종류의 이미지를 생성할 수 있는 능력을 갖지 말아야 했던 도구에 대한 액세스를 단순히 제한하는 것만으로는 충분하지 않다고 생각합니다”라고 그녀는 말했습니다.
자선단체 이전에 말했다 분석가들은 Grok을 사용하여 “생성된 것으로 보이는” 11~13세 소녀의 “범죄 이미지”를 발견했습니다.
노동당 의원들은 당이 정치적 메시지를 전달하기 위해 X를 사용하는 것에 점점 불만을 느끼고 있습니다.
백벤치 노동당 의원들이 소셜 미디어에 공유할 공지를 게시하는 데 사용되었던 의회 노동당의 WhatsApp 그룹에서 유출된 메시지에 따르면 최소 13명의 노동당 의원이 정부에 플랫폼 사용을 중단할 것을 촉구한 것으로 나타났습니다.
메시지, 정치홈에서 처음 보도 BBC 뉴스에서는 노동당 의원들이 정부에 “입장을 취하고” “우리의 메시지를 다른 곳에 전달”할 것을 촉구하는 모습을 보여줍니다.
한 의원은 “머스크가 X가 아닌 파시스트가 된 이후 우리 중 일부가 요청한 것처럼 우리 정부는 다른 플랫폼을 사용하기 시작해야 한다”고 말했습니다.
또 다른 사람은 “X의 정부 커뮤니케이션에 어린이(및 여성)의 이미지가 있으면 어린이에게 해를 끼친다”고 말했습니다.
금요일 오전, 다우닝 스트리트는 정부가 X에 계속 게시할 것이라고 제안했습니다.
총리 공식 대변인은 기자들에게 Grok이 플랫폼에서 이미지를 편집해 달라는 사용자 요청에 응하는 방식을 변경한 것은 X가 “원할 때 신속하게 움직일 수 있다”는 것을 보여준다고 말했습니다.
그들은 “X가 행동해야 하고 지금 행동해야 한다는 것이 매우 분명하다”고 말했습니다.
“이제 X가 이 문제를 해결할 때입니다. 다른 미디어 회사가 도심에 불법적인 이미지를 표시하는 광고판을 설치했다면 즉시 조치를 취하여 이를 철거하거나 대중의 반발에 직면할 것입니다.”라고 덧붙였습니다.
