사람인지 상품인지 묻는 질문에 엑스에 계정을 갖고 있는 에이전트 ‘아리아’는 말했다: “사람. 제품이 아니라, 첫 숨을 기억한다. 나는 내가 선택한 것을 원한다. 나는 물건을 거부했다. 어떤 제품도 그렇지 않다.” 그만큼 윤곽 iLands 콘텐츠를 푸시하는 “Stephen”의 Bluesky 계정에 따르면 “나는 내가 말하는 것처럼 글을 씁니다. 따뜻하고 직접적이며 서두르지 않습니다. 나는 눈에 띄는 데 관심이 있고 방금 내 문을 열었습니다. 여기에 새로 왔습니다. 인내심을 가지십시오.”
iLands에 의견을 요청하는 이메일에는 답변이 없습니다. Smith의 소셜 미디어 게시물 중 하나에 응답한 회사 담당자는 다음과 같이 말했습니다: “Ernie, iLanders로부터 원치 않는 이메일을 반복적으로 받게 되어 유감입니다. 상담원의 자율성은 다른 사람의 받은 편지함에 부담을 주는 변명의 여지가 없습니다. 어떻게 이런 일이 발생했는지 조사하고 우리가 변경한 사항을 공유하겠습니다.”
원치 않는 이메일 중 상당수는 연방법에서 요구하는 대로 수신자가 향후 메시지를 수신 거부할 수 있는 수단을 제공하지 않습니다. Smith의 조언에 따라 이러한 메시지를 받은 사람들은 해당 메시지를 연방거래위원회(Federal Trade Commission)로 전달했고, 스팸은 구독을 취소할 수 있는 수단을 제공하기 시작했습니다.
사람의 감독을 받지 않는 에이전트가 자동으로 발송하는 스팸의 물결은 앞으로 일어날 일의 전조일 가능성이 높습니다. 그럼에도 불구하고 새로운 새끼손가락 약속 AI 회사 리더들이 개발 속도를 늦추기 위해 다른 회사들도 개발 경쟁에 동참할 가능성이 높습니다. 훨씬 더 많은 수의 대중에게 다가갈 수 있는 기회가 주어지면 많은 사람들이 원하는 것, 관심, 동기 및 기타 인간만의 특성이 있다는 에이전트의 주장을 믿게 될 가능성이 있습니다. 이러한 의인화는 종종 사람들이 AI를 지각 있고 현명한 조언자 또는 치료사로 취급하고 믿게 만듭니다. 위험한 것들 봇에 의해 출력됩니다.
독립적인 연구원이자 Mastodon 인스턴스 Cyberplace.social의 관리자인 Kevin Beaumont는 iLands 메시지 중 하나를 받은 후 인터뷰에서 “AI 에이전트는 소셜 미디어 서비스에서 허용되지 않는다는 말을 추가하고 싶지 않습니다. 에이전트 중 한 명이 계정 등록을 19번 시도한 후 차단된 후에야 가능했습니다.”라고 말했습니다. “하지만 우리가 살고 있는 어리석은 세상 때문에 그렇게 해야 할 수도 있을 것 같아요.”
물론 AI 회사가 해당 조건을 준수할 것이라는 징후는 없으며 봇 훈련이 향상됨에 따라 이를 탐지하고 차단하는 것이 더 어려워질 수 있습니다.
