OpenAI는 Altman, Musk 및 Amodei가 AI가 너무 빠르게 움직이고 있다고 경고함에 따라 올해 IPO를 배제합니다.

OpenAI CEO 샘 알트만(Sam Altman)은 AI 안전에 대한 우려가 커지고 있다는 이유로 올해 자신의 회사가 상장되지 않을 것이라고 말했습니다.

에 토요일에 발표된 Fortune과의 인터뷰Altman은 이제 IPO가 “잘못된 조언”이 될 것이라고 말했습니다. 이번 결정은 역사상 가장 기대되는 IPO 중 하나를 적어도 2027년까지 미루고 있으며 점점 더 강력해지는 AI에 대한 우려가 커지면서 업계의 사업 계획이 재편되기 시작했다는 가장 분명한 신호를 제공합니다.

OpenAI CFO 사라 수사는 직원들에게 말했다. 지난달에는 “우리 사업이 계속해서 변화한다면” 회사가 2027년 또는 그보다 더 일찍 상장할 가능성이 높다고 말했습니다.

Altman의 발언은 Anthropic CEO가 다음과 같은 날 나왔습니다. 다리오 아모데이 출판됨 에세이 AI 기업이 가장 발전된 모델을 개선하는 속도를 늦추도록 촉구합니다. Altman과 Elon Musk는 소셜 미디어 게시물을 통해 이 제안을 재빨리 지지했는데, 이는 세 명의 치열한 경쟁사 사이에서 이례적으로 합의를 보여준 것입니다.

Amodei는 그의 에세이에서 “상업적 이점이나 미국의 AI 선두를 희생하지 않고” 개발 속도를 완화하는 것을 목표로 하는 3단계 계획을 제안했습니다. 인류는 적극적으로 준비하고 있다 무엇을 기대하는가 역사적인 IPO하지만 회사는 언제 데뷔할 계획인지 공식적으로 밝히지 않았습니다.

Altman, Amodei 및 Musk의 갑작스러운 협력은 AI에 대한 관심이 얼마나 빨리 주변부에서 산업의 중심으로 이동했는지를 보여 주며 이제 AI의 엄청난 상업적 야망과 충돌하기 시작했습니다.

에세이는 촉구했다 인공지능 회사는 모델 기능을 얼마나 빨리 향상시키는지 속도를 측정합니다. 이러한 움직임은 공동 감속을 요구하는 연구자들의 목소리가 커지고 있는 가운데 나온 것입니다.

Amodei는 “상업적 이점이나 미국의 AI 선두를 희생하지 않고” 개발 속도를 완화하는 데 도움이 될 3단계 계획을 제안했지만 일부 단계는 다른 단계보다 달성하기 쉬울 수 있음을 인정했습니다.

워싱턴에서는 양당 의원들이 요구하는 압력이 커지고 있습니다. 새로운 AI 보호 장치 까다로운 기술 리더들이 증언을 한 후 사이버 공격의 발진 인간의 직접적인 통제 없이 수행되었다.

국가의 수도 외에도 주 및 지방 공무원도 있습니다. AI 데이터 센터에 대한 점점 커지는 분노에 직면 그리고 전력, 물, 지역 사회에 대한 수요. 중간선거가 다가오면서 AI는 양당 모두에게 핵심 이슈가 되고 있다.

AI 역량에 대한 우려

Anthropic은 안전 관행을 확인하고 사고를 보고하기 위해 제3자 평가자에게 회사에 대한 직원 수준의 액세스 권한을 부여하는 계획의 첫 번째 단계를 “일방적으로” 약속했다고 Amodei가 말했습니다. 두 번째 단계는 민주주의 국가 내 선도적인 AI 기업이 공통 안전 표준을 조정하고 확립하도록 장려하고, 세 번째 단계는 민주 정부와 권위주의 정부 간의 조정을 요구합니다.

Amodei는 “분명히 말하면, 속도 조정은 모델 교육이나 기술 발전을 중단하는 것이 아니라 기업이 모델을 정렬하고 보호하는 데 적절한 시간을 갖고 제3자 평가자가 이를 확인할 수 있도록 보장하는 것”이라고 썼습니다.

이 에세이는 인류학 연구자가 시작한 후에 도착했습니다. 소셜 미디어의 폭풍 이번 주에 그를 발표함으로써 직장을 그만두다 회사에서. 앤트로픽(Anthropic)의 최대 라이벌인 오픈AI(OpenAI)에서 연구원으로도 일했던 제이콥 콕슨(Jacob Coxon)은 앤트로픽(Anthropic)과 오픈AI(OpenAI)가 “우리 목숨을 걸고 도박을 하고 있다”는 우려로 사임했다고 밝혔다. 그는 AI를 만드는 사람들은 “10년 안에 AI가 우리 모두를 죽일 수 있다고 진심으로 믿고 있다”고 말했습니다.

극단적이기는 하지만, AI가 인류의 멸종이나 기타 재앙적인 사건을 일으킬 가능성에 대한 우려는 AI 연구계에서 새로운 것이 아닙니다. 예를 들어 2023년에는 Amodei, OpenAI 등 저명한 AI 연구자 및 임원들이 알트만, 성명서에 서명했다 “AI로 인한 멸종 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 합니다.”

Amodei는 토요일 AI 개발을 일시 중지하거나 늦추는 것이 2023년부터 떠돌았지만 당시에는 그렇게 하는 것이 “말이 안 된다”고 말했습니다. 그는 모델이 그 시점에서 현실 세계에서 조치를 취할 만큼 강력하지 않으며 아직 “상당한 속임수, 조작, 부정 행위 또는 사이버 공격”을 수행할 능력도 없다고 말했습니다.

Amodei는 “나는 AI가 인간 삶의 질을 엄청나게 향상시킬 수 있다고 계속 믿고 있다. 이러한 이점을 얻고자 하는 나의 열망은 변함이 없다”고 썼다. “그러나 우리가 올바른 방식으로 기술을 구축할 경우에만 이점을 얻을 수 있으며, 얻은 시간을 잘 사용하는 한 이를 올바르게 구현하기 위해 특별히 신중한 주의를 기울일 가치가 있습니다.”

에세이가 출판된 후 Amodei는 올바른 개발 속도를 찾는 것이 가장 중요하다고 강조했습니다. 너무 속도를 늦추면 독재 정부가 우위를 점할 수 있다고 그는 말했습니다. 토요일 늦게 방송된 CNN 인터뷰에서.

“우리가 너무 느리게 진행한다면, 나는 여전히 잘못된 사람들이 기술을 담당하게 될 것이라고 믿습니다. 그리고 그것은 다시 일이 잘못될 확률을 매우 높게 만들 것입니다”라고 그는 말했습니다.

Anthropic의 공공 정책 책임자인 Sarah Heck은 이 에세이를 칭찬하고 국회의원들에게 가드레일 구축에 그들의 역할을 다할 것을 촉구했습니다.

그녀는 “정부는 중국과 같은 적대 국가에 대한 최첨단 칩 판매를 차단하고, 안전하지 않은 것으로 판명된 최첨단 모델을 차단할 수 있는 권한을 갖고 프론티어 모델 테스트를 요구하는 국내법을 제정하는 등 여기에서 수행해야 할 중요한 역할을 가지고 있다”고 말했습니다. X 포스트에서.

자발적 감속 지원

Amodei의 에세이는 토요일 Altman을 포함한 많은 업계 연구자들과 임원들로부터 환호를 받았습니다. ~ 안에 X에 올라온 글Altman은 업계가 고급 AI 기능 개발에 속도를 내야 한다는 Amodei의 의견에 동의했다고 말했습니다. Altman은 이 주제가 최근 몇 주 동안 OpenAI에서 논의된 “주요 주제”였다고 말했습니다.

Altman은 “직원과 같은 접근 권한을 가진 독립적인 평가자를 확보하는 것은 좋은 아이디어이며 우리도 그렇게 할 것”이라고 말했습니다. “곧 더 많은 내용을 공유하겠습니다.”

이달 초 OpenAI의 수석 과학자인 Jakub Pachocki는 다음과 같은 내용을 발표했습니다. 블로그 게시물 AI 회사는 “더 오랫동안 최대 속도로 책임감 있게 확장을 계속할 수 있을 만큼 정렬 및 모니터링을 해결하지 못했다”고 경고했습니다. AI 산업에서 정렬이란 시스템이 인간의 가치와 의도에 따라 작동하도록 AI 개발자가 수행하는 작업을 의미합니다.

Pachocki는 “공유 안전바가 설치될 때까지 자발적인 감속이 일반화될 것으로 기대하고 희망한다”고 말했습니다.

머스크는 또한 토요일 경기 둔화에 대한 지지를 표명하며 다음과 같이 썼습니다. X에 게시하다 “다리오 말이 맞아요.”

경쟁 AI 스타트업인 xAI의 머스크 획득 그의 로켓 회사에서 스페이스X 올해 초에는 보컬 평론가 인류학의. 그는 이전에 회사가 “서구 문명을 싫어한다”고 말했으며 “회사 이름과 반대되는 운명에 처해 있다”고 말했습니다. 하지만 Anthropic이 발표한 이후로 주요 컴퓨팅 거래 머스크는 지난 5월 SpaceX를 통해 자신의 입장을 크게 바꾸었습니다.

머스크는 당시 이렇게 썼다. “내가 만난 사람들은 모두 매우 유능했고 옳은 일을 하는 데 많은 관심을 기울였습니다.” “아무도 내 사악한 탐지기를 작동시키지 못했습니다.”

아모데이는 토요일에 AI가 여전히 “인간의 삶의 질을 극적으로 향상시킬 수 있다”고 믿지만 위험은 심각하게 받아들여야 한다고 썼다.

“모델이 중요한 수준의 성능에 도달하기 전에 속도를 늦추면 1~2년 정도 더 시간을 벌 수 있고 그 시간을 활용하여 정렬을 향상한다면 심각한 문제가 발생할 위험을 크게 줄일 수 있다고 믿습니다.”라고 그는 말했습니다.

보다: 인류 AI 연구원은 기업이 ‘우리 목숨을 걸고 도박을 하고 있다’고 말했다.