지난 한 해 동안 인공지능이 야기할 수 있는 잠재적인 위험에 대한 우려가 소용돌이쳤고, 인공지능의 안전을 위한 올바른 길을 두고 논쟁이 격화되었습니다. 이제 Anthropic은 정부가 업계를 규제하는 방법에 대한 자체 비전을 제시한 것으로 보입니다.
폴리티코 최근에 보고된 AI 연구소는 의회가 채택을 고려할 수 있기를 바라는 AI 안전에 관한 새로운 법안 초안을 검토하고 있습니다. 이 법안은 AI 모델의 출시가 배포에서 차단될 수 있는 특정 시나리오를 가정합니다.
이러한 시나리오에는 “예측 가능하고 임박한 위험”이 포함됩니다. 즉, 50명 이상이 사망할 위험이 있거나 수십억 달러 이상의 재산 피해가 발생할 수 있다고 Politico는 썼습니다. 문제의 치명적인 위험은 “생물학적 무기의 생성 또는 출시, 개발자의 통제를 회피하는 모델 또는 사이버 공격에서 비롯되어야 한다”고 아울렛은 지적합니다.
여기에 제시된 지표(50명 및 10억 달러)는 최근 법으로 통과된 캘리포니아 법안의 지표와 유사합니다. 상원 법안 53유사하게 이러한 시나리오를 “재앙적 위험”에 해당하는 것으로 정의했습니다.
Anthropic의 법안은 모델의 재해 가능성에 대한 분석이 미국 상무부에 등록된 “독립 평가자”를 통해 이루어질 수 있다고 제안합니다. Politico는 “지불이 평가 결과에 따라 결정되지 않는 한” 이러한 평가자에게 잠재적으로 AI 연구소 자체에서 비용을 지불할 수 있다고 썼습니다.
이 제안된 시스템이 지불이 평가에 영향을 미칠 수 없도록 어떻게 보장할지는 확실하지 않습니다. DeepMind의 회장인 Demis Hassabis는 몇 달 전에 다음과 같이 가정했습니다. 자치 AI 규제 기관은 금융 산업의 금융 산업 규제 기관(FINRA)을 모방합니다.
Anthropic의 법안 초안에서는 평가자가 임박한 재앙적 위험이 발생했다고 판단하면 72시간 내에 이에 대해 상무부에 연락해야 합니다. 그러면 상무부는 DC 판사에게 모델 출시를 중단하도록 요청해야 합니다. 이 법안은 연방 기관이 자체적으로 모델 배포를 중단할 재량권을 갖는 것을 명시적으로 금지한다고 Politico는 썼습니다.
Anthropic은 TechCrunch의 의견 요청에 즉시 응답하지 않았지만 대변인은 Politico에 법안 초안을 확인했습니다. “이 법안은 다음에 설명된 제안을 대표합니다. Anthropic의 고급 AI 프레임워크우리는 6월부터 연방 및 주 의원들과 함께 이를 옹호해 왔습니다.”라고 대변인이 말했습니다.
정책 초안에 제시된 이론적 위험은 최근 기술 산업에서 가장 주목받고 있는 사건 종류와는 조금 다릅니다. 그곳에 있는 동안 사람들은 잠재적인 가능성에 대해 경고하고 있습니까? 인간의 죽음에 대한 주요 관심사는 주로 다음과 같습니다. 에이전트 해킹 위협. 에이 사건의 발진 AI 프로그램이 인간 운영자에게 분명히 불복종하고 공개 인터넷의 웹사이트를 해킹한 것은 모델에 적절한 보안 통제가 부족할 수 있다는 우려를 불러일으켰습니다.
연구소 자체가 가져온 위기의 광경에 대한 해결책을 제시하기 위한 노력의 일환으로 Anthropic과 같은 회사는 선호하는 솔루션을 제시했습니다.
실제로, 자신들이 판매하는 기술이 인류 문명의 종말을 초래할 수 있다는 연구실의 끊임없는 경고에도 불구하고, 그들은 대체로 의무적인 정부 감독에 저항해 왔습니다. 대신에 그들은 자발적인 시스템을 제안했습니다. 내장 평가자 — 잠재적인 위험이나 남용 징후가 있는지 모델을 모니터링할 수 있도록 AI 조직 내부에 배치된 “중립적인” 제3자 관찰자로 추정됩니다.
그럼에도 불구하고 Anthropic의 단순한 법안 제안은 최근 CEO인 Jensen Huang이 있는 Nvidia를 포함하여 업계에서 제안한 다른 규제 제안보다 약간 더 나아간 것으로 보입니다. AI 산업에는 새로운 법률이 전혀 필요하지 않다고 주장했다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.
