게임 이론은 합리적인 행위자가 특정 규칙에 따라 어떻게 행동할지 예측하는 반면, 역게임 이론은 우리가 원하는 행동을 이끌어내기 위해 규칙을 설계합니다. 케이크를 나누는 경우를 생각해 보십시오. 한 사람이 케이크를 자르고 다른 사람이 첫 번째 선택을 한다면, 절단자는 부분을 균등하게 만들려는 인센티브를 갖습니다.
연구원들은 이 접근 방식이 AI를 우리의 규칙 및 지침에 더 밀접하게 맞출 수 있다고 믿습니다. 그러나 이러한 메커니즘이 실제로 작동할 것인지에 대한 큰 의문이 남아 있습니다.
역게임 이론이 AI 에이전트의 행동을 돕는 방법은 다음과 같습니다..
—아미트 카트왈라
트럼프의 ‘슈퍼 인텔리전스’ 충성도 테스트에 적합한 사람은 다음과 같습니다.
9월 말 트럼프 대통령은 정부 기관이 인공 지능을 ‘슈퍼 인텔리전스’로 이름을 바꿔야 한다는 단 하나의 명령으로 행정 명령에 서명했습니다.
한 달이 지난 지금, 브랜드 변경은 정부 웹사이트와 문서 전반에 서서히 나타나고 있지만 모든 사람의 관심을 끌지는 못했습니다. 기술 분야의 유명 기업들 중 일부도 여전히 “AI”를 사용합니다.
그러나 더 큰 우려는 이 용어가 정치적 충성심을 시험하는 시험이 된다는 점이다. 이 용어를 사용하는 사람들은 정권에 대한 충성심을 나타냅니다. 공격의 대상이 되지 않는 자.
