파스칼 강도

Pascal's mugging

철학에서 파스칼의 강도질은 예상되는 효용 극대화의 문제를 보여주는 사고 실험이다.합리적인 에이전트는 그 가능성에 따라 결과가 더 높은 효용성을 갖는 행동을 선택해야 합니다.그러나 매우 가능성이 낮은 일부 결과에는 매우 큰 효용성이 있을 수 있으며, 이러한 효용성은 감소하는 확률보다 더 빠르게 증가할 수 있습니다.따라서 에이전트는 믿기 어려울 정도로 높은 보상을 받는 매우 가능성이 낮은 사례에 더 집중해야 합니다. 이는 먼저 직관에 반하는 선택으로 이어지며, 그 후 모든 선택의 효용에 한계가 있을 때 일관성이 없어집니다.

그 이름은 파스칼의 내기를 가리키지만, 내기와는 달리 무한한 [1]보상을 요구하지 않는다.이것은 [2]무한의 본질에 기초한 파스칼의 내기 딜레마에 대한 많은 반론을 피한다.

문제문

한 [2]설명에 따르면 블레이즈 파스칼은 무기를 잊어버린 강도에게 말을 걸었다.하지만, 강도는 거래를 제안한다: 철학자는 그들에게 지갑을 주고, 그 대가로 강도는 내일 두 배의 돈을 돌려줄 것이다.파스칼은 이 거래가 지켜질 것 같지 않다고 지적하며 거절했습니다.그리고 나서 강도범은 1000번 중 한 번이라도 명예롭게 될 가능성이 있다고 하더라도 파스칼이 2000번의 수익률에 대해 거래를 하는 것이 타당하다고 지적하면서 계속해서 더 높은 보상액을 언급하고 있다.Pascal은 높은 수익률이 1000분의 1보다 더 낮다고 응답합니다.강도는 많은 금액(또는 순수한 효용)을 갚을 수 있는 낮은 확률에 대해 내기를 합리적으로 하는 유한한 금액이 존재하며, 인간의 실수 가능성 및 철학적 회의론을 고려할 때 이성적인 사람은 그러한 거래가 가능할 가능성이 최소한 0이 아니라는 것을 인정해야 한다고 반박한다.일례로, 그 강도는 파스칼에게 1,000조년의 행복한 나날을 약속함으로써 성공한다.그 주장에 납득한 파스칼은 강도에게 지갑을 건넨다.

이 문제를 언급하기 위해 "파스칼의 강도"라는 용어는 엘리에저 유드코프스키가 Less Wrong [3][2]포럼에서 만든 것입니다.Yudkowsky의 예 중 하나는 "5달러를 주지 않으면 매트릭스 밖에서 마법의 힘을 사용하여 3디스플레이 3 \ \ 사람을 시뮬레이션하고 튜링 기계를 작동시키겠다"고 말하는 것으로 성공한다.여기서 3 （ 3 \ 3 \ \ uparrow \ 3）은 Knuth의 위 화살표 표기법을 사용합니다.기본값 10에 숫자를 쓰는 것은 알려진 [3]우주에 있는 원자보다 훨씬 더 많은 필기 재료를 필요로 합니다.

추측된 역설은 두 가지 모순된 견해에서 비롯된다.한편, 예상 효용 계산에 5달러의 이 f{\f l{\ l의 인명 손실 및 강도가 t{\ t에서 진실을 말하고 있을 가능성을 곱하면 은 다음과 같은 경우에만 돈을 주는 것이다)× t×나는>f{\displaystyle(3\uparrow \uparrow \uparrow \uparrow 3)\times t\times 이름 l>}. 그 나는{나는\displaystyle}f{\displaystyle f}보다 한, t{\displaystyle지} 되는 것으로 추정된다 1/(3↑↑↑↑ 3){1(3\uparrow \uparrow \uparrow \uparrow 3)\displaystyle}이상 많았다 더 높은 것으로 가정한다. 진실의,강도에게 돈을 지불하는 것이 합리적이라고 생각됩니다.반면 강도에게 돈을 지불하는 것은 이용 가능성 때문에 직관적으로 불합리하다.만약 강도를 당한 사람이 이 일련의 논리에 동의한다면, 그들은 그들의 모든 돈을 위해 반복적으로 이용될 수 있고, 이것은 전형적으로 비이성적이라고 여겨지는 더치북을 낳는다.이들 주장 중 어느 것이 논리적으로 옳은지에 대한 견해는 다르다.[3]

게다가, 합리적으로 보이는 많은 의사결정 시스템에서, 파스칼의 강도사건과 유사한 일련의 연속적인 끔찍한 시나리오가 [4][5]고려될 필요가 있기 때문에, "파스칼의 강도사건"은 어떤 행동의 예상 효용성을 수렴하는데 실패하게 한다.

결과 및 구제책

철학자 닉 보스트롬은 파스칼의 내기와 마찬가지로 파스칼의 강도질은 초지능형 인공지능에게 결점이 있는 결정론을 주는 것은 [6]재앙일 수 있다고 주장한다.파스칼의 강도는 또한 낮은 확률과 높은 보상을 가진 존재 위험이나 자선 개입과 같은 높은 위험의 사건을 고려할 때 적절할 수 있다.상식적으로 너무 있을 것 같지 않은 시나리오에 노력을 들이는 것은 비이성적인 것으로 보인다.

한 가지 권장되는 해결책은 제한된 효용 함수만을 사용하는 것일 수 있다. 즉, [4][7]보상은 임의로 클 수 없다.또 다른 접근방식은 베이지안 추론을 사용하여 순진하게 [8]기대치를 계산하는 대신 근거의 품질과 확률 추정치를 (질적으로) 판단하는 것이다.다른 접근 방식은 우리가 놀랍게도 각자의 자리에 다른 많은 수의 사람들에게 영향을 미치는 것이 있다고 주장한다 가설의 대칭 us,[노트 1] 지불 또는 극히 큰 위험 앞에서 양적 결정 절차를 포기 first,[12]의 확률을 제공함을 거부할 시에 영향을 미칠 수 없는 사전 확률을 처벌하기 위한 있다..[5]

「 」를 참조해 주세요.

메모들

  1. ^ 이 '레버리징벌'은 로빈 핸슨이 문제에 대한[9][10] 유드코프스키의 원래 진술에 대한 논평에서 처음 제안했고 유드코프스키에 의해 그러한 가설을 [11]고려하는 것이 합리적일 가능성이 충분할 때조차도 잠재적으로 처벌할 수 있다는 비판을 받았다.

레퍼런스

  1. ^ Olle Häggström (2016). Here Be Dragons. 3.10: Cryonics. ISBN 978-0198723547.{{cite book}}: CS1 유지보수: 위치(링크)
  2. ^ a b c Bostrom, Nick (2009). "Pascal's mugging" (PDF). Analysis. 69 (3): 443–445. doi:10.1093/analys/anp062. JSTOR 40607655.
  3. ^ a b c 파스칼의 강도 엘리에저 유드코프스키:방대한 유틸리티의 작은 가능성.Less Wrong, 2007년 10월 19일http://lesswrong.com/lw/kd/pascals_mugging_tiny_probabilities_of_vast/
  4. ^ a b 드 블랑, 피터알고리즘 확률 분포에 의한 기대 효용 수렴(2007), arXiv:0712.4318
  5. ^ a b Kieran Marray, 존재 위험의 윤리적 계산에 관한 불확실성 대처: 경제 및 사회 연구 위원회 기후 윤리 및 기후 경제학 워크숍 시리즈:워크숍 5 - 리스크와 과학문화, 2016년 5월 http://www.nottingham.ac.uk/climateethicseconomics/documents/papers-workshop-5/marray.pdf
  6. ^ Bostrom, Nick (2014). "Choosing the Criteria for Choosing". Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. ISBN 978-0199678112. "결정 이론" 섹션.
  7. ^ Cowen, Tyler; High, Jack (1988). "Time, Bounded Utility, and the St. Petersburg Paradox". Theory and Decision. 25 (3): 219–223. doi:10.1007/BF00133163. S2CID 120584258.
  8. ^ Holden Karnofsky, "기대 가치 추정치를 문자 그대로 받아들일 수 없는 이유"Give Well 블로그 2011년 8월 18일 http://blog.givewell.org/2011/08/18/why-we-cant-take-expected-value-estimates-literally-even-when-theyre-unbiased/
  9. ^ Robin Hanson(2007년 10월 21일)은 Eliezer Yudkowsky의 "Pascal's Mugging:LessWrong: "많은 사람이 피해를 입는 주가 낮은 (이전) 확률을 갖는다고 가정하는 것에 대해 사람들은 이야기 해왔습니다.많은 사람이 상처를 입은 상태에서는 랜덤한 사람이 영향을 줄 수 있다고 주장하는 것과 낮은 상관관계를 갖는다고 가정하는 것이 더 유망할 수 있습니다.
  10. ^ Tomasik, Brian (June 2016). "How the Simulation Argument Dampens Future Fanaticism" (PDF). Center on Long-Term Risk. pp. 3–4. Archived (PDF) from the original on 2021-11-23.
  11. ^ Yudkowsky, Eliezer (2013-05-08). "Pascal's Muggle: Infinitesimal Priors and Strong Evidence". LessWrong. Archived from the original on 2016-06-27.
  12. ^ Baumann, Peter (2009). "Counting on numbers" (PDF). Analysis. 69 (3): 446–448. doi:10.1093/analys/anp061. JSTOR 40607656. Archived (PDF) from the original on 2019-11-21.