인위적 어리석음

Artificial stupidity

인공지능(AI)이라는 용어의 유머러스한 정반대로 흔히 인공지능(AI)이라는 용어를 사용하는데, AI 기술이 자신의 업무를 적절하게 수행할 수 없다는 데 대한 경멸적인 언급으로 자주 쓰인다.[1]그러나, 컴퓨터 과학 분야에서는, 인위적인 어리석음은, 컴퓨터 프로그램의 대응의 오류를 의도적으로 도입하기 위해서, 「dumbdown」하는 기법을 가리키는 데에도 이용되고 있다.

역사

1950년 논문 Computing Machine and Intelligence에서 앨런 튜링은 이후 튜링 테스트로 알려지게 된 지능 테스트를 제안했다.[2]여러 가지 버전이 있지만, 튜링에 의해 「임상 게임」에 근거한 것으로 기술된 원래의 테스트에는 「머신 인텔리전스」(AI 프로그램을 운영하는 컴퓨터), 여성 참가자, 질문자가 관여했다.AI와 여성 참가자 모두 자신이 여성이라고 주장하는 것이었고, 질문자의 임무는 어느 쪽이 여성 참가자인지, 어느 쪽이 타이핑된 질문에 대한 참가자의 반응을 살펴보는 것이 아니었다.[2]튜링의 주장에 대해 가능한 이의제기를 논의하면서, 질문자가 참가자들 중 한 명이 컴퓨터라는 것을 알도록 의도했는지는 분명하지 않지만, 튜링은 "머신은 실수를 할 수 없다"[2]는 우려를 제기했다.

질문자는 단순히 산술에 여러 문제를 설정함으로써 기계와 사람을 구별할 수 있었다고 한다.그 기계는 치명적인 정확성 때문에 마스킹이 해제될 것이다.

— Turing, 1950, page 448

튜링 씨가 지적한 바와 같이, 이에 대한 답은 간단하다. 즉, 기계가 "산술 문제에 대한 정답을 제시하려고 해서는 안 된다"[2]는 것이다.대신에 고의적인 오류가 컴퓨터의 응답에 도입되어야 한다.

적용들

컴퓨터 과학 분야에서는 인위적인 어리석음을 위한 최소한 두 가지 주요한 응용이 있다: 튜링 테스트를 통과하려고 시도하는 챗봇의 고의적인 오류 발생 또는 그들이 인간이라고 믿도록 참가자를 속이는 것; 그리고 게임의 난이도를 조절하기 위해 비디오 게임에서 컴퓨터 AI의 고의적인 제한이다.

챗봇

제1회 뢰브너상 경연대회는 1991년에 개최되었다.이코노미스트에서 보도된 바와 같이, 이코노미스트가 "인공적인 어리석음"으로 묘사하는 의도적인 오류들을 이코노미스트에 포함시켜 심사위원들이 그것이 인간이라고 믿도록 속였다.[3]이 기술은 이후 뢰브너상 대회의 일부로 남아 있으며, 튜링에 의해 처음 제기된 문제를 반영하고 있다.

게임 디자인

Lars Lidén은 좋은 게임 디자인에는 컴퓨터의 "지능"과 플레이어의 승리 능력 사이의 균형을 찾는 것이 포함되어 있다고 주장한다.'인공적 어리석음'의 수준을 정교하게 조절함으로써 플레이어가 승리할 수 있도록 하는 컴퓨터 제어 플레이를 만들 수 있지만, '지적해 보이지 않고' 그렇게 할 수 있다.[4]

알고리즘

검색 알고리즘에서 고의적으로 부실한 의사결정을 도입하는 방법에는 여러 가지가 있다.미니맥스 알고리즘을 예로 들어보자.미니맥스 알고리즘은 둘 이상의 플레이어가 서로 경쟁해야 하는 게임에서 널리 사용되는 적대적 검색 알고리즘이다.이 알고리즘의 주요 목적은 승리 가능성을 극대화하는 동작을 선택하고 상대의 승리 가능성을 극대화하는 동작을 피하는 것이다.이와 같은 알고리즘은 컴퓨터가 수천 개의 움직임을 미리 검색할 수 있기 때문에 컴퓨터에 매우 유익할 것이다.다른 난이도를 허용하기 위해 이 알고리즘을 "dumbdown"하려면 경험적 함수를 수정해야 한다.보통 우승국에서는 큰 포인트가 주어진다.이렇게 큰 보답을 줄임으로써 경험적 발견을 수정하는 것은 승리 상태를 선택할 때 알고리즘의 기회를 감소시킬 것이다.

어리석음을 허용하기 위해 휴리스틱한 기능을 만드는 것은 생각보다 어렵다.휴리스틱스가 최선의 움직임을 허용한다면, 컴퓨터 상대는 너무 전지전능해서 게임을 좌절시키고 즐길 수 없을 것이다.하지만 휴리스틱스가 형편없다면, 경기 또한 즐겁지 않을 수도 있다.그러므로 적대적 게임에서 좋은 움직임과 나쁜 움직임의 균형은 잘 구현된 휴리스틱 함수에 의존한다.

기타 응용 프로그램

그것의 정의에 따르면, 충분히 개발된 인공 어리석음 프로그램은 주어진 상황에 관한 모든 최악의 경우를 만들 수 있을 것이다.이것은 컴퓨터 프로그래머와 분석가들이 코드 안에 있는 오류를 최소화하면서 즉시 결함을 발견할 수 있게 해준다.

그러나 컴퓨터 소프트웨어의 개발 및 디버깅 단계 내에서 주로 사용될 것으로 예상된다.

인위적 어리석음에 대한 주장

이코노미스트는 만약 우리가 앨런 튜링의 예측을 달성한다면 "끔찍한 해독제가 될 것"이라고 말한다.인간의 행동과 지적 수준을 모방하는 기계를 만드는 것은 무의미한 시도다.컴퓨터의 발명의 목적은 사람이 손으로 하기에는 너무 지루하거나 시간이 많이 걸린다고 생각되는 작업을 수행하는 것을 돕는 것이다.[3]

뢰브나이저상 경연대회 관련 글에서 언급했듯이 컴퓨터는 고의적인 타이핑 오류를 도입해 심사위원들을 속일 수 있었다.이코노미스트는 아무도 타이핑을 제대로 하지 못하는 컴퓨터를 원하지 않을 것이라고 주장한다.[3]

'인공적 어리석음에 대하여'라는 잡지의 저자인 더럼은 컴퓨터를 자연스럽게 지능을 소유하는 것으로 보는 것 같다.컴퓨터가 무지하게 보이는 것은 프로그래밍이 잘못되었기 때문이다.더럼은 사람들이 보통 믿는 것과 정반대라고 말한다. "AI와 같은 것은 없고, 단지 인위적인 어리석음만이 있을 뿐이며, 이것은 컴퓨터가 그들이 필요로 하는 지식을 주지 못했을 때 일어나는 일이다."[5]

이 용어는 주로 컴퓨터 기술과 관련이 있지만 인간의 행동과도 관련이 있는 다른 과목 영역과 연관되어 나타났다.세이디 플랜트는 컴퓨팅의 19세기 예언자 에이다 러브레이스가 미래의 기계 계산 가능성을 과소평가한 사람들을 비판하기 위해 인위적인 어리석음 같은 것을 사용했다고 제안한다.[6][7]히토 슈틸은 그 투명성 때문에 알고리즘의 힘과 위험을 인식하지 못하는 어리석음을 참고로 하여 이 용어를 적용시켜 왔다.[8]이와는 달리, 아비탈 로넬에게 있어서, 인공 어리석음은 미국의 우생학 시대 동안 지능 측정의 충격적인 오용에 대해 기술하고 있다: 사람들은 인위적으로 무지하다고 여겨졌다.[9][10]예술가이자 연구원인 Michael O'Connell은 인간 지능과 기술 지능에 관한 질문을 모두 언급하면서 그의 박사 논문에[11] 인위적인 어리석음이라는 용어를 사용했다.인위적인 어리석음은 보통 의심스럽지만 '바보 같은 행동'이나 '멍청한 행동'을 할 수 있는 인간의 능력을 가리킬 수 있지만, 그는 그것이 또한 창조적인 발견을 하지 않는 수단이 될 수 있다고 제안한다.그는 현대 예술가들에 대한 존 로버츠의 관심과 그들이 "생각하는 어리석음"을 사용하는 것을 "지배적인 담론의 거부"로 언급한다.[12][13]한 가지 제안은 "예술 시스템"의 복원력 있는 한 가지 이유가 교활하고 역적인 가식성 때문인데; 그 자신의 예술은 공리주의적인 관심사, 상업, 오락, 학계, 정치적 의제의 관점에서 보면 어리석어 보인다.예술과 창의성에 대해 토론하는 것뿐만 아니라, 오코넬은 AI를 포함한 기술 영역의 종종 눈에 띄는 어리석음(가장 넓은 의미로 이해됨)에 대항하여 인간 지능의 중요성을 재입고 옹호한다.

인공지능의 한계로서의 인공지능 어리석음

인위적인 어리석음은 컴퓨터에 고의적인 오류를 전달하는 것만이 아니라 컴퓨터 인공지능의 한계로 볼 수도 있다.제이 리보비츠 박사는 "지능과 어리석음이 자연스레 존재하고, AI가 존재한다고 한다면, 그렇다면 '인공적 어리석음'이라고 할 만한 것이 있을까?""[14]

리보비츠는 한계점은 다음과 같다고 지적했다.

  • 상식 보유 및 활용 능력
  • 심층추론시스템 개발
  • 전문가 시스템의 설명 능력을 변화시키는 능력
  • 전문가 시스템의 학습 능력
  • 전문가 시스템을 분산시킬 수 있는 능력
  • 쉽게 지식을 습득하고 업데이트할 수 있는 능력
    — Liebowitz, 1989, Page 109

참조

  1. ^ 오코넬, M, 2017년'인공적 어리석음'으로서의 예술.[온라인] 팔머, 이스트 서섹스: 서섹스 대학교.이용 가능: [http://sro.sussex.ac.uk/id/eprint/67604] [2020년 8월 3일 이용 가능]페이지 44
  2. ^ a b c d Turing, Alan (October 1950), "Computing Machinery and Intelligence", Mind, LIX (236): 433–460, doi:10.1093/mind/LIX.236.433, ISSN 0026-4423
  3. ^ a b c "Artificial Stupidity", The Economist, vol. 324, no. 7770, p. 14, 1992-09-01, the first event was held in 1991
  4. ^ Lidén, Lars (2004), S. Rabin (ed.), "Artificial Stupidity: The art of making intentional mistakes", AI Game Programming Wisdom 2, Charles River Media, Inc., pp. 41–48
  5. ^ 더럼, T. (1985년 3월 21일), "인공적 어리석음에 대하여," Computing, The Magazine pp: 4-5
  6. ^ 공장, S, 1998.0과 1: 디지털 여성과 새로운 테크노컬쳐.런던:제4계. 페이지 89
  7. ^ 오코넬, M, 2017년'인공적 어리석음'으로서의 예술.[온라인] 팔머, 이스트 서섹스: 서섹스 대학교.http://sro.sussex.ac.uk/id/eprint/67604에서 이용 가능: [2017년 8월 8일 이용 가능]170 페이지
  8. ^ Steyerl, Hito; Crawford, Kate (23 January 2017). "Data Streams". The New Inquiry. Retrieved 8 August 2017.
  9. ^ 로넬, A, 2002년바보같다.Urbana, IL: Urbana:일리노이 대학교 출판부 59-60쪽
  10. ^ 오코넬, M, 2017년'인공적 어리석음'으로서의 예술.[온라인] 팔머, 이스트 서섹스: 서섹스 대학교.http://sro.sussex.ac.uk/id/eprint/67604에서 이용 가능: [2017년 8월 8일 이용 가능]페이지 168
  11. ^ 오코넬, M, 2017년'인공적 어리석음'으로서의 예술.[온라인] 팔머, 이스트 서섹스: 서섹스 대학교.http://sro.sussex.ac.uk/id/eprint/67604에서 이용 가능: [2017년 8월 8일 이용 가능]
  12. ^ 로버츠, J, 1996b존 로버츠의 매드 포 잇![온라인] 모든 잡지.이용 가능: [http://bak.spc.org/everything/e/hard/text/roberts1.html] [2016년 6월 14일 접속됨]
  13. ^ 오코넬, M, 2017년'인공적 어리석음'으로서의 예술.[온라인] 팔머, 이스트 서섹스: 서섹스 대학교.http://sro.sussex.ac.uk/id/eprint/67604에서 이용 가능: [2017년 8월 8일 이용 가능]174 페이지
  14. ^ Liebowitz, Jay (July 1989). "If There is Artificial Intelligence, Is There Such Thing As Artificial Stupidity?". SIGART Newsletter. 109.

추가 읽기