도살봇

도살봇
연출자	스튜어트 수그
작성자	맷 우드
생산자	맷 넬슨
내레이티드 바이	스튜어트 러셀
생산 동행이	스페이스 디지털
출시일자	2017년 11월 12일 (2017-11-12)
러닝타임	8분
언어	영어

도살봇은 값싼 마이크로드론 떼가 인공지능과 안면인식 등을 이용해 사전 프로그래밍된 기준에 따라 정적들을 암살하는 시나리오로 극화한 2017년 무기통제 옹호 영상이다.이 영상은 2017년 11월 12일 퓨처 오브 라이프 인스티튜트와 스튜어트 러셀 버클리대 컴퓨터공학부 교수가 유튜브에 공개한 것이다.^[1]이 비디오는 순식간에 입소문이 나 200만 뷰를 돌파했다.^[2][3]이 동영상은 제네바에서 열린 2017년 11월 유엔 특정 재래식 무기에 관한 협약에도 상영됐다.^[4]

후속편인 도살봇은 인간일 경우 킬()(2021년)이 민간인에 대한 공격의 가상 시나리오를 추가로 제시하며 유엔에 사람을 겨냥한 자율무기 금지를 요구했다.^[5]

비디오

7분 길이의 극화는 가까운 미래에 블랙 미러 스타일로 설정된다.^[6][7]얼굴 인식과 형상의 폭발물을 이용한 손바닥 크기의 소형 자율 드론을 프로그래밍해 알려진 개인이나 계층(예: 적군 군복을 입은 개인)을 찾아내 제거할 수 있다.한 기술 임원은 핵무기가 이제 "무조건"이라며 "멈출 수 없는" 드론을 2,500만 달러 주문하면 도시 절반의 목숨을 앗아갈 수 있다"고 말했다.동영상이 펼쳐질 때, 그 기술은 알려지지 않은 정당들에 의해 국회의원들부터 그들의 페이스북 프로필을 통해 확인된 학생 운동가들에 이르기까지 정적들을 암살하기 위해 재입고된다.한 장면에서, 떼지어 다니는 드론은 건물로 들어가기 위해 서로 협력한다: 더 큰 드론이 벽에 구멍을 내서 작은 드론에 접근한다.^[1][8][9]

한편 러셀은 "이 단편 영화는 단순한 추측이 아니라 이미 보유하고 있는 기술을 통합하고 소형화한 결과를 보여준다"고 말했다.인류를 이롭게 할 수 있는 AI의 잠재력은 방어를 하더라도 엄청나지만, 기계가 인간을 죽이는 선택을 하도록 허용하는 것은 우리의 안보와 자유를 파괴할 것이다."^[8][10]

생산

러셀에 따르면, "우리가 보여주려던 것은 당신이 원하는 만큼 발사할 수 있기 때문에 자동적으로 대량살상무기로 변하는 자율무기의 속성이었다.그래서 우리는 비디오가 그것을 아주 분명하게 해줄 것이라고 생각했다."러셀은 또한 자율 무기에 대한 비현실적이고 도움이 되지 않는 할리우드 '터미네이터' 개념을 좀 더 현실적인 것으로 대체하고 싶다는 욕구를 표현하기도 했다.^[11]이 비디오는 MediaCity의 Space Digital에 의해 제작되었다.영국 허트포드셔 대학과^[12] 에든버러에서 로케이션 샷을 한 스튜어트 수그가 감독을 맡았다.에든버러는 무장경찰이 인적이 드문 거리를 순찰하는 장면을 촬영하기 위해 영화제작자들이 "일요일 아침 텅 빈 거리"가 필요했고, 그 위치가 국제 관객들에게 인식될 수 있기 때문에 선택되었다.^[13]모든 드론은 사후 제작에 추가되었다.^[11][14]

타당성

이코노미스트는 2017년 12월 미국 MAST와 DCIST 마이크로드론 프로그램과 관련해 도살봇의 실현 가능성을 평가했다.MAST는 현재 무게가 30g도 안 되는 사이클로콥터를 보유하고 있지만, 그것은 벽에 너무 가까울 경우 자체 반사 난기류에 의해 쉽게 교란된다는 단점이 있다.또 다른 지원자는 98그램의 깡충깡충 뛰는 로봇 살토와 같은 것으로, 좁은 공간에서 사이클로콥터보다 더 뛰어난 성능을 발휘한다.현재 도축봇에서 보여지는 드론간 자율조정 수준은 제공되지 않지만, 드론 군집들이 공중 디스플레이에 사용되는 등 변화가 시작되고 있다.이코노미스트는 "도살자"가 가까운 미래에 실현 가능해질 수 있다는 데 동의했다: "2008년에, 손바닥에 잡을 수 있는 스파이 드론은 공상과학 소설에서 나온 아이디어였다.그런 드론은 이제 흔한 일이 되었다...DCIST가 2022년 막을 내리면 도살봇의 발상은 지금보다 훨씬 덜 허구적으로 보일 수 있다."이코노미스트는 "첫 번째 핵무기가 폭발한 후 누군가가 핵무기에 대해 말했듯이, 지킬 만한 유일한 비밀은 이제 없어졌다: 빌어먹을 것들이 작동한다"^[1]는 식의 군국화를 막을 수 있을지 회의적이다.

미국 뉴아메리카안보센터의 폴 샤레르는 "모든 군사기술은 대응책이 있으며 소형 무인기에 대한 대응책도 가상적이지 않다"고 말하며 비디오 시나리오의 실현 가능성에 동의하지 않았다.미국 정부는 소형 드론을 격추하거나, 잼을 튀기거나, 해킹하거나, 덫을 놓거나, 아니면 다른 방법으로 격퇴하는 방법을 적극적으로 연구하고 있다.영상의 마이크로드론들은 닭줄처럼 단순한 것에 의해 패배할 수도 있다.영상에는 무거운 짐을 실은 드론이 벽을 뚫고 구멍을 뚫어 다른 드론이 안으로 들어갈 수 있도록 하는 모습이 담겨 있지만 해결책은 단순히 레이어드 방어막이라고 설명했다.샤레르는 또 자율무기를 금지하는 법적 구속력이 있는 조약인 러셀의 묵시적 제안은 "무기의 자율성이 발전함에 따라 인류가 직면한 진정한 문제를 해결하지 못할 것"이라고 말했다.금지한다고 해서 테러리스트들이 조잡한 DIY 로봇 무기를 만드는 것을 막을 수는 없다...사실, 금지령이 비디오에서 보여지는 무기들을 금지할 것인지도 확실하지 않은데, 이것은 실제로 상당히 차별적인 것이다.^[2]

2018년 4월, 도살봇을 참조하는 스위스 정부 드론 로봇 센터는 헤드 모델에 3그램 모양의 전하를 시험했고, "재앙이 너무 심해서 생존 가능성이 매우 작다"^[15][16]고 결론지었다.

문화 리셉션

CNN의 Matt McFarland는 "아마도 2017년 가장 악몽 같은 디스토피아 영화는 할리우드에서 온 것이 아닐 것이다"라고 말했다.맥팔랜드는 또 킬러로봇 금지에 대한 논의가 2015년 '감각주의' 전환기를 맞았으며, '무장한 쿼드콥터'와 같은 건성어를 사용했다고 밝혔다.현재 2017년 "그들은 '도살자'를 경고하고 있다"^[17]고 밝혔다.

앤드류 양은 2020년 미국 대통령 예비선거 때 트윗을 통해 도살보츠와 연결했다.^[18]2021년 11월 30일에 출판된 속편 비디오는 12월 8일까지 유튜브에서 200만 회 이상의 조회수를 기록했다.^[19]

참고 항목

• 치사자율무기
• 벌처럼 생긴 드론이 등장하는 블랙 미러 TV 시리즈 '헤이트 인 더 네이션'

참조

외부 링크

• 유튜브 도살봇(2017년)
• 도살봇 – 사람일 경우: 유튜브에서 킬()(2021)
• '도살자'를 두려워해서는 안 되는 이유 (Scarre)
  • '도살자'를 두려워해야 하는 이유 — 반응(Russell et al)