알고리즘 저스티스 리그

Algorithmic Justice League
알고리즘 저스티스 리그
약칭AJL
형성2016
설립자조이 부올람위니
목적인공지능 행동주의
위치
웹사이트www.ajl.org

알고리즘 저스티스 리그(AJL)는 매사추세츠주 캠브리지에 기반을 둔 디지털 옹호 비영리 단체입니다.컴퓨터 과학자 조이 부올람위니(Joy Buolamwini)가 2016년에 설립한 AJL은 사회에서 인공지능(AI)의 사용과 인공지능이 사회에 미칠 수 있는 해악과 편견에 대한 사회적 인식을 높이기 위해 연구, 예술 작품 및 정책 옹호를 사용합니다.[1]AJL은 AI 시스템의 편향성에 대한 정보를 전달하고 편향된 AI 시스템의 생성과 배치를 완화하기 위해 다양한 공개 온라인 세미나, 미디어 출연 및 기술 옹호 활동에 참여했습니다.2021년 패스트 컴퍼니는 AJL을 세계에서 가장 혁신적인 AI 기업 10곳 중 하나로 선정했습니다.[2][3]

역사

부올람위니는 2016년 MIT 미디어 랩의 대학원생으로 알고리즘 저스티스 리그를 설립했습니다.그녀의 연구에서 얼굴 감지 소프트웨어로 실험을 하던 중, 그녀는 하얀 마스크를 쓸 때까지 그 소프트웨어가 그녀의 "매우 흑색변" 얼굴을 감지할 수 없다는 것을 발견했습니다.[4]이 사건 이후, 부올람위니는 AJL을 설립하여 인공지능의 편향성의 존재와 그것이 시민의 권리에 미칠 수 있는 위협에 대한 대중의 관심을 이끌어 내도록 영감을 받았습니다.[4]초기 AJL 캠페인은 주로 얼굴 인식 소프트웨어의 편향에 초점을 맞췄습니다. 최근 캠페인은 알고리즘 편향, 알고리즘 의사 결정, 알고리즘 거버넌스 및 알고리즘 감사를 포함하여 AI의 형평성과 책임에 대한 질문을 보다 광범위하게 다루었습니다.

또한 Data and Society, Data for Black Lives, Distributed Artificial Intelligence Research Institute (DAIR) 및 Fight for the Future를 포함한 유사한 목표를 위해 노력하는 다른 조직의 커뮤니티가 있습니다.[5][6][7]

주목할 만한 작품

안면인식

AJL의 설립자인 부올람위니는 AI 윤리학자 팀니트 게브루와 협력하여 마이크로소프트, IBM 및 페이스++의 상용 시스템에서 사용되는 얼굴 인식 알고리즘의 인종 및 성별 편견에 대한 2018년 연구를 발표했습니다."젠더 쉐이드(Gender Shades)"라는 제목의 그들의 연구는 IBM과 마이크로소프트가 발표한 머신 러닝 모델이 밝은 피부와 남성적인 얼굴의 성능에 비해 어두운 피부와 여성적인 얼굴을 분석할 때 정확도가 낮다는 것을 밝혀냈습니다.[8][9][10]"젠더 쉐이드(Gender Shades)" 논문은 기술 조직과 정부에 안면 인식 기술의 치명적인 사용을 금지할 것을 촉구하는 조지타운 프라이버시 & 테크놀로지 센터(Georgown Center on Privacy & Technology)와 함께 고안된 계획인 세이프 페이스 플레지(Safe Face Pledge)의 시작과 함께 제공되었습니다.[11]AJL 및 유사한 그룹이 수행한 Gender Shades 프로젝트와 그에 따른 옹호는 Amazon과 IBM을 포함한 여러 기술 회사가 알고리즘 개발의 편견을 해결하고 2020년에 경찰의 제품 사용을 일시적으로 금지하도록 만들었습니다.[12][13]

부올람위니와 AJL은 선댄스 영화제에서 초연된 2020년 넷플릭스 다큐멘터리 '코드 바이어스'에 출연했습니다.[2][14][15]이 다큐멘터리는 안면 인식 시스템의 알고리즘 편향에 대한 인식을 확산시키기 위한 AJL의 연구와 옹호 노력에 초점을 맞췄습니다.[4][15]

AJL과 관련된 연구 협력은 2020년 5월 안면 인식 기술의 개발과 배치를 규제하기 위한 새로운 미국 연방 정부 사무소의 설립을 요구하는 백서를 발표했습니다.[16]백서는 이 영역에 대한 새로운 연방 정부 사무실을 만드는 것이 취약한 인구에 대한 안면 인식 기술에 의해 제기되는 대량 감시 및 편견의 위험을 줄이는 데 도움이 될 것이라고 제안했습니다.[17]

음성 인식의 편의성

AJL은 성별과 인종에 걸쳐 음성 및 언어 모델링을 위한 AI 시스템의 성능에 대한 알고리즘 편향과 불평등에 대한 대중의 인식을 높이기 위한 계획을 운영하고 있습니다.이 공간에서 AJL의 연구는 소수 인종에 대한 낮은 성과와 성별 고정관념을 강화한 것으로 나타난 상업적 음성인식과 자연어 처리 시스템의 성과에서 성별과 인종 간의 차이를 강조하는 데 초점을 맞추고 있습니다.[18][19][20]

2020년 3월, AJL은 자동 음성 인식(ASR) 시스템의 인종적 편견에 대한 대중의 인식을 높인 음성 삭제라는 제목의 예술 작품을 발표했습니다.[21][22]이 작품은 루하 벤자민(Ruha Benjamin), 사샤 코스탄자촉(Sasha Costanza-Chock), 사피야 노블(Safiya Noble), 킴벌리 크렌쇼(Kimberlé Crenshaw) 등 해당 분야의 수많은 여성 및 비이진학 연구원들이 공연했습니다.[22][21]AJL은 5개의 상용 ASR 시스템의 성능에서 인종적 차이를 확인한 "자동화 음성 인식의 인종적 차이"라는 제목의 2020년 PNAS 논문을 기반으로 "음성 삭제"를 개발했습니다.[20]

알고리즘 거버넌스

2019년, 부올람위니는 미국 하원 과학 우주 기술 위원회의 의회 청문회에서 AJL을 대표하여 상업적 및 정부에서의 안면 인식 기술 적용에 대해 논의했습니다.[23][24]부올람위니는 청문회에서 증인으로 나서 어두운 피부와 여성적인 특징을 가진 사람들을 식별하는 데 있어서 안면 인식 기술의 저조한 성과에 대해 연설했고 AJL 프로젝트인 "젠더 쉐이드"의 연구와 함께 그녀의 입장을 지지했습니다.[24][25][26]

2022년 1월, AJL은 Fight for the Future 및 Electronic Privacy Information Center와 협력하여 Dump라는 온라인 청원을 발표했습니다.ID.me 은 국세청이 사용자들이 로그인할 때 사용하고 있던 안면 인식 기술인 ID.me 의 사용을 중단할 것을 요구하고 있습니다.AJL과 다른 단체들은 국회의원들에게 편지를 보내 국세청이 이 프로그램을 중단하도록 독려해달라고 요청했습니다.2022년 2월, 국세청은 이 프로그램을 중단하고 안면 인식 기술 사용을 중단하기로 합의했습니다.[27]AJL은 이제 안면 인식 기술 사용을 중단하도록 다른 정부 기관을 설득하는 노력을 전환했습니다. 2022년 3월 현재, 덤프ID.me 청원은 모든 정부 기관에서 ID.me 사용을 중단하는 방향으로 전환되었습니다.

Olay 디코드 더 바이어스 캠페인

2021년 9월, Olay는 AJL 및 O'Neil Risk Consulting & Algorithic Auditing(ORCAA)과 협력하여 Olay Skin Advisor(OSA) 시스템에 유색인종에 대한 편견이 포함되어 있는지 여부를 조사하는 감사가 포함된 Decode the Bias 캠페인을 실시했습니다.[29]AJL은 Olay가 이번 감사에서 사용할 셀카와 피부 데이터에 대한 고객 동의를 받기로 한 것에 대해 Olay와 협력하기로 결정했습니다.[30]AJL과 ORCAA 감사 결과 OSA 시스템이 참가자의 피부색과 연령에 걸쳐 성능에 편향이 있다는 사실이 밝혀졌습니다.[30]OSA 시스템은 Fitzpatrick Skin Type 및 개별 유형학 각 피부 분류 척도에 따라 피부 톤이 밝은 참가자에게 더 높은 정확도를 입증했습니다.OSA 시스템은 또한 30-39세 참가자들에게 더 높은 정확도를 보여주었습니다.[31]그 이후 Olay는 OSA 시스템의 편견을 내부적으로 감사하고 완화하기 위한 조치를 취했습니다.[30]올레이는 흑인 소녀들의 STEM 활동을 장려하기 위해 흑인 소녀 코드 캠프에 참석하기 위해 1,000명의 소녀들에게 자금을 지원하기도 했습니다.[30]

CRASH 프로젝트

2020년 7월, AJL은 CRASH(Algorithic System Harms) 프로젝트를 시작했습니다.[32]이 프로젝트는 2019년 록펠러 재단이 주최한 벨라지오 센터 레지던시 프로그램에서 부올람위니와 디지털 보안 연구원 카밀 프랑수아가 만나 시작됐습니다.그 이후로 MIT 교수이자 AJL 연구 책임자인 사샤 코스탄자 촉이 이 프로젝트를 공동으로 이끌었습니다.CRASH 프로젝트는 AI 기술의 알고리즘 편향 사례를 발견하고 보고하도록 개인에게 동기를 부여하는 버그 바운티 프로그램(BBP) 개발을 위한 프레임워크를 만드는 데 초점을 맞췄습니다.[32][33]AJL 연구자들은 BBP 참여자들을 대상으로 인터뷰와 트위터의 BBP 프로그램에 대한 사례연구를 진행한 후,[34] 개인이 AI 시스템에서 편향의 존재를 찾고 공개하도록 보상하고 장려하는 BBP 프로그램 설계를 위한 개념적 프레임워크를 개발하고 제안하였습니다.[35]AJL은 CRASH 프레임워크를 통해 개인에게 알고리즘 유해성을 보고하고 기업에 의해 배치된 AI 기술의 변화를 촉진할 수 있는 능력을 제공할 계획이며, 특히 전통적으로 이러한 AI 기술의 설계에서 제외되어 온 개인들을 대상으로 합니다 [20, DataSociety report].[36][37]

지원 및 미디어 출연

AJL 이니셔티브는 포드 재단, 맥아더 재단, 알프레드 P에 의해 자금이 지원되었습니다. 슬론 재단, 록펠러 재단, 모질라 재단 그리고 개인 기부자들.[36][38]패스트 컴퍼니는 AJL을 2021년 가장 혁신적인 AI 기업 10곳 중 하나로 인정했습니다.[2]이외에도 타임지, 뉴욕타임즈, NPR, CNN 등에서 부올람위니가 AJL과 함께 작업한 내용을 여러 인터뷰와 기사에 실었습니다.[7][24][39]

참고 항목

참고문헌

  1. ^ "Learn More". The Algorithmic Justice League. Archived from the original on March 29, 2022. Retrieved April 7, 2022.
  2. ^ a b c "The 10 most innovative companies in artificial intelligence". Fast Company. March 9, 2021. Archived from the original on April 7, 2022. Retrieved April 7, 2022.
  3. ^ Villoro, Elías (February 16, 2023). "Coded Bias and the Algorithm Justice League". Boing Boing.
  4. ^ a b c "Documentary 'Coded Bias' Unmasks The Racism Of Artificial Intelligence". WBUR-FM. Archived from the original on January 4, 2022. Retrieved April 7, 2022.
  5. ^ "Google fired its star AI researcher one year ago. Now she's launching her own institute". The Washington Post. ISSN 0190-8286. Archived from the original on December 2, 2021. Retrieved April 7, 2022.
  6. ^ "DAIR". Distributed AI Research Institute. Archived from the original on April 7, 2022. Retrieved April 7, 2022.
  7. ^ a b c Metz, Rachel (March 7, 2022). "Activists pushed the IRS to drop facial recognition. They won, but they're not done yet". CNN. Archived from the original on March 31, 2022. Retrieved April 7, 2022.
  8. ^ Buolamwini, Joy; Gebru,Timnit (2018). "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" (PDF). Proceedings of the 1st Conference on Fairness, Accountability and Transparency. 81: 77–91. Archived (PDF) from the original on December 12, 2020. Retrieved December 12, 2020 – via December 12, 2020.{{cite journal}}: CS1 유지 : 여러 이름 : 저자 목록 (링크)
  9. ^ "Gender Shades". gendershades.org. Archived from the original on May 29, 2022. Retrieved April 7, 2022.
  10. ^ Buell, Spencer (February 23, 2018). "MIT Researcher: AI Has a Race Problem, and We Need to Fix It". Boston. Archived from the original on April 7, 2022. Retrieved April 7, 2022.
  11. ^ "Announcement - Safe Face Pledge". January 20, 2021. Archived from the original on January 20, 2021. Retrieved April 7, 2022.
  12. ^ "The two-year fight to stop Amazon from selling face recognition to the police". MIT Technology Review. Archived from the original on April 7, 2022. Retrieved April 7, 2022.
  13. ^ "IBM pulls out of facial recognition, fearing racial profiling and mass surveillance". Fortune. Archived from the original on April 7, 2022. Retrieved April 7, 2022.
  14. ^ Lee, Jennifer 8 (February 8, 2020). "When Bias Is Coded Into Our Technology". NPR. Archived from the original on March 26, 2022. Retrieved April 7, 2022.
  15. ^ a b "Watch Coded Bias Netflix". www.netflix.com. Archived from the original on March 24, 2022. Retrieved April 8, 2022.
  16. ^ Burt, Chris (June 8, 2020). "Biometrics experts call for creation of FDA-style government body to regulate facial recognition Biometric Update". www.biometricupdate.com. Archived from the original on April 7, 2022. Retrieved April 7, 2022.
  17. ^ Miller, Erik Learned ; Ordóñez, Vicente ; Morgenstern, Jamie ; Buolamwini, Joy (2020). "Facial Recognition Technologies in the Wild: A Call for a Federal Office" (PDF). White Paper: 3–49. Archived (PDF) from the original on January 21, 2022. Retrieved April 8, 2022.{{cite journal}}: CS1 유지 : 여러 이름 : 저자 목록 (링크)
  18. ^ Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Shmitchell, Shmargaret (March 3, 2021). "On the Dangers of Stochastic Parrots: Can Language Models be Too Big?". Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. FAccT '21. Virtual Event Canada: ACM. pp. 610–623. doi:10.1145/3442188.3445922. ISBN 978-1-4503-8309-7. S2CID 232040593.
  19. ^ Kiritchenko, Svetlana; Mohammad, Saif M. (2018). "Examining Gender and Race Bias in Two Hundred Sentiment Analysis Systems" (PDF). Proceedings of the Seventh Joint Conference on Lexical and Computational Semantics. Proceedings of the 7th Joint Conference on Lexical and Computational Semantics. pp. 43–53. arXiv:1805.04508. doi:10.18653/v1/S18-2005. S2CID 21670658. Archived (PDF) from the original on March 8, 2022. Retrieved April 8, 2022 – via June 5-6, 2018.{{cite book}}: CS1 유지 : 여러 이름 : 저자 목록 (링크)
  20. ^ a b Koenecke, Allison; Nam, Andrew; Lake, Emily; Nudell, Joe; Quartey, Minnie; Mengesha, Zion; Toups, Connor; Rickford, John R.; Jurafsky, Dan; Goel, Sharad (April 7, 2020). "Racial disparities in automated speech recognition". Proceedings of the National Academy of Sciences. 117 (14): 7684–7689. Bibcode:2020PNAS..117.7684K. doi:10.1073/pnas.1915768117. ISSN 0027-8424. PMC 7149386. PMID 32205437.
  21. ^ a b "Voicing Erasure". www.ajl.org. Archived from the original on April 11, 2022. Retrieved April 7, 2022.
  22. ^ a b "Algorithmic Justice League protests bias in voice AI and media coverage". VentureBeat. April 1, 2020. Archived from the original on March 31, 2022. Retrieved April 7, 2022.
  23. ^ Quach, Katyanna (May 22, 2019). "We listened to more than 3 hours of US Congress testimony on facial recognition so you didn't have to go through it". The Register. Archived from the original on January 21, 2022. Retrieved April 8, 2022.
  24. ^ a b c "Artificial Intelligence: Societal and Ethical Implications". House Committee on Science, Space and Technology. June 26, 2019. Archived from the original on March 15, 2022. Retrieved April 8, 2022.
  25. ^ Rodrigo, Chris Mills (July 2, 2020). "Dozens of advocacy groups push for Congress to ban facial recognition technology". The Hill. Archived from the original on April 8, 2022. Retrieved April 8, 2022.
  26. ^ "U.S. government study finds racial bias in facial recognition tools". Reuters. December 19, 2019. Archived from the original on April 8, 2022. Retrieved April 8, 2022.
  27. ^ Rachel Metz (February 7, 2022). "IRS halts plan to require facial recognition for logging in to user accounts". CNN. Archived from the original on April 8, 2022. Retrieved April 8, 2022.
  28. ^ "Demand All Government Agencies Drop ID.me". Fight for the Future. Archived from the original on April 26, 2022. Retrieved April 8, 2022.
  29. ^ "Decode the Bias & Face Anything Women in STEM OLAY". www.olay.com. Archived from the original on April 11, 2022. Retrieved April 8, 2022.
  30. ^ a b c d Shacknai, Gabby (September 14, 2021). "Olay Teams Up With Algorithmic Justice Pioneer Joy Buolamwini To #DecodetheBias In Beauty". Forbes. Archived from the original on March 28, 2022. Retrieved April 8, 2022.
  31. ^ "ORCAA's Report". www.olay.com. Archived from the original on April 11, 2022. Retrieved April 8, 2022.
  32. ^ a b "Algorithmic Vulnerability Bounty Project (AVBP)". www.ajl.org. Archived from the original on March 18, 2022. Retrieved April 8, 2022.
  33. ^ Laas, Molly (January 27, 2022). "Bug Bounties For Algorithmic Harms? Algorithmic Justice League". MediaWell. Archived from the original on January 18, 2023. Retrieved April 8, 2022.
  34. ^ Vincent, James (August 10, 2021). "Twitter's photo-cropping algorithm prefers young, beautiful, and light-skinned faces". The Verge. Archived from the original on April 8, 2022. Retrieved April 8, 2022.
  35. ^ "AJL Bug Bounties Report.pdf". Google Docs. Archived from the original on January 31, 2022. Retrieved April 8, 2022.
  36. ^ a b League, Algorithmic Justice (August 4, 2021). "Happy Hacker Summer Camp Season!". Medium. Archived from the original on November 16, 2021. Retrieved April 8, 2022.
  37. ^ Ellis, Ryan Ellis; Stevens, Yuan (January 2022). "Bounty Everything: Hackers and the Making of the Global Bug Marketplace" (PDF). Data Society: 3–86. Archived (PDF) from the original on February 24, 2022. Retrieved April 8, 2022.{{cite journal}}: CS1 유지 : 여러 이름 : 저자 목록 (링크)
  38. ^ "AJL Bug Bounties Report.pdf". Google Docs. Archived from the original on April 8, 2022. Retrieved April 8, 2022.
  39. ^ "Joy Buolamwini: How Do Biased Algorithms Damage Marginalized Communities?". NPR. Archived from the original on April 3, 2022. Retrieved April 8, 2022.

외부 링크