메모리 알고리즘

Memetic algorithm

컴퓨터 과학 및 운영 연구에서의 Memetic Algorithm(MA)은 전통적인 유전 알고리즘의 확장입니다.최적화 문제에 대한 충분한 해결책을 제공할 수 있습니다.로컬 검색 기술을 사용하여 조기 [1]수렴 가능성을 줄입니다.

밈 알고리즘은 진화 계산에서 최근 증가하고 있는 연구 영역 중 하나입니다.MA라는 용어는 현재 문제 검색을 위한 개별 학습 또는 국지적 개선 절차를 통해 진화적 또는 모집단 기반 접근법의 시너지 효과로 널리 사용되고 있다.문헌에서는 MA를 Baldwinian Evolutional Algorithm(EA; 볼드윈 진화 알고리즘), Lamarkrian EA, 문화 알고리즘 또는 유전자 로컬 검색이라고도 부릅니다.

서론

자연 진화의 모두 다윈의 원칙과 밈은의 도킨스의 개념에서 영감을 받아 이 용어는 밈 중심 알고리즘(MA)파블로 모스카토에 의해 그의 기술적 report[2]에 1989년 그가population-based 하이브리드 유전 알고리즘(GA)개인 학습 절차 수행할 수 있는과 더불어 한 형태로 문학 석사를 소개되었다.lo세세한 부분까지 조정한편으로 다윈의 진화, 다른 한편으로 밈과 도메인 고유(로컬 검색) 휴리스틱스 사이의 은유적 유사성은 밈 알고리즘 내에서 포착되어 일반성과 문제 특수성 사이에서 균형을 잘 잡는 방법론을 제시한다.이 2단계 성질은 그들을 2상 진화의 특별한 사례로 만든다.

좀 더 다양한 맥락에서, 밈 알고리즘은 이제 하이브리드 진화 알고리즘, 볼드윈 진화 알고리즘, 라마르크 진화 알고리즘, 문화 알고리즘 또는 유전자 로컬 검색을 포함한 다양한 이름으로 사용됩니다.복잡한 최적화의 맥락에서, 밈 알고리즘의 많은 다른 인스턴스화는 일반적으로 기존의 [3]진화적 알고리즘보다 더 효율적으로 고품질 솔루션으로 수렴되는 광범위한 애플리케이션 도메인에 걸쳐 보고되었다.

일반적으로 계산 프레임워크 내에서 밈학 개념을 사용하는 것을 밈 컴퓨팅 또는 밈 계산(MC)[4][5]이라고 합니다. MC를 사용하면 보편적 다윈주의의 특성이 더 적절하게 포착됩니다.이러한 관점에서 보면, MA는 MC의 보다 제약적인 개념이다. 보다 구체적으로 MA는 MC의 한 영역을 다루고 있으며, 특히 최적화 문제를 해결하기 위해 다른 결정론적 정제 기법과 결합하는 진화 알고리즘의 영역을 다루고 있다.MC는 지식 강화 절차 또는 표현의 개념적 실체를 포함하도록 밈의 개념을 확장한다.

MA의 개발

제1세대

MA의 1세대는 하이브리드 알고리즘을 말합니다.혼합 알고리즘은 인구 기반 글로벌 검색(종종 진화 알고리즘의 형태로)과 문화적 진화 단계 간의 결합입니다.이 1세대 MA는 검색 사이클에서 문화적 진화(국지적 정제 형태)의 특성을 포함하지만, 상속/기억 전달, 변화 및 선택의 모든 핵심 원칙이 누락되었기 때문에 보편적 다윈주의에 따라 진정한 진화의 시스템으로 인정되지 않을 수 있다.왜 MA라는 용어를 처음 [2]도입했을 때 연구자들 사이에 비판과 논란을 불러일으켰는지 짐작할 수 있는 대목이다.

유사코드
절차 메모리 알고리즘 초기화:초기 모집단을 생성합니다. 정지 조건이 충족되지 않는 동안 모집단의 모든 개인을 평가하십시오.확률적 검색 연산자를 사용하여 새로운 모집단을 진화시킵니다.개개의 개선절차를 거쳐야 하는 개개의   i l \ _ {} 를 선택합니다. i \  _개인에 대해 f i  \ 또는 확률을 가진 meme사용하여 t \ 의 기간 동안 개별 학습을 수행합니다. 라마르크식 또는 볼드윈식 학습을 진행합니다.동시끝나다

제2세대

Multi-meme,[6] 하이퍼 휴리스틱[7][8] 및 메타[9] 라마르크식 MA를 2세대 MA라고 하며, 설계에서 밈 전송 및 선택 원리를 나타낸다.Multi-meme MA에서 밈 소재는 유전자형의 일부로 부호화된다.이어서 각 개인/염색체의 복호화된 밈을 사용하여 국소적인 미세화를 실시한다.그 후, 밈 물질은 부모로부터 자손에게 간단한 유전 메커니즘을 통해 전달된다.한편, 하이퍼 휴리스틱·메타 라마르크식 MA에서는, 지금까지의 보수 메카니즘에 의한 국지적인 개선의 메리트에 근거해, 검토된 후보 밈의 풀이 경쟁해, 장래의 국지적인 개선을 향해서 어떤 밈을 선택할지를 결정한다.보상이 높은 밈은 복제 또는 복사될 가능성이 높아집니다.2세대 MA, 즉 진화 시스템 내에서 여러 개별 학습 방법을 고려하는 MA에 대한 검토는 독자를 [10]참조한다.

제3세대

공진화[11] 및 자가발전[12] MA는 기본적인 진화 시스템의 정의를 충족하는 세 가지 원칙을 모두 고려한 3세대 MA로 간주할 수 있다.2세대 MA는 사용하는 밈이 선험적으로 알려져 있다고 가정하는 반면, 3세대 MA는 규칙 기반의 로컬 검색을 이용하여 진화 시스템 내에서 후보 해결책을 보완함으로써 문제 공간에서 정기적으로 반복되는 특징이나 패턴을 포착한다.

일부 설계 노트

개별 학습의 빈도와 강도는 주어진 제한된 계산 예산에 대해 MA 검색에서 개별 학습(활용)에 대한 진화(탐구)의 정도를 직접 정의한다.확실히, 보다 집중적인 개별 학습은 로컬 최적화에 대한 수렴 가능성을 높이지만, 과도한 계산 자원을 발생시키지 않고 확장될 수 있는 진화의 양을 제한한다.따라서 이 두 가지 매개변수를 설정할 때 검색 성능을 최대화하는 데 사용할 수 있는 계산 예산의 균형을 맞출 때 주의해야 한다.모집단의 일부만 학습을 받는 경우, MA 검색의 효용성을 극대화하기 위해 개선해야 할 개인의 하위 집합의 문제가 고려되어야 한다.마지막으로, 사용된 개별 학습 절차/밈은 또한 다른 인근 구조를 선호하기 때문에, 주어진 최적화 문제에 사용할 밈을 결정할 필요가 있다.

개인 학습은 얼마나 자주 적용되어야 하는가?

밈 알고리즘 설계와 관련된 첫 번째 문제 중 하나는 개별 학습의 적용 빈도, 즉 개별 학습 빈도를 고려하는 것이다.하나의 경우,[13] MA 검색의 다른 단계에서 개별 학습 빈도의 다양한 구성이 조사된 경우, 개별 학습 빈도가 MA 검색 성능에 미치는 영향을 고려했다.반대로, 개인 학습의 계산 복잡도가 상대적으로 낮다면 모든 개인에게 개별 학습을 적용하는 것이 가치가 있을 수 있다는 것을 다른 곳에서 보여주었다[14].

개별 학습을 사용해야 하는 솔루션은 무엇입니까?

각각의 학습,fitness-based과distribution-based 전략을 거쳐야 하는 EA사이에서 적절한 개인 선택 문제에 대해 염색체의 Land[15]와 계속적인 매개 변수 검색 문제의 인구는 꼭 온 것은 업무 확대에 개개인의 학습을 적용하는 확률을 위해 채택한 연구되었다.bina토리얼 최적화 문제밤바 외는 최대 솔루션 [16]품질을 달성하기 위해 매개 변수화된 개별 학습을 진화 알고리즘에 체계적으로 통합하기 위한 시뮬레이션 가열 기술을 도입했다.

개인 학습은 얼마 동안 진행해야 합니까?

개별 학습 강도는 개별 학습의 반복에 할당된 계산 예산(즉, 개별 학습이 단일 솔루션 개선에 지출할 수 있는 최대 계산 예산)입니다.

특정 문제나 개인에게 어떤 개별적인 학습 방법이나 밈이 사용되어야 하는가?

연속 최적화의 맥락에서 개별 학습은 국소 휴리스틱스 또는 기존의 정확한 열거 방법의 [17]형태로 존재한다.개별 학습 전략의 예로는 언덕 오르기, Simplex 방법, Newton/Quasi-Newton 방법, 내부 포인트 방법, 켤레 경사 방법, 선 탐색 및 기타 국소 휴리스틱이 있습니다.일반적인 개별 학습 방법의 대부분은 결정론적이라는 점에 유의하십시오.

반면 조합 최적화에서 개별 학습 방법은 일반적으로 특정 관심 문제에 맞춘 휴리스틱(결정론적 또는 확률론적)의 형태로 존재한다.대표적인 경험적 절차 및 방법에는 k-gene 교환, 에지 교환, 첫 번째 개선 등이 있습니다.

적용들

메메틱 알고리즘은 많은 실제 문제에 성공적으로 적용되어 왔습니다.많은 사람들이 밈 알고리즘과 밀접하게 관련된 기술을 사용하지만, 하이브리드 유전 알고리즘과 같은 대체 명칭도 사용된다.게다가, 많은 사람들은 그들의 밈 기술을 유전 [citation needed]알고리즘이라고 부른다.

연구자들은 많은 고전적인 NP 문제를 다루기 위해 밈 알고리즘을 사용해 왔다.를 들어 그래프 분할, 다차원 배낭, 여행 세일즈맨 문제, 2차 할당 문제, 세트 커버 문제, 그래프 색칠 최소화, 최대 독립 집합 문제, 빈 패킹 문제, 일반 할당 문제 등을 들 수 있습니다.

보다 최근의 애플리케이션( 하지만 여기에만 국한되지 않는다)사업 분석과 데이터 인공 신경 networks,[18]패턴의 science,[3]훈련 recognition,[19]로봇 운동 planning,[20]빔 orientation,[21]회로 design,[22]전기 서비스 restoration,[23]의학 전문가 systems,[24]단일 기계 scheduling,[25]자동 timetabli을 포함한다.Ng(게 하고 인터넷은 시간표.NHL은 3),[26]인력 scheduling,[27]간호사 rostering optimisation,[28]프로세서 allocation,[29]정비 일정(전기 유통망, 예를 들어)[30]다차원 배낭 problem,[31일]하드웨어 고장 i.을 초고밀도 집적 회로 design,[32]유전자 표현의 클러스터링 profiles,[33]feature/gene selection,[34][35]매개 변수 결정njection,[36]과multi-class,multi-objecti기능 [37][38]선택

메모리 알고리즘의 최근 활동

  • 메모리 알고리즘에 관한 IEEE 워크숍(WOMA 2009).프로그램 의장: 영국 웨스트오브잉글랜드 대학 짐 스미스, 싱가포르 난양공대 유순 옹, 영국 노팅엄대 구스타프슨 스티븐, 영국 난양공대 멍히오림, 싱가포르 나탈.
  • Memetic Computing Journal은 2009년 1월에 창간되었습니다.
  • 2008년 IEEE 컴퓨터 인텔리전스에 관한 세계 콩그레스(WCI 2008), 홍콩, 메모리 알고리즘에 관한 특별 세션.
  • 소프트 컴퓨팅의 새로운 트렌드 - 메모틱 알고리즘에 관한 특별호, 소프트 컴퓨팅 저널, Completed & In Press, 2008.
  • IEEE 컴퓨터 인텔리전스 소사이어티메트릭 컴퓨팅에 관한 이머징 테크놀로지
  • IEEE 진화 계산 콩그레스(CEC 2007), 싱가포르, 메모리 알고리즘 특별 세션.
  • Thomson Scientific의 필수 과학 지표가 제공하는 '메모리 컴퓨팅'이 새로운 전방 연구 분야로 부상하고 있습니다.
  • 메모리 알고리즘, 시스템, 인간 및 사이버네틱스의 IEEE 트랜잭션에 관한 특별호 - Part B: Cybernetics, Vol. 37, No.1, 2007년 2월
  • 메모리 알고리즘, 시리즈의 최근 발전:퍼지니스와 소프트 컴퓨팅에 관한 연구, 제166권, ISBN978-3-540-22904-9, 2005.
  • 메모리 알고리즘에 관한 특집호, 2004년 가을, 제12권, 제3호: v-vi.

레퍼런스

  1. ^ Poonam Garg (April 2009). "A Comparison between Memetic algorithm and Genetic algorithm for the cryptanalysis of Simplified Data Encryption Standard algorithm". International Journal of Network Security & Its Applications (IJNSA). 1 (1). arXiv:1004.0574. Bibcode:2010arXiv1004.0574G.
  2. ^ a b Moscato, P. (1989). "On Evolution, Search, Optimization, Genetic Algorithms and Martial Arts: Towards Memetic Algorithms". Caltech Concurrent Computation Program (report 826).
  3. ^ a b Moscato, P.; Mathieson, L. (2019). "Memetic Algorithms for Business Analytics and Data Science: A Brief Survey". Business and Consumer Analytics: New Ideas. Springer. pp. 545–608. doi:10.1007/978-3-030-06222-4_13. ISBN 978-3-030-06221-7. S2CID 173187844.
  4. ^ Chen, X. S.; Ong, Y. S.; Lim, M. H.; Tan, K. C. (2011). "A Multi-Facet Survey on Memetic Computation". IEEE Transactions on Evolutionary Computation. 15 (5): 591–607. doi:10.1109/tevc.2011.2132725. S2CID 17006589.
  5. ^ Chen, X. S.; Ong, Y. S.; Lim, M. H. (2010). "Research Frontier: Memetic Computation - Past, Present & Future". IEEE Computational Intelligence Magazine. 5 (2): 24–36. doi:10.1109/mci.2010.936309. S2CID 17955514.
  6. ^ Krasnogor N. (1999). "Coevolution of genes and memes in memetic algorithms". Graduate Student Workshop: 371.
  7. ^ Kendall G. and Soubeiga E. and Cowling P. Choice function and random hyperheuristics (PDF). 4th Asia-Pacific Conference on Simulated Evolution and Learning. SEAL 2002. pp. 667–671.
  8. ^ Burke E. K.; Gendreau M.; Hyde M.; Kendall G.; Ochoa G.; Ouml; zcan E.; Qu R. (2013). "Hyper-heuristics: A Survey of the State of the Art". Journal of the Operational Research Society. 64 (12): 1695–1724. CiteSeerX 10.1.1.384.9743. doi:10.1057/jors.2013.71. S2CID 3053192.
  9. ^ Ong Y. S. & Keane A. J. (2004). "Meta-Lamarckian learning in memetic algorithms" (PDF). IEEE Transactions on Evolutionary Computation. 8 (2): 99–110. doi:10.1109/TEVC.2003.819944. S2CID 11003004.
  10. ^ Ong Y. S. and Lim M. H. and Zhu N. and Wong K. W. (2006). "Classification of Adaptive Memetic Algorithms: A Comparative Study" (PDF). IEEE Transactions on Systems, Man, and Cybernetics - Part B: Cybernetics. 36 (1): 141–152. doi:10.1109/TSMCB.2005.856143. PMID 16468573. S2CID 818688.
  11. ^ Smith J. E. (2007). "Coevolving Memetic Algorithms: A Review and Progress Report" (PDF). IEEE Transactions on Systems, Man, and Cybernetics - Part B: Cybernetics. 37 (1): 6–17. doi:10.1109/TSMCB.2006.883273. PMID 17278554. S2CID 13867280.
  12. ^ Krasnogor N. & Gustafson S. (2002). "Toward truly "memetic" memetic algorithms: discussion and proof of concepts". Advances in Nature-Inspired Computation: The PPSN VII Workshops. PEDAL (Parallel Emergent and Distributed Architectures Lab). University of Reading.
  13. ^ Hart W. E. (1994). "Adaptive Global Optimization with Local Search". University of California. CiteSeerX 10.1.1.473.1370. {{cite journal}}:Cite 저널 요구 사항 journal=(도움말)
  14. ^ Ku K. W. C. and Mak M. W. and Siu W. C. (2000). "A study of the Lamarckian evolution of recurrent neural networks". IEEE Transactions on Evolutionary Computation. 4 (1): 31–42. doi:10.1109/4235.843493. hdl:10397/289.
  15. ^ Land M. W. S. (1998). "Evolutionary Algorithms with Local Search for Combinatorial Optimization". UNIVERSITY OF CALIFORNIA. CiteSeerX 10.1.1.55.8986. {{cite journal}}:Cite 저널 요구 사항 journal=(도움말)
  16. ^ Bambha N. K. and Bhattacharyya S. S. and Teich J. and Zitzler E. (2004). "Systematic integration of parameterized local search into evolutionary algorithms". IEEE Transactions on Evolutionary Computation. 8 (2): 137–155. doi:10.1109/TEVC.2004.823471. S2CID 8303351.
  17. ^ Schwefel H. P. (1995). Evolution and optimum seeking. Wiley New York.
  18. ^ Ichimura, T.; Kuriyama, Y. (1998). Learning of neural networks with parallel hybrid GA using a royal road function. IEEE International Joint Conference on Neural Networks. Vol. 2. New York, NY. pp. 1131–1136. doi:10.1109/IJCNN.1998.685931.
  19. ^ Aguilar, J.; Colmenares, A. (1998). "Resolution of pattern recognition problems using a hybrid genetic/random neural network learning algorithm". Pattern Analysis and Applications. 1 (1): 52–61. doi:10.1007/BF01238026. S2CID 15803359.
  20. ^ Ridao, M.; Riquelme, J.; Camacho, E.; Toro, M. (1998). An evolutionary and local search algorithm for planning two manipulators motion. Lecture Notes in Computer Science. Vol. 1416. Springer-Verlag. pp. 105–114. CiteSeerX 10.1.1.324.2668. doi:10.1007/3-540-64574-8_396. ISBN 978-3-540-64574-0.
  21. ^ Haas, O.; Burnham, K.; Mills, J. (1998). "Optimization of beam orientation in radiotherapy using planar geometry". Physics in Medicine and Biology. 43 (8): 2179–2193. Bibcode:1998PMB....43.2179H. doi:10.1088/0031-9155/43/8/013. PMID 9725597.
  22. ^ Harris, S.; Ifeachor, E. (1998). "Automatic design of frequency sampling filters by hybrid genetic algorithm techniques". IEEE Transactions on Signal Processing. 46 (12): 3304–3314. Bibcode:1998ITSP...46.3304H. doi:10.1109/78.735305.
  23. ^ Augugliaro, A.; Dusonchet, L.; Riva-Sanseverino, E. (1998). "Service restoration in compensated distribution networks using a hybrid genetic algorithm". Electric Power Systems Research. 46 (1): 59–66. doi:10.1016/S0378-7796(98)00025-X.
  24. ^ Wehrens, R.; Lucasius, C.; Buydens, L.; Kateman, G. (1993). "HIPS, A hybrid self-adapting expert system for nuclear magnetic resonance spectrum interpretation using genetic algorithms". Analytica Chimica Acta. 277 (2): 313–324. doi:10.1016/0003-2670(93)80444-P. hdl:2066/112321.
  25. ^ França, P.; Mendes, A.; Moscato, P. (1999). Memetic algorithms to minimize tardiness on a single machine with sequence-dependent setup times (PDF). Proceedings of the 5th International Conference of the Decision Sciences Institute. Athens, Greece. pp. 1708–1710. S2CID 10797987.
  26. ^ Costa, Daniel (1995). "An Evolutionary Tabu Search Algorithm And The NHL Scheduling Problem". INFOR: Information Systems and Operational Research. 33 (3): 161–178. doi:10.1080/03155986.1995.11732279.
  27. ^ Aickelin, U. (1998). Nurse rostering with genetic algorithms. Proceedings of young operational research conference 1998. Guildford, UK. arXiv:1004.2870.
  28. ^ Ozcan, E. (2007). "Memes, Self-generation and Nurse Rostering". Practice and Theory of Automated Timetabling VI. Lecture Notes in Computer Science. Vol. 3867. Springer-Verlag. pp. 85–104. doi:10.1007/978-3-540-77345-0_6. ISBN 978-3-540-77344-3.
  29. ^ Ozcan, E.; Onbasioglu, E. (2007). "Memetic Algorithms for Parallel Code Optimization". International Journal of Parallel Programming. 35 (1): 33–61. doi:10.1007/s10766-006-0026-x. S2CID 15182941.
  30. ^ Burke, E.; Smith, A. (1999). "A memetic algorithm to schedule planned maintenance for the national grid". Journal of Experimental Algorithmics. 4 (4): 1–13. doi:10.1145/347792.347801. S2CID 17174080.
  31. ^ Ozcan, E.; Basaran, C. (2009). "A Case Study of Memetic Algorithms for Constraint Optimization". Soft Computing: A Fusion of Foundations, Methodologies and Applications. 13 (8–9): 871–882. CiteSeerX 10.1.1.368.7327. doi:10.1007/s00500-008-0354-4. S2CID 17032624.
  32. ^ Areibi, S., Yang, Z. (2004). "Effective memetic algorithms for VLSI design automation = genetic algorithms + local search + multi-level clustering". Evolutionary Computation. 12 (3): 327–353. doi:10.1162/1063656041774947. PMID 15355604. S2CID 2190268.{{cite journal}}: CS1 maint: 여러 이름: 작성자 목록(링크)
  33. ^ Merz, P.; Zell, A. (2002). "Clustering Gene Expression Profiles with Memetic Algorithms". Parallel Problem Solving from Nature — PPSN VII. Lecture Notes in Computer Science. Vol. 2439. Springer. pp. 811–820. doi:10.1007/3-540-45712-7_78. ISBN 978-3-540-44139-7.
  34. ^ Zexuan Zhu, Y. S. Ong and M. Dash (2007). "Markov Blanket-Embedded Genetic Algorithm for Gene Selection". Pattern Recognition. 49 (11): 3236–3248. Bibcode:2007PatRe..40.3236Z. doi:10.1016/j.patcog.2007.02.007.
  35. ^ Zexuan Zhu, Y. S. Ong and M. Dash (2007). "Wrapper-Filter Feature Selection Algorithm Using A Memetic Framework". IEEE Transactions on Systems, Man, and Cybernetics - Part B: Cybernetics. 37 (1): 70–76. doi:10.1109/TSMCB.2006.883267. hdl:10338.dmlcz/141593. PMID 17278560. S2CID 18382400.
  36. ^ "Artificial Intelligence for Fault Injection Parameter Selection Marina Krček Hardwear.io Webinar". hardwear.io. Retrieved 2021-05-21.
  37. ^ Zexuan Zhu, Y. S. Ong and M. Zurada (2008). "Simultaneous Identification of Full Class Relevant and Partial Class Relevant Genes". IEEE/ACM Transactions on Computational Biology and Bioinformatics.
  38. ^ G. Karkavitsas & G. Tsihrintzis (2011). Automatic Music Genre Classification Using Hybrid Genetic Algorithms. Intelligent Interactive Multimedia Systems and Services. Smart Innovation, Systems and Technologies. Vol. 11. Springer. pp. 323–335. doi:10.1007/978-3-642-22158-3_32. ISBN 978-3-642-22157-6. S2CID 15011089.