고도의 매트릭스 확장

Advanced Matrix Extensions

인텔(R) AMX(Advanced Matrix Extensions) 또는 인텔(R) AMX(Advanced Matrix Extensions)는 인텔(R) 및 AMD(Advanced Micro Devices)의 x86 명령 세트 아키텍처(ISA)의 확장으로, 인공지능(AI)/머신러닝(ML) 워크로드를 [1]고속화하기 위해 매트릭스에서 동작하도록 설계되어 있습니다.

내선번호

AMX는 2020년 6월에 인텔에 의해 도입되어 2022년에 [2][3]Xeon 서버용 사파이어 래피즈 마이크로아키텍처를 통해 인텔에 의해 최초로 지원되고 있습니다.액셀러레이터가 조작할 수 있는 타일로 불리는 2차원 레지스터를 도입했다.확장 가능한 아키텍처로, 최초로 구현된 액셀러레이터는 타일 매트릭스 멀티플 유닛(TMUL)[4][5]입니다.

타일 행렬 곱셈 단위

TMUL 장치는 BF16 및 INT8 입력 [6]유형을 지원합니다.레지스터 파일은 8개의 타일로 구성되어 있으며, 각각 64바이트 크기의 16개 행(32 BF16 또는 64 INT8 값)이 있습니다.현재 지원되는 연산은 행렬 n + k K n k 입니다.{_ { nm } + = \_ {k[7]

소프트웨어 지원

  • 컴파일러 및 어셈블러 지원
    • 2020년 7월 1일에 LLVM 초기[8][9][10] 지원 확약정
    • GNU Assembler(GAS)의 초기 지원은 2020년 6월[11][10] 25일에 커밋되었습니다.
    • 버전[12] 11의 GCC 패치는 공개되어 있습니다.
  • 운영 체제 지원
    • 2020년 6월[13] 25일에 커밋된 CPU에서 AMX 기능을 검출하기 위한 glibc 지원
    • Linux 커널 지원은 최소 5.16까지[14] 사용할 수 없습니다.

레퍼런스

  1. ^ Hemsoth, Nicole (August 19, 2021). "With AMX, Intel Adds AI/ML Sparkle to Sapphire Rapids". The Next Platform.
  2. ^ online, heise. "Intel AMX: Erste Informationen zur Advanced Matrix Extensions Architecture". heise online.
  3. ^ Cutress, Dr Ian. "Intel Xeon Sapphire Rapids: How To Go Monolithic with Tiles". AnandTech.
  4. ^ https://software.intel.com/content/dam/develop/public/us/en/documents/architecture-instruction-set-extensions-programming-reference.pdf[베어 URL PDF]
  5. ^ Schor, David (June 29, 2020). "The x86 Advanced Matrix Extension (AMX) Brings Matrix Operations; To Debut with Sapphire Rapids".
  6. ^ "Advanced Matrix Extension (AMX) - x86 - WikiChip". en.wikichip.org.
  7. ^ "Intel Architecture Instruction Set Extensions and Future Features Programming Reference". Intel. Retrieved 2021-09-26.
  8. ^ Larabel, Michael (2020-07-02). "Intel AMX Support Begins Landing In LLVM". Phoronix. Retrieved 2020-07-02.
  9. ^ "[X86-64] Support Intel AMX instructions". 2020-07-02. Retrieved 2020-07-02.
  10. ^ a b Larabel, Michael (2020-07-02). "Intel AMX Support Lands In The GNU Assembler". Phoronix. Retrieved 2020-07-02.
  11. ^ "commits with Intel AMX". 2020-07-02. Retrieved 2020-07-02.
  12. ^ "[PATCH] Enable GCC support for AMX". 2020-07-06. Retrieved 2020-07-09.
  13. ^ "x86: Detect Intel Advanced Matrix Extensions". 2020-07-02. Retrieved 2020-07-02.
  14. ^ "Linux x86 FPU Code Getting Reworked In Preparation For Intel AMX - Phoronix". Phoronix.

외부 링크