خط تولید

SIMD

دستور واحد، داده‌های متعدد (SIMD) نوعی موازی‌سازی در سطح سخت‌افزار است. همان محاسبه توسط پردازنده روی چندین عنصر به‌طور همزمان انجام می‌شود.

برای مثال، جمع عنصربه‌عنصر دو آرایه از چهار عدد اعشاری ۳۲ بیتی را در نظر بگیرید. یک پیاده‌سازی اسکالر چهار دستور addss جداگانه صادر می‌کند، یکی برای هر عنصر. یک پیاده‌سازی SIMD از یک دستور addps استفاده می‌کند تا هر چهار جمع را به‌طور موازی انجام دهد. این یعنی چهار برابر کار در هر دستور.

در زبان اسمبلی x86-64، دستورهای SIMD معمولاً با استفاده از ثبات‌های xmm انجام می‌شوند. برخی از این دستورها روی اعداد صحیح کار می‌کنند. برخی دیگر روی اعداد اعشاری.

به آن اعداد صحیح یا اعشاری بسته‌بندی‌شده می‌گویند. هر یک فضایی را در همان ثبات اشغال می‌کند که خط نامیده می‌شود. دستورهای SIMD معمولاً به‌طور موازی روی مقادیری در همان موقعیت خط در دو عملوند مبدأ کار می‌کنند. نتیجه‌ی هر عملیات در خطی با همان موقعیت در عملوند مقصد ذخیره می‌شود.

خط یک محدودیت مطلق نیست. بلکه تفسیری است که هر دستور به دنباله‌ای از بایت‌ها می‌دهد. یک عملوند ۱۲۸ بیتی شامل ۱۶ بایت است. بسته به دستور، این بایت‌ها می‌توانند به‌صورت ۱۶ خطِ ۱ بایتی، ۸ خطِ ۲ بایتی، ۴ خطِ ۴ بایتی، ۲ خطِ ۸ بایتی یا حتی یک خطِ ۱۶ بایتی تفسیر شوند.

برای مثال، دستور addps مقادیر اعشاری بسته‌بندی‌شده‌ی دقت یک‌گانه (۴ بایتی) را جمع می‌کند. برای این دستور، هر تکه‌ی ۴ بایتی در یک عملوند، خطی متفاوت است. در یک عملوند ۱۲۸ بیتی (۱۶ بایتی):

از سوی دیگر، یک عملوند ۱۲۸ بیتی در مورد mulpd به‌صورت دارا بودن ۲ خط تفسیر می‌شود. چون این دستور ضرب بسته‌بندی‌شده را روی مقادیر دقت مضاعف (۸ بایتی) انجام می‌دهد:

در این مفهوم روی گزیده‌ای کوچک از دستورهای SIMD تمرکز می‌کنیم. آن‌ها با استفاده از ثبات‌های xmm روی مقادیر اعشاری بسته‌بندی‌شده کار می‌کنند.

دستورهای SIMD اعشاری

به‌عنوان یک قاعده‌ی سرانگشتی، دستورهای SIMD که روی مقادیر اعشاری کار می‌کنند، شکل دو‌عملوندی دارند. اسم آن‌ها از ساختار مشخصی پیروی می‌کند:

1. عملیاتی که انجام می‌شود، با همان اسمی که همتای غیر-SIMD آن (که اسکالر هم نامیده می‌شود) دارد (مثلاً add، mul و غیره).
2. پسوند p برای نشان دادن اینکه دستور روی داده‌های بسته‌بندی‌شده کار می‌کند، در همان موقعیتی که پیش‌تر s (برای داده‌های اسکالر) قرار داشت.
3. پسوندی برای نشان دادن اندازه‌ی هر خط، با همان معنایی که همتای غیر-SIMD آن دارد (s برای دقت یک‌گانه و d برای دقت مضاعف).

بنابراین اسم بسته‌بندی‌شده از اسم اسکالر به دست می‌آید، با جایگزین کردن s (اسکالر) در میان یادآور با p (بسته‌بندی‌شده). اسم عملیات و پسوند اندازه بدون تغییر می‌مانند:

محاسبات

دستورهای SIMD محاسباتی از قاعده‌ی بالا پیروی می‌کنند. چند مثال:

addps xmm0, xmm1 ; xmm0 = xmm0 + xmm1 (each 32-bit float at the same position)
subpd xmm2, xmm3 ; xmm2 = xmm2 - xmm3 (each 64-bit float at the same position)
mulps xmm4, xmm5 ; xmm4 = xmm4 * xmm5 (each 32-bit float at the same position)
divpd xmm6, xmm7 ; xmm6 = xmm6 / xmm7 (each 64-bit float at the same position)

تبدیل بین دقت‌ها

دستورهای SIMD دیگری هم برای تبدیل بین مقادیر اعشاری بسته‌بندی‌شده‌ی دقت یک‌گانه و بسته‌بندی‌شده‌ی دقت مضاعف وجود دارد. آن‌ها از همان قاعده‌ی نام‌گذاری پیروی می‌کنند، با جایگزین کردن هر s (برای اسکالر) با یک p (برای بسته‌بندی‌شده):

این دستورها نکته‌ی پیشین را نشان می‌دهند که خط یک تفسیر است، نه یک محدودیت مطلق. عملوندهای مبدأ و مقصد اندازه‌ی خط متفاوتی دارند، بنابراین تعداد خط آن‌ها هم متفاوت است.

برای cvtps2pd، مبدأ (ps) دارای ۴ خط دقت یک‌گانه است. مقصد (pd) دارای ۲ خط دقت مضاعف است. فقط ۲ خط پایینی مبدأ خوانده می‌شوند. ۲ خط بالایی نادیده گرفته می‌شوند:

برای cvtpd2ps، مبدأ (pd) دارای ۲ خط دقت مضاعف است. مقصد (ps) دارای ۴ خط دقت یک‌گانه است. هر دو خط مبدأ تبدیل شده و در ۲ خط پایینی مقصد نوشته می‌شوند. ۲ خط بالایی مقصد صفر می‌شوند:

چند مثال:

cvtps2pd xmm0, xmm1 ; xmm0 = xmm1 as 2 doubles (low 2 lanes of xmm1 are read)
cvtpd2ps xmm0, xmm1 ; xmm0 = xmm1 as 2 floats (in low 2 lanes; upper 2 zeroed)

عملوندهای حافظه

دستورهای SIMD بالا همه با عملوندهای ثبات‌به‌ثبات نشان داده شده‌اند. آن‌ها می‌توانند یک عملوند حافظه را هم به‌عنوان مبدأ بگیرند (اما نه به‌عنوان مقصد).

تعداد بایت‌هایی که از حافظه خوانده می‌شود، توسط دستور تعیین می‌گردد. برای مثال، addps ۱۶ بایت (۴ عدد اعشاری دقت یک‌گانه) می‌خواند. در مقابل، cvtps2pd فقط ۸ بایت (۲ عدد اعشاری دقت یک‌گانه) می‌خواند، چون تمام ورودی مورد نیازش همین است.

addps    xmm0, [rsi]      ; xmm0 = xmm0 + 4 floats at [rsi]
mulpd    xmm1, [rsi + 16] ; xmm1 = xmm1 * 2 doubles at [rsi + 16]
cvtps2pd xmm2, [rsi + 8]  ; xmm2 = (2 floats at [rsi + 8]) converted to 2 doubles

وقتی عملوند حافظه ۱۶ بایت عرض دارد، باید ۱۶ بایتی هم‌تراز باشد. یک مکان حافظه‌ی هم‌تراز مکانی است که آدرسش مضربی از اندازه‌ی عملیات باشد (در اینجا ۱۶ بایت).

برای اعلام حافظه‌ی هم‌تراز، می‌توانید از دایرکتیو align در بخش .data و .rodata، یا alignb در بخش .bss استفاده کنید:

section .rodata
align 16
mem1: dd 4.0, 3.5, 2.0, -1.0

section .data
align 16
mem2: dq 6.0, 2.1

section .bss
alignb 16
mem3: resb 16

section .text
fn:
    movaps xmm0, oword [rel mem1] ; loads 4 packed 32-bit floats in xmm0
    movapd xmm1, oword [rel mem2] ; loads 2 packed 64-bit floats in xmm1
    movaps oword [rel mem3], xmm0 ; stores 4 packed 32-bit floats in mem3
    ret

عملوندهای حافظه‌ی کوچک‌تر از ۱۶ بایت، مانند مبدأ ۸ بایتی cvtps2pd، هیچ الزام هم‌ترازی ندارند.

بارگذاری/ذخیره‌ی مقادیر

چهار دستور وجود دارد که ۱۲۸ بیت از مقادیر اعشاری بسته‌بندی‌شده را کپی می‌کنند. آن‌ها بین دو ثبات xmm، یا بین یک ثبات xmm و یک مکان حافظه کار می‌کنند:

همه‌ی این دستورها می‌توانند برای کپی مقادیر بین دو ثبات xmm استفاده شوند.

اگر عملیات شامل یک مکان حافظه باشد، movaps و movapd لازم می‌دانند که آن مکان هم‌تراز باشد. اگر آدرس ناهم‌ترازی داده شود، movaps و movapd یک خطا ایجاد می‌کنند. آن‌ها هم‌زمان به‌عنوان یک بررسی ایمنی عمل می‌کنند که چیدمان داده‌هایتان همان چیزی است که فکر می‌کنید.

از سوی دیگر، movups و movupd می‌توانند با هر مکانی در حافظه استفاده شوند، هم‌تراز یا ناهم‌تراز.

پیشوند اندازه برای یک مقدار ۱۶ بایتی در NASM، oword است.

افزونه‌های SIMD

SIMD دهه‌ها هدف توسعه‌ی فعال در اکوسیستم x86-64 بوده است. هر افزونه به معماری، دستورهای جدید یا کاربردهای تازه برای دستورهای قدیمی به همراه می‌آورد.

به‌ویژه، افزونه‌های AVX و AVX2 تغییرات مرتبطی را معرفی می‌کنند.

نخست، پشتیبانی از ثبات‌های SIMD ۲۵۶ بیتی، به نام ymm. آن‌ها ثبات‌های xmm متناظر را گسترش می‌دهند، همان‌طور که rax شامل eax است.

دوم، آن‌ها پشتیبانی از انواع سه‌عملوندی را برای بیشتر دستورهایی که روی ثبات‌های xmm (و ymm) کار می‌کنند، در بر می‌گیرند. این شامل نه فقط دستورهای SIMD، بلکه دستورهایی هم می‌شود که روی مقادیر اعشاری اسکالر کار می‌کنند. این انواع از همان نشانه‌گذاری معادل SSE خود پیروی می‌کنند، با یک v که پیش از آن‌ها اضافه می‌شود:

vaddsd xmm0, xmm1, xmm2   ; xmm0 = xmm1 + xmm2 (scalar sum of 64-bit floats)
vmulps xmm1, xmm3, xmm4   ; xmm1 = xmm3 * xmm4 (packed multiplication of 32-bit floats)
vmovupd ymm5, yword [mem] ; this copies 32 bytes from the location at mem to ymm5

سوم، الزام هم‌ترازی برای عملوندهای حافظه‌ی SIMD ملایم‌تر شده است. فقط جابه‌جایی‌های صریحاً هم‌تراز، مانند vmovaps، به این هم‌ترازی نیاز دارند.

در این ترک، خودمان را به دستورها و ثبات‌های تا افزونه‌های پیشین SSE محدود کرده‌ایم. این برای آموزش مبانی کافی است و سازگاری با طیف گسترده‌ای از پردازنده‌ها را تضمین می‌کند.

با این حال، test-runner به‌طور کامل از AVX و AVX2، و حتی افزونه‌های جدیدتری که بخشی از AVX-512 هستند، پشتیبانی می‌کند. می‌توانید آزادانه از آن‌ها استفاده کنید.