SIMD: মাস্ক এবং শর্ত
স্কেলার কোড নির্দিষ্ট কোনো শর্তের প্রতিক্রিয়ায় ব্রাঞ্চ করতে বিভিন্ন ইন্সট্রাকশন দ্বারা সেট করা ফ্ল্যাগের উপর নির্ভর করে।
প্যাকড মানগুলি কিন্তু একটি নয়, বরং সমান্তরালে অনেকগুলি মান উপস্থাপন করে।
একটি একক শর্ত একটি লেনের জন্য ব্যর্থ হতে পারে এবং অন্যটির জন্য সফল হতে পারে।
এই কারণেই SIMD কোড ডিফল্টভাবে ব্রাঞ্চলেস।
ফ্ল্যাগের উপর নির্ভর করার পরিবর্তে, প্যাকড তুলনা সাধারণত ডেস্টিনেশন অপারেন্ডে একটি মাস্ক তৈরি করে।
প্রতিটি লেনের জন্য, তুলনাটি সত্য হলে পুরো লেনটিকে এক দিয়ে এবং মিথ্যা হলে শূন্য দিয়ে পূর্ণ করে।
সাইনড ইন্টিজার হিসেবে পড়লে, একটি সত্য লেন -1 এবং একটি মিথ্যা লেন 0।
এই মাস্কটি তখন বিটওয়াইজ অপারেশনগুলির সাথে কম্পোজ করা যেতে পারে নির্দিষ্ট লেন ফিল্টার করতে।
প্যাকড তুলনা
একটি স্কেলার cmp জেনেরিক অর্থে, কারণ এটি একই সময়ে বিভিন্ন ফ্ল্যাগ সেট করতে ব্যবহৃত হয়।
অন্য একটি ইন্সট্রাকশন তখন সেই ফ্ল্যাগগুলি ব্যবহার করে ব্রাঞ্চ বা গণনা করতে পারে।
কিন্তু, যেহেতু একটি প্যাকড তুলনা একইসাথে একটি শর্ত পরীক্ষা করে এবং একটি মাস্ক গণনা করে, এটি জেনেরিক নয়।
তুলনাটিকে পরীক্ষা করা সঠিক শর্তটি দিতে হবে।
এটি করার দুটি উপায় আছে:
- ইন্টিজার তুলনাগুলিকে শর্তটি সাফিক্স হিসেবে দেওয়া হয়: সমতার জন্য
eq, এবং বৃহত্তরের জন্য gt।
অন্যান্য ভ্যারিয়েন্টগুলি এগুলির একটির ফলাফল কম্পোজ করে তৈরি করা হয়।
- ফ্লোটিং-পয়েন্ট তুলনাগুলিকে ইমিডিয়েটে এনকোড করা শর্তটি দেওয়া হয়।
এই ইমিডিয়েটের বিভিন্ন মান পরীক্ষা করা বিভিন্ন শর্তের সাথে মিলে যায়।
ইন্টিজার তুলনায় একটি নির্দিষ্ট কন্ডিশনাল সাফিক্স ব্যবহার ছাড়া, সিনট্যাক্সটি আমরা ইতিমধ্যে দেখেছি একই কাঠামো অনুসরণ করে:
- ইন্টিজারের জন্য,
p + cmp + শর্ত + সাইজ (b, w, d বা q)।
- ফ্লোটের জন্য,
cmp + p + সাইজ (s বা d)।
শর্তটি একটি অতিরিক্ত অপারেন্ড হিসেবে ইমিডিয়েটে পাস করা হয়।
ইন্টিজার তুলনা
উল্লিখিত হিসাবে, শুধুমাত্র সমতা এবং বৃহত্তরের জন্য ইন্টিজার তুলনা আছে:
| instruction |
description |
pcmpeqb, pcmpeqw, pcmpeqd, pcmpeqq
|
per-lane equality |
pcmpgtb, pcmpgtw, pcmpgtd, pcmpgtq
|
per-lane signed greater-than |
movdqa xmm0, [rel scores]
pcmpgtd xmm0, [rel threshold] ; lane i = 0xFFFFFFFF (-1) if scores[i] > threshold[i], else 0
এর চেয়ে কম তুলনা তৈরি করতে, অপারেন্ডগুলো অদলবদল করে gt ব্যবহার করুন: a < b == b > a।
লক্ষ্য করুন যে তুলনাটি সাইনড।
একটি আনসাইনড তুলনা করতে, উভয় অপারেন্ডের শীর্ষ বিটটি ফ্লিপ করুন।
এটি একটি মাস্কের সাথে XOR করে করা যেতে পারে যেখানে শুধুমাত্র শীর্ষ বিটটি সেট থাকে।
দুটি কাজের ইডিয়ম হলো:
- একটি রেজিস্টারকে নিজের সাথে XOR করে সব শূন্য তৈরি করা।
- একটি রেজিস্টারকে নিজের সাথে তুলনা করে সব এক তৈরি করা।
উদাহরণস্বরূপ:
pxor xmm4, xmm4 ; xmm4 = all zeros
pcmpeqd xmm7, xmm7 ; xmm7 = all ones
সব-শূন্য এবং সব-এক হলো কমন মাস্ক, যা যথাক্রমে "সর্বত্র মিথ্যা" এবং "সর্বত্র সত্য" এনকোড করতে ব্যবহৃত হয়।
এগুলি প্যাকড 0 বা প্যাকড -1 উপস্থাপন করতেও ব্যবহার করা যেতে পারে, যা কমন সেন্টিনেল ভ্যালু।
উদাহরণস্বরূপ, স্ট্রিং-এর শেষ নির্দেশকারী NUL হলো একটি 0।
ফ্লোটিং-পয়েন্ট তুলনা
ফ্লোটিং-পয়েন্ট লেনগুলি ভিন্ন আকার ব্যবহার করে: একটি ইন্সট্রাকশন, cmpps (এবং ৬৪-বিট লেনের জন্য cmppd), যেখানে শর্তটি ইমিডিয়েট হিসেবে থাকে:
movaps xmm0, [rel readings]
cmpps xmm0, [rel limits], 1 ; condition 1 is "less than": lane i = all ones if readings[i] < limits[i]
NASM-এ সিউডো-অপসও আছে যা সঠিক ইমিডিয়েটে ম্যাপ করে এবং মনে রাখা সহজ।
নিচের সবকটিতে, px-এ x হতে পারে s (৩২-বিট ফ্লোট) বা d (৬৪-বিট ফ্লোট):
| pseudo-op |
immediate |
comparison |
cmpeqpx |
0 |
a == b |
cmpltpx |
1 |
a < b |
cmplepx |
2 |
a <= b |
cmpunordpx |
3 |
a is NaN or b is NaN |
cmpneqpx |
4 |
a != b |
cmpnltpx |
5 |
a >= b |
cmpnlepx |
6 |
a > b |
cmpordpx |
7 |
neither a nor b is NaN |
মাস্ক দিয়ে নির্বাচন
একটি মাস্ক একটি শর্তের ফলাফল এনকোড করে।
এটি তখন সেই শর্ত অনুযায়ী দুটি মানের সেটের মধ্যে, লেন দ্বারা লেন, নির্বাচন করতে ব্যবহার করা যেতে পারে।
আমরা একটি মান থেকে লেনটি নিই যেখানে মাস্কটি সত্য, অন্যটি থেকে যেখানে মিথ্যা:
; result = (a AND mask) OR (b AND NOT mask)
movdqa xmm2, xmm0 ; xmm0 holds the mask, keep a copy
pand xmm2, xmm3 ; xmm2 = a AND mask: lanes of a where mask is true
pandn xmm0, xmm4 ; xmm0 = NOT mask AND b: lanes of b where mask is false
por xmm2, xmm0 ; combine the two halves
লক্ষ্য করুন যে pandn-এর অসমতা এখানে কাজে লাগে: মাস্কটি ডেস্টিনেশনে অবস্থান করে, নেগেট হয় এবং একটি একক ইন্সট্রাকশনে b থেকে নির্বাচন করে।
এই প্যাটার্নটি হলো ব্রাঞ্চলেস নির্বাচনের প্যাকড রূপ।
প্রতিটি লেন গণনা করা হয়, এবং মাস্কটি একাই সিদ্ধান্ত নেয় কোন মানটি টিকে থাকবে, কোথাও কোনো jcc ছাড়াই।
ডেডিকেটেড ব্লেন্ড
এমন ইন্সট্রাকশন আছে যারা সেই একই নির্বাচন সরাসরি সম্পাদন করে, মাস্ক রেজিস্টার থেকে প্রতি এলিমেন্টে একটি বিট পড়ে।
এগুলিকে ব্লেন্ড ইন্সট্রাকশন বলা হয়:
| instruction |
element |
mask source |
pblendvb |
byte |
implicit xmm0
|
blendvps |
32-bit lane |
implicit xmm0
|
blendvpd |
64-bit lane |
implicit xmm0
|
লক্ষ্য করুন যে প্রথম ইন্সট্রাকশনটি ইন্টিজার সিনট্যাক্স অনুসরণ করে, অন্যদিকে বাকি দুটি ফ্লোট সিনট্যাক্স অনুসরণ করে।
কিন্তু, যেহেতু এই ইন্সট্রাকশনগুলি কেবল কাঁচা বাইট নির্বাচন করে, এগুলির যেকোনোটি ইন্টিজার এবং ফ্লোট উভয়ের সাথে ব্যবহার করা যেতে পারে।
প্রতিটি এলিমেন্টের জন্য, ব্লেন্ডটি ডেস্টিনেশন রাখে যখন মিলে যাওয়া মাস্ক এলিমেন্টের শীর্ষ বিটটি ক্লিয়ার থাকে, এবং সোর্স নেয় যখন এটি সেট থাকে।
শুধুমাত্র সেই শীর্ষ বিট বিবেচনা করা হয়, যা একটি তুলনা মাস্ক পূরণ করে, কারণ এর লেনগুলি সব এক বা সব শূন্য।
মাস্ক রেজিস্টারটি সর্বদা xmm0, যা ইমপ্লিসিট:
movaps xmm0, [rel mask] ; the selecting mask must be in xmm0
movaps xmm1, [rel b] ; destination: kept where the mask bit is clear
blendvps xmm1, [rel a] ; source: taken where the mask bit is set
অন্য যেকোনো সাইজের জন্য একটি তুলনা মাস্ক থেকে লেন নির্বাচন করতে pblendvb ব্যবহার করাও সম্ভব।
যেহেতু একটি সত্য লেনের সমস্ত বাইট সব এক, pblendvb সেগুলির সবগুলি নির্বাচন করে।
এই ইন্সট্রাকশনগুলি সমস্তই সম্পাদিত অপারেশনের (blend) পরে v যোগ করে।
এই v মানে ভ্যারিয়েবল, কারণ নির্বাচনটি স্থির নয়: এটি একটি রেজিস্টারের উপর নির্ভর করে।
v ছাড়া ভ্যারিয়েন্টও আছে, যারা ইমিডিয়েট অনুযায়ী নির্বাচন করে।
তারা একই প্যাটার্ন অনুসরণ করে, ইমিডিয়েটের বিট i সেট থাকলে লেন i নির্বাচন করে।
মাস্ক থেকে আবার স্কেলারে
যদিও শক্তিশালী, SIMD কোড স্কেলার কোডের অনেক নমনীয়তার অভাব রাখে।
অনেক পরিস্থিতিতে, একটি প্যাকড রেজিস্টার থেকে স্কেলার ইন্সট্রাকশনের জগতে ফিরে যাওয়া প্রয়োজন।
movmsk ইন্সট্রাকশন পরিবার দুটি জগতের মধ্যে সেতু হিসেবে কাজ করে।
এই ইন্সট্রাকশনগুলি প্রতিটি লেনের শীর্ষ বিট একটি জেনারেল-পারপাস রেজিস্টারে এক্সট্রাক্ট করে:
| instruction |
gathers |
result width |
pmovmskb |
top bit of each of 16 bytes |
16 bits |
movmskps |
top bit of each of 4 dwords |
4 bits |
movmskpd |
top bit of each of 2 qwords |
2 bits |
একটি তুলনার পরে ব্যবহৃত হলে, প্রতিটি সেট বিট একটি "সত্য" লেন নির্দেশ করে এবং প্রতিটি ক্লিয়ার বিট, একটি "মিথ্যা" লেন।
এই ফলাফলটি তখন স্কেলার ইন্সট্রাকশন দিয়ে যথারীতি ম্যানিপুলেট করা যেতে পারে।
উদাহরণস্বরূপ, একটি popcnt মিলের সংখ্যা গণনা করে, এবং tzcnt প্রথমটি খুঁজে বের করে।
জেনারেল-পারপাস রেজিস্টারটি ৩২-বিট বা ৬৪-বিট চওড়া হতে পারে।
একটি সম্পূর্ণ ভেক্টর পরীক্ষা করা
test স্কেলার ইন্সট্রাকশনের একটি প্যাকড ভ্যারিয়েন্টও আছে: ptest।
এটি তার স্কেলার প্রতিরূপের অনুরূপ কারণ এটি দুটি অপারেন্ডের মধ্যে একটি AND অপারেশন সম্পাদন করে, তাদের পরিবর্তন না করে।
test-এর বিপরীতে, ptest একটি ANDN অপারেশনও সম্পাদন করে, প্রথম অপারেন্ডটি নেগেট করে।
সুতরাং, ptest-কে pand এবং pandn-এর একটি নন-ডেস্ট্রাক্টিভ সংস্করণ হিসেবে ভাবা যেতে পারে যা ফলাফল অনুযায়ী ফ্ল্যাগ সেট করে।
এই দুটি ইন্সট্রাকশনের মতোই, ptest সম্পূর্ণ SIMD রেজিস্টারকে একটি একক লেন হিসেবে বিবেচনা করে এবং তাই এটি কোনো সাইজ প্রিফিক্স নেয় না।
যদি একটি AND অপারেশনের ফলাফল 0 হয়, তাহলে ZF সেট হয়, এবং যদি ANDN অপারেশনের ফলাফল 0 হয়, তাহলে CF সেট হয়।
এর মানে হলো ptest একটি সব-এক এবং একটি সব-শূন্য মাস্ক উভয়ই পরীক্ষা করতে ব্যবহার করা যেতে পারে:
- একটি রেজিস্টারের উপর নিজের সাথে
ptest ব্যবহার করলে ZF সেট হয় শুধুমাত্র যদি রেজিস্টারটি সব শূন্য হয়।
এটি 0 পরীক্ষা করতে একটি রেজিস্টারের উপর নিজের সাথে test ব্যবহার করার কমন স্কেলার ইডিয়মের অনুকরণ করে।
- একটি সব-এক মাস্ক সহ একটি রেজিস্টারের উপর
ptest ব্যবহার করলে CF সেট হয় শুধুমাত্র যদি রেজিস্টারটি সব এক হয়।
এছাড়াও, এটি ZF সেট করে শুধুমাত্র যদি রেজিস্টারটি সব শূন্য হয়, যা একসাথে উভয় মাস্ক পরীক্ষা করা সম্ভব করে।
pxor xmm0, xmm0 ; all zeros
pcmpeqb xmm1, xmm1 ; all ones
pcmpeqb xmm2, xmm2
ptest xmm0, xmm0 ; ZF set: a register against itself detects all zeros
ptest xmm0, xmm1 ; ZF set, CF clear: xmm0 is all zeros, not all ones
ptest xmm2, xmm1 ; CF is set only if xmm2 is all ones
একটি ptest-এর ফলাফল ব্রাঞ্চ করতে বা setcc বা cmovcc-এর মতো ব্রাঞ্চলেস ইন্সট্রাকশনে যথারীতি ব্যবহার করা যেতে পারে।
লার্নিং অনুশীলনী
