AI ਪਹਿਲਾਂ ਵੱਡੇ ਸਰਵਰਾਂ ਅਤੇ ਕਲਾਉਡ GPU 'ਤੇ ਰਹਿੰਦਾ ਸੀ। ਹੁਣ ਇਹ ਸੁੰਗੜ ਰਿਹਾ ਹੈ ਅਤੇ ਸੈਂਸਰਾਂ ਦੇ ਬਿਲਕੁਲ ਨਾਲ ਖਿਸਕ ਰਿਹਾ ਹੈ। ਏਮਬੈਡਡ ਸਿਸਟਮਾਂ ਲਈ AI ਕੋਈ ਦੂਰ ਦਾ ਵਾਅਦਾ ਨਹੀਂ ਹੈ - ਇਹ ਪਹਿਲਾਂ ਹੀ ਫਰਿੱਜਾਂ, ਡਰੋਨਾਂ, ਪਹਿਨਣਯੋਗ ਚੀਜ਼ਾਂ ਦੇ ਅੰਦਰ ਗੂੰਜ ਰਿਹਾ ਹੈ... ਇੱਥੋਂ ਤੱਕ ਕਿ ਉਹਨਾਂ ਡਿਵਾਈਸਾਂ ਦੇ ਅੰਦਰ ਵੀ ਜੋ ਬਿਲਕੁਲ ਵੀ "ਸਮਾਰਟ" ਨਹੀਂ ਲੱਗਦੇ।
ਇੱਥੇ ਦੱਸਿਆ ਗਿਆ ਹੈ ਕਿ ਇਹ ਤਬਦੀਲੀ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ, ਕਿਹੜੀ ਚੀਜ਼ ਇਸਨੂੰ ਔਖੀ ਬਣਾਉਂਦੀ ਹੈ, ਅਤੇ ਕਿਹੜੇ ਵਿਕਲਪ ਤੁਹਾਡੇ ਸਮੇਂ ਦੇ ਯੋਗ ਹਨ।.
ਇਸ ਤੋਂ ਬਾਅਦ ਤੁਸੀਂ ਜੋ ਲੇਖ ਪੜ੍ਹਨਾ ਪਸੰਦ ਕਰ ਸਕਦੇ ਹੋ:
🔗 ਨੈਤਿਕ ਅਨੁਕੂਲ ਅਤੇ ਪਾਰਦਰਸ਼ੀ AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਵਾਲੇ ਸਭ ਤੋਂ ਵਧੀਆ AI ਸ਼ਾਸਨ ਟੂਲ
ਨੈਤਿਕ, ਅਨੁਕੂਲ, ਅਤੇ ਪਾਰਦਰਸ਼ੀ AI ਬਣਾਈ ਰੱਖਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਵਾਲੇ ਸਾਧਨਾਂ ਲਈ ਗਾਈਡ।.
🔗 ਏਆਈ ਲਈ ਵਸਤੂ ਸਟੋਰੇਜ: ਚੋਣਾਂ, ਚੋਣਾਂ, ਚੋਣਾਂ
ਏਆਈ ਵਰਕਲੋਡ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਵਸਤੂ ਸਟੋਰੇਜ ਵਿਕਲਪਾਂ ਦੀ ਤੁਲਨਾ।.
🔗 ਏਆਈ ਲਈ ਡੇਟਾ ਸਟੋਰੇਜ ਲੋੜਾਂ: ਤੁਹਾਨੂੰ ਅਸਲ ਵਿੱਚ ਕੀ ਜਾਣਨ ਦੀ ਜ਼ਰੂਰਤ ਹੈ
AI ਡੇਟਾ ਸਟੋਰੇਜ ਦੀ ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਸਮੇਂ ਵਿਚਾਰਨ ਵਾਲੇ ਮੁੱਖ ਕਾਰਕ।.
ਏਮਬੈਡਡ ਸਿਸਟਮ ਲਈ ਏਆਈ🌱
ਏਮਬੈਡਡ ਡਿਵਾਈਸ ਛੋਟੇ ਹੁੰਦੇ ਹਨ, ਅਕਸਰ ਬੈਟਰੀ ਨਾਲ ਚੱਲਣ ਵਾਲੇ ਹੁੰਦੇ ਹਨ, ਅਤੇ ਸਰੋਤ-ਸੀਮਤ ਹੁੰਦੇ ਹਨ। ਫਿਰ ਵੀ AI ਵੱਡੀਆਂ ਜਿੱਤਾਂ ਨੂੰ ਖੋਲ੍ਹਦਾ ਹੈ:
-
ਕਲਾਉਡ ਰਾਊਂਡ-ਟ੍ਰਿਪਸ ਤੋਂ ਬਿਨਾਂ ਅਸਲ-ਸਮੇਂ ਦੇ ਫੈਸਲੇ ।
-
ਡਿਜ਼ਾਈਨ ਦੁਆਰਾ ਗੋਪਨੀਯਤਾ - ਕੱਚਾ ਡੇਟਾ ਡਿਵਾਈਸ 'ਤੇ ਰਹਿ ਸਕਦਾ ਹੈ।
-
ਜਦੋਂ ਮਿਲੀਸਕਿੰਟ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ ਤਾਂ ਲੇਟੈਂਸੀ ਘੱਟ ਕਰੋ ।
-
ਸਾਵਧਾਨ ਮਾਡਲ + ਹਾਰਡਵੇਅਰ ਚੋਣਾਂ ਰਾਹੀਂ ਊਰਜਾ-ਜਾਗਰੂਕ ਅਨੁਮਾਨ ।
ਇਹ ਹੱਥੀਂ ਲਹਿਰਾਉਣ ਵਾਲੇ ਫਾਇਦੇ ਨਹੀਂ ਹਨ: ਕੰਪਿਊਟ ਨੂੰ ਕਿਨਾਰੇ ਤੱਕ ਧੱਕਣ ਨਾਲ ਨੈੱਟਵਰਕ ਨਿਰਭਰਤਾ ਘਟਦੀ ਹੈ ਅਤੇ ਬਹੁਤ ਸਾਰੇ ਵਰਤੋਂ ਦੇ ਮਾਮਲਿਆਂ ਲਈ ਗੋਪਨੀਯਤਾ ਮਜ਼ਬੂਤ ਹੁੰਦੀ ਹੈ [1]।.
ਚਾਲ ਜ਼ਬਰਦਸਤੀ ਨਹੀਂ ਹੈ - ਇਹ ਸੀਮਤ ਸਰੋਤਾਂ ਨਾਲ ਚਲਾਕੀ ਹੈ। ਬੈਕਪੈਕ ਨਾਲ ਮੈਰਾਥਨ ਦੌੜਨ ਬਾਰੇ ਸੋਚੋ... ਅਤੇ ਇੰਜੀਨੀਅਰ ਇੱਟਾਂ ਕੱਢਦੇ ਰਹਿੰਦੇ ਹਨ।.
ਏਮਬੈਡਡ ਸਿਸਟਮਾਂ ਲਈ AI ਦੀ ਤੇਜ਼ ਤੁਲਨਾ ਸਾਰਣੀ 📝
| ਟੂਲ / ਫਰੇਮਵਰਕ | ਆਦਰਸ਼ ਦਰਸ਼ਕ | ਕੀਮਤ (ਲਗਭਗ) | ਇਹ ਕਿਉਂ ਕੰਮ ਕਰਦਾ ਹੈ (ਵਿਅੰਗਾਤਮਕ ਨੋਟਸ) |
|---|---|---|---|
| ਟੈਂਸਰਫਲੋ ਲਾਈਟ | ਡਿਵੈਲਪਰ, ਸ਼ੌਕੀਨ | ਮੁਫ਼ਤ | ਲੀਨ, ਪੋਰਟੇਬਲ, ਵਧੀਆ MCU → ਮੋਬਾਈਲ ਕਵਰੇਜ |
| ਐਜ ਇੰਪਲਸ | ਸ਼ੁਰੂਆਤ ਕਰਨ ਵਾਲੇ ਅਤੇ ਸ਼ੁਰੂਆਤ ਕਰਨ ਵਾਲੇ | ਫ੍ਰੀਮੀਅਮ ਟੀਅਰ | ਡਰੈਗ-ਐਂਡ-ਡ੍ਰੌਪ ਵਰਕਫਲੋ - ਜਿਵੇਂ ਕਿ “AI LEGO” |
| ਐਨਵੀਡੀਆ ਜੇਟਸਨ ਪਲੇਟਫਾਰਮ | ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਬਿਜਲੀ ਦੀ ਲੋੜ ਹੈ | $$$ (ਸਸਤਾ ਨਹੀਂ) | ਭਾਰੀ ਨਜ਼ਰ/ਵਰਕਲੋਡ ਲਈ GPU + ਐਕਸਲੇਟਰ |
| TinyML (Arduino ਰਾਹੀਂ) | ਸਿੱਖਿਅਕ, ਪ੍ਰੋਟੋਟਾਈਪਰ | ਥੋੜੀ ਕੀਮਤ | ਪਹੁੰਚਯੋਗ; ਭਾਈਚਾਰੇ-ਸੰਚਾਲਿਤ ❤️ |
| ਕੁਆਲਕਾਮ ਏਆਈ ਇੰਜਣ | OEM, ਮੋਬਾਈਲ ਨਿਰਮਾਤਾ | ਬਦਲਦਾ ਹੈ | ਸਨੈਪਡ੍ਰੈਗਨ 'ਤੇ NPU-ਐਕਸਲਰੇਟਿਡ - ਬਹੁਤ ਤੇਜ਼ |
| ਐਗਜ਼ੀਕਿਊਟੋਰਚ (ਪਾਈਟੋਰਚ) | ਮੋਬਾਈਲ ਅਤੇ ਐਜ ਡਿਵੈਲਪਰ | ਮੁਫ਼ਤ | ਫ਼ੋਨਾਂ/ਪਹਿਨਣਯੋਗ/ਏਮਬੈਡਡ ਲਈ ਡਿਵਾਈਸ 'ਤੇ ਪਾਈਟੋਰਚ ਰਨਟਾਈਮ [5] |
(ਹਾਂ, ਅਸਮਾਨ। ਹਕੀਕਤ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਹੈ।)
ਏਮਬੈਡਡ ਡਿਵਾਈਸਾਂ 'ਤੇ ਏਆਈ ਉਦਯੋਗ ਲਈ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ 🏭
ਸਿਰਫ਼ ਪ੍ਰਚਾਰ ਹੀ ਨਹੀਂ: ਫੈਕਟਰੀ ਲਾਈਨਾਂ 'ਤੇ, ਸੰਖੇਪ ਮਾਡਲ ਨੁਕਸ ਫੜਦੇ ਹਨ; ਖੇਤੀਬਾੜੀ ਵਿੱਚ, ਘੱਟ-ਪਾਵਰ ਨੋਡ ਖੇਤ ਵਿੱਚ ਮਿੱਟੀ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਦੇ ਹਨ; ਵਾਹਨਾਂ ਵਿੱਚ, ਸੁਰੱਖਿਆ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਬ੍ਰੇਕ ਲਗਾਉਣ ਤੋਂ ਪਹਿਲਾਂ "ਘਰ ਨੂੰ ਫ਼ੋਨ" ਨਹੀਂ ਕਰ ਸਕਦੀਆਂ। ਜਦੋਂ ਲੇਟੈਂਸੀ ਅਤੇ ਗੋਪਨੀਯਤਾ ਗੈਰ-ਸਮਝੌਤਾਯੋਗ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਕੰਪਿਊਟ ਨੂੰ ਕਿਨਾਰੇ 'ਤੇ ਲਿਜਾਣਾ ਇੱਕ ਰਣਨੀਤਕ ਲੀਵਰ ਹੁੰਦਾ ਹੈ [1]।
TinyML: ਏਮਬੈਡਡ AI ਦਾ ਸਾਈਲੈਂਟ ਹੀਰੋ 🐜
TinyML ਕਿਲੋਬਾਈਟ ਤੋਂ ਕੁਝ ਮੈਗਾਬਾਈਟ RAM ਵਾਲੇ ਮਾਈਕ੍ਰੋਕੰਟਰੋਲਰਾਂ 'ਤੇ ਮਾਡਲ ਚਲਾਉਂਦਾ ਹੈ - ਫਿਰ ਵੀ ਕੀਵਰਡ ਸਪਾਟਿੰਗ, ਸੰਕੇਤ ਪਛਾਣ, ਅਨੋਮਲੀ ਖੋਜ, ਅਤੇ ਹੋਰ ਬਹੁਤ ਕੁਝ ਕਰਦਾ ਹੈ। ਇਹ ਇੱਕ ਮਾਊਸ ਨੂੰ ਇੱਟ ਚੁੱਕਦੇ ਦੇਖਣ ਵਰਗਾ ਹੈ। ਅਜੀਬ ਸੰਤੁਸ਼ਟੀਜਨਕ।
ਇੱਕ ਤੇਜ਼ ਮਾਨਸਿਕ ਮਾਡਲ:
-
ਡੇਟਾ ਫੁੱਟਪ੍ਰਿੰਟ: ਛੋਟੇ, ਸਟ੍ਰੀਮਿੰਗ ਸੈਂਸਰ ਇਨਪੁੱਟ।
-
ਮਾਡਲ: ਸੰਖੇਪ CNNs/RNNs, ਕਲਾਸੀਕਲ ML, ਜਾਂ ਸਪਾਰਸੀਫਾਈਡ/ਕੁਆਂਟਾਈਜ਼ਡ ਨੈੱਟ।
-
ਬਜਟ: ਮਿਲੀਵਾਟ, ਵਾਟ ਨਹੀਂ; KB–MB, GB ਨਹੀਂ।
ਹਾਰਡਵੇਅਰ ਚੋਣਾਂ: ਲਾਗਤ ਬਨਾਮ ਪ੍ਰਦਰਸ਼ਨ ⚔️
ਹਾਰਡਵੇਅਰ ਚੁਣਨਾ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਬਹੁਤ ਸਾਰੇ ਪ੍ਰੋਜੈਕਟ ਡਗਮਗਾ ਜਾਂਦੇ ਹਨ:
-
ਰਾਸਬੇਰੀ ਪਾਈ ਕਲਾਸ: ਦੋਸਤਾਨਾ, ਆਮ-ਉਦੇਸ਼ ਵਾਲਾ CPU; ਪ੍ਰੋਟੋਟਾਈਪਾਂ ਲਈ ਠੋਸ।
-
NVIDIA Jetson : ਪਰਪਜ਼-ਬਿਲਟ ਐਜ AI ਮੋਡੀਊਲ (ਜਿਵੇਂ ਕਿ, ਓਰਿਨ) ਜੋ ਡੈਂਸ ਵਿਜ਼ਨ ਜਾਂ ਮਲਟੀ-ਮਾਡਲ ਸਟੈਕ ਲਈ ਸੈਂਕੜੇ TOPS ਤੱਕ ਪਹੁੰਚਾਉਂਦੇ ਹਨ - ਵਧੀਆ, ਪਰ ਮਹਿੰਗਾ ਅਤੇ ਪਾਵਰ-ਹੈਵੀਅਰ [4]।
-
ਗੂਗਲ ਕੋਰਲ (ਐਜ TPU): ਇੱਕ ASIC ਐਕਸਲੇਟਰ ਜੋ ਲਗਭਗ 2W (~2 TOPS/W) 'ਤੇ ~4 TOPS - ਸ਼ਾਨਦਾਰ ਪ੍ਰਦਰਸ਼ਨ/W ਜਦੋਂ ਤੁਹਾਡਾ ਮਾਡਲ ਸੀਮਾਵਾਂ ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ [3]।
-
ਸਮਾਰਟਫੋਨ SoCs (ਸਨੈਪਡ੍ਰੈਗਨ): ਡਿਵਾਈਸ 'ਤੇ ਮਾਡਲਾਂ ਨੂੰ ਕੁਸ਼ਲਤਾ ਨਾਲ ਚਲਾਉਣ ਲਈ NPUs ਅਤੇ SDKs ਨਾਲ ਭੇਜਿਆ ਜਾਂਦਾ ਹੈ।
ਅੰਗੂਠੇ ਦਾ ਨਿਯਮ: ਸੰਤੁਲਨ ਲਾਗਤ, ਥਰਮਲ, ਅਤੇ ਗਣਨਾ। "ਬਹੁਤ ਵਧੀਆ, ਹਰ ਜਗ੍ਹਾ" ਅਕਸਰ "ਆਧੁਨਿਕ, ਕਿਤੇ ਨਹੀਂ" ਨੂੰ ਪਛਾੜਦਾ ਹੈ।
ਏਮਬੈਡਡ ਸਿਸਟਮਾਂ ਲਈ AI ਵਿੱਚ ਆਮ ਚੁਣੌਤੀਆਂ 🤯
ਇੰਜੀਨੀਅਰ ਨਿਯਮਿਤ ਤੌਰ 'ਤੇ ਇਹਨਾਂ ਨਾਲ ਜੂਝਦੇ ਹਨ:
-
ਘੱਟ ਯਾਦਦਾਸ਼ਤ: ਛੋਟੇ ਯੰਤਰ ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਹੋਸਟ ਨਹੀਂ ਕਰ ਸਕਦੇ।
-
ਬੈਟਰੀ ਬਜਟ: ਹਰ ਮਿਲੀਐਂਪ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ।
-
ਮਾਡਲ ਔਪਟੀਮਾਈਜੇਸ਼ਨ:
-
ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ → ਛੋਟਾ, ਤੇਜ਼ int8/float16 ਵਜ਼ਨ/ਐਕਟੀਵੇਸ਼ਨ।
-
ਛਾਂਟੀ → ਘੱਟ ਹੋਣ ਲਈ ਮਾਮੂਲੀ ਵਜ਼ਨ ਹਟਾਓ।
-
ਕਲੱਸਟਰਿੰਗ/ਵਜ਼ਨ ਸਾਂਝਾਕਰਨ → ਹੋਰ ਸੰਕੁਚਿਤ ਕਰੋ।
ਇਹ ਡਿਵਾਈਸ 'ਤੇ ਕੁਸ਼ਲਤਾ ਲਈ ਮਿਆਰੀ ਤਕਨੀਕਾਂ ਹਨ [2]।
-
-
ਸਕੇਲਿੰਗ ਅੱਪ: ਇੱਕ ਕਲਾਸਰੂਮ ਅਰਡੁਇਨੋ ਡੈਮੋ ≠ ਸੁਰੱਖਿਆ, ਸੁਰੱਖਿਆ ਅਤੇ ਜੀਵਨ ਚੱਕਰ ਦੀਆਂ ਪਾਬੰਦੀਆਂ ਵਾਲਾ ਇੱਕ ਆਟੋਮੋਟਿਵ ਉਤਪਾਦਨ ਪ੍ਰਣਾਲੀ।
ਡੀਬੱਗਿੰਗ? ਕੀਹੋਲ ਰਾਹੀਂ ਕਿਤਾਬ ਪੜ੍ਹਦੇ ਹੋਏ ਦੀ ਤਸਵੀਰ ਬਣਾਓ... ਦਸਤਾਨੇ ਪਾ ਕੇ।.
ਵਿਹਾਰਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਜੋ ਤੁਸੀਂ ਜਲਦੀ ਹੀ ਹੋਰ ਦੇਖੋਗੇ 🚀
-
ਡਿਵਾਈਸ 'ਤੇ ਸਿਹਤ ਸੰਬੰਧੀ ਸੂਝਾਂ ਪ੍ਰਦਾਨ ਕਰਨ ਵਾਲੇ ਸਮਾਰਟ ਪਹਿਨਣਯੋਗ ਉਪਕਰਣ ।
-
IoT ਕੈਮਰੇ ਕੱਚੇ ਫੁਟੇਜ ਨੂੰ ਸਟ੍ਰੀਮ ਕੀਤੇ ਬਿਨਾਂ ਘਟਨਾਵਾਂ ਨੂੰ ਫਲੈਗ ਕਰ ਰਹੇ ਹਨ।
-
ਔਫਲਾਈਨ ਵੌਇਸ ਅਸਿਸਟੈਂਟ - ਕੋਈ ਕਲਾਉਡ ਨਿਰਭਰਤਾ ਨਹੀਂ।
-
ਨਿਰੀਖਣ, ਡਿਲੀਵਰੀ, ਅਤੇ ਸ਼ੁੱਧਤਾ ਲਈ ਖੁਦਮੁਖਤਿਆਰ ਡਰੋਨ ।
ਸੰਖੇਪ ਵਿੱਚ: AI ਸੱਚਮੁੱਚ ਨੇੜੇ ਆ ਰਿਹਾ ਹੈ - ਸਾਡੇ ਗੁੱਟਾਂ ਵਿੱਚ, ਸਾਡੀਆਂ ਰਸੋਈਆਂ ਵਿੱਚ, ਅਤੇ ਸਾਡੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ।.
ਡਿਵੈਲਪਰ ਕਿਵੇਂ ਸ਼ੁਰੂਆਤ ਕਰ ਸਕਦੇ ਹਨ 🛠️
-
ਵਿਆਪਕ ਟੂਲਿੰਗ ਅਤੇ MCU→ਮੋਬਾਈਲ ਕਵਰੇਜ ਲਈ TensorFlow Lite ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ ; ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ/ਪ੍ਰੂਨਿੰਗ ਜਲਦੀ ਲਾਗੂ ਕਰੋ [2]।
-
ਜੇਕਰ ਤੁਸੀਂ PyTorch ਲੈਂਡ ਵਿੱਚ ਰਹਿੰਦੇ ਹੋ ਅਤੇ ਮੋਬਾਈਲ ਅਤੇ ਏਮਬੈਡਡ [5] ਵਿੱਚ ਇੱਕ ਲੀਨ ਔਨ-ਡਿਵਾਈਸ ਰਨਟਾਈਮ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ExecuTorch ਦੀ ਪੜਚੋਲ ਕਰੋ ।
-
ਤੇਜ਼, ਸੁਆਦੀ ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ ਲਈ Arduino + TinyML ਕਿੱਟਾਂ ਅਜ਼ਮਾਓ ।
-
ਕੀ ਤੁਹਾਨੂੰ ਵਿਜ਼ੂਅਲ ਪਾਈਪਲਾਈਨਾਂ ਪਸੰਦ ਹਨ? ਐਜ ਇੰਪਲਸ ਡੇਟਾ ਕੈਪਚਰ, ਸਿਖਲਾਈ ਅਤੇ ਤੈਨਾਤੀ ਨਾਲ ਰੁਕਾਵਟ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ।
-
ਹਾਰਡਵੇਅਰ ਨੂੰ ਪਹਿਲੇ ਦਰਜੇ ਦੇ ਨਾਗਰਿਕ ਵਾਂਗ ਸਮਝੋ - CPU 'ਤੇ ਪ੍ਰੋਟੋਟਾਈਪ, ਫਿਰ ਲੇਟੈਂਸੀ, ਥਰਮਲ ਅਤੇ ਸ਼ੁੱਧਤਾ ਡੈਲਟਾ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਆਪਣੇ ਟਾਰਗੇਟ ਐਕਸਲੇਟਰ (ਐਜ TPU, ਜੇਟਸਨ, NPU) 'ਤੇ ਪ੍ਰਮਾਣਿਤ ਕਰੋ।.
ਮਿੰਨੀ-ਵਿਗਨੇਟ: ਇੱਕ ਟੀਮ ਇੱਕ ਸਿੱਕਾ-ਸੈੱਲ ਸੈਂਸਰ 'ਤੇ ਇੱਕ ਵਾਈਬ੍ਰੇਸ਼ਨ-ਅਨੋਮਲੀ ਡਿਟੈਕਟਰ ਭੇਜਦੀ ਹੈ। ਫਲੋਟ32 ਮਾਡਲ ਪਾਵਰ ਬਜਟ ਨੂੰ ਖੁੰਝਾਉਂਦਾ ਹੈ; int8 ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ ਪ੍ਰਤੀ ਅਨੁਮਾਨ ਊਰਜਾ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ, ਯਾਦਦਾਸ਼ਤ ਨੂੰ ਛਾਂਟਦਾ ਹੈ, ਅਤੇ MCU ਨੂੰ ਡਿਊਟੀ-ਸਾਈਕਲਿੰਗ ਕਰਨ ਨਾਲ ਕੰਮ ਪੂਰਾ ਹੁੰਦਾ ਹੈ - ਕਿਸੇ ਨੈੱਟਵਰਕ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ [2,3]।
ਏਮਬੈਡਡ ਸਿਸਟਮਾਂ ਲਈ ਏਆਈ ਦੀ ਸ਼ਾਂਤ ਕ੍ਰਾਂਤੀ 🌍
ਛੋਟੇ, ਸਸਤੇ ਪ੍ਰੋਸੈਸਰ ਸਮਝਣਾ → ਸੋਚਣਾ → ਕੰਮ ਕਰਨਾ । ਬੈਟਰੀ ਲਾਈਫ ਹਮੇਸ਼ਾ ਸਾਨੂੰ ਪਰੇਸ਼ਾਨ ਕਰੇਗੀ, ਪਰ ਰਸਤਾ ਸਪੱਸ਼ਟ ਹੈ: ਸਖ਼ਤ ਮਾਡਲ, ਬਿਹਤਰ ਕੰਪਾਈਲਰ, ਚੁਸਤ ਐਕਸਲੇਟਰ। ਨਤੀਜਾ? ਤਕਨੀਕ ਜੋ ਵਧੇਰੇ ਨਿੱਜੀ ਅਤੇ ਜਵਾਬਦੇਹ ਮਹਿਸੂਸ ਕਰਦੀ ਹੈ ਕਿਉਂਕਿ ਇਹ ਸਿਰਫ਼ ਜੁੜਿਆ ਨਹੀਂ ਹੈ - ਇਹ ਧਿਆਨ ਦੇਣਾ ਹੈ।
ਹਵਾਲੇ
[1] ETSI (ਮਲਟੀ-ਐਕਸੈਸ ਐਜ ਕੰਪਿਊਟਿੰਗ) - ਲੇਟੈਂਸੀ/ਗੋਪਨੀਯਤਾ ਲਾਭ ਅਤੇ ਉਦਯੋਗ ਸੰਦਰਭ।
ETSI MEC: ਨਵਾਂ ਵ੍ਹਾਈਟ ਪੇਪਰ ਸੰਖੇਪ ਜਾਣਕਾਰੀ
[2] ਗੂਗਲ ਟੈਂਸਰਫਲੋ ਮਾਡਲ ਔਪਟੀਮਾਈਜੇਸ਼ਨ ਟੂਲਕਿੱਟ - ਡਿਵਾਈਸ 'ਤੇ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ, ਪ੍ਰੂਨਿੰਗ, ਕਲੱਸਟਰਿੰਗ।
ਟੈਂਸਰਫਲੋ ਮਾਡਲ ਔਪਟੀਮਾਈਜੇਸ਼ਨ ਗਾਈਡ
[3] ਗੂਗਲ ਕੋਰਲ ਐਜ ਟੀਪੀਯੂ - ਐਜ ਐਕਸਲਰੇਸ਼ਨ ਲਈ ਪਰਫ/ਡਬਲਯੂ ਬੈਂਚਮਾਰਕ।
ਐਜ ਟੀਪੀਯੂ ਬੈਂਚਮਾਰਕ
[4] NVIDIA Jetson Orin (ਅਧਿਕਾਰਤ) - Edge AI ਮੋਡੀਊਲ ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਘੇਰੇ।
Jetson Orin ਮੋਡੀਊਲ ਸੰਖੇਪ ਜਾਣਕਾਰੀ
[5] ਪਾਈਟੋਰਚ ਐਗਜ਼ੀਕਿਊਟੋਰਚ (ਅਧਿਕਾਰਤ ਦਸਤਾਵੇਜ਼) - ਮੋਬਾਈਲ ਅਤੇ ਐਜ ਲਈ ਡਿਵਾਈਸ 'ਤੇ ਪਾਈਟੋਰਚ ਰਨਟਾਈਮ।
ਐਗਜ਼ੀਕਿਊਟੋਰਚ ਸੰਖੇਪ ਜਾਣਕਾਰੀ