ਐਜ ਏਆਈ ਬੁੱਧੀ ਨੂੰ ਉਨ੍ਹਾਂ ਥਾਵਾਂ 'ਤੇ ਪਹੁੰਚਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਡੇਟਾ ਪੈਦਾ ਹੁੰਦਾ ਹੈ। ਇਹ ਸ਼ਾਨਦਾਰ ਲੱਗਦਾ ਹੈ, ਪਰ ਮੁੱਖ ਵਿਚਾਰ ਸਧਾਰਨ ਹੈ: ਸੈਂਸਰ ਦੇ ਨਾਲ ਸੋਚੋ ਤਾਂ ਜੋ ਨਤੀਜੇ ਹੁਣੇ ਦਿਖਾਈ ਦੇਣ, ਬਾਅਦ ਵਿੱਚ ਨਹੀਂ। ਤੁਹਾਨੂੰ ਹਰ ਫੈਸਲੇ ਨੂੰ ਕਲਾਉਡ ਦੁਆਰਾ ਸੰਭਾਲੇ ਬਿਨਾਂ ਗਤੀ, ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਇੱਕ ਵਧੀਆ ਗੋਪਨੀਯਤਾ ਕਹਾਣੀ ਮਿਲਦੀ ਹੈ। ਆਓ ਇਸਨੂੰ ਖੋਲ੍ਹੀਏ - ਸ਼ਾਰਟਕੱਟ ਅਤੇ ਸਾਈਡ ਕਵੈਸਟਸ ਸ਼ਾਮਲ ਹਨ। 😅
ਇਸ ਤੋਂ ਬਾਅਦ ਤੁਸੀਂ ਜੋ ਲੇਖ ਪੜ੍ਹਨਾ ਪਸੰਦ ਕਰ ਸਕਦੇ ਹੋ:
🔗 ਜਨਰੇਟਿਵ ਏਆਈ ਕੀ ਹੈ?
ਜਨਰੇਟਿਵ ਏਆਈ, ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ, ਅਤੇ ਵਿਹਾਰਕ ਵਰਤੋਂ ਦੀ ਸਪਸ਼ਟ ਵਿਆਖਿਆ।
🔗 ਏਜੰਟਿਕ ਏਆਈ ਕੀ ਹੈ?
ਏਜੰਟਿਕ ਏਆਈ, ਆਟੋਨੋਮਸ ਵਿਵਹਾਰ, ਅਤੇ ਅਸਲ-ਸੰਸਾਰ ਐਪਲੀਕੇਸ਼ਨ ਪੈਟਰਨਾਂ ਦਾ ਸੰਖੇਪ ਜਾਣਕਾਰੀ।
🔗 ਏਆਈ ਸਕੇਲੇਬਿਲਟੀ ਕੀ ਹੈ?
ਸਿੱਖੋ ਕਿ ਏਆਈ ਸਿਸਟਮਾਂ ਨੂੰ ਭਰੋਸੇਯੋਗ, ਕੁਸ਼ਲਤਾ ਅਤੇ ਲਾਗਤ-ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਕਿਵੇਂ ਸਕੇਲ ਕਰਨਾ ਹੈ।
🔗 ਏਆਈ ਲਈ ਇੱਕ ਸਾਫਟਵੇਅਰ ਫਰੇਮਵਰਕ ਕੀ ਹੈ?
ਏਆਈ ਸਾਫਟਵੇਅਰ ਫਰੇਮਵਰਕ, ਆਰਕੀਟੈਕਚਰ ਲਾਭ, ਅਤੇ ਲਾਗੂ ਕਰਨ ਦੀਆਂ ਮੂਲ ਗੱਲਾਂ ਦਾ ਵਿਭਾਜਨ।
ਐਜ ਏਆਈ ਕੀ ਹੈ? ਇਸਦੀ ਤੇਜ਼ ਪਰਿਭਾਸ਼ਾ 🧭
ਐਜ ਏਆਈ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਮਾਡਲਾਂ ਨੂੰ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ ਵਾਲੇ ਡਿਵਾਈਸਾਂ - ਫੋਨ, ਕੈਮਰੇ, ਰੋਬੋਟ, ਕਾਰਾਂ, ਪਹਿਨਣਯੋਗ, ਉਦਯੋਗਿਕ ਕੰਟਰੋਲਰ, 'ਤੇ ਜਾਂ ਨੇੜੇ ਚਲਾਉਣ ਦਾ ਅਭਿਆਸ ਹੈ। ਵਿਸ਼ਲੇਸ਼ਣ ਲਈ ਦੂਰ ਦੇ ਸਰਵਰਾਂ 'ਤੇ ਕੱਚਾ ਡੇਟਾ ਭੇਜਣ ਦੀ ਬਜਾਏ, ਡਿਵਾਈਸ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਇਨਪੁਟਸ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰਦੀ ਹੈ ਅਤੇ ਸਿਰਫ਼ ਸੰਖੇਪ ਭੇਜਦੀ ਹੈ ਜਾਂ ਕੁਝ ਵੀ ਨਹੀਂ। ਘੱਟ ਰਾਊਂਡ ਟ੍ਰਿਪ, ਘੱਟ ਪਛੜਨਾ, ਵਧੇਰੇ ਨਿਯੰਤਰਣ। ਜੇਕਰ ਤੁਸੀਂ ਇੱਕ ਸਾਫ਼, ਵਿਕਰੇਤਾ-ਨਿਰਪੱਖ ਵਿਆਖਿਆਕਾਰ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ ਇੱਥੋਂ ਸ਼ੁਰੂ ਕਰੋ। [1]
ਐਜ ਏਆਈ ਨੂੰ ਅਸਲ ਵਿੱਚ ਕੀ ਲਾਭਦਾਇਕ ਬਣਾਉਂਦਾ ਹੈ? 🌟
-
ਘੱਟ ਲੇਟੈਂਸੀ - ਫੈਸਲੇ ਡਿਵਾਈਸ 'ਤੇ ਹੀ ਹੁੰਦੇ ਹਨ, ਇਸ ਲਈ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਵਸਤੂ ਖੋਜ, ਵੇਕ-ਵਰਡ ਸਪੋਟਿੰਗ, ਜਾਂ ਅਸੰਗਤੀ ਚੇਤਾਵਨੀਆਂ ਵਰਗੇ ਧਾਰਨਾ ਕਾਰਜਾਂ ਲਈ ਤੁਰੰਤ ਮਹਿਸੂਸ ਹੁੰਦੀਆਂ ਹਨ। [1]
-
ਇਲਾਕੇ ਅਨੁਸਾਰ ਗੋਪਨੀਯਤਾ - ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਡਿਵਾਈਸ 'ਤੇ ਰਹਿ ਸਕਦਾ ਹੈ, ਐਕਸਪੋਜ਼ਰ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ ਅਤੇ ਡੇਟਾ-ਘੱਟੋ-ਘੱਟ ਵਿਚਾਰ-ਵਟਾਂਦਰੇ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ। [1]
-
ਬੈਂਡਵਿਡਥ ਬੱਚਤ - ਕੱਚੀਆਂ ਸਟ੍ਰੀਮਾਂ ਦੀ ਬਜਾਏ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਜਾਂ ਇਵੈਂਟ ਭੇਜੋ। [1]
-
ਲਚਕੀਲਾਪਣ - ਸਕੈਚੀ ਕਨੈਕਟੀਵਿਟੀ ਦੌਰਾਨ ਕੰਮ ਕਰਦਾ ਹੈ।
-
ਲਾਗਤ ਨਿਯੰਤਰਣ - ਘੱਟ ਕਲਾਉਡ ਕੰਪਿਊਟ ਚੱਕਰ ਅਤੇ ਘੱਟ ਨਿਕਾਸ।
-
ਸੰਦਰਭ ਜਾਗਰੂਕਤਾ - ਯੰਤਰ ਵਾਤਾਵਰਣ ਨੂੰ "ਮਹਿਸੂਸ" ਕਰਦਾ ਹੈ ਅਤੇ ਅਨੁਕੂਲ ਹੁੰਦਾ ਹੈ।
ਛੋਟੀ ਜਿਹੀ ਗੱਲ: ਇੱਕ ਰਿਟੇਲ ਪਾਇਲਟ ਨੇ ਡਿਵਾਈਸ 'ਤੇ ਵਿਅਕਤੀ-ਬਨਾਮ-ਆਬਜੈਕਟ ਵਰਗੀਕਰਣ ਲਈ ਨਿਰੰਤਰ ਕੈਮਰਾ ਅਪਲੋਡਾਂ ਨੂੰ ਬਦਲਿਆ ਅਤੇ ਸਿਰਫ਼ ਘੰਟੇਵਾਰ ਗਿਣਤੀਆਂ ਅਤੇ ਅਪਵਾਦ ਕਲਿੱਪਾਂ ਨੂੰ ਅੱਗੇ ਵਧਾਇਆ। ਨਤੀਜਾ: ਸ਼ੈਲਫ ਦੇ ਕਿਨਾਰੇ 'ਤੇ 200 ms ਤੋਂ ਘੱਟ ਅਲਰਟ ਅਤੇ ਅਪਲਿੰਕ ਟ੍ਰੈਫਿਕ ਵਿੱਚ ~90% ਦੀ ਗਿਰਾਵਟ - ਸਟੋਰ WAN ਕੰਟਰੈਕਟਸ ਨੂੰ ਬਦਲੇ ਬਿਨਾਂ। (ਵਿਧੀ: ਸਥਾਨਕ ਅਨੁਮਾਨ, ਘਟਨਾ ਬੈਚਿੰਗ, ਸਿਰਫ਼ ਅਸੰਗਤੀਆਂ।)
ਐਜ ਏਆਈ ਬਨਾਮ ਕਲਾਉਡ ਏਆਈ - ਤੇਜ਼ ਕੰਟ੍ਰਾਸਟ 🥊
-
ਜਿੱਥੇ ਗਣਨਾ ਹੁੰਦੀ ਹੈ : ਐਜ = ਡਿਵਾਈਸ 'ਤੇ/ਡਿਵਾਈਸ ਦੇ ਨੇੜੇ; ਕਲਾਉਡ = ਰਿਮੋਟ ਡੇਟਾ ਸੈਂਟਰ।
-
ਲੇਟੈਂਸੀ : ਕਿਨਾਰੇ ≈ ਅਸਲ-ਸਮੇਂ ਵਿੱਚ; ਕਲਾਉਡ ਦੇ ਰਾਊਂਡ ਟ੍ਰਿਪ ਹੁੰਦੇ ਹਨ।
-
ਡਾਟਾ ਮੂਵਮੈਂਟ : ਪਹਿਲਾਂ ਐਜ ਫਿਲਟਰ/ਕੰਪ੍ਰੈਸ ਕਰਦਾ ਹੈ; ਕਲਾਉਡ ਨੂੰ ਫੁੱਲ-ਫੀਡੇਲਿਟੀ ਅਪਲੋਡ ਪਸੰਦ ਹਨ।
-
ਭਰੋਸੇਯੋਗਤਾ : ਐਜ ਆਫ਼ਲਾਈਨ ਚੱਲਦਾ ਰਹਿੰਦਾ ਹੈ; ਕਲਾਉਡ ਨੂੰ ਕਨੈਕਟੀਵਿਟੀ ਦੀ ਲੋੜ ਹੈ।
-
ਗਵਰਨੈਂਸ : ਐਜ ਡੇਟਾ ਮਿਨੀਮਾਈਜ਼ੇਸ਼ਨ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ; ਕਲਾਉਡ ਨਿਗਰਾਨੀ ਨੂੰ ਕੇਂਦਰੀਕ੍ਰਿਤ ਕਰਦਾ ਹੈ। [1]
ਇਹ ਦੋਵਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਨਹੀਂ ਹੈ-ਜਾਂ ਨਹੀਂ ਹੈ। ਸਮਾਰਟ ਸਿਸਟਮ ਦੋਵਾਂ ਨੂੰ ਮਿਲਾਉਂਦੇ ਹਨ: ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਤੇਜ਼ ਫੈਸਲੇ, ਡੂੰਘਾ ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਕੇਂਦਰੀ ਤੌਰ 'ਤੇ ਫਲੀਟ ਸਿਖਲਾਈ। ਹਾਈਬ੍ਰਿਡ ਜਵਾਬ ਬੋਰਿੰਗ ਹੈ-ਅਤੇ ਸਹੀ ਹੈ।
ਐਜ ਏਆਈ ਅਸਲ ਵਿੱਚ ਛੁਪ ਕੇ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ 🧩
-
ਸੈਂਸਰ ਕੱਚੇ ਸਿਗਨਲਾਂ ਨੂੰ ਕੈਪਚਰ ਕਰਦੇ ਹਨ - ਆਡੀਓ ਫਰੇਮ, ਕੈਮਰਾ ਪਿਕਸਲ, IMU ਟੈਪਸ, ਵਾਈਬ੍ਰੇਸ਼ਨ ਟਰੇਸ।
-
ਪ੍ਰੀਪ੍ਰੋਸੈਸਿੰਗ ਉਹਨਾਂ ਸਿਗਨਲਾਂ ਨੂੰ ਮਾਡਲ-ਅਨੁਕੂਲ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਵਿੱਚ ਮੁੜ ਆਕਾਰ ਦਿੰਦੀ ਹੈ।
-
ਇਨਫਰੈਂਸ ਰਨਟਾਈਮ ਉਪਲਬਧ ਹੋਣ 'ਤੇ ਐਕਸਲੇਟਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਡਿਵਾਈਸ 'ਤੇ ਇੱਕ ਸੰਖੇਪ ਮਾਡਲ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ।
-
ਪੋਸਟਪ੍ਰੋਸੈਸਿੰਗ ਆਉਟਪੁੱਟ ਨੂੰ ਘਟਨਾਵਾਂ, ਲੇਬਲਾਂ, ਜਾਂ ਨਿਯੰਤਰਣ ਕਿਰਿਆਵਾਂ ਵਿੱਚ ਬਦਲ ਦਿੰਦੀ ਹੈ।
-
ਟੈਲੀਮੈਟਰੀ ਸਿਰਫ਼ ਉਹੀ ਅਪਲੋਡ ਕਰਦੀ ਹੈ ਜੋ ਲਾਭਦਾਇਕ ਹੈ: ਸੰਖੇਪ, ਵਿਗਾੜ, ਜਾਂ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਫੀਡਬੈਕ।
ਔਨ-ਡਿਵਾਈਸ ਰਨਟਾਈਮ ਜੋ ਤੁਸੀਂ ਆਮ ਤੌਰ 'ਤੇ ਦੇਖੋਗੇ ਉਨ੍ਹਾਂ ਵਿੱਚ Google ਦਾ LiteRT (ਪਹਿਲਾਂ TensorFlow Lite), ONNX Runtime , ਅਤੇ Intel ਦਾ OpenVINO । ਇਹ ਟੂਲਚੇਨ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਅਤੇ ਆਪਰੇਟਰ ਫਿਊਜ਼ਨ ਵਰਗੀਆਂ ਚਾਲਾਂ ਨਾਲ ਟਾਈਟ ਪਾਵਰ/ਮੈਮੋਰੀ ਬਜਟ ਤੋਂ ਥਰੂਪੁੱਟ ਨੂੰ ਨਿਚੋੜਦੀਆਂ ਹਨ। ਜੇਕਰ ਤੁਹਾਨੂੰ ਨਟ ਐਂਡ ਬੋਲਟ ਪਸੰਦ ਹਨ, ਤਾਂ ਉਨ੍ਹਾਂ ਦੇ ਡੌਕਸ ਠੋਸ ਹਨ। [3][4]
ਇਹ ਕਿੱਥੇ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ - ਅਸਲ ਵਰਤੋਂ ਦੇ ਮਾਮਲੇ ਜਿਨ੍ਹਾਂ ਵੱਲ ਤੁਸੀਂ ਇਸ਼ਾਰਾ ਕਰ ਸਕਦੇ ਹੋ 🧯🚗🏭
-
ਕਿਨਾਰੇ 'ਤੇ ਦ੍ਰਿਸ਼ਟੀ : ਦਰਵਾਜ਼ੇ ਦੀ ਘੰਟੀ ਵਾਲੇ ਕੈਮਰੇ (ਲੋਕ ਬਨਾਮ ਪਾਲਤੂ ਜਾਨਵਰ), ਪ੍ਰਚੂਨ ਵਿੱਚ ਸ਼ੈਲਫ-ਸਕੈਨਿੰਗ, ਨੁਕਸਾਂ ਨੂੰ ਲੱਭਣ ਵਾਲੇ ਡਰੋਨ।
-
ਡਿਵਾਈਸ 'ਤੇ ਆਡੀਓ : ਵੇਕ ਸ਼ਬਦ, ਡਿਕਟੇਸ਼ਨ, ਪੌਦਿਆਂ ਵਿੱਚ ਲੀਕ ਖੋਜ।
-
ਉਦਯੋਗਿਕ IoT : ਅਸਫਲਤਾ ਤੋਂ ਪਹਿਲਾਂ ਵਾਈਬ੍ਰੇਸ਼ਨ ਵਿਗਾੜਾਂ ਲਈ ਮੋਟਰਾਂ ਅਤੇ ਪੰਪਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।
-
ਆਟੋਮੋਟਿਵ : ਡਰਾਈਵਰ ਨਿਗਰਾਨੀ, ਲੇਨ ਖੋਜ, ਪਾਰਕਿੰਗ ਸਹਾਇਤਾ-ਸਬ-ਸੈਕਿੰਡ ਜਾਂ ਬੱਸ।
-
ਸਿਹਤ ਸੰਭਾਲ : ਪਹਿਨਣਯੋਗ ਚੀਜ਼ਾਂ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਐਰੀਥਮੀਆ ਨੂੰ ਫਲੈਗ ਕਰਦੀਆਂ ਹਨ; ਬਾਅਦ ਵਿੱਚ ਸੰਖੇਪਾਂ ਨੂੰ ਸਿੰਕ ਕਰੋ।
-
ਸਮਾਰਟਫ਼ੋਨ : ਫੋਟੋ ਵਧਾਉਣਾ, ਸਪੈਮ-ਕਾਲ ਖੋਜ, "ਮੇਰੇ ਫ਼ੋਨ ਨੇ ਇਹ ਆਫ਼ਲਾਈਨ ਕਿਵੇਂ ਕੀਤਾ" ਪਲ।
ਰਸਮੀ ਪਰਿਭਾਸ਼ਾਵਾਂ (ਅਤੇ "ਧੁੰਦ ਬਨਾਮ ਕਿਨਾਰੇ" ਕਜ਼ਨ ਟਾਕ) ਲਈ, NIST ਸੰਕਲਪ ਮਾਡਲ ਵੇਖੋ। [2]
ਹਾਰਡਵੇਅਰ ਜੋ ਇਸਨੂੰ ਤੇਜ਼ ਬਣਾਉਂਦਾ ਹੈ 🔌
ਕੁਝ ਪਲੇਟਫਾਰਮਾਂ ਦੀ ਬਹੁਤ ਜ਼ਿਆਦਾ ਜਾਂਚ ਕੀਤੀ ਜਾਂਦੀ ਹੈ:
-
NVIDIA Jetson - ਰੋਬੋਟਾਂ/ਕੈਮਰਿਆਂ ਲਈ GPU-ਸੰਚਾਲਿਤ ਮੋਡੀਊਲ-ਏਮਬੈਡਡ AI ਲਈ ਸਵਿਸ-ਆਰਮੀ-ਨਾਈਫ ਵਾਈਬਸ।
-
Google Edge TPU + LiterRT - ਕੁਸ਼ਲ ਪੂਰਨ ਅੰਕ ਅਨੁਮਾਨ ਅਤੇ ਅਤਿ-ਘੱਟ-ਪਾਵਰ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਇੱਕ ਸੁਚਾਰੂ ਰਨਟਾਈਮ। [3]
-
ਐਪਲ ਨਿਊਰਲ ਇੰਜਣ (ANE) - ਆਈਫੋਨ, ਆਈਪੈਡ, ਅਤੇ ਮੈਕ ਲਈ ਡਿਵਾਈਸ 'ਤੇ ਟਾਈਟ ML; ਐਪਲ ਨੇ ANE 'ਤੇ ਟ੍ਰਾਂਸਫਾਰਮਰਾਂ ਨੂੰ ਕੁਸ਼ਲਤਾ ਨਾਲ ਤੈਨਾਤ ਕਰਨ 'ਤੇ ਵਿਹਾਰਕ ਕੰਮ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਹੈ। [5]
-
ਓਪਨਵੀਨੋ ਵਾਲੇ ਇੰਟੇਲ ਸੀਪੀਯੂ/ਆਈਜੀਪੀਯੂ/ਐਨਪੀਯੂ - ਇੰਟੇਲ ਹਾਰਡਵੇਅਰ ਵਿੱਚ "ਇੱਕ ਵਾਰ ਲਿਖੋ, ਕਿਤੇ ਵੀ ਤੈਨਾਤ ਕਰੋ"; ਉਪਯੋਗੀ ਅਨੁਕੂਲਨ ਪਾਸ।
-
ONNX ਰਨਟਾਈਮ ਹਰ ਜਗ੍ਹਾ - ਫ਼ੋਨਾਂ, PCs, ਅਤੇ ਗੇਟਵੇ ਵਿੱਚ ਪਲੱਗੇਬਲ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਪ੍ਰਦਾਤਾਵਾਂ ਦੇ ਨਾਲ ਇੱਕ ਨਿਰਪੱਖ ਰਨਟਾਈਮ। [4]
ਕੀ ਤੁਹਾਨੂੰ ਇਨ੍ਹਾਂ ਸਾਰਿਆਂ ਦੀ ਲੋੜ ਹੈ? ਅਸਲ ਵਿੱਚ ਨਹੀਂ। ਇੱਕ ਮਜ਼ਬੂਤ ਰਸਤਾ ਚੁਣੋ ਜੋ ਤੁਹਾਡੇ ਬੇੜੇ ਦੇ ਅਨੁਕੂਲ ਹੋਵੇ ਅਤੇ ਇਸ ਨਾਲ ਜੁੜੇ ਰਹੋ - ਮਥਨ ਏਮਬੈਡਡ ਟੀਮਾਂ ਦਾ ਦੁਸ਼ਮਣ ਹੈ।
ਸਾਫਟਵੇਅਰ ਸਟੈਕ - ਛੋਟਾ ਟੂਰ 🧰
-
ਮਾਡਲ ਸੰਕੁਚਨ : ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ (ਅਕਸਰ int8 ਤੱਕ), ਛਾਂਟੀ, ਡਿਸਟਿਲੇਸ਼ਨ।
-
ਓਪਰੇਟਰ-ਪੱਧਰ ਪ੍ਰਵੇਗ : ਕਰਨਲ ਤੁਹਾਡੇ ਸਿਲੀਕਾਨ ਨਾਲ ਜੁੜੇ ਹੋਏ ਹਨ।
-
ਰਨਟਾਈਮ : LiteRT, ONNX ਰਨਟਾਈਮ, ਓਪਨਵੀਨੋ। [3][4]
-
ਡਿਪਲਾਇਮੈਂਟ ਰੈਪਰ : ਕੰਟੇਨਰ/ਐਪ ਬੰਡਲ; ਕਈ ਵਾਰ ਗੇਟਵੇ 'ਤੇ ਮਾਈਕ੍ਰੋਸਰਵਿਸਿਜ਼।
-
ਕਿਨਾਰੇ ਲਈ MLOps : OTA ਮਾਡਲ ਅੱਪਡੇਟ, A/B ਰੋਲਆਊਟ, ਟੈਲੀਮੈਟਰੀ ਲੂਪਸ।
-
ਗੋਪਨੀਯਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣ : ਡਿਵਾਈਸ 'ਤੇ ਇਨਕ੍ਰਿਪਸ਼ਨ, ਸੁਰੱਖਿਅਤ ਬੂਟ, ਤਸਦੀਕ, ਐਨਕਲੇਵ।
ਮਿੰਨੀ-ਕੇਸ: ਇੱਕ ਨਿਰੀਖਣ ਡਰੋਨ ਟੀਮ ਨੇ LiterRT ਲਈ ਇੱਕ ਕੁਆਂਟਾਈਜ਼ਡ ਵਿਦਿਆਰਥੀ ਮਾਡਲ ਵਿੱਚ ਇੱਕ ਹੈਵੀਵੇਟ ਡਿਟੈਕਟਰ ਡਿਸਟਿਲ ਕੀਤਾ, ਫਿਰ NMS ਔਨ-ਡਿਵਾਈਸ ਨੂੰ ਫਿਊਜ਼ ਕੀਤਾ। ਘੱਟ ਕੰਪਿਊਟ ਡਰਾਅ ਦੇ ਕਾਰਨ ਉਡਾਣ ਦੇ ਸਮੇਂ ਵਿੱਚ ~15% ਦਾ ਸੁਧਾਰ ਹੋਇਆ; ਅਪਲੋਡ ਵਾਲੀਅਮ ਅਪਵਾਦ ਫਰੇਮਾਂ ਤੱਕ ਸੁੰਗੜ ਗਿਆ। (ਵਿਧੀ: ਸਾਈਟ 'ਤੇ ਡੇਟਾਸੈਟ ਕੈਪਚਰ, ਪੋਸਟ-ਕੁਆਂਟ ਕੈਲੀਬ੍ਰੇਸ਼ਨ, ਪੂਰੇ ਰੋਲਆਉਟ ਤੋਂ ਪਹਿਲਾਂ ਸ਼ੈਡੋ-ਮੋਡ A/B।)
ਤੁਲਨਾ ਸਾਰਣੀ - ਪ੍ਰਸਿੱਧ ਐਜ ਏਆਈ ਵਿਕਲਪ 🧪
ਅਸਲ ਗੱਲਬਾਤ: ਇਹ ਮੇਜ਼ ਵਿਚਾਰਾਂ ਵਾਲਾ ਹੈ ਅਤੇ ਥੋੜ੍ਹਾ ਜਿਹਾ ਗੜਬੜ ਵਾਲਾ ਹੈ - ਬਿਲਕੁਲ ਅਸਲ ਦੁਨੀਆਂ ਵਾਂਗ।
| ਔਜ਼ਾਰ / ਪਲੇਟਫਾਰਮ | ਸਭ ਤੋਂ ਵਧੀਆ ਦਰਸ਼ਕ | ਕੀਮਤ ਬਾਲਪਾਰਕ | ਇਹ ਕਿਨਾਰੇ 'ਤੇ ਕਿਉਂ ਕੰਮ ਕਰਦਾ ਹੈ |
|---|---|---|---|
| LiterRT (ਸਾਬਕਾ TFLite) | ਐਂਡਰਾਇਡ, ਨਿਰਮਾਤਾ, ਏਮਬੈਡਡ | $ ਤੋਂ $$ | ਲੀਨ ਰਨਟਾਈਮ, ਮਜ਼ਬੂਤ ਦਸਤਾਵੇਜ਼, ਮੋਬਾਈਲ-ਪਹਿਲਾਂ ਓਪਸ। ਔਫਲਾਈਨ ਵਧੀਆ ਕੰਮ ਕਰਦਾ ਹੈ। [3] |
| ONNX ਰਨਟਾਈਮ | ਕਰਾਸ-ਪਲੇਟਫਾਰਮ ਟੀਮਾਂ | $ | ਨਿਰਪੱਖ ਫਾਰਮੈਟ, ਪਲੱਗੇਬਲ ਹਾਰਡਵੇਅਰ ਬੈਕਐਂਡ-ਭਵਿੱਖ ਦੇ ਅਨੁਕੂਲ। [4] |
| ਓਪਨਵੀਨੋ | ਇੰਟੈੱਲ-ਕੇਂਦ੍ਰਿਤ ਤੈਨਾਤੀਆਂ | $ | ਇੱਕ ਟੂਲਕਿੱਟ, ਕਈ ਇੰਟੇਲ ਟਾਰਗੇਟ; ਸੌਖਾ ਓਪਟੀਮਾਈਜੇਸ਼ਨ ਪਾਸ। |
| ਐਨਵੀਆਈਡੀਆ ਜੇਟਸਨ | ਰੋਬੋਟਿਕਸ, ਨਜ਼ਰ-ਭਾਰੀ | $$ ਤੋਂ $$$ | ਲੰਚਬਾਕਸ ਵਿੱਚ GPU ਪ੍ਰਵੇਗ; ਵਿਆਪਕ ਈਕੋਸਿਸਟਮ। |
| ਐਪਲ ਏ.ਐਨ.ਈ. | iOS/iPadOS/macOS ਐਪਸ | ਡਿਵਾਈਸ ਦੀ ਕੀਮਤ | ਸਖ਼ਤ HW/SW ਏਕੀਕਰਨ; ਚੰਗੀ ਤਰ੍ਹਾਂ ਦਸਤਾਵੇਜ਼ੀ ANE ਟ੍ਰਾਂਸਫਾਰਮਰ ਕੰਮ। [5] |
| ਐਜ ਟੀਪੀਯੂ + ਲਿਟਰਆਰਟੀ | ਬਹੁਤ ਘੱਟ ਬਿਜਲੀ ਵਾਲੇ ਪ੍ਰੋਜੈਕਟ | $ | ਕਿਨਾਰੇ 'ਤੇ ਕੁਸ਼ਲ int8 ਅਨੁਮਾਨ; ਛੋਟਾ ਪਰ ਸਮਰੱਥ। [3] |
ਐਜ ਏਆਈ ਮਾਰਗ ਕਿਵੇਂ ਚੁਣਨਾ ਹੈ - ਇੱਕ ਛੋਟਾ ਜਿਹਾ ਫੈਸਲਾ ਲੈਣ ਵਾਲਾ ਰੁੱਖ 🌳
-
ਕੀ ਤੁਹਾਡੀ ਜ਼ਿੰਦਗੀ ਅਸਲ ਸਮੇਂ ਵਿੱਚ ਔਖੀ ਹੈ? ਐਕਸਲੇਟਰਾਂ + ਕੁਆਂਟਾਈਜ਼ਡ ਮਾਡਲਾਂ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ।
-
ਕੀ ਕਈ ਤਰ੍ਹਾਂ ਦੇ ਡਿਵਾਈਸ ਹਨ? ਪੋਰਟੇਬਿਲਟੀ ਲਈ ONNX ਰਨਟਾਈਮ ਜਾਂ OpenVINO ਨੂੰ ਤਰਜੀਹ ਦਿਓ। [4]
-
ਕੀ ਤੁਸੀਂ ਮੋਬਾਈਲ ਐਪ ਭੇਜ ਰਹੇ ਹੋ? LiterRT ਸਭ ਤੋਂ ਘੱਟ ਵਿਰੋਧ ਦਾ ਰਸਤਾ ਹੈ। [3]
-
ਰੋਬੋਟਿਕਸ ਜਾਂ ਕੈਮਰਾ ਵਿਸ਼ਲੇਸ਼ਣ? ਜੈੱਟਸਨ ਦੇ GPU-ਅਨੁਕੂਲ ਓਪਸ ਸਮਾਂ ਬਚਾਉਂਦੇ ਹਨ।
-
ਕੀ ਤੁਸੀਂ ਗੋਪਨੀਯਤਾ ਦੀ ਸਖ਼ਤ ਨੀਤੀ ਅਪਣਾਉਂਦੇ ਹੋ? ਡੇਟਾ ਨੂੰ ਸਥਾਨਕ ਰੱਖੋ, ਐਨਕ੍ਰਿਪਟ ਨੂੰ ਸਥਿਰ ਰੱਖੋ, ਲੌਗ ਐਗਰੀਗੇਟ ਨੂੰ ਕੱਚੇ ਫਰੇਮਾਂ ਦੀ ਬਜਾਏ।
-
ਛੋਟੀ ਟੀਮ? ਵਿਦੇਸ਼ੀ ਟੂਲਚੇਨਾਂ ਤੋਂ ਬਚੋ - ਬੋਰਿੰਗ ਸੁੰਦਰ ਹੈ।
-
ਮਾਡਲ ਅਕਸਰ ਬਦਲਦੇ ਰਹਿਣਗੇ? ਪਹਿਲੇ ਦਿਨ ਤੋਂ ਹੀ OTA ਅਤੇ ਟੈਲੀਮੈਟਰੀ ਦੀ ਯੋਜਨਾ ਬਣਾਓ।
ਜੋਖਮ, ਸੀਮਾਵਾਂ, ਅਤੇ ਬੋਰਿੰਗ-ਪਰ-ਮਹੱਤਵਪੂਰਨ ਬਿੱਟ 🧯
-
ਮਾਡਲ ਡ੍ਰਿਫਟ - ਵਾਤਾਵਰਣ ਬਦਲਦੇ ਹਨ; ਵੰਡਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰੋ, ਸ਼ੈਡੋ ਮੋਡ ਚਲਾਓ, ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਦਿਓ।
-
ਕੰਪਿਊਟ ਸੀਲਿੰਗ - ਘੱਟ ਮੈਮੋਰੀ/ਪਾਵਰ ਫੋਰਸ ਛੋਟੇ ਮਾਡਲ ਜਾਂ ਢਿੱਲੀ ਸ਼ੁੱਧਤਾ।
-
ਸੁਰੱਖਿਆ - ਭੌਤਿਕ ਪਹੁੰਚ ਮੰਨ ਲਓ; ਸੁਰੱਖਿਅਤ ਬੂਟ, ਦਸਤਖਤ ਕੀਤੇ ਕਲਾਕ੍ਰਿਤੀਆਂ, ਤਸਦੀਕ, ਘੱਟੋ-ਘੱਟ-ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਸੇਵਾਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ।
-
ਡੇਟਾ ਗਵਰਨੈਂਸ - ਸਥਾਨਕ ਪ੍ਰੋਸੈਸਿੰਗ ਮਦਦ ਕਰਦੀ ਹੈ, ਪਰ ਤੁਹਾਨੂੰ ਅਜੇ ਵੀ ਸਹਿਮਤੀ, ਧਾਰਨ, ਅਤੇ ਸਕੋਪਡ ਟੈਲੀਮੈਟਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
-
ਫਲੀਟ ਓਪਸ - ਡਿਵਾਈਸਾਂ ਸਭ ਤੋਂ ਮਾੜੇ ਸਮੇਂ ਔਫਲਾਈਨ ਹੋ ਜਾਂਦੀਆਂ ਹਨ; ਡਿਜ਼ਾਈਨ ਮੁਲਤਵੀ ਅੱਪਡੇਟ ਅਤੇ ਮੁੜ-ਚਾਲੂ ਹੋਣ ਯੋਗ ਅੱਪਲੋਡ।
-
ਟੈਲੇਂਟ ਮਿਕਸ - ਏਮਬੈਡਡ + ML + DevOps ਇੱਕ ਵੱਖਰਾ ਸਮੂਹ ਹੈ; ਜਲਦੀ ਹੀ ਕ੍ਰਾਸ-ਟ੍ਰੇਨ ਕਰੋ।
ਕੁਝ ਲਾਭਦਾਇਕ ਭੇਜਣ ਲਈ ਇੱਕ ਵਿਹਾਰਕ ਰੋਡਮੈਪ 🗺️
-
ਲਾਈਨ 3 'ਤੇ ਮਾਪਣਯੋਗ ਮੁੱਲ-ਨੁਕਸ ਖੋਜ, ਸਮਾਰਟ ਸਪੀਕਰ 'ਤੇ ਵੇਕ ਵਰਡ, ਆਦਿ ਵਾਲਾ ਇੱਕ ਵਰਤੋਂ ਕੇਸ ਚੁਣੋ।
-
ਟਾਰਗੇਟ ਵਾਤਾਵਰਣ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹੋਏ ਇੱਕ ਸਾਫ਼-ਸੁਥਰਾ ਡੇਟਾਸੈਟ ਇਕੱਠਾ ਕਰੋ
-
ਉਤਪਾਦਨ ਹਾਰਡਵੇਅਰ ਦੇ ਨੇੜੇ ਇੱਕ ਵਿਕਾਸ ਕਿੱਟ 'ਤੇ ਪ੍ਰੋਟੋਟਾਈਪ
-
ਮਾਡਲ ਨੂੰ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ/ਛਾਂਟ ਨਾਲ ਸੰਕੁਚਿਤ ਕਰੋ; ਸ਼ੁੱਧਤਾ ਦੇ ਨੁਕਸਾਨ ਨੂੰ ਇਮਾਨਦਾਰੀ ਨਾਲ ਮਾਪੋ। [3]
-
ਇੱਕ ਸਾਫ਼ API ਵਿੱਚ ਅਨੁਮਾਨ ਲਪੇਟੋ - ਕਿਉਂਕਿ ਡਿਵਾਈਸਾਂ ਸਵੇਰੇ 2 ਵਜੇ ਲਟਕ ਜਾਂਦੀਆਂ ਹਨ।
-
ਅਜਿਹੀ ਟੈਲੀਮੈਟਰੀ ਡਿਜ਼ਾਈਨ ਕਰੋ ਜੋ ਗੋਪਨੀਯਤਾ ਦਾ ਸਤਿਕਾਰ ਕਰੇ: ਭੇਜਣ ਦੀ ਗਿਣਤੀ, ਹਿਸਟੋਗ੍ਰਾਮ, ਕਿਨਾਰੇ ਤੋਂ ਕੱਢੀਆਂ ਗਈਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ।
-
ਸੁਰੱਖਿਆ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰੋ : ਦਸਤਖਤ ਕੀਤੇ ਬਾਈਨਰੀ, ਸੁਰੱਖਿਅਤ ਬੂਟ, ਘੱਟੋ-ਘੱਟ ਸੇਵਾਵਾਂ ਖੁੱਲ੍ਹੀਆਂ।
-
ਯੋਜਨਾ OTA : ਸਟੈਗਰਡ ਰੋਲਆਉਟ, ਕੈਨਰੀ, ਤੁਰੰਤ ਰੋਲਬੈਕ।
-
ਇੱਕ ਖੂੰਜੇ ਵਾਲੇ ਕੋਨੇ ਵਾਲੇ ਕੇਸ ਵਿੱਚ ਪਾਇਲਟ - ਜੇ ਇਹ ਉੱਥੇ ਬਚ ਗਿਆ, ਤਾਂ ਇਹ ਕਿਤੇ ਵੀ ਬਚ ਜਾਵੇਗਾ।
-
ਪਲੇਬੁੱਕ ਨਾਲ ਸਕੇਲ ਕਰੋ : ਤੁਸੀਂ ਮਾਡਲ ਕਿਵੇਂ ਜੋੜੋਗੇ, ਕੁੰਜੀਆਂ ਕਿਵੇਂ ਘੁੰਮਾਓਗੇ, ਡੇਟਾ ਕਿਵੇਂ ਪੁਰਾਲੇਖ ਕਰੋਗੇ - ਤਾਂ ਜੋ ਪ੍ਰੋਜੈਕਟ #2 ਹਫੜਾ-ਦਫੜੀ ਨਾ ਹੋਵੇ।
ਐਜ ਏਆਈ ਉਤਸੁਕਤਾ ਦੇ ਛੋਟੇ ਜਵਾਬ
ਕੀ ਐਜ ਏਆਈ ਸਿਰਫ਼ ਇੱਕ ਛੋਟੇ ਕੰਪਿਊਟਰ 'ਤੇ ਇੱਕ ਛੋਟਾ ਮਾਡਲ ਚਲਾ ਰਿਹਾ ਹੈ?
ਜ਼ਿਆਦਾਤਰ, ਹਾਂ - ਪਰ ਆਕਾਰ ਪੂਰੀ ਕਹਾਣੀ ਨਹੀਂ ਹੈ। ਇਹ ਲੇਟੈਂਸੀ ਬਜਟ, ਗੋਪਨੀਯਤਾ ਦੇ ਵਾਅਦਿਆਂ, ਅਤੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਨ ਵਾਲੇ ਪਰ ਵਿਸ਼ਵ ਪੱਧਰ 'ਤੇ ਸਿੱਖਣ ਵਾਲੇ ਬਹੁਤ ਸਾਰੇ ਡਿਵਾਈਸਾਂ ਨੂੰ ਆਰਕੇਸਟ੍ਰੇਟ ਕਰਨ ਬਾਰੇ ਵੀ ਹੈ। [1]
ਕੀ ਮੈਂ ਕਿਨਾਰੇ 'ਤੇ ਵੀ ਸਿਖਲਾਈ ਦੇ ਸਕਦਾ ਹਾਂ?
ਡਿਵਾਈਸ 'ਤੇ ਹਲਕੀ ਸਿਖਲਾਈ/ਵਿਅਕਤੀਗਤਕਰਨ ਮੌਜੂਦ ਹੈ; ਭਾਰੀ ਸਿਖਲਾਈ ਅਜੇ ਵੀ ਕੇਂਦਰੀ ਤੌਰ 'ਤੇ ਚੱਲਦੀ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਸਾਹਸੀ ਹੋ ਤਾਂ ONNX ਰਨਟਾਈਮ ਡਿਵਾਈਸ 'ਤੇ ਸਿਖਲਾਈ ਵਿਕਲਪਾਂ ਨੂੰ ਦਸਤਾਵੇਜ਼ ਦਿੰਦਾ ਹੈ। [4]
ਐਜ ਏਆਈ ਬਨਾਮ ਫੌਗ ਕੰਪਿਊਟਿੰਗ ਕੀ ਹੈ?
ਫੌਗ ਅਤੇ ਐਜ ਚਚੇਰੇ ਭਰਾ ਹਨ। ਦੋਵੇਂ ਕੰਪਿਊਟ ਨੂੰ ਡੇਟਾ ਸਰੋਤਾਂ ਦੇ ਨੇੜੇ ਲਿਆਉਂਦੇ ਹਨ, ਕਈ ਵਾਰ ਨੇੜਲੇ ਗੇਟਵੇ ਰਾਹੀਂ। ਰਸਮੀ ਪਰਿਭਾਸ਼ਾਵਾਂ ਅਤੇ ਸੰਦਰਭ ਲਈ, NIST ਵੇਖੋ। [2]
ਕੀ ਐਜ ਏਆਈ ਹਮੇਸ਼ਾ ਗੋਪਨੀਯਤਾ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਂਦਾ ਹੈ?
ਇਹ ਮਦਦ ਕਰਦਾ ਹੈ - ਪਰ ਇਹ ਜਾਦੂ ਨਹੀਂ ਹੈ। ਤੁਹਾਨੂੰ ਅਜੇ ਵੀ ਘੱਟੋ-ਘੱਟ ਕਰਨ, ਸੁਰੱਖਿਅਤ ਅੱਪਡੇਟ ਮਾਰਗਾਂ ਅਤੇ ਧਿਆਨ ਨਾਲ ਲੌਗਿੰਗ ਦੀ ਲੋੜ ਹੈ। ਗੋਪਨੀਯਤਾ ਨੂੰ ਇੱਕ ਆਦਤ ਵਜੋਂ ਸਮਝੋ, ਇੱਕ ਚੈੱਕਬਾਕਸ ਵਜੋਂ ਨਹੀਂ।
ਡੂੰਘੀਆਂ ਖੋਜਾਂ ਜੋ ਤੁਸੀਂ ਅਸਲ ਵਿੱਚ ਪੜ੍ਹ ਸਕਦੇ ਹੋ 📚
1) ਮਾਡਲ ਓਪਟੀਮਾਈਜੇਸ਼ਨ ਜੋ ਸ਼ੁੱਧਤਾ ਨੂੰ ਖਰਾਬ ਨਹੀਂ ਕਰਦਾ
ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਮੈਮੋਰੀ ਨੂੰ ਘਟਾ ਸਕਦੀ ਹੈ ਅਤੇ ਓਪਸ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦੀ ਹੈ, ਪਰ ਪ੍ਰਤੀਨਿਧੀ ਡੇਟਾ ਨਾਲ ਕੈਲੀਬ੍ਰੇਟ ਕਰ ਸਕਦੀ ਹੈ ਜਾਂ ਮਾਡਲ ਗਿਲਹਰੀਆਂ ਨੂੰ ਭਰਮ ਵਿੱਚ ਪਾ ਸਕਦਾ ਹੈ ਜਿੱਥੇ ਟ੍ਰੈਫਿਕ ਕੋਨ ਹੁੰਦੇ ਹਨ। ਡਿਸਟਿਲੇਸ਼ਨ - ਅਧਿਆਪਕ ਇੱਕ ਛੋਟੇ ਵਿਦਿਆਰਥੀ ਦੀ ਅਗਵਾਈ ਕਰਦਾ ਹੈ - ਅਕਸਰ ਅਰਥ ਵਿਗਿਆਨ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਦਾ ਹੈ। [3]
2) ਅਭਿਆਸ ਵਿੱਚ ਕਿਨਾਰੇ ਦਾ ਅਨੁਮਾਨ ਰਨਟਾਈਮ
LiterRT ਦਾ ਇੰਟਰਪ੍ਰੇਟਰ ਰਨਟਾਈਮ 'ਤੇ ਜਾਣਬੁੱਝ ਕੇ ਸਥਿਰ-ਰਹਿਤ ਮੈਮੋਰੀ ਚਰਨ ਹੈ। ONNX ਰਨਟਾਈਮ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਪ੍ਰਦਾਤਾਵਾਂ ਰਾਹੀਂ ਵੱਖ-ਵੱਖ ਐਕਸਲੇਟਰਾਂ ਵਿੱਚ ਪਲੱਗ ਕਰਦਾ ਹੈ। ਨਾ ਤਾਂ ਸਿਲਵਰ ਬੁਲੇਟ ਹੈ; ਦੋਵੇਂ ਠੋਸ ਹੈਮਰ ਹਨ। [3][4]
3) ਜੰਗਲੀ ਵਿੱਚ ਮਜ਼ਬੂਤੀ
ਗਰਮੀ, ਧੂੜ, ਫਲੈਕੀ ਪਾਵਰ, ਸਲੈਪਡੈਸ਼ ਵਾਈ-ਫਾਈ: ਪਾਈਪਲਾਈਨਾਂ ਨੂੰ ਮੁੜ ਚਾਲੂ ਕਰਨ, ਫੈਸਲਿਆਂ ਨੂੰ ਕੈਸ਼ ਕਰਨ ਅਤੇ ਨੈੱਟਵਰਕ ਵਾਪਸ ਆਉਣ 'ਤੇ ਮੇਲ-ਮਿਲਾਪ ਕਰਨ ਵਾਲੇ ਵਾਚਡੌਗ ਬਣਾਓ। ਧਿਆਨ ਦੇਣ ਵਾਲੇ ਸਿਰਾਂ ਨਾਲੋਂ ਘੱਟ ਗਲੈਮਰਸ - ਹਾਲਾਂਕਿ ਵਧੇਰੇ ਮਹੱਤਵਪੂਰਨ।
ਉਹ ਵਾਕੰਸ਼ ਜੋ ਤੁਸੀਂ ਮੀਟਿੰਗਾਂ ਵਿੱਚ ਦੁਹਰਾਓਗੇ - ਐਜ ਏਆਈ ਕੀ ਹੈ 🗣️
ਐਜ ਏਆਈ ਲੇਟੈਂਸੀ, ਗੋਪਨੀਯਤਾ, ਬੈਂਡਵਿਡਥ, ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਦੀਆਂ ਵਿਵਹਾਰਕ ਸੀਮਾਵਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਖੁਫੀਆ ਜਾਣਕਾਰੀ ਨੂੰ ਡੇਟਾ ਦੇ ਨੇੜੇ ਲੈ ਜਾਂਦਾ ਹੈ। ਜਾਦੂ ਇੱਕ ਚਿੱਪ ਜਾਂ ਫਰੇਮਵਰਕ ਦਾ ਨਹੀਂ ਹੈ - ਇਹ ਸਮਝਦਾਰੀ ਨਾਲ ਚੁਣਨਾ ਹੈ ਕਿ ਕਿੱਥੇ ਕੀ ਗਣਨਾ ਕਰਨੀ ਹੈ।
ਅੰਤਿਮ ਟਿੱਪਣੀਆਂ - ਬਹੁਤ ਲੰਮਾ, ਮੈਂ ਇਹ ਨਹੀਂ ਪੜ੍ਹਿਆ 🧵
ਐਜ ਏਆਈ ਡੇਟਾ ਦੇ ਨੇੜੇ ਮਾਡਲ ਚਲਾਉਂਦਾ ਹੈ ਤਾਂ ਜੋ ਉਤਪਾਦ ਤੇਜ਼, ਨਿੱਜੀ ਅਤੇ ਮਜ਼ਬੂਤ ਮਹਿਸੂਸ ਹੋਣ। ਤੁਸੀਂ ਦੋਵਾਂ ਸੰਸਾਰਾਂ ਦੇ ਸਭ ਤੋਂ ਵਧੀਆ ਲਈ ਸਥਾਨਕ ਅਨੁਮਾਨ ਨੂੰ ਕਲਾਉਡ ਨਿਗਰਾਨੀ ਨਾਲ ਮਿਲਾਓਗੇ। ਇੱਕ ਰਨਟਾਈਮ ਚੁਣੋ ਜੋ ਤੁਹਾਡੇ ਡਿਵਾਈਸਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੋਵੇ, ਜਦੋਂ ਵੀ ਤੁਸੀਂ ਕਰ ਸਕਦੇ ਹੋ ਐਕਸਲੇਟਰਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰੋ, ਮਾਡਲਾਂ ਨੂੰ ਕੰਪਰੈਸ਼ਨ ਨਾਲ ਸਾਫ਼-ਸੁਥਰਾ ਰੱਖੋ, ਅਤੇ ਫਲੀਟ ਓਪਰੇਸ਼ਨਾਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰੋ ਜਿਵੇਂ ਕਿ ਤੁਹਾਡਾ ਕੰਮ ਇਸ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ - ਕਿਉਂਕਿ, ਖੈਰ, ਇਹ ਹੋ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਕੋਈ ਪੁੱਛਦਾ ਹੈ ਕਿ ਐਜ ਏਆਈ ਕੀ ਹੈ , ਤਾਂ ਕਹੋ: ਸਮਾਰਟ ਫੈਸਲੇ, ਸਥਾਨਕ ਤੌਰ 'ਤੇ, ਸਮੇਂ ਸਿਰ ਲਏ ਜਾਂਦੇ ਹਨ। ਫਿਰ ਮੁਸਕਰਾਓ ਅਤੇ ਵਿਸ਼ੇ ਨੂੰ ਬੈਟਰੀਆਂ ਵਿੱਚ ਬਦਲੋ। 🔋🙂
ਹਵਾਲੇ
-
IBM - ਐਜ ਏਆਈ ਕੀ ਹੈ? (ਪਰਿਭਾਸ਼ਾ, ਲਾਭ)।
https://www.ibm.com/think/topics/edge-ai -
NIST - SP 500-325: ਫੋਗ ਕੰਪਿਊਟਿੰਗ ਸੰਕਲਪ ਮਾਡਲ (ਫੋਗ/ਐਜ ਲਈ ਰਸਮੀ ਸੰਦਰਭ)।
https://csrc.nist.gov/pubs/sp/500/325/final -
ਗੂਗਲ ਏਆਈ ਐਜ - ਲਾਈਟਆਰਟੀ (ਪਹਿਲਾਂ ਟੈਂਸਰਫਲੋ ਲਾਈਟ) (ਰਨਟਾਈਮ, ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ, ਮਾਈਗ੍ਰੇਸ਼ਨ)।
https://ai.google.dev/edge/litert -
ONNX ਰਨਟਾਈਮ - ਔਨ-ਡਿਵਾਈਸ ਟ੍ਰੇਨਿੰਗ (ਪੋਰਟੇਬਲ ਰਨਟਾਈਮ + ਐਜ ਡਿਵਾਈਸਾਂ 'ਤੇ ਟ੍ਰੇਨਿੰਗ)।
https://onnxruntime.ai/docs/get-started/training-on-device.html -
ਐਪਲ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਰਿਸਰਚ - ਐਪਲ ਨਿਊਰਲ ਇੰਜਣ 'ਤੇ ਟ੍ਰਾਂਸਫਾਰਮਰ ਤਾਇਨਾਤ ਕਰਨਾ (ANE ਕੁਸ਼ਲਤਾ ਨੋਟਸ)।
https://machinelearning.apple.com/research/neural-engine-transformers