ਜੇਕਰ ਤੁਸੀਂ ਕਦੇ ਕਿਸੇ ਡੈਮੋ ਮਾਡਲ ਨੂੰ ਇੱਕ ਛੋਟੇ ਜਿਹੇ ਟੈਸਟ ਲੋਡ ਨੂੰ ਕੁਚਲਦੇ ਹੋਏ ਦੇਖਿਆ ਹੈ ਅਤੇ ਫਿਰ ਅਸਲ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਆਉਣ ਦੇ ਪਲ ਨੂੰ ਫ੍ਰੀਜ਼ ਕਰਦੇ ਹੋਏ ਦੇਖਿਆ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਖਲਨਾਇਕ ਨੂੰ ਮਿਲੇ ਹੋ: ਸਕੇਲਿੰਗ। AI ਲੋਭੀ ਹੈ - ਡੇਟਾ, ਕੰਪਿਊਟ, ਮੈਮੋਰੀ, ਬੈਂਡਵਿਡਥ - ਅਤੇ ਅਜੀਬ ਤੌਰ 'ਤੇ, ਧਿਆਨ ਦੇਣ ਲਈ। ਤਾਂ AI ਸਕੇਲੇਬਿਲਟੀ ਅਸਲ ਵਿੱਚ ਕੀ ਹੈ, ਅਤੇ ਤੁਸੀਂ ਇਸਨੂੰ ਹਰ ਹਫ਼ਤੇ ਸਭ ਕੁਝ ਦੁਬਾਰਾ ਲਿਖੇ ਬਿਨਾਂ ਕਿਵੇਂ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋ?
ਇਸ ਤੋਂ ਬਾਅਦ ਤੁਸੀਂ ਜੋ ਲੇਖ ਪੜ੍ਹਨਾ ਪਸੰਦ ਕਰ ਸਕਦੇ ਹੋ:
🔗 ਏਆਈ ਪੱਖਪਾਤ ਕੀ ਹੈ, ਇਸ ਬਾਰੇ ਸਰਲ ਤਰੀਕੇ ਨਾਲ ਸਮਝਾਇਆ ਗਿਆ ਹੈ
ਸਿੱਖੋ ਕਿ ਕਿਵੇਂ ਲੁਕਵੇਂ ਪੱਖਪਾਤ AI ਫੈਸਲਿਆਂ ਅਤੇ ਮਾਡਲ ਨਤੀਜਿਆਂ ਨੂੰ ਆਕਾਰ ਦਿੰਦੇ ਹਨ।
🔗 ਸ਼ੁਰੂਆਤੀ ਗਾਈਡ: ਨਕਲੀ ਬੁੱਧੀ ਕੀ ਹੈ
ਏਆਈ, ਮੁੱਖ ਸੰਕਲਪਾਂ, ਕਿਸਮਾਂ ਅਤੇ ਰੋਜ਼ਾਨਾ ਉਪਯੋਗਾਂ ਦਾ ਸੰਖੇਪ ਜਾਣਕਾਰੀ।
🔗 ਵਿਆਖਿਆਯੋਗ AI ਕੀ ਹੈ ਅਤੇ ਇਹ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ
ਪਤਾ ਲਗਾਓ ਕਿ ਕਿਵੇਂ ਵਿਆਖਿਆਯੋਗ AI ਪਾਰਦਰਸ਼ਤਾ, ਵਿਸ਼ਵਾਸ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਪਾਲਣਾ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ।
🔗 ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਵਾਲੀ AI ਕੀ ਹੈ ਅਤੇ ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ
ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਵਾਲੀ AI, ਆਮ ਵਰਤੋਂ ਦੇ ਮਾਮਲਿਆਂ, ਲਾਭਾਂ ਅਤੇ ਸੀਮਾਵਾਂ ਨੂੰ ਸਮਝੋ।
AI ਸਕੇਲੇਬਿਲਟੀ ਕੀ ਹੈ? 📈
AI ਸਕੇਲੇਬਿਲਟੀ ਇੱਕ AI ਸਿਸਟਮ ਦੀ ਸਮਰੱਥਾ ਹੈ ਜੋ ਪ੍ਰਦਰਸ਼ਨ, ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਲਾਗਤਾਂ ਨੂੰ ਸਵੀਕਾਰਯੋਗ ਸੀਮਾਵਾਂ ਦੇ ਅੰਦਰ ਰੱਖਦੇ ਹੋਏ ਵਧੇਰੇ ਡੇਟਾ, ਬੇਨਤੀਆਂ, ਉਪਭੋਗਤਾਵਾਂ ਅਤੇ ਵਰਤੋਂ ਦੇ ਮਾਮਲਿਆਂ ਨੂੰ ਸੰਭਾਲਦੀ ਹੈ। ਸਿਰਫ਼ ਵੱਡੇ ਸਰਵਰ ਹੀ ਨਹੀਂ - ਸਮਾਰਟ ਆਰਕੀਟੈਕਚਰ ਜੋ ਲੇਟੈਂਸੀ ਨੂੰ ਘੱਟ, ਥਰੂਪੁੱਟ ਉੱਚ, ਅਤੇ ਗੁਣਵੱਤਾ ਨੂੰ ਇਕਸਾਰ ਰੱਖਦੇ ਹਨ ਜਿਵੇਂ ਕਿ ਕਰਵ ਚੜ੍ਹਦਾ ਹੈ। ਲਚਕੀਲੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ, ਅਨੁਕੂਲਿਤ ਮਾਡਲਾਂ ਅਤੇ ਨਿਰੀਖਣਯੋਗਤਾ ਬਾਰੇ ਸੋਚੋ ਜੋ ਅਸਲ ਵਿੱਚ ਤੁਹਾਨੂੰ ਦੱਸਦੀ ਹੈ ਕਿ ਕੀ ਅੱਗ 'ਤੇ ਹੈ।
ਕਿਹੜੀ ਚੀਜ਼ ਚੰਗੀ AI ਸਕੇਲੇਬਿਲਟੀ ਬਣਾਉਂਦੀ ਹੈ ✅
ਜਦੋਂ AI ਸਕੇਲੇਬਿਲਟੀ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਮਿਲਦਾ ਹੈ:
-
ਸਪਾਈਕੀ ਜਾਂ ਨਿਰੰਤਰ ਭਾਰ ਹੇਠ ਅਨੁਮਾਨਤ ਲੇਟੈਂਸੀ
-
ਥਰੂਪੁੱਟ ਜੋ ਲਗਭਗ ਜੋੜੇ ਗਏ ਹਾਰਡਵੇਅਰ ਜਾਂ ਪ੍ਰਤੀਕ੍ਰਿਤੀਆਂ ਦੇ ਅਨੁਪਾਤ ਵਿੱਚ
-
ਲਾਗਤ ਕੁਸ਼ਲਤਾ ਜੋ ਪ੍ਰਤੀ ਬੇਨਤੀ ਨਹੀਂ ਵਧਦੀ
-
ਇਨਪੁਟਸ ਦੇ ਵਿਭਿੰਨ ਹੋਣ ਅਤੇ ਮਾਤਰਾ ਵਧਣ ਨਾਲ ਗੁਣਵੱਤਾ ਸਥਿਰਤਾ
-
ਆਟੋਸਕੇਲਿੰਗ, ਟਰੇਸਿੰਗ, ਅਤੇ ਸਮਝਦਾਰ SLOs ਦੇ ਕਾਰਨ ਕਾਰਜਸ਼ੀਲ ਸ਼ਾਂਤੀ
ਹੁੱਡ ਦੇ ਹੇਠਾਂ ਇਹ ਆਮ ਤੌਰ 'ਤੇ ਹਰੀਜੱਟਲ ਸਕੇਲਿੰਗ, ਬੈਚਿੰਗ, ਕੈਚਿੰਗ, ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ, ਮਜ਼ਬੂਤ ਸਰਵਿੰਗ, ਅਤੇ ਸੋਚ-ਸਮਝ ਕੇ ਰਿਲੀਜ਼ ਨੀਤੀਆਂ ਨੂੰ ਗਲਤੀ ਬਜਟ ਨਾਲ ਜੋੜਦਾ ਹੈ [5]।
ਏਆਈ ਸਕੇਲੇਬਿਲਟੀ ਬਨਾਮ ਪ੍ਰਦਰਸ਼ਨ ਬਨਾਮ ਸਮਰੱਥਾ 🧠
-
ਪ੍ਰਦਰਸ਼ਨ ਇਹ ਹੈ ਕਿ ਇੱਕ ਸਿੰਗਲ ਬੇਨਤੀ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਇਕੱਲਤਾ ਵਿੱਚ ਪੂਰੀ ਹੁੰਦੀ ਹੈ।
-
ਸਮਰੱਥਾ ਉਹ ਹੈ ਜੋ ਤੁਸੀਂ ਇੱਕੋ ਸਮੇਂ ਕਿੰਨੀਆਂ ਬੇਨਤੀਆਂ ਨੂੰ ਸੰਭਾਲ ਸਕਦੇ ਹੋ।
-
ਏਆਈ ਸਕੇਲੇਬਿਲਟੀ ਇਹ ਹੈ ਕਿ ਸਰੋਤ ਜੋੜਨ ਜਾਂ ਚੁਸਤ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਨਾਲ ਸਮਰੱਥਾ ਵਧਦੀ ਹੈ ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਇਕਸਾਰ ਰੱਖਿਆ ਜਾਂਦਾ ਹੈ - ਤੁਹਾਡੇ ਬਿੱਲ ਜਾਂ ਤੁਹਾਡੇ ਪੇਜਰ ਨੂੰ ਉਡਾਏ ਬਿਨਾਂ।
ਛੋਟਾ ਜਿਹਾ ਫ਼ਰਕ, ਵੱਡੇ ਨਤੀਜੇ।
AI ਵਿੱਚ ਸਕੇਲ ਕਿਉਂ ਕੰਮ ਕਰਦਾ ਹੈ: ਸਕੇਲਿੰਗ ਕਾਨੂੰਨਾਂ ਦਾ ਵਿਚਾਰ 📚
ਆਧੁਨਿਕ ML ਵਿੱਚ ਇੱਕ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਵਰਤੀ ਜਾਣ ਵਾਲੀ ਸੂਝ ਇਹ ਹੈ ਕਿ ਜਦੋਂ ਤੁਸੀਂ ਮਾਡਲ ਦੇ ਆਕਾਰ, ਡੇਟਾ ਨੂੰ ਸਕੇਲ ਕਰਦੇ ਹੋ ਅਤੇ ਕਾਰਨ ਦੇ ਅੰਦਰ ਗਣਨਾ ਕਰਦੇ ਹੋ ਤਾਂ ਗਣਨਾ-ਅਨੁਕੂਲ ਸੰਤੁਲਨ ਵੀ ਹੈ ; ਦੋਵਾਂ ਨੂੰ ਇਕੱਠੇ ਸਕੇਲ ਕਰਨਾ ਸਿਰਫ ਇੱਕ ਸਕੇਲਿੰਗ ਨੂੰ ਮਾਤ ਦਿੰਦਾ ਹੈ। ਅਭਿਆਸ ਵਿੱਚ, ਇਹ ਵਿਚਾਰ ਸਿਖਲਾਈ ਬਜਟ, ਡੇਟਾਸੈਟ ਯੋਜਨਾਬੰਦੀ, ਅਤੇ ਸੇਵਾ ਵਪਾਰ ਨੂੰ ਸੂਚਿਤ ਕਰਦੇ ਹਨ [4]।
ਜਲਦੀ ਅਨੁਵਾਦ: ਵੱਡਾ ਬਿਹਤਰ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਸਿਰਫ਼ ਉਦੋਂ ਜਦੋਂ ਤੁਸੀਂ ਇਨਪੁਟਸ ਨੂੰ ਸਕੇਲ ਕਰਦੇ ਹੋ ਅਤੇ ਅਨੁਪਾਤ ਵਿੱਚ ਗਣਨਾ ਕਰਦੇ ਹੋ - ਨਹੀਂ ਤਾਂ ਇਹ ਸਾਈਕਲ 'ਤੇ ਟਰੈਕਟਰ ਦੇ ਟਾਇਰ ਲਗਾਉਣ ਵਰਗਾ ਹੈ। ਇਹ ਤੀਬਰ ਲੱਗਦਾ ਹੈ, ਕਿਤੇ ਨਹੀਂ ਜਾਂਦਾ।
ਖਿਤਿਜੀ ਬਨਾਮ ਲੰਬਕਾਰੀ: ਦੋ ਸਕੇਲਿੰਗ ਲੀਵਰ 🔩
-
ਵਰਟੀਕਲ ਸਕੇਲਿੰਗ : ਵੱਡੇ ਡੱਬੇ, ਵਧੇਰੇ ਮਜ਼ਬੂਤ GPU, ਵਧੇਰੇ ਮੈਮੋਰੀ। ਸਧਾਰਨ, ਕਈ ਵਾਰ ਮਹਿੰਗਾ। ਸਿੰਗਲ-ਨੋਡ ਸਿਖਲਾਈ, ਘੱਟ-ਲੇਟੈਂਸੀ ਅਨੁਮਾਨ, ਜਾਂ ਜਦੋਂ ਤੁਹਾਡਾ ਮਾਡਲ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸ਼ਾਰਡ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਲਈ ਵਧੀਆ।
-
ਹਰੀਜ਼ੋਂਟਲ ਸਕੇਲਿੰਗ : ਹੋਰ ਪ੍ਰਤੀਕ੍ਰਿਤੀਆਂ। ਆਟੋਸਕੇਲਰਾਂ ਜੋ CPU/GPU ਜਾਂ ਕਸਟਮ ਐਪ ਮੈਟ੍ਰਿਕਸ ਦੇ ਆਧਾਰ 'ਤੇ ਪੌਡ ਜੋੜਦੇ ਜਾਂ ਹਟਾਉਂਦੇ ਹਨ। ਕੁਬਰਨੇਟਸ ਵਿੱਚ, ਹਰੀਜ਼ੋਂਟਲਪੋਡਆਟੋਸਕੇਲਰ ਮੰਗ ਦੇ ਜਵਾਬ ਵਿੱਚ ਪੌਡਾਂ ਨੂੰ ਸਕੇਲ ਕਰਦਾ ਹੈ - ਟ੍ਰੈਫਿਕ ਸਪਾਈਕਸ ਲਈ ਤੁਹਾਡਾ ਮੂਲ ਭੀੜ ਨਿਯੰਤਰਣ [1]।
ਕਿੱਸਾ (ਸੰਯੁਕਤ): ਇੱਕ ਹਾਈ-ਪ੍ਰੋਫਾਈਲ ਲਾਂਚ ਦੌਰਾਨ, ਸਿਰਫ਼ ਸਰਵਰ-ਸਾਈਡ ਬੈਚਿੰਗ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਣਾ ਅਤੇ ਆਟੋਸਕੇਲਰ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਕਲਾਇੰਟ ਬਦਲਾਅ ਦੇ ਕਤਾਰ ਡੂੰਘਾਈ ਸਥਿਰ p95 'ਤੇ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਨ ਦੇਣਾ। ਅਨਫਲੈਸ਼ੀ ਜਿੱਤਾਂ ਅਜੇ ਵੀ ਜਿੱਤਾਂ ਹਨ।
AI ਸਕੇਲੇਬਿਲਟੀ ਦਾ ਪੂਰਾ ਸਟੈਕ 🥞
-
ਡੇਟਾ ਲੇਅਰ : ਤੇਜ਼ ਆਬਜੈਕਟ ਸਟੋਰ, ਵੈਕਟਰ ਇੰਡੈਕਸ, ਅਤੇ ਸਟ੍ਰੀਮਿੰਗ ਇੰਜੈਸ਼ਨ ਜੋ ਤੁਹਾਡੇ ਟ੍ਰੇਨਰਾਂ ਨੂੰ ਥ੍ਰੋਟਲ ਨਹੀਂ ਕਰਨਗੇ।
-
ਸਿਖਲਾਈ ਪਰਤ : ਵੰਡੇ ਹੋਏ ਫਰੇਮਵਰਕ ਅਤੇ ਸ਼ਡਿਊਲਰ ਜੋ ਡੇਟਾ/ਮਾਡਲ ਸਮਾਨਤਾ, ਚੈਕਪੁਆਇੰਟਿੰਗ, ਰੀਟ੍ਰਾਈ ਨੂੰ ਸੰਭਾਲਦੇ ਹਨ।
-
ਸਰਵਿੰਗ ਲੇਅਰ : ਅਨੁਕੂਲਿਤ ਰਨਟਾਈਮ, ਗਤੀਸ਼ੀਲ ਬੈਚਿੰਗ , ਪੇਜਡ ਅਟੈਂਸ਼ਨ , ਕੈਚਿੰਗ, ਟੋਕਨ ਸਟ੍ਰੀਮਿੰਗ। ਟ੍ਰਾਈਟਨ ਅਤੇ vLLM ਇੱਥੇ ਅਕਸਰ ਹੀਰੋ ਹਨ [2][3]।
-
ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ : HPA ਜਾਂ ਕਸਟਮ ਆਟੋਸਕੇਲਰ [1] ਰਾਹੀਂ ਲਚਕਤਾ ਲਈ ਕੁਬਰਨੇਟਸ।
-
ਨਿਰੀਖਣਯੋਗਤਾ : ਟਰੇਸ, ਮੈਟ੍ਰਿਕਸ, ਅਤੇ ਲੌਗ ਜੋ ਉਤਪਾਦ ਵਿੱਚ ਉਪਭੋਗਤਾ ਯਾਤਰਾਵਾਂ ਅਤੇ ਮਾਡਲ ਵਿਵਹਾਰ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ; ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ SLOs [5] ਦੇ ਆਲੇ-ਦੁਆਲੇ ਡਿਜ਼ਾਈਨ ਕਰੋ।
-
ਸ਼ਾਸਨ ਅਤੇ ਲਾਗਤ : ਪ੍ਰਤੀ-ਬੇਨਤੀ ਅਰਥਸ਼ਾਸਤਰ, ਬਜਟ, ਅਤੇ ਭੱਜ-ਦੌੜ ਵਾਲੇ ਕੰਮ ਦੇ ਬੋਝ ਲਈ ਕਿਲ-ਸਵਿੱਚ।
ਤੁਲਨਾ ਸਾਰਣੀ: AI ਸਕੇਲੇਬਿਲਟੀ ਲਈ ਟੂਲ ਅਤੇ ਪੈਟਰਨ 🧰
ਜਾਣਬੁੱਝ ਕੇ ਥੋੜ੍ਹਾ ਅਸਮਾਨ - ਕਿਉਂਕਿ ਅਸਲ ਜ਼ਿੰਦਗੀ ਹੈ।
| ਟੂਲ / ਪੈਟਰਨ | ਦਰਸ਼ਕ | ਕੀਮਤੀ | ਇਹ ਕਿਉਂ ਕੰਮ ਕਰਦਾ ਹੈ | ਨੋਟਸ |
|---|---|---|---|---|
| ਕੁਬਰਨੇਟਸ + ਐਚਪੀਏ | ਪਲੇਟਫਾਰਮ ਟੀਮਾਂ | ਓਪਨ ਸੋਰਸ + ਇਨਫਰਾ | ਮੈਟ੍ਰਿਕਸ ਵਧਣ 'ਤੇ ਪੌਡਾਂ ਨੂੰ ਖਿਤਿਜੀ ਤੌਰ 'ਤੇ ਸਕੇਲ ਕਰਦਾ ਹੈ | ਕਸਟਮ ਮੈਟ੍ਰਿਕਸ ਸੋਨੇ ਦੇ ਹਨ [1] |
| ਐਨਵੀਆਈਡੀਆ ਟ੍ਰਾਈਟਨ | ਅਨੁਮਾਨ SRE | ਮੁਫ਼ਤ ਸਰਵਰ; GPU $ | ਗਤੀਸ਼ੀਲ ਬੈਚਿੰਗ ਥਰੂਪੁੱਟ ਨੂੰ ਵਧਾਉਂਦੀ ਹੈ | config.pbtxt [2] ਰਾਹੀਂ ਕੌਂਫਿਗਰ ਕਰੋ |
| vLLM (ਪੇਜਡਐਟੈਂਸ਼ਨ) | ਐਲਐਲਐਮ ਟੀਮਾਂ | ਓਪਨ ਸੋਰਸ | ਕੁਸ਼ਲ ਕੇਵੀ-ਕੈਸ਼ ਪੇਜਿੰਗ ਰਾਹੀਂ ਉੱਚ ਥਰੂਪੁੱਟ | ਲੰਬੇ ਪ੍ਰੋਂਪਟ ਲਈ ਵਧੀਆ [3] |
| ONNX ਰਨਟਾਈਮ / TensorRT | ਪਰਫ ਨਰਡਸ | ਮੁਫ਼ਤ / ਵਿਕਰੇਤਾ ਟੂਲ | ਕਰਨਲ-ਪੱਧਰ ਦੇ ਅਨੁਕੂਲਨ ਲੇਟੈਂਸੀ ਨੂੰ ਘਟਾਉਂਦੇ ਹਨ। | ਨਿਰਯਾਤ ਮਾਰਗ ਔਖੇ ਹੋ ਸਕਦੇ ਹਨ। |
| ਆਰਏਜੀ ਪੈਟਰਨ | ਐਪ ਟੀਮਾਂ | ਇਨਫਰਾ + ਇੰਡੈਕਸ | ਗਿਆਨ ਨੂੰ ਪ੍ਰਾਪਤੀ ਲਈ ਆਫਲੋਡ ਕਰਦਾ ਹੈ; ਸੂਚਕਾਂਕ ਨੂੰ ਸਕੇਲ ਕਰਦਾ ਹੈ | ਤਾਜ਼ਗੀ ਲਈ ਸ਼ਾਨਦਾਰ |
ਡੂੰਘੀ ਗੋਤਾਖੋਰੀ 1: ਸੂਈ ਨੂੰ ਹਿਲਾਉਣ ਵਾਲੇ ਗੁਰੁਰ ਦਿਖਾਓ 🚀
-
ਡਾਇਨਾਮਿਕ ਬੈਚਿੰਗ ਸਰਵਰ 'ਤੇ ਛੋਟੇ ਅਨੁਮਾਨ ਕਾਲਾਂ ਨੂੰ ਵੱਡੇ ਬੈਚਾਂ ਵਿੱਚ ਸਮੂਹਬੱਧ ਕਰਦੀ ਹੈ, ਕਲਾਇੰਟ ਬਦਲਾਅ ਤੋਂ ਬਿਨਾਂ GPU ਉਪਯੋਗਤਾ ਨੂੰ ਨਾਟਕੀ ਢੰਗ ਨਾਲ ਵਧਾਉਂਦੀ ਹੈ [2]।
-
ਪੇਜਡ ਅਟੈਂਸ਼ਨ KV ਕੈਸ਼ਾਂ ਨੂੰ ਪੇਜ ਕਰਕੇ ਮੈਮੋਰੀ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਗੱਲਬਾਤਾਂ ਨੂੰ ਰੱਖਦਾ ਹੈ, ਜੋ ਕਿ ਸਹਿਮਤੀ [3] ਦੇ ਅਧੀਨ ਥਰੂਪੁੱਟ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਂਦਾ ਹੈ।
-
ਇੱਕੋ ਜਿਹੇ ਪ੍ਰੋਂਪਟ ਜਾਂ ਏਮਬੈਡਿੰਗ ਲਈ ਕੋਲੇਸਿੰਗ ਅਤੇ ਕੈਸ਼ਿੰਗ ਦੀ ਬੇਨਤੀ ਕਰੋ,
-
ਸੱਟੇਬਾਜ਼ੀ ਡੀਕੋਡਿੰਗ ਅਤੇ ਟੋਕਨ ਸਟ੍ਰੀਮਿੰਗ ਸਮਝੀ ਜਾਣ ਵਾਲੀ ਲੇਟੈਂਸੀ ਨੂੰ ਘਟਾਉਂਦੇ ਹਨ, ਭਾਵੇਂ ਵਾਲ-ਘੜੀ ਮੁਸ਼ਕਿਲ ਨਾਲ ਹੀ ਹਿੱਲਦੀ ਹੈ।
ਡੂੰਘੀ ਗੋਤਾਖੋਰੀ 2: ਮਾਡਲ-ਪੱਧਰ ਦੀ ਕੁਸ਼ਲਤਾ - ਕੁਆਂਟਾਈਜ਼, ਡਿਸਟਿਲ, ਪ੍ਰੂਨ 🧪
-
ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ ਪੈਰਾਮੀਟਰ ਸ਼ੁੱਧਤਾ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ (ਜਿਵੇਂ ਕਿ, 8-ਬਿੱਟ/4-ਬਿੱਟ) ਤਾਂ ਜੋ ਮੈਮੋਰੀ ਸੁੰਗੜ ਜਾਵੇ ਅਤੇ ਅਨੁਮਾਨ ਤੇਜ਼ ਹੋ ਜਾਵੇ; ਤਬਦੀਲੀਆਂ ਤੋਂ ਬਾਅਦ ਹਮੇਸ਼ਾ ਕੰਮ ਦੀ ਗੁਣਵੱਤਾ ਦਾ ਮੁੜ ਮੁਲਾਂਕਣ ਕਰੋ।
-
ਡਿਸਟਿਲੇਸ਼ਨ ਇੱਕ ਵੱਡੇ ਅਧਿਆਪਕ ਤੋਂ ਇੱਕ ਛੋਟੇ ਵਿਦਿਆਰਥੀ ਨੂੰ ਗਿਆਨ ਟ੍ਰਾਂਸਫਰ ਕਰਦੀ ਹੈ ਜਿਸਨੂੰ ਤੁਹਾਡਾ ਹਾਰਡਵੇਅਰ ਅਸਲ ਵਿੱਚ ਪਸੰਦ ਕਰਦਾ ਹੈ।
-
ਢਾਂਚਾਗਤ ਛਾਂਟੀ ਉਹਨਾਂ ਭਾਰਾਂ/ਸਿਰਾਂ ਨੂੰ ਕੱਟਦੀ ਹੈ ਜੋ ਘੱਟ ਤੋਂ ਘੱਟ ਯੋਗਦਾਨ ਪਾਉਂਦੇ ਹਨ।
ਸੱਚ ਕਹੀਏ ਤਾਂ ਇਹ ਤੁਹਾਡੇ ਸੂਟਕੇਸ ਦਾ ਆਕਾਰ ਘਟਾਉਣ ਵਰਗਾ ਹੈ ਅਤੇ ਫਿਰ ਜ਼ੋਰ ਦੇਣ ਵਰਗਾ ਹੈ ਕਿ ਤੁਹਾਡੇ ਸਾਰੇ ਜੁੱਤੇ ਅਜੇ ਵੀ ਫਿੱਟ ਹਨ। ਕਿਸੇ ਨਾ ਕਿਸੇ ਤਰ੍ਹਾਂ ਇਹ ਹੁੰਦਾ ਹੈ, ਜ਼ਿਆਦਾਤਰ।
ਡੂੰਘੀ ਗੋਤਾਖੋਰੀ 3: ਹੰਝੂਆਂ ਤੋਂ ਬਿਨਾਂ ਡਾਟਾ ਅਤੇ ਸਿਖਲਾਈ ਸਕੇਲਿੰਗ 🧵
-
ਵੰਡੀ ਹੋਈ ਸਿਖਲਾਈ ਦੀ ਵਰਤੋਂ ਕਰੋ ਜੋ ਸਮਾਨਤਾ ਦੇ ਗੁੰਝਲਦਾਰ ਹਿੱਸਿਆਂ ਨੂੰ ਛੁਪਾਉਂਦੀ ਹੈ ਤਾਂ ਜੋ ਤੁਸੀਂ ਪ੍ਰਯੋਗਾਂ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਭੇਜ ਸਕੋ।
-
ਉਨ੍ਹਾਂ ਸਕੇਲਿੰਗ ਕਾਨੂੰਨਾਂ ਨੂੰ : ਮਾਡਲ ਆਕਾਰ ਅਤੇ ਟੋਕਨਾਂ ਦੇ ਹਿਸਾਬ ਨਾਲ ਬਜਟ ਨਿਰਧਾਰਤ ਕਰੋ; ਦੋਵਾਂ ਨੂੰ ਇਕੱਠੇ ਸਕੇਲਿੰਗ ਕਰਨਾ ਗਣਨਾ-ਕੁਸ਼ਲ ਹੈ [4]।
-
ਪਾਠਕ੍ਰਮ ਅਤੇ ਡੇਟਾ ਗੁਣਵੱਤਾ ਅਕਸਰ ਨਤੀਜਿਆਂ ਨੂੰ ਲੋਕਾਂ ਦੇ ਮੰਨਣ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਬਦਲਦੇ ਹਨ। ਬਿਹਤਰ ਡੇਟਾ ਕਈ ਵਾਰ ਵਧੇਰੇ ਡੇਟਾ ਨੂੰ ਮਾਤ ਦਿੰਦਾ ਹੈ - ਭਾਵੇਂ ਤੁਸੀਂ ਪਹਿਲਾਂ ਹੀ ਵੱਡੇ ਕਲੱਸਟਰ ਦਾ ਆਰਡਰ ਦਿੱਤਾ ਹੋਵੇ।
ਡੂੰਘੀ ਗੋਤਾਖੋਰੀ 4: ਗਿਆਨ ਲਈ ਇੱਕ ਸਕੇਲਿੰਗ ਰਣਨੀਤੀ ਦੇ ਰੂਪ ਵਿੱਚ RAG 🧭
ਬਦਲਦੇ ਤੱਥਾਂ ਦੇ ਨਾਲ ਤਾਲਮੇਲ ਰੱਖਣ ਲਈ ਇੱਕ ਮਾਡਲ ਨੂੰ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਦੇਣ ਦੀ ਬਜਾਏ, RAG ਅਨੁਮਾਨ 'ਤੇ ਇੱਕ ਪ੍ਰਾਪਤੀ ਕਦਮ ਜੋੜਦਾ ਹੈ। ਤੁਸੀਂ ਮਾਡਲ ਨੂੰ ਸਥਿਰ ਰੱਖ ਸਕਦੇ ਹੋ ਅਤੇ ਇੰਡੈਕਸ ਅਤੇ ਪ੍ਰਾਪਤੀਕਰਤਾਵਾਂ ਨੂੰ ਹੋ ਜਿਵੇਂ ਕਿ ਤੁਹਾਡਾ ਕਾਰਪਸ ਵਧਦਾ ਹੈ। ਸ਼ਾਨਦਾਰ - ਅਤੇ ਅਕਸਰ ਗਿਆਨ-ਭਾਰੀ ਐਪਸ ਲਈ ਪੂਰੀ ਰੀਟ੍ਰੇਨ ਨਾਲੋਂ ਸਸਤਾ।
ਦੇਖਣਯੋਗਤਾ ਜੋ ਆਪਣੇ ਆਪ ਲਈ ਭੁਗਤਾਨ ਕਰਦੀ ਹੈ 🕵️♀️
ਤੁਸੀਂ ਉਸ ਨੂੰ ਸਕੇਲ ਨਹੀਂ ਕਰ ਸਕਦੇ ਜੋ ਤੁਸੀਂ ਨਹੀਂ ਦੇਖ ਸਕਦੇ। ਦੋ ਜ਼ਰੂਰੀ ਗੱਲਾਂ:
-
ਸਮਰੱਥਾ ਯੋਜਨਾਬੰਦੀ ਅਤੇ ਆਟੋਸਕੇਲਿੰਗ ਲਈ ਮੈਟ੍ਰਿਕਸ
-
ਟਰੇਸ । ਤੁਸੀਂ ਜੋ ਮਾਪਦੇ ਹੋ ਉਸਨੂੰ ਆਪਣੇ SLOs ਨਾਲ ਜੋੜੋ ਤਾਂ ਜੋ ਡੈਸ਼ਬੋਰਡ ਇੱਕ ਮਿੰਟ ਦੇ ਅੰਦਰ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇ ਸਕਣ [5]।
ਜਦੋਂ ਡੈਸ਼ਬੋਰਡ ਇੱਕ ਮਿੰਟ ਤੋਂ ਘੱਟ ਸਮੇਂ ਵਿੱਚ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇ ਦਿੰਦੇ ਹਨ, ਤਾਂ ਲੋਕ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਉਹ ਨਹੀਂ ਦਿੰਦੇ, ਤਾਂ ਉਹ ਦਿਖਾਵਾ ਕਰਦੇ ਹਨ ਕਿ ਉਹ ਕਰਦੇ ਹਨ।
ਭਰੋਸੇਯੋਗਤਾ ਗਾਰਡਰੇਲ: SLO, ਗਲਤੀ ਬਜਟ, ਸਹੀ ਰੋਲਆਉਟ 🧯
-
SLOs ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ , ਅਤੇ ਰੀਲੀਜ਼ ਵੇਗ [5] ਨਾਲ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਸੰਤੁਲਿਤ ਕਰਨ ਲਈ ਗਲਤੀ ਬਜਟ ਦੀ
-
ਟ੍ਰੈਫਿਕ ਸਪਲਿਟਸ ਦੇ ਪਿੱਛੇ ਤਾਇਨਾਤ ਕਰੋ, ਕੈਨਰੀ ਕਰੋ, ਅਤੇ ਗਲੋਬਲ ਕੱਟਓਵਰ ਤੋਂ ਪਹਿਲਾਂ ਸ਼ੈਡੋ ਟੈਸਟ ਕਰੋ। ਤੁਹਾਡਾ ਭਵਿੱਖ ਖੁਦ ਸਨੈਕਸ ਭੇਜੇਗਾ।
ਡਰਾਮੇ ਤੋਂ ਬਿਨਾਂ ਲਾਗਤ ਕੰਟਰੋਲ 💸
ਸਕੇਲਿੰਗ ਸਿਰਫ਼ ਤਕਨੀਕੀ ਨਹੀਂ ਹੈ; ਇਹ ਵਿੱਤੀ ਹੈ। GPU ਘੰਟਿਆਂ ਅਤੇ ਟੋਕਨਾਂ ਨੂੰ ਯੂਨਿਟ ਅਰਥਸ਼ਾਸਤਰ (ਪ੍ਰਤੀ 1k ਟੋਕਨ, ਪ੍ਰਤੀ ਏਮਬੈਡਿੰਗ, ਪ੍ਰਤੀ ਵੈਕਟਰ ਪੁੱਛਗਿੱਛ ਦੀ ਲਾਗਤ) ਦੇ ਨਾਲ ਪਹਿਲੇ ਦਰਜੇ ਦੇ ਸਰੋਤਾਂ ਵਜੋਂ ਸਮਝੋ। ਬਜਟ ਅਤੇ ਚੇਤਾਵਨੀ ਸ਼ਾਮਲ ਕਰੋ; ਚੀਜ਼ਾਂ ਨੂੰ ਮਿਟਾਉਣ ਦਾ ਜਸ਼ਨ ਮਨਾਓ।
AI ਸਕੇਲੇਬਿਲਟੀ ਲਈ ਇੱਕ ਸਧਾਰਨ ਰੋਡਮੈਪ 🗺️
-
SLOs ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ ; ਪਹਿਲੇ ਦਿਨ ਵਾਇਰ ਮੈਟ੍ਰਿਕਸ/ਟਰੇਸ [5]।
-
ਇੱਕ ਸਰਵਿੰਗ ਸਟੈਕ ਚੁਣੋ ਜੋ ਬੈਚਿੰਗ ਅਤੇ ਨਿਰੰਤਰ ਬੈਚਿੰਗ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ: ਟ੍ਰਾਈਟਨ, vLLM, ਜਾਂ ਸਮਾਨ [2][3]।
-
ਮਾਡਲ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਓ : ਜਿੱਥੇ ਇਹ ਮਦਦ ਕਰਦਾ ਹੈ ਉੱਥੇ ਕੁਆਂਟਾਈਜ਼ ਕਰੋ, ਤੇਜ਼ ਕਰਨਲਾਂ ਨੂੰ ਸਮਰੱਥ ਬਣਾਓ, ਜਾਂ ਖਾਸ ਕੰਮਾਂ ਲਈ ਡਿਸਟਿਲ ਕਰੋ; ਅਸਲ ਮੁਲਾਂਕਣਾਂ ਨਾਲ ਗੁਣਵੱਤਾ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕਰੋ।
-
ਲਚਕਤਾ ਲਈ ਆਰਕੀਟੈਕਟ : ਸਹੀ ਸਿਗਨਲਾਂ, ਵੱਖਰੇ ਪੜ੍ਹਨ/ਲਿਖਣ ਦੇ ਮਾਰਗਾਂ, ਅਤੇ ਸਟੇਟਲੈੱਸ ਇਨਫਰੈਂਸ ਪ੍ਰਤੀਕ੍ਰਿਤੀਆਂ [1] ਦੇ ਨਾਲ ਕੁਬਰਨੇਟਸ ਐਚਪੀਏ।
-
ਪ੍ਰਾਪਤੀ ਨੂੰ ਅਪਣਾਓ ਤਾਂ ਜੋ ਤੁਸੀਂ ਹਰ ਹਫ਼ਤੇ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਦੇਣ ਦੀ ਬਜਾਏ ਆਪਣੇ ਸੂਚਕਾਂਕ ਨੂੰ ਸਕੇਲ ਕਰ ਸਕੋ।
-
ਲਾਗਤ ਨਾਲ ਲੂਪ ਬੰਦ ਕਰੋ : ਯੂਨਿਟ ਅਰਥਸ਼ਾਸਤਰ ਅਤੇ ਹਫਤਾਵਾਰੀ ਸਮੀਖਿਆਵਾਂ ਸਥਾਪਤ ਕਰੋ।
ਆਮ ਅਸਫਲਤਾ ਢੰਗ ਅਤੇ ਤੇਜ਼ ਹੱਲ 🧨
-
GPU 30% ਉਪਯੋਗਤਾ 'ਤੇ ਜਦੋਂ ਕਿ ਲੇਟੈਂਸੀ ਮਾੜੀ ਹੈ
-
ਡਾਇਨਾਮਿਕ ਬੈਚਿੰਗ ਚਾਲੂ ਕਰੋ , ਬੈਚ ਕੈਪਸ ਨੂੰ ਧਿਆਨ ਨਾਲ ਵਧਾਓ, ਅਤੇ ਸਰਵਰ ਕਨਕਰੰਸੀ [2] ਦੀ ਦੁਬਾਰਾ ਜਾਂਚ ਕਰੋ।
-
-
ਲੰਬੇ ਪ੍ਰੋਂਪਟ ਨਾਲ ਥਰੂਪੁੱਟ ਢਹਿ ਜਾਂਦਾ ਹੈ
-
ਪੇਜਡ ਅਟੈਂਸ਼ਨ ਦਾ ਸਮਰਥਨ ਕਰਨ ਵਾਲੀ ਸਰਵਿੰਗ ਦੀ ਵਰਤੋਂ ਕਰੋ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਸਮਕਾਲੀ ਕ੍ਰਮਾਂ ਨੂੰ ਟਿਊਨ ਕਰੋ [3]।
-
-
ਆਟੋਸਕੇਲਰ ਫਲੈਪ
-
ਵਿੰਡੋਜ਼ ਨਾਲ ਨਿਰਵਿਘਨ ਮੈਟ੍ਰਿਕਸ; ਸ਼ੁੱਧ CPU [1] ਦੀ ਬਜਾਏ ਕਤਾਰ ਡੂੰਘਾਈ ਜਾਂ ਕਸਟਮ ਟੋਕਨ-ਪ੍ਰਤੀ-ਸਕਿੰਟ 'ਤੇ ਸਕੇਲ ਕਰੋ।
-
-
ਲਾਂਚ ਤੋਂ ਬਾਅਦ ਲਾਗਤਾਂ ਫਟ ਗਈਆਂ
-
ਬੇਨਤੀ-ਪੱਧਰ ਦੀ ਲਾਗਤ ਮੈਟ੍ਰਿਕਸ ਸ਼ਾਮਲ ਕਰੋ, ਜਿੱਥੇ ਸੁਰੱਖਿਅਤ ਹੋਵੇ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਨੂੰ ਸਮਰੱਥ ਬਣਾਓ, ਸਿਖਰਲੇ ਸਵਾਲਾਂ ਨੂੰ ਕੈਸ਼ ਕਰੋ, ਅਤੇ ਸਭ ਤੋਂ ਮਾੜੇ ਅਪਰਾਧੀਆਂ ਨੂੰ ਦਰ-ਸੀਮਾ ਦਿਓ।
-
ਏਆਈ ਸਕੇਲੇਬਿਲਟੀ ਪਲੇਬੁੱਕ: ਤੇਜ਼ ਚੈੱਕਲਿਸਟ ✅
-
SLOs ਅਤੇ ਗਲਤੀ ਬਜਟ ਮੌਜੂਦ ਹਨ ਅਤੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ।
-
ਮੈਟ੍ਰਿਕਸ: ਲੇਟੈਂਸੀ, ਟੀਪੀਐਸ, ਜੀਪੀਯੂ ਮੈਮ, ਬੈਚ ਆਕਾਰ, ਟੋਕਨ/ਸ, ਕੈਸ਼ ਹਿੱਟ
-
ਪ੍ਰਵੇਸ਼ ਤੋਂ ਲੈ ਕੇ ਮਾਡਲ ਤੱਕ ਦੇ ਟ੍ਰੇਸ ਪੋਸਟ-ਪ੍ਰੋਕਸ਼ਨ ਤੱਕ
-
ਸਰਵਿੰਗ: ਬੈਚਿੰਗ ਚਾਲੂ, ਸਮਕਾਲੀ ਟਿਊਨਡ, ਗਰਮ ਕੈਸ਼
-
ਮਾਡਲ: ਕੁਆਂਟਾਈਜ਼ਡ ਜਾਂ ਡਿਸਟਿਲਡ ਜਿੱਥੇ ਇਹ ਮਦਦ ਕਰਦਾ ਹੈ
-
ਇਨਫਰਾ: ਸਹੀ ਸਿਗਨਲਾਂ ਨਾਲ ਸੰਰਚਿਤ HPA
-
ਗਿਆਨ ਦੀ ਤਾਜ਼ਗੀ ਲਈ ਪ੍ਰਾਪਤੀ ਦਾ ਰਸਤਾ
-
ਇਕਾਈ ਅਰਥਸ਼ਾਸਤਰ ਦੀ ਅਕਸਰ ਸਮੀਖਿਆ ਕੀਤੀ ਜਾਂਦੀ ਹੈ
ਬਹੁਤ ਦੇਰ ਤੱਕ ਨਹੀਂ ਪੜ੍ਹਿਆ ਅਤੇ ਅੰਤਿਮ ਟਿੱਪਣੀਆਂ 🧩
ਏਆਈ ਸਕੇਲੇਬਿਲਟੀ ਕੋਈ ਇੱਕ ਵਿਸ਼ੇਸ਼ਤਾ ਜਾਂ ਗੁਪਤ ਸਵਿੱਚ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਪੈਟਰਨ ਭਾਸ਼ਾ ਹੈ: ਆਟੋਸਕੇਲਰਾਂ ਨਾਲ ਹਰੀਜੱਟਲ ਸਕੇਲਿੰਗ, ਵਰਤੋਂ ਲਈ ਸਰਵਰ-ਸਾਈਡ ਬੈਚਿੰਗ, ਮਾਡਲ-ਪੱਧਰ ਦੀ ਕੁਸ਼ਲਤਾ, ਆਫਲੋਡ ਗਿਆਨ ਲਈ ਪ੍ਰਾਪਤੀ, ਅਤੇ ਨਿਰੀਖਣਯੋਗਤਾ ਜੋ ਰੋਲਆਉਟਸ ਨੂੰ ਬੋਰਿੰਗ ਬਣਾਉਂਦੀ ਹੈ। ਸਾਰਿਆਂ ਨੂੰ ਇਕਸਾਰ ਰੱਖਣ ਲਈ SLOs ਵਿੱਚ ਛਿੜਕੋ ਅਤੇ ਸਫਾਈ ਦੀ ਲਾਗਤ ਕਰੋ। ਤੁਸੀਂ ਇਸਨੂੰ ਪਹਿਲੀ ਵਾਰ ਸੰਪੂਰਨ ਨਹੀਂ ਪ੍ਰਾਪਤ ਕਰੋਗੇ - ਕੋਈ ਨਹੀਂ ਕਰਦਾ - ਪਰ ਸਹੀ ਫੀਡਬੈਕ ਲੂਪਸ ਨਾਲ, ਤੁਹਾਡਾ ਸਿਸਟਮ ਸਵੇਰੇ 2 ਵਜੇ ਠੰਡੇ-ਪਸੀਨੇ ਦੀ ਭਾਵਨਾ ਤੋਂ ਬਿਨਾਂ ਵਧੇਗਾ 😅
ਹਵਾਲੇ
[1] ਕੁਬਰਨੇਟਸ ਡੌਕਸ - ਹਰੀਜ਼ੋਂਟਲ ਪੋਡ ਆਟੋਸਕੇਲਿੰਗ - ਹੋਰ ਪੜ੍ਹੋ
[2] NVIDIA ਟ੍ਰਾਈਟਨ - ਡਾਇਨਾਮਿਕ ਬੈਚਰ - ਹੋਰ ਪੜ੍ਹੋ
[3] vLLM ਡੌਕਸ - ਪੰਨੇ ਵਾਲਾ ਧਿਆਨ - ਹੋਰ ਪੜ੍ਹੋ
[4] ਹਾਫਮੈਨ ਅਤੇ ਹੋਰ (2022) - ਸਿਖਲਾਈ ਕੰਪਿਊਟ-ਅਨੁਕੂਲ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ - ਹੋਰ ਪੜ੍ਹੋ
[5] ਗੂਗਲ ਐਸਆਰਈ ਵਰਕਬੁੱਕ - ਐਸਐਲਓ ਲਾਗੂ ਕਰਨਾ - ਹੋਰ ਪੜ੍ਹੋ