AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?

AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?

ਜਵਾਬ: AI ਇੱਕ ਸਧਾਰਨ ਟੈਕਸਟ ਟਾਸਕ ਲਈ ਬਹੁਤ ਘੱਟ ਬਿਜਲੀ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਜਦੋਂ ਪ੍ਰੋਂਪਟ ਲੰਬੇ ਹੁੰਦੇ ਹਨ, ਆਉਟਪੁੱਟ ਮਲਟੀਮੋਡਲ ਹੁੰਦੇ ਹਨ, ਜਾਂ ਸਿਸਟਮ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ ਤਾਂ ਇਸ ਤੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਬਿਜਲੀ ਦੀ ਵਰਤੋਂ ਹੁੰਦੀ ਹੈ। ਸਿਖਲਾਈ ਆਮ ਤੌਰ 'ਤੇ ਮੁੱਖ ਸ਼ੁਰੂਆਤੀ ਊਰਜਾ ਹਿੱਟ ਹੁੰਦੀ ਹੈ, ਜਦੋਂ ਕਿ ਰੋਜ਼ਾਨਾ ਅਨੁਮਾਨ ਮਹੱਤਵਪੂਰਨ ਬਣ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ ਬੇਨਤੀਆਂ ਇਕੱਠੀਆਂ ਹੁੰਦੀਆਂ ਹਨ।

ਮੁੱਖ ਗੱਲਾਂ:

ਸੰਦਰਭ : ਕਿਸੇ ਵੀ ਊਰਜਾ ਅਨੁਮਾਨ ਦਾ ਹਵਾਲਾ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਕਾਰਜ, ਮਾਡਲ, ਹਾਰਡਵੇਅਰ ਅਤੇ ਸਕੇਲ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ।

ਸਿਖਲਾਈ : ਬਜਟ ਦੀ ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਸਮੇਂ ਮਾਡਲ ਸਿਖਲਾਈ ਨੂੰ ਮੁੱਖ ਸ਼ੁਰੂਆਤੀ ਊਰਜਾ ਘਟਨਾ ਵਜੋਂ ਮੰਨੋ।

ਅਨੁਮਾਨ : ਵਾਰ-ਵਾਰ ਅਨੁਮਾਨ ਲਗਾਉਣ 'ਤੇ ਧਿਆਨ ਨਾਲ ਦੇਖੋ, ਕਿਉਂਕਿ ਛੋਟੇ ਪ੍ਰਤੀ-ਬੇਨਤੀ ਖਰਚੇ ਪੈਮਾਨੇ 'ਤੇ ਤੇਜ਼ੀ ਨਾਲ ਵਧਦੇ ਹਨ।

ਬੁਨਿਆਦੀ ਢਾਂਚਾ : ਕਿਸੇ ਵੀ ਯਥਾਰਥਵਾਦੀ ਅਨੁਮਾਨ ਵਿੱਚ ਕੂਲਿੰਗ, ਸਟੋਰੇਜ, ਨੈੱਟਵਰਕ ਅਤੇ ਨਿਸ਼ਕਿਰਿਆ ਸਮਰੱਥਾ ਨੂੰ ਸ਼ਾਮਲ ਕਰੋ।

ਕੁਸ਼ਲਤਾ : ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਘਟਾਉਣ ਲਈ ਛੋਟੇ ਮਾਡਲ, ਛੋਟੇ ਪ੍ਰੋਂਪਟ, ਕੈਸ਼ਿੰਗ ਅਤੇ ਬੈਚਿੰਗ ਦੀ ਵਰਤੋਂ ਕਰੋ।

AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ? ਇਨਫੋਗ੍ਰਾਫਿਕ

ਇਸ ਤੋਂ ਬਾਅਦ ਤੁਸੀਂ ਜੋ ਲੇਖ ਪੜ੍ਹਨਾ ਪਸੰਦ ਕਰ ਸਕਦੇ ਹੋ:

🔗 ਏਆਈ ਵਾਤਾਵਰਣ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ
AI ਦੇ ਕਾਰਬਨ ਫੁੱਟਪ੍ਰਿੰਟ, ਊਰਜਾ ਦੀ ਵਰਤੋਂ, ਅਤੇ ਸਥਿਰਤਾ ਵਪਾਰ-ਆਫ ਦੀ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ।.

🔗 ਕੀ AI ਵਾਤਾਵਰਣ ਲਈ ਮਾੜਾ ਹੈ?
ਏਆਈ ਮਾਡਲਾਂ ਅਤੇ ਡੇਟਾ ਸੈਂਟਰਾਂ ਦੇ ਲੁਕਵੇਂ ਵਾਤਾਵਰਣਕ ਖਰਚਿਆਂ ਨੂੰ ਖੋਲ੍ਹਦਾ ਹੈ।.

🔗 ਕੀ ਏਆਈ ਚੰਗਾ ਹੈ ਜਾਂ ਮਾੜਾ? ਫਾਇਦੇ ਅਤੇ ਨੁਕਸਾਨ
ਏਆਈ ਲਾਭਾਂ, ਜੋਖਮਾਂ, ਨੈਤਿਕਤਾ ਅਤੇ ਅਸਲ ਪ੍ਰਭਾਵਾਂ 'ਤੇ ਸੰਤੁਲਿਤ ਨਜ਼ਰ।.

🔗 ਏਆਈ ਕੀ ਹੈ? ਇੱਕ ਸਧਾਰਨ ਗਾਈਡ
AI ਦੀਆਂ ਮੂਲ ਗੱਲਾਂ, ਮੁੱਖ ਸ਼ਬਦ ਅਤੇ ਰੋਜ਼ਾਨਾ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਮਿੰਟਾਂ ਵਿੱਚ ਸਿੱਖੋ।.

ਇਹ ਸਵਾਲ ਲੋਕਾਂ ਦੇ ਸੋਚਣ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦਾ ਹੈ 🔍

ਏਆਈ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਸਿਰਫ਼ ਵਾਤਾਵਰਣ ਸੰਬੰਧੀ ਚਰਚਾ ਦਾ ਵਿਸ਼ਾ ਨਹੀਂ ਹੈ। ਇਹ ਕੁਝ ਬਹੁਤ ਹੀ ਅਸਲੀ ਚੀਜ਼ਾਂ ਨੂੰ ਛੂੰਹਦਾ ਹੈ:

  • ਬਿਜਲੀ ਦੀ ਲਾਗਤ - ਖਾਸ ਕਰਕੇ ਬਹੁਤ ਸਾਰੇ AI ਬੇਨਤੀਆਂ ਚਲਾਉਣ ਵਾਲੇ ਕਾਰੋਬਾਰਾਂ ਲਈ

  • ਕਾਰਬਨ ਪ੍ਰਭਾਵ - ਸਰਵਰਾਂ ਦੇ ਪਿੱਛੇ ਪਾਵਰ ਸਰੋਤ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ

  • ਹਾਰਡਵੇਅਰ ਸਟ੍ਰੇਨ - ਸ਼ਕਤੀਸ਼ਾਲੀ ਚਿਪਸ ਗੰਭੀਰ ਵਾਟੇਜ ਖਿੱਚਦੇ ਹਨ

  • ਫੈਸਲੇ ਵਧਾਉਣਾ - ਇੱਕ ਸਸਤਾ ਇਸ਼ਾਰਾ ਲੱਖਾਂ ਮਹਿੰਗੇ ਫੈਸਲੇ ਵਿੱਚ ਬਦਲ ਸਕਦਾ ਹੈ

  • ਉਤਪਾਦ ਡਿਜ਼ਾਈਨ - ਕੁਸ਼ਲਤਾ ਅਕਸਰ ਲੋਕਾਂ ਦੀ ਸਮਝ ਨਾਲੋਂ ਬਿਹਤਰ ਵਿਸ਼ੇਸ਼ਤਾ ਹੁੰਦੀ ਹੈ ( ਗੂਗਲ ਕਲਾਉਡ , ਗ੍ਰੀਨ ਏਆਈ )

ਬਹੁਤ ਸਾਰੇ ਲੋਕ ਪੁੱਛਦੇ ਹਨ ਕਿ "AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?" ਕਿਉਂਕਿ ਉਹ ਇੱਕ ਨਾਟਕੀ ਅੰਕੜਾ ਚਾਹੁੰਦੇ ਹਨ। ਕੁਝ ਵੱਡਾ। ਕੁਝ ਸੁਰਖੀ-ਅਨੁਕੂਲ। ਪਰ ਬਿਹਤਰ ਸਵਾਲ ਇਹ ਹੈ: ਅਸੀਂ ਕਿਸ ਕਿਸਮ ਦੀ AI ਵਰਤੋਂ ਬਾਰੇ ਗੱਲ ਕਰ ਰਹੇ ਹਾਂ? ਕਿਉਂਕਿ ਇਹ ਸਭ ਕੁਝ ਬਦਲ ਦਿੰਦਾ ਹੈ। ( IEA )

ਇੱਕ ਸਿੰਗਲ ਆਟੋਕੰਪਲੀਟ ਸੁਝਾਅ? ਕਾਫ਼ੀ ਛੋਟਾ।
ਵੱਡੇ ਸਮੂਹਾਂ ਵਿੱਚ ਇੱਕ ਫਰੰਟੀਅਰ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣਾ? ਬਹੁਤ, ਬਹੁਤ ਵੱਡਾ।
ਲੱਖਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਛੂਹਣ ਵਾਲਾ ਇੱਕ ਹਮੇਸ਼ਾ-ਚਾਲੂ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਵਰਕਫਲੋ? ਹਾਂ, ਇਹ ਤੇਜ਼ੀ ਨਾਲ ਜੋੜਦਾ ਹੈ... ਜਿਵੇਂ ਪੈਸੇ ਕਿਰਾਏ ਦੇ ਭੁਗਤਾਨ ਵਿੱਚ ਬਦਲ ਜਾਂਦੇ ਹਨ। ( DOE , Google Cloud )

AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ? ਛੋਟਾ ਜਵਾਬ ⚡

ਇੱਥੇ ਵਿਹਾਰਕ ਸੰਸਕਰਣ ਹੈ।.

ਏਆਈ ਇੱਕ ਹਲਕੇ ਕੰਮ ਲਈ ਵਾਟ-ਘੰਟੇ ਦੇ ਇੱਕ ਛੋਟੇ ਜਿਹੇ ਹਿੱਸੇ ਤੋਂ ਲੈ ਕੇ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਸਿਖਲਾਈ ਅਤੇ ਤੈਨਾਤੀ ਲਈ ਵੱਡੀ ਮਾਤਰਾ ਵਿੱਚ ਬਿਜਲੀ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਰੇਂਜ ਹਾਸੋਹੀਣੀ ਤੌਰ 'ਤੇ ਵਿਸ਼ਾਲ ਜਾਪਦੀ ਹੈ ਕਿਉਂਕਿ ਇਹ ਚੌੜੀ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ , ਸਟ੍ਰੂਬੈਲ ਆਦਿ )

ਸੌਖੇ ਸ਼ਬਦਾਂ ਵਿੱਚ ਕਹੀਏ:

  • ਸਧਾਰਨ ਅਨੁਮਾਨ ਕਾਰਜ - ਅਕਸਰ ਪ੍ਰਤੀ-ਵਰਤੋਂ ਦੇ ਆਧਾਰ 'ਤੇ ਮੁਕਾਬਲਤਨ ਮਾਮੂਲੀ

  • ਲੰਬੀਆਂ ਗੱਲਬਾਤਾਂ, ਵੱਡੇ ਆਉਟਪੁੱਟ, ਚਿੱਤਰ ਨਿਰਮਾਣ, ਵੀਡੀਓ ਨਿਰਮਾਣ - ਕਾਫ਼ੀ ਜ਼ਿਆਦਾ ਊਰਜਾ-ਸੰਘਣੀ

  • ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣਾ - ਬਿਜਲੀ ਦੀ ਖਪਤ ਦਾ ਹੈਵੀਵੇਟ ਚੈਂਪੀਅਨ

  • ਸਾਰਾ ਦਿਨ AI ਨੂੰ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਚਲਾਉਣਾ - ਜਿੱਥੇ "ਪ੍ਰਤੀ ਬੇਨਤੀ ਛੋਟਾ" "ਵੱਡਾ ਕੁੱਲ ਬਿੱਲ" ਬਣ ਜਾਂਦਾ ਹੈ ( ਗੂਗਲ ਕਲਾਉਡ , DOE )

ਇੱਕ ਚੰਗਾ ਨਿਯਮ ਇਹ ਹੈ:

ਇਸ ਲਈ ਜਦੋਂ ਕੋਈ ਪੁੱਛਦਾ ਹੈ, AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ? , ਤਾਂ ਸਿੱਧਾ ਜਵਾਬ ਹੁੰਦਾ ਹੈ, "ਇੱਕ ਮਾਤਰਾ ਨਹੀਂ - ਪਰ ਕਾਫ਼ੀ ਹੈ ਕਿ ਕੁਸ਼ਲਤਾ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ, ਅਤੇ ਕਾਫ਼ੀ ਹੈ ਕਿ ਪੈਮਾਨਾ ਪੂਰੀ ਕਹਾਣੀ ਨੂੰ ਬਦਲ ਦਿੰਦਾ ਹੈ।" ( IEA , ਗ੍ਰੀਨ AI )

ਮੈਨੂੰ ਪਤਾ ਹੈ ਕਿ ਇਹ ਓਨਾ ਆਕਰਸ਼ਕ ਨਹੀਂ ਹੈ ਜਿੰਨਾ ਲੋਕ ਚਾਹੁੰਦੇ ਹਨ। ਪਰ ਇਹ ਸੱਚ ਹੈ।.

ਏਆਈ ਊਰਜਾ ਅਨੁਮਾਨ ਦਾ ਇੱਕ ਚੰਗਾ ਸੰਸਕਰਣ ਕੀ ਬਣਾਉਂਦਾ ਹੈ? 🧠

ਇੱਕ ਚੰਗਾ ਅਨੁਮਾਨ ਸਿਰਫ਼ ਗ੍ਰਾਫਿਕ 'ਤੇ ਸੁੱਟਿਆ ਗਿਆ ਇੱਕ ਨਾਟਕੀ ਅੰਕੜਾ ਨਹੀਂ ਹੁੰਦਾ। ਇੱਕ ਵਿਹਾਰਕ ਅਨੁਮਾਨ ਵਿੱਚ ਸੰਦਰਭ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ। ਨਹੀਂ ਤਾਂ ਇਹ ਬਾਥਰੂਮ ਦੇ ਪੈਮਾਨੇ ਨਾਲ ਧੁੰਦ ਨੂੰ ਤੋਲਣ ਵਰਗਾ ਹੈ। ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਲੱਗਣ ਲਈ ਕਾਫ਼ੀ ਨੇੜੇ, ਵਿਸ਼ਵਾਸ ਕਰਨ ਲਈ ਕਾਫ਼ੀ ਨੇੜੇ ਨਹੀਂ। ( IEA , Google Cloud )

ਇੱਕ ਵਧੀਆ AI ਊਰਜਾ ਅਨੁਮਾਨ ਵਿੱਚ ਇਹ ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ:

  • ਕੰਮ ਦੀ ਕਿਸਮ - ਟੈਕਸਟ, ਚਿੱਤਰ, ਆਡੀਓ, ਵੀਡੀਓ, ਸਿਖਲਾਈ, ਫਾਈਨ-ਟਿਊਨਿੰਗ

  • ਮਾਡਲ ਦਾ ਆਕਾਰ - ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਆਮ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਗਣਨਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

  • ਵਰਤਿਆ ਜਾਣ ਵਾਲਾ ਹਾਰਡਵੇਅਰ - ਸਾਰੇ ਚਿਪਸ ਇੱਕੋ ਜਿਹੇ ਕੁਸ਼ਲ ਨਹੀਂ ਹੁੰਦੇ।

  • ਸੈਸ਼ਨ ਦੀ ਲੰਬਾਈ - ਛੋਟੇ ਪ੍ਰੋਂਪਟ ਅਤੇ ਲੰਬੇ ਬਹੁ-ਪੜਾਵੀ ਵਰਕਫਲੋ ਬਹੁਤ ਵੱਖਰੇ ਹਨ।

  • ਉਪਯੋਗਤਾ - ਨਿਸ਼ਕਿਰਿਆ ਸਿਸਟਮ ਅਜੇ ਵੀ ਬਿਜਲੀ ਦੀ ਖਪਤ ਕਰਦੇ ਹਨ

  • ਕੂਲਿੰਗ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚਾ - ਸਰਵਰ ਪੂਰਾ ਬਿੱਲ ਨਹੀਂ ਹੈ

  • ਸਥਾਨ ਅਤੇ ਊਰਜਾ ਦਾ ਮਿਸ਼ਰਣ - ਬਿਜਲੀ ਹਰ ਜਗ੍ਹਾ ਬਰਾਬਰ ਸਾਫ਼ ਨਹੀਂ ਹੈ ( ਗੂਗਲ ਕਲਾਉਡ , IEA )

ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਦੋ ਲੋਕ AI ਬਿਜਲੀ ਦੀ ਵਰਤੋਂ ਬਾਰੇ ਬਹਿਸ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਦੋਵੇਂ ਬਿਲਕੁਲ ਵੱਖਰੀਆਂ ਚੀਜ਼ਾਂ ਬਾਰੇ ਗੱਲ ਕਰਦੇ ਹੋਏ ਆਤਮਵਿਸ਼ਵਾਸੀ ਲੱਗਦੇ ਹਨ। ਇੱਕ ਵਿਅਕਤੀ ਦਾ ਮਤਲਬ ਇੱਕ ਸਿੰਗਲ ਚੈਟਬੋਟ ਜਵਾਬ ਹੈ। ਦੂਜੇ ਦਾ ਮਤਲਬ ਇੱਕ ਵਿਸ਼ਾਲ ਸਿਖਲਾਈ ਦੌੜ ਹੈ। ਦੋਵੇਂ "AI" ਕਹਿੰਦੇ ਹਨ, ਅਤੇ ਅਚਾਨਕ ਗੱਲਬਾਤ ਪਟੜੀ ਤੋਂ ਖਿਸਕ ਜਾਂਦੀ ਹੈ 😅

ਤੁਲਨਾ ਸਾਰਣੀ - AI ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣ ਦੇ ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕੇ 📊

ਇੱਥੇ ਉਹਨਾਂ ਸਾਰਿਆਂ ਲਈ ਇੱਕ ਵਿਹਾਰਕ ਸਾਰਣੀ ਹੈ ਜੋ ਇਸ ਸਵਾਲ ਦਾ ਜਵਾਬ ਪ੍ਰਦਰਸ਼ਨ ਕਲਾ ਵਿੱਚ ਬਦਲੇ ਬਿਨਾਂ ਦੇਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ।.

ਔਜ਼ਾਰ ਜਾਂ ਤਰੀਕਾ ਸਭ ਤੋਂ ਵਧੀਆ ਦਰਸ਼ਕ ਕੀਮਤ ਇਹ ਕਿਉਂ ਕੰਮ ਕਰਦਾ ਹੈ
ਸਧਾਰਨ ਨਿਯਮ-ਅਨੁਸਾਰ ਅਨੁਮਾਨ ਉਤਸੁਕ ਪਾਠਕ, ਵਿਦਿਆਰਥੀ ਮੁਫ਼ਤ ਤੇਜ਼, ਆਸਾਨ, ਥੋੜ੍ਹਾ ਜਿਹਾ ਅਸਪਸ਼ਟ - ਪਰ ਮੋਟੀਆਂ ਤੁਲਨਾਵਾਂ ਲਈ ਕਾਫ਼ੀ ਵਧੀਆ
ਡਿਵਾਈਸ-ਸਾਈਡ ਵਾਟ ਮੀਟਰ ਇਕੱਲੇ ਬਿਲਡਰ, ਸ਼ੌਕੀਨ ਘੱਟ ਅਸਲ ਮਸ਼ੀਨ ਡਰਾਅ ਨੂੰ ਮਾਪਦਾ ਹੈ, ਜੋ ਕਿ ਤਾਜ਼ਗੀ ਭਰਪੂਰ ਕੰਕਰੀਟ ਹੈ।
GPU ਟੈਲੀਮੈਟਰੀ ਡੈਸ਼ਬੋਰਡ ਇੰਜੀਨੀਅਰ, ਐਮਐਲ ਟੀਮਾਂ ਦਰਮਿਆਨਾ ਕੰਪਿਊਟ-ਭਾਰੀ ਕੰਮਾਂ ਬਾਰੇ ਬਿਹਤਰ ਵੇਰਵਾ, ਹਾਲਾਂਕਿ ਇਹ ਵੱਡੀ ਸਹੂਲਤ ਓਵਰਹੈੱਡ ਨੂੰ ਗੁਆ ਸਕਦਾ ਹੈ
ਕਲਾਉਡ ਬਿਲਿੰਗ + ਵਰਤੋਂ ਲੌਗ ਸਟਾਰਟਅੱਪਸ, ਓਪਸ ਟੀਮਾਂ ਦਰਮਿਆਨੇ ਤੋਂ ਉੱਚੇ ਏਆਈ ਦੀ ਵਰਤੋਂ ਨੂੰ ਅਸਲ ਖਰਚ ਨਾਲ ਜੋੜਦਾ ਹੈ - ਸੰਪੂਰਨ ਨਹੀਂ, ਫਿਰ ਵੀ ਕਾਫ਼ੀ ਕੀਮਤੀ
ਡਾਟਾ ਸੈਂਟਰ ਊਰਜਾ ਰਿਪੋਰਟਿੰਗ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਟੀਮਾਂ ਉੱਚ ਇੱਥੇ ਵਿਆਪਕ ਸੰਚਾਲਨ ਦ੍ਰਿਸ਼ਟੀ, ਕੂਲਿੰਗ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਦਿਖਾਈ ਦੇਣਾ ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ।
ਪੂਰਾ ਜੀਵਨਚੱਕਰ ਮੁਲਾਂਕਣ ਸਥਿਰਤਾ ਟੀਮਾਂ, ਵੱਡੀਆਂ ਸੰਸਥਾਵਾਂ ਬਹੁਤ ਜ਼ਿਆਦਾ, ਕਈ ਵਾਰ ਦਰਦਨਾਕ ਗੰਭੀਰ ਵਿਸ਼ਲੇਸ਼ਣ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਕਿਉਂਕਿ ਇਹ ਚਿੱਪ ਤੋਂ ਪਰੇ ਹੈ... ਪਰ ਇਹ ਹੌਲੀ ਅਤੇ ਇੱਕ ਤਰ੍ਹਾਂ ਦਾ ਜਾਨਵਰ ਹੈ।

ਕੋਈ ਵੀ ਸੰਪੂਰਨ ਤਰੀਕਾ ਨਹੀਂ ਹੈ। ਇਹ ਥੋੜ੍ਹਾ ਜਿਹਾ ਨਿਰਾਸ਼ਾਜਨਕ ਹਿੱਸਾ ਹੈ। ਪਰ ਮੁੱਲ ਦੇ ਪੱਧਰ ਵੀ ਹੁੰਦੇ ਹਨ। ਅਤੇ ਆਮ ਤੌਰ 'ਤੇ, ਕੁਝ ਸੇਵਾਯੋਗ ਸੰਪੂਰਨ ਤੋਂ ਵਧੀਆ ਹੁੰਦਾ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

ਸਭ ਤੋਂ ਵੱਡਾ ਕਾਰਕ ਜਾਦੂ ਨਹੀਂ ਹੈ - ਇਹ ਕੰਪਿਊਟ ਅਤੇ ਹਾਰਡਵੇਅਰ ਹੈ 🖥️🔥

ਜਦੋਂ ਲੋਕ AI ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਦੀ ਤਸਵੀਰ ਬਣਾਉਂਦੇ ਹਨ, ਤਾਂ ਉਹ ਅਕਸਰ ਮਾਡਲ ਨੂੰ ਬਿਜਲੀ ਦੀ ਖਪਤ ਕਰਨ ਵਾਲੀ ਚੀਜ਼ ਵਜੋਂ ਕਲਪਨਾ ਕਰਦੇ ਹਨ। ਪਰ ਮਾਡਲ ਹਾਰਡਵੇਅਰ 'ਤੇ ਚੱਲ ਰਹੇ ਸਾਫਟਵੇਅਰ ਲਾਜਿਕ ਦਾ ਹੈ। ਹਾਰਡਵੇਅਰ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਬਿਜਲੀ ਦਾ ਬਿੱਲ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ। ( ਸਟ੍ਰੂਬੈਲ ਅਤੇ ਹੋਰ , ਗੂਗਲ ਕਲਾਉਡ )

ਸਭ ਤੋਂ ਵੱਡੇ ਵੇਰੀਏਬਲਾਂ ਵਿੱਚ ਆਮ ਤੌਰ 'ਤੇ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ:

ਇੱਕ ਬਹੁਤ ਹੀ ਅਨੁਕੂਲਿਤ ਸਿਸਟਮ ਘੱਟ ਊਰਜਾ ਨਾਲ ਵਧੇਰੇ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ। ਇੱਕ ਢਿੱਲਾ ਸਿਸਟਮ ਸ਼ਾਨਦਾਰ ਆਤਮਵਿਸ਼ਵਾਸ ਨਾਲ ਬਿਜਲੀ ਬਰਬਾਦ ਕਰ ਸਕਦਾ ਹੈ। ਤੁਸੀਂ ਜਾਣਦੇ ਹੋ ਕਿ ਇਹ ਕਿਵੇਂ ਹੈ - ਕੁਝ ਸੈੱਟਅੱਪ ਰੇਸ ਕਾਰਾਂ ਹਨ, ਕੁਝ ਸ਼ਾਪਿੰਗ ਕਾਰਟ ਹਨ ਜਿਨ੍ਹਾਂ 'ਤੇ ਰਾਕੇਟ ਡਕਟ-ਟੇਪ ਕੀਤੇ ਹੋਏ ਹਨ 🚀🛒

ਅਤੇ ਹਾਂ, ਮਾਡਲ ਦਾ ਆਕਾਰ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਵਧੇਰੇ ਮੈਮੋਰੀ ਅਤੇ ਵਧੇਰੇ ਗਣਨਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਲੰਬੇ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕੀਤੇ ਜਾਂਦੇ ਹਨ ਜਾਂ ਗੁੰਝਲਦਾਰ ਤਰਕ ਨੂੰ ਸੰਭਾਲਿਆ ਜਾਂਦਾ ਹੈ। ਪਰ ਕੁਸ਼ਲਤਾ ਦੀਆਂ ਚਾਲਾਂ ਤਸਵੀਰ ਨੂੰ ਬਦਲ ਸਕਦੀਆਂ ਹਨ: ( LLM ਊਰਜਾ ਵਰਤੋਂ ਵਿੱਚ ਗ੍ਰੀਨ AI , )

ਇਸ ਲਈ ਸਵਾਲ ਸਿਰਫ਼ "ਮਾਡਲ ਕਿੰਨਾ ਵੱਡਾ ਹੈ?" ਹੀ ਨਹੀਂ ਹੈ, ਸਗੋਂ ਇਹ ਵੀ ਹੈ ਕਿ "ਇਸਨੂੰ ਕਿੰਨੀ ਸਮਝਦਾਰੀ ਨਾਲ ਚਲਾਇਆ ਜਾ ਰਿਹਾ ਹੈ?"

ਸਿਖਲਾਈ ਬਨਾਮ ਅਨੁਮਾਨ - ਇਹ ਵੱਖ-ਵੱਖ ਜਾਨਵਰ ਹਨ 🐘🐇

ਇਹ ਉਹ ਵੰਡ ਹੈ ਜੋ ਲਗਭਗ ਹਰ ਕਿਸੇ ਨੂੰ ਉਲਝਾਉਂਦੀ ਹੈ।.

ਸਿਖਲਾਈ

ਸਿਖਲਾਈ ਉਦੋਂ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਇੱਕ ਮਾਡਲ ਵਿਸ਼ਾਲ ਡੇਟਾਸੈਟਾਂ ਤੋਂ ਪੈਟਰਨ ਸਿੱਖਦਾ ਹੈ। ਇਸ ਵਿੱਚ ਬਹੁਤ ਸਾਰੇ ਚਿਪਸ ਲੰਬੇ ਸਮੇਂ ਲਈ ਚੱਲ ਸਕਦੇ ਹਨ, ਡੇਟਾ ਦੇ ਵਿਸ਼ਾਲ ਖੰਡਾਂ ਨੂੰ ਚਬਾਉਣਾ। ਇਹ ਪੜਾਅ ਊਰਜਾ-ਭੁੱਖਾ ਹੁੰਦਾ ਹੈ। ਕਈ ਵਾਰ ਬਹੁਤ ਜ਼ਿਆਦਾ। ( ਸਟ੍ਰੂਬੈਲ ਅਤੇ ਹੋਰ )

ਸਿਖਲਾਈ ਊਰਜਾ ਇਸ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ:

  • ਮਾਡਲ ਦਾ ਆਕਾਰ

  • ਡਾਟਾਸੈੱਟ ਆਕਾਰ

  • ਸਿਖਲਾਈ ਦੌੜਾਂ ਦੀ ਗਿਣਤੀ

  • ਅਸਫਲ ਪ੍ਰਯੋਗ

  • ਫਾਈਨ-ਟਿਊਨਿੰਗ ਪਾਸ

  • ਹਾਰਡਵੇਅਰ ਕੁਸ਼ਲਤਾ

  • ਕੂਲਿੰਗ ਓਵਰਹੈੱਡ ( ਸਟ੍ਰੂਬੈਲ ਅਤੇ ਹੋਰ , ਗੂਗਲ ਰਿਸਰਚ )

ਅਤੇ ਇੱਥੇ ਉਹ ਹਿੱਸਾ ਹੈ ਜਿਸ ਤੋਂ ਲੋਕ ਅਕਸਰ ਖੁੰਝ ਜਾਂਦੇ ਹਨ - ਜਨਤਾ ਅਕਸਰ ਇੱਕ ਵੱਡੀ ਸਿਖਲਾਈ ਦੌੜ ਦੀ ਕਲਪਨਾ ਕਰਦੀ ਹੈ, ਜੋ ਇੱਕ ਵਾਰ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਕਹਾਣੀ ਦੇ ਅੰਤ ਵਿੱਚ। ਅਭਿਆਸ ਵਿੱਚ, ਵਿਕਾਸ ਵਿੱਚ ਦੁਹਰਾਉਣ ਵਾਲੀਆਂ ਦੌੜਾਂ, ਟਿਊਨਿੰਗ, ਮੁੜ ਸਿਖਲਾਈ, ਮੁਲਾਂਕਣ, ਅਤੇ ਮੁੱਖ ਘਟਨਾ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਸਾਰੀਆਂ ਵਿਅੰਗਾਤਮਕ ਪਰ ਮਹਿੰਗੀਆਂ ਦੁਹਰਾਓ ਸ਼ਾਮਲ ਹੋ ਸਕਦੀਆਂ ਹਨ। ( ਸਟ੍ਰੂਬੈਲ ਅਤੇ ਹੋਰ , ਗ੍ਰੀਨ ਏਆਈ )

ਅਨੁਮਾਨ

ਅਨੁਮਾਨ ਅਸਲ ਉਪਭੋਗਤਾ ਬੇਨਤੀਆਂ ਦਾ ਜਵਾਬ ਦੇਣ ਵਾਲਾ ਮਾਡਲ ਹੈ। ਇੱਕ ਬੇਨਤੀ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਹੀਂ ਲੱਗ ਸਕਦੀ। ਪਰ ਅਨੁਮਾਨ ਵਾਰ-ਵਾਰ ਹੁੰਦਾ ਰਹਿੰਦਾ ਹੈ। ਲੱਖਾਂ ਵਾਰ। ਕਈ ਵਾਰ ਅਰਬਾਂ। ( ਗੂਗਲ ਰਿਸਰਚ , ਡੀਓਈ )

ਅਨੁਮਾਨ ਊਰਜਾ ਇਸ ਨਾਲ ਵਧਦੀ ਹੈ:

ਇਸ ਲਈ ਸਿਖਲਾਈ ਭੂਚਾਲ ਹੈ। ਅਨੁਮਾਨ ਲਹਿਰ ਹੈ। ਇੱਕ ਨਾਟਕੀ ਹੈ, ਇੱਕ ਨਿਰੰਤਰ ਹੈ, ਅਤੇ ਦੋਵੇਂ ਤੱਟ ਨੂੰ ਥੋੜਾ ਜਿਹਾ ਮੁੜ ਆਕਾਰ ਦੇ ਸਕਦੇ ਹਨ। ਇਹ ਇੱਕ ਅਸਾਧਾਰਨ ਰੂਪਕ ਹੈ, ਸ਼ਾਇਦ, ਪਰ ਇਹ ਇਕੱਠੇ ਰਹਿੰਦਾ ਹੈ... ਘੱਟ ਜਾਂ ਵੱਧ।.

ਛੁਪੀ ਹੋਈ ਊਰਜਾ ਦੀ ਕੀਮਤ ਲੋਕ ਭੁੱਲ ਜਾਂਦੇ ਹਨ 😬

ਜਦੋਂ ਕੋਈ ਸਿਰਫ਼ ਚਿੱਪ ਨੂੰ ਦੇਖ ਕੇ AI ਪਾਵਰ ਵਰਤੋਂ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦਾ ਹੈ, ਤਾਂ ਉਹ ਆਮ ਤੌਰ 'ਤੇ ਘੱਟ ਗਿਣਤੀ ਕਰਦੇ ਹਨ। ਹਮੇਸ਼ਾ ਵਿਨਾਸ਼ਕਾਰੀ ਨਹੀਂ, ਪਰ ਮਾਇਨੇ ਰੱਖਣ ਲਈ ਕਾਫ਼ੀ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ , IEA )

ਇੱਥੇ ਲੁਕੇ ਹੋਏ ਟੁਕੜੇ ਹਨ:

ਠੰਢਾ ਕਰਨਾ ❄️

ਸਰਵਰ ਗਰਮੀ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਹਾਰਡਵੇਅਰ ਇਸਦਾ ਬਹੁਤ ਸਾਰਾ ਹਿੱਸਾ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਕੂਲਿੰਗ ਵਿਕਲਪਿਕ ਨਹੀਂ ਹੈ। ਗਣਨਾ ਦੁਆਰਾ ਖਪਤ ਕੀਤੀ ਗਈ ਹਰ ਵਾਟ ਤਾਪਮਾਨ ਨੂੰ ਸੰਤੁਲਿਤ ਰੱਖਣ ਲਈ ਵਧੇਰੇ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਨੂੰ ਸੱਦਾ ਦਿੰਦੀ ਹੈ। ( IEA , Google Cloud )

ਡਾਟਾ ਮੂਵਮੈਂਟ 🌐

ਸਟੋਰੇਜ, ਮੈਮੋਰੀ ਅਤੇ ਨੈੱਟਵਰਕਾਂ ਵਿੱਚ ਡੇਟਾ ਨੂੰ ਲਿਜਾਣ ਲਈ ਵੀ ਊਰਜਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। AI ਸਿਰਫ਼ "ਸੋਚਣਾ" ਹੀ ਨਹੀਂ ਹੈ। ਇਹ ਲਗਾਤਾਰ ਜਾਣਕਾਰੀ ਨੂੰ ਬਦਲਦਾ ਵੀ ਹੈ। ( IEA )

ਵਿਹਲੀ ਸਮਰੱਥਾ 💤

ਸਿਖਰ ਮੰਗ ਲਈ ਬਣਾਏ ਗਏ ਸਿਸਟਮ ਹਮੇਸ਼ਾ ਸਿਖਰ ਮੰਗ 'ਤੇ ਨਹੀਂ ਚੱਲਦੇ। ਵਿਹਲਾ ਜਾਂ ਘੱਟ ਵਰਤਿਆ ਜਾਣ ਵਾਲਾ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਅਜੇ ਵੀ ਬਿਜਲੀ ਦੀ ਖਪਤ ਕਰਦਾ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

ਫਾਲਤੂਪਣ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ 🧱

ਬੈਕਅੱਪ, ਫੇਲਓਵਰ ਸਿਸਟਮ, ਡੁਪਲੀਕੇਟ ਖੇਤਰ, ਸੁਰੱਖਿਆ ਪਰਤਾਂ - ਇਹ ਸਭ ਕੀਮਤੀ ਹਨ, ਇਹ ਸਾਰੇ ਵੱਡੀ ਊਰਜਾ ਤਸਵੀਰ ਦਾ ਹਿੱਸਾ ਹਨ। ( IEA )

ਸਟੋਰੇਜ 📦

ਸਿਖਲਾਈ ਡੇਟਾ, ਏਮਬੈਡਿੰਗ, ਲੌਗ, ਚੈੱਕਪੁਆਇੰਟ, ਤਿਆਰ ਕੀਤੇ ਆਉਟਪੁੱਟ - ਇਹ ਸਾਰੇ ਕਿਤੇ ਨਾ ਕਿਤੇ ਰਹਿੰਦੇ ਹਨ। ਸਟੋਰੇਜ ਕੰਪਿਊਟ ਨਾਲੋਂ ਸਸਤਾ ਹੈ, ਯਕੀਨਨ, ਪਰ ਊਰਜਾ ਦੇ ਮਾਮਲੇ ਵਿੱਚ ਮੁਫ਼ਤ ਨਹੀਂ ਹੈ। ( IEA )

ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ? ਦਾ ਜਵਾਬ ਇੱਕ ਸਿੰਗਲ ਬੈਂਚਮਾਰਕ ਚਾਰਟ ਨੂੰ ਦੇਖ ਕੇ ਚੰਗੀ ਤਰ੍ਹਾਂ ਨਹੀਂ ਦਿੱਤਾ ਜਾ ਸਕਦਾ। ਪੂਰਾ ਸਟੈਕ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ , IEA )

ਇੱਕ AI ਪ੍ਰੋਂਪਟ ਛੋਟਾ ਕਿਉਂ ਹੋ ਸਕਦਾ ਹੈ - ਅਤੇ ਅਗਲਾ ਇੱਕ ਰਾਖਸ਼ ਹੋ ਸਕਦਾ ਹੈ 📝➡️🎬

ਸਾਰੇ ਪ੍ਰੋਂਪਟ ਇੱਕੋ ਜਿਹੇ ਨਹੀਂ ਬਣਾਏ ਜਾਂਦੇ। ਵਾਕ ਨੂੰ ਦੁਬਾਰਾ ਲਿਖਣ ਲਈ ਇੱਕ ਛੋਟੀ ਜਿਹੀ ਬੇਨਤੀ ਇੱਕ ਲੰਬੇ ਵਿਸ਼ਲੇਸ਼ਣ, ਮਲਟੀ-ਸਟੈਪ ਕੋਡਿੰਗ ਸੈਸ਼ਨ, ਜਾਂ ਉੱਚ-ਰੈਜ਼ੋਲਿਊਸ਼ਨ ਚਿੱਤਰ ਨਿਰਮਾਣ ਲਈ ਕਹਿਣ ਦੇ ਬਰਾਬਰ ਨਹੀਂ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

ਉਹ ਚੀਜ਼ਾਂ ਜੋ ਪ੍ਰਤੀ ਪਰਸਪਰ ਪ੍ਰਭਾਵ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਨੂੰ ਵਧਾਉਂਦੀਆਂ ਹਨ:

ਇੱਕ ਹਲਕਾ ਟੈਕਸਟ ਜਵਾਬ ਮੁਕਾਬਲਤਨ ਸਸਤਾ ਹੋ ਸਕਦਾ ਹੈ। ਇੱਕ ਵਿਸ਼ਾਲ ਮਲਟੀਮੋਡਲ ਵਰਕਫਲੋ, ਖੈਰ, ਸਸਤਾ ਨਹੀਂ ਹੋ ਸਕਦਾ। ਇਹ ਵਿਆਹ ਲਈ ਖਾਣਾ ਪਕਾਉਣ ਦੀ ਬਜਾਏ ਕੌਫੀ ਆਰਡਰ ਕਰਨ ਵਰਗਾ ਹੈ। ਦੋਵਾਂ ਨੂੰ ਤਕਨੀਕੀ ਤੌਰ 'ਤੇ "ਭੋਜਨ ਸੇਵਾ" ਵਜੋਂ ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ। ਇੱਕ ਦੂਜੇ ਵਰਗਾ ਨਹੀਂ ਹੈ ☕🎉

ਇਹ ਖਾਸ ਕਰਕੇ ਉਤਪਾਦ ਟੀਮਾਂ ਲਈ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਇੱਕ ਵਿਸ਼ੇਸ਼ਤਾ ਜੋ ਘੱਟ ਵਰਤੋਂ 'ਤੇ ਨੁਕਸਾਨਦੇਹ ਜਾਪਦੀ ਹੈ, ਪੈਮਾਨੇ 'ਤੇ ਮਹਿੰਗੀ ਹੋ ਸਕਦੀ ਹੈ ਜੇਕਰ ਹਰੇਕ ਉਪਭੋਗਤਾ ਸੈਸ਼ਨ ਲੰਬਾ, ਅਮੀਰ, ਅਤੇ ਵਧੇਰੇ ਕੰਪਿਊਟ-ਭਾਰੀ ਹੋ ਜਾਂਦਾ ਹੈ। ( DOE , Google Cloud )

ਖਪਤਕਾਰ ਏਆਈ ਅਤੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਏਆਈ ਇੱਕੋ ਚੀਜ਼ ਨਹੀਂ ਹਨ 🏢📱

ਆਮ ਤੌਰ 'ਤੇ AI ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਵਿਅਕਤੀ ਇਹ ਮੰਨ ਸਕਦਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਕਦੇ-ਕਦਾਈਂ ਆਉਣ ਵਾਲੇ ਪ੍ਰੋਂਪਟ ਹੀ ਵੱਡੀ ਸਮੱਸਿਆ ਹਨ। ਆਮ ਤੌਰ 'ਤੇ, ਇਹ ਉਹ ਥਾਂ ਨਹੀਂ ਹੁੰਦੀ ਜਿੱਥੇ ਮੁੱਖ ਊਰਜਾ ਕਹਾਣੀ ਰਹਿੰਦੀ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

ਐਂਟਰਪ੍ਰਾਈਜ਼ ਵਰਤੋਂ ਗਣਿਤ ਨੂੰ ਬਦਲਦੀ ਹੈ:

  • ਹਜ਼ਾਰਾਂ ਕਰਮਚਾਰੀ

  • ਹਮੇਸ਼ਾ ਚੱਲਦੇ ਰਹਿਣ ਵਾਲੇ ਸਹਿ-ਪਾਇਲਟ

  • ਸਵੈਚਾਲਿਤ ਦਸਤਾਵੇਜ਼ ਪ੍ਰਕਿਰਿਆ

  • ਕਾਲ ਸੰਖੇਪ

  • ਚਿੱਤਰ ਵਿਸ਼ਲੇਸ਼ਣ

  • ਕੋਡ ਸਮੀਖਿਆ ਟੂਲ

  • ਬੈਕਗ੍ਰਾਊਂਡ ਏਜੰਟ ਲਗਾਤਾਰ ਚੱਲ ਰਹੇ ਹਨ

ਇਹੀ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਸਮੁੱਚੀ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਬਹੁਤ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ਇਸ ਲਈ ਨਹੀਂ ਕਿ ਹਰੇਕ ਕਿਰਿਆ ਅਪੋਕੈਲਿਪਟਿਕ ਹੈ, ਸਗੋਂ ਇਸ ਲਈ ਕਿਉਂਕਿ ਦੁਹਰਾਓ ਇੱਕ ਗੁਣਕ ਹੈ। ( DOE , IEA )

ਮੇਰੀਆਂ ਆਪਣੀਆਂ ਟੈਸਟਿੰਗ ਅਤੇ ਵਰਕਫਲੋ ਸਮੀਖਿਆਵਾਂ ਵਿੱਚ, ਇਹ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਲੋਕ ਹੈਰਾਨ ਹੁੰਦੇ ਹਨ। ਉਹ ਮਾਡਲ ਨਾਮ, ਜਾਂ ਚਮਕਦਾਰ ਡੈਮੋ 'ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਤ ਕਰਦੇ ਹਨ, ਅਤੇ ਵੌਲਯੂਮ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦੇ ਹਨ। ਵੌਲਯੂਮ ਅਕਸਰ ਅਸਲ ਡਰਾਈਵਰ ਹੁੰਦਾ ਹੈ - ਜਾਂ ਬੱਚਤ ਦੀ ਕਿਰਪਾ, ਇਹ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਤੁਸੀਂ ਗਾਹਕਾਂ ਨੂੰ ਬਿਲਿੰਗ ਕਰ ਰਹੇ ਹੋ ਜਾਂ ਉਪਯੋਗਤਾ ਟੈਬ ਦਾ ਭੁਗਤਾਨ ਕਰ ਰਹੇ ਹੋ 😅

ਖਪਤਕਾਰਾਂ ਲਈ, ਪ੍ਰਭਾਵ ਅਮੂਰਤ ਮਹਿਸੂਸ ਹੋ ਸਕਦਾ ਹੈ। ਕਾਰੋਬਾਰਾਂ ਲਈ, ਇਹ ਬਹੁਤ ਜਲਦੀ ਠੋਸ ਬਣ ਜਾਂਦਾ ਹੈ:

  • ਵੱਡੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਬਿੱਲ

  • ਅਨੁਕੂਲ ਬਣਾਉਣ ਲਈ ਵਧੇਰੇ ਦਬਾਅ

  • ਜਿੱਥੇ ਵੀ ਸੰਭਵ ਹੋਵੇ ਛੋਟੇ ਮਾਡਲਾਂ ਦੀ ਵਧੇਰੇ ਲੋੜ

  • ਅੰਦਰੂਨੀ ਸਥਿਰਤਾ ਰਿਪੋਰਟਿੰਗ

  • ਕੈਚਿੰਗ ਅਤੇ ਰੂਟਿੰਗ ਵੱਲ ਵਧੇਰੇ ਧਿਆਨ ( ਗੂਗਲ ਕਲਾਉਡ , ਗ੍ਰੀਨ ਏਆਈ )

AI ਨੂੰ ਛੱਡੇ ਬਿਨਾਂ AI ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਕਿਵੇਂ ਘਟਾਈ ਜਾਵੇ 🌱

ਇਹ ਹਿੱਸਾ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ ਕਿਉਂਕਿ ਟੀਚਾ "AI ਦੀ ਵਰਤੋਂ ਬੰਦ ਕਰਨਾ" ਨਹੀਂ ਹੈ। ਆਮ ਤੌਰ 'ਤੇ ਇਹ ਯਥਾਰਥਵਾਦੀ ਨਹੀਂ ਹੁੰਦਾ, ਅਤੇ ਜ਼ਰੂਰੀ ਵੀ ਨਹੀਂ ਹੁੰਦਾ। ਬਿਹਤਰ ਵਰਤੋਂ ਹੀ ਸਮਾਰਟ ਰਸਤਾ ਹੈ।.

ਇੱਥੇ ਸਭ ਤੋਂ ਵੱਡੇ ਲੀਵਰ ਹਨ:

1. ਸਭ ਤੋਂ ਛੋਟੇ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰੋ ਜੋ ਕੰਮ ਪੂਰਾ ਕਰਦਾ ਹੈ

ਹਰ ਕੰਮ ਨੂੰ ਹੈਵੀਵੇਟ ਵਿਕਲਪ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ। ਵਰਗੀਕਰਨ ਜਾਂ ਸੰਖੇਪ ਲਈ ਇੱਕ ਹਲਕਾ ਮਾਡਲ ਬਰਬਾਦੀ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਘਟਾ ਸਕਦਾ ਹੈ। ( ਗ੍ਰੀਨ ਏਆਈ , ਗੂਗਲ ਕਲਾਉਡ )

2. ਪ੍ਰੋਂਪਟ ਅਤੇ ਆਉਟਪੁੱਟ ਨੂੰ ਛੋਟਾ ਕਰੋ

ਵਰਬੋਸ ਇਨ, ਵਰਬੋਸ ਆਊਟ। ਵਾਧੂ ਟੋਕਨਾਂ ਦਾ ਮਤਲਬ ਵਾਧੂ ਗਣਨਾ ਹੈ। ਕਈ ਵਾਰ ਪ੍ਰੋਂਪਟ ਨੂੰ ਕੱਟਣਾ ਸਭ ਤੋਂ ਆਸਾਨ ਜਿੱਤ ਹੁੰਦਾ ਹੈ। ( ਐਲਐਲਐਮ ਊਰਜਾ ਵਰਤੋਂ ਵਿੱਚ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ, ਬੈਚਿੰਗ, ਅਤੇ ਸਰਵਿੰਗ ਰਣਨੀਤੀਆਂ , ਗੂਗਲ ਕਲਾਉਡ )

3. ਕੈਸ਼ ਦੁਹਰਾਏ ਨਤੀਜੇ

ਜੇਕਰ ਉਹੀ ਪੁੱਛਗਿੱਛ ਦਿਖਾਈ ਦਿੰਦੀ ਰਹਿੰਦੀ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਹਰ ਵਾਰ ਦੁਬਾਰਾ ਨਾ ਬਣਾਓ। ਇਹ ਲਗਭਗ ਅਪਮਾਨਜਨਕ ਤੌਰ 'ਤੇ ਸਪੱਸ਼ਟ ਹੈ, ਫਿਰ ਵੀ ਇਹ ਖੁੰਝ ਜਾਂਦਾ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

4. ਜਦੋਂ ਵੀ ਸੰਭਵ ਹੋਵੇ ਬੈਚ ਨੌਕਰੀਆਂ

ਬੈਚਾਂ ਵਿੱਚ ਕੰਮ ਚਲਾਉਣ ਨਾਲ ਵਰਤੋਂ ਵਿੱਚ ਸੁਧਾਰ ਹੋ ਸਕਦਾ ਹੈ ਅਤੇ ਬਰਬਾਦੀ ਘੱਟ ਸਕਦੀ ਹੈ। ( ਐਲਐਲਐਮ ਊਰਜਾ ਵਰਤੋਂ ਵਿੱਚ ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ, ਬੈਚਿੰਗ, ਅਤੇ ਸਰਵਿੰਗ ਰਣਨੀਤੀਆਂ )

5. ਕੰਮਾਂ ਨੂੰ ਸਮਝਦਾਰੀ ਨਾਲ ਕਰੋ

ਵੱਡੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਸਿਰਫ਼ ਉਦੋਂ ਕਰੋ ਜਦੋਂ ਵਿਸ਼ਵਾਸ ਘੱਟ ਜਾਵੇ ਜਾਂ ਕੰਮ ਦੀ ਜਟਿਲਤਾ ਵੱਧ ਜਾਵੇ। ( ਗ੍ਰੀਨ ਏਆਈ , ਗੂਗਲ ਕਲਾਉਡ )

6. ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਓ

ਬਿਹਤਰ ਸਮਾਂ-ਸਾਰਣੀ, ਬਿਹਤਰ ਹਾਰਡਵੇਅਰ, ਬਿਹਤਰ ਕੂਲਿੰਗ ਰਣਨੀਤੀ - ਪ੍ਰੋਸੈਕ ਚੀਜ਼ਾਂ, ਵੱਡੀ ਕਮਾਈ। ( ਗੂਗਲ ਕਲਾਉਡ , ਡੀਓਈ )

7. ਮੰਨਣ ਤੋਂ ਪਹਿਲਾਂ ਮਾਪੋ

ਬਹੁਤ ਸਾਰੀਆਂ ਟੀਮਾਂ ਸੋਚਦੀਆਂ ਹਨ ਕਿ ਉਹ ਜਾਣਦੇ ਹਨ ਕਿ ਸ਼ਕਤੀ ਕਿੱਥੇ ਜਾ ਰਹੀ ਹੈ। ਫਿਰ ਉਹ ਮਾਪਦੇ ਹਨ, ਅਤੇ ਇਹ ਉੱਥੇ ਹੈ - ਮਹਿੰਗਾ ਹਿੱਸਾ ਕਿਤੇ ਹੋਰ ਬੈਠਾ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

ਕੁਸ਼ਲਤਾ ਵਾਲਾ ਕੰਮ ਸ਼ਾਨਦਾਰ ਨਹੀਂ ਹੁੰਦਾ। ਇਸਨੂੰ ਘੱਟ ਹੀ ਪ੍ਰਸ਼ੰਸਾ ਮਿਲਦੀ ਹੈ। ਪਰ ਇਹ AI ਨੂੰ ਹੋਰ ਕਿਫਾਇਤੀ ਅਤੇ ਪੈਮਾਨੇ 'ਤੇ ਵਧੇਰੇ ਬਚਾਅਯੋਗ ਬਣਾਉਣ ਦੇ ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ 👍

AI ਬਿਜਲੀ ਦੀ ਵਰਤੋਂ ਬਾਰੇ ਆਮ ਮਿੱਥਾਂ 🚫

ਆਓ ਕੁਝ ਮਿੱਥਾਂ ਨੂੰ ਦੂਰ ਕਰੀਏ ਕਿਉਂਕਿ ਇਹ ਵਿਸ਼ਾ ਤੇਜ਼ੀ ਨਾਲ ਉਲਝ ਜਾਂਦਾ ਹੈ।.

ਮਿੱਥ 1 - ਹਰੇਕ AI ਪੁੱਛਗਿੱਛ ਬਹੁਤ ਜ਼ਿਆਦਾ ਫਜ਼ੂਲ ਹੈ

ਜ਼ਰੂਰੀ ਨਹੀਂ। ਕੁਝ ਸਾਦੇ ਹੁੰਦੇ ਹਨ। ਪੈਮਾਨਾ ਅਤੇ ਕੰਮ ਦੀ ਕਿਸਮ ਬਹੁਤ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ( ਗੂਗਲ ਕਲਾਉਡ )

ਮਿੱਥ 2 - ਸਿਖਲਾਈ ਹੀ ਇੱਕੋ ਇੱਕ ਚੀਜ਼ ਹੈ ਜੋ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ

ਨਹੀਂ। ਜਦੋਂ ਵਰਤੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੁੰਦੀ ਹੈ ਤਾਂ ਅਨੁਮਾਨ ਸਮੇਂ ਦੇ ਨਾਲ ਹਾਵੀ ਹੋ ਸਕਦਾ ਹੈ। ( ਗੂਗਲ ਰਿਸਰਚ , ਡੀਓਈ )

ਮਿੱਥ 3 - ਵੱਡੇ ਮਾਡਲ ਦਾ ਮਤਲਬ ਹਮੇਸ਼ਾ ਬਿਹਤਰ ਨਤੀਜਾ ਹੁੰਦਾ ਹੈ

ਕਈ ਵਾਰ ਹਾਂ, ਕਈ ਵਾਰ ਬਿਲਕੁਲ ਨਹੀਂ। ਛੋਟੇ ਸਿਸਟਮਾਂ ਨਾਲ ਬਹੁਤ ਸਾਰੇ ਕੰਮ ਵਧੀਆ ਹੁੰਦੇ ਹਨ। ( ਗ੍ਰੀਨ ਏਆਈ )

ਮਿੱਥ 4 - ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਕਾਰਬਨ ਪ੍ਰਭਾਵ ਦੇ ਆਪਣੇ ਆਪ ਬਰਾਬਰ ਹੁੰਦੀ ਹੈ

ਬਿਲਕੁਲ ਨਹੀਂ। ਕਾਰਬਨ ਊਰਜਾ ਸਰੋਤ 'ਤੇ ਵੀ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ( IEA , Strubell et al. )

ਮਿੱਥ 5 - ਤੁਸੀਂ AI ਊਰਜਾ ਵਰਤੋਂ ਲਈ ਇੱਕ ਯੂਨੀਵਰਸਲ ਨੰਬਰ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੇ ਹੋ

ਤੁਸੀਂ ਨਹੀਂ ਕਰ ਸਕਦੇ, ਘੱਟੋ ਘੱਟ ਉਸ ਰੂਪ ਵਿੱਚ ਨਹੀਂ ਜੋ ਅਰਥਪੂਰਨ ਰਹੇ। ਜਾਂ ਤੁਸੀਂ ਕਰ ਸਕਦੇ ਹੋ, ਪਰ ਇਸਦਾ ਔਸਤਨ ਨਿਚੋੜ ਕੀਤਾ ਜਾਵੇਗਾ ਕਿ ਇਹ ਕੀਮਤੀ ਹੋਣਾ ਬੰਦ ਕਰ ਦੇਵੇਗਾ। ( IEA )

ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ "ਏਆਈ ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?" ਸਮਝਦਾਰੀ ਹੈ - ਪਰ ਸਿਰਫ਼ ਤਾਂ ਹੀ ਜੇਕਰ ਤੁਸੀਂ ਨਾਅਰੇ ਦੀ ਬਜਾਏ ਇੱਕ ਪੱਧਰੀ ਜਵਾਬ ਲਈ ਤਿਆਰ ਹੋ।

ਤਾਂ... AI ਅਸਲ ਵਿੱਚ ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ? 🤔

ਇਹ ਹੈ ਜ਼ਮੀਨੀ ਸਿੱਟਾ।.

AI ਵਰਤਦਾ ਹੈ:

  • ਥੋੜ੍ਹਾ ਜਿਹਾ , ਕੁਝ ਸਧਾਰਨ ਕੰਮਾਂ ਲਈ

  • ਬਹੁਤ ਜ਼ਿਆਦਾ , ਭਾਰੀ ਮਲਟੀਮੋਡਲ ਜਨਰੇਸ਼ਨ ਲਈ

  • ਵੱਡੇ ਪੈਮਾਨੇ ਦੀ ਮਾਡਲ ਸਿਖਲਾਈ ਲਈ, ਬਹੁਤ ਵੱਡੀ ਰਕਮ

  • ਕੁੱਲ ਮਿਲਾ ਕੇ ਇੱਕ ਬਹੁਤ ਵੱਡੀ ਰਕਮ , ਜਦੋਂ ਸਮੇਂ ਦੇ ਨਾਲ ਲੱਖਾਂ ਬੇਨਤੀਆਂ ਦੇ ਢੇਰ ਲੱਗ ਜਾਂਦੇ ਹਨ ( ਗੂਗਲ ਕਲਾਉਡ , ਡੀਓਈ )

ਇਹੀ ਇਸਦਾ ਰੂਪ ਹੈ।.

ਮੁੱਖ ਗੱਲ ਇਹ ਹੈ ਕਿ ਪੂਰੇ ਮੁੱਦੇ ਨੂੰ ਇੱਕ ਡਰਾਉਣੇ ਨੰਬਰ ਜਾਂ ਇੱਕ ਖਾਰਜ ਕਰਨ ਵਾਲੇ ਮੋਢੇ ਨੂੰ ਝਟਕਾ ਨਾ ਦਿਓ। AI ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਅਸਲ ਹੈ। ਇਹ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ਇਸਨੂੰ ਸੁਧਾਰਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਅਤੇ ਇਸ ਬਾਰੇ ਗੱਲ ਕਰਨ ਦਾ ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕਾ ਸੰਦਰਭ ਨਾਲ ਹੈ, ਨਾਟਕਾਂ ਨਾਲ ਨਹੀਂ। ( IEA , ਗ੍ਰੀਨ AI )

ਬਹੁਤ ਸਾਰੀ ਜਨਤਕ ਗੱਲਬਾਤ ਅਤਿਅੰਤਤਾਵਾਂ ਵਿਚਕਾਰ ਘੁੰਮਦੀ ਰਹਿੰਦੀ ਹੈ - ਇੱਕ ਪਾਸੇ "AI ਮੂਲ ਰੂਪ ਵਿੱਚ ਮੁਫ਼ਤ ਹੈ", ਦੂਜੇ ਪਾਸੇ "AI ਇੱਕ ਇਲੈਕਟ੍ਰੀਕਲ ਐਪੋਕਲਿਪਸ ਹੈ"। ਹਕੀਕਤ ਵਧੇਰੇ ਆਮ ਹੈ, ਜੋ ਇਸਨੂੰ ਵਧੇਰੇ ਜਾਣਕਾਰੀ ਭਰਪੂਰ ਬਣਾਉਂਦੀ ਹੈ। ਇਹ ਇੱਕ ਸਿਸਟਮ ਸਮੱਸਿਆ ਹੈ। ਹਾਰਡਵੇਅਰ, ਸੌਫਟਵੇਅਰ, ਵਰਤੋਂ, ਪੈਮਾਨਾ, ਕੂਲਿੰਗ, ਡਿਜ਼ਾਈਨ ਵਿਕਲਪ। ਪ੍ਰੋਸੈਕ? ਥੋੜ੍ਹਾ ਜਿਹਾ। ਮਹੱਤਵਪੂਰਨ? ਬਹੁਤ। ( IEA , Google Cloud )

ਮੁੱਖ ਨੁਕਤੇ ⚡🧾

ਜੇਕਰ ਤੁਸੀਂ ਇੱਥੇ ਇਹ ਪੁੱਛਣ ਲਈ ਆਏ ਹੋ ਕਿ, AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?, ਤਾਂ ਇਸਦਾ ਸਾਰ ਇੱਥੇ ਹੈ:

  • ਕੋਈ ਵੀ ਇੱਕ-ਆਕਾਰ-ਫਿੱਟ-ਸਾਰੀਆਂ ਸੰਖਿਆਵਾਂ ਨਹੀਂ ਹਨ

  • ਸਿਖਲਾਈ ਆਮ ਤੌਰ 'ਤੇ ਸ਼ੁਰੂ ਤੋਂ ਹੀ ਸਭ ਤੋਂ ਵੱਧ ਊਰਜਾ ਖਪਤ ਕਰਦੀ ਹੈ।

  • ਅਨੁਮਾਨ ਪੈਮਾਨੇ 'ਤੇ ਇੱਕ ਪ੍ਰਮੁੱਖ ਕਾਰਕ ਬਣ ਜਾਂਦਾ ਹੈ

  • ਮਾਡਲ ਦਾ ਆਕਾਰ, ਹਾਰਡਵੇਅਰ, ਕੰਮ ਦਾ ਬੋਝ, ਅਤੇ ਕੂਲਿੰਗ ਸਭ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ।

  • ਛੋਟੇ ਅਨੁਕੂਲਨ ਇੱਕ ਹੈਰਾਨੀਜਨਕ ਤੌਰ 'ਤੇ ਵੱਡਾ ਫ਼ਰਕ ਲਿਆ ਸਕਦੇ ਹਨ

  • ਸਭ ਤੋਂ ਹੁਸ਼ਿਆਰ ਸਵਾਲ ਸਿਰਫ਼ "ਕਿੰਨਾ" ਨਹੀਂ ਹੈ, ਸਗੋਂ "ਕਿਸ ਕੰਮ ਲਈ, ਕਿਸ ਸਿਸਟਮ 'ਤੇ, ਕਿਸ ਪੈਮਾਨੇ 'ਤੇ?" ( IEA , Google Cloud )

ਤਾਂ ਹਾਂ, ਏਆਈ ਅਸਲ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਧਿਆਨ ਦੇਣ ਦੇ ਯੋਗ ਹੋਣ ਲਈ ਕਾਫ਼ੀ ਹੈ। ਬਿਹਤਰ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਉਣ ਲਈ ਕਾਫ਼ੀ ਹੈ। ਪਰ ਕਾਰਟੂਨ ਵਾਂਗ ਨਹੀਂ, ਇੱਕ-ਨੰਬਰ ਵਾਲੇ ਤਰੀਕੇ ਨਾਲ।.

ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ

ਇੱਕ ਵਾਰ ਪ੍ਰੋਂਪਟ ਕਰਨ ਲਈ AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?

ਇੱਕ ਸਿੰਗਲ ਪ੍ਰੋਂਪਟ ਲਈ ਕੋਈ ਯੂਨੀਵਰਸਲ ਨੰਬਰ ਨਹੀਂ ਹੈ, ਕਿਉਂਕਿ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਮਾਡਲ, ਹਾਰਡਵੇਅਰ, ਪ੍ਰੋਂਪਟ ਦੀ ਲੰਬਾਈ, ਆਉਟਪੁੱਟ ਦੀ ਲੰਬਾਈ, ਅਤੇ ਕਿਸੇ ਵੀ ਵਾਧੂ ਟੂਲ ਦੀ ਵਰਤੋਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ। ਇੱਕ ਛੋਟਾ ਟੈਕਸਟ ਜਵਾਬ ਮੁਕਾਬਲਤਨ ਮਾਮੂਲੀ ਹੋ ਸਕਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਇੱਕ ਲੰਮਾ ਮਲਟੀਮੋਡਲ ਕੰਮ ਕਾਫ਼ੀ ਜ਼ਿਆਦਾ ਖਪਤ ਕਰ ਸਕਦਾ ਹੈ। ਸਭ ਤੋਂ ਅਰਥਪੂਰਨ ਜਵਾਬ ਇੱਕ ਸਿੰਗਲ ਹੈੱਡਲਾਈਨ ਚਿੱਤਰ ਨਹੀਂ ਹੈ, ਪਰ ਕਾਰਜ ਦੇ ਆਲੇ ਦੁਆਲੇ ਦਾ ਸੰਦਰਭ ਹੈ।.

ਏਆਈ ਪਾਵਰ ਵਰਤੋਂ ਦੇ ਅੰਦਾਜ਼ੇ ਇੰਨੇ ਵੱਖਰੇ ਕਿਉਂ ਹਨ?

ਅੰਦਾਜ਼ੇ ਵੱਖੋ-ਵੱਖਰੇ ਹੁੰਦੇ ਹਨ ਕਿਉਂਕਿ ਲੋਕ ਅਕਸਰ ਏਆਈ ਦੇ ਸਿੰਗਲ ਲੇਬਲ ਹੇਠ ਬਹੁਤ ਵੱਖਰੀਆਂ ਚੀਜ਼ਾਂ ਦੀ ਤੁਲਨਾ ਕਰਦੇ ਹਨ। ਇੱਕ ਅੰਦਾਜ਼ਾ ਇੱਕ ਹਲਕੇ ਚੈਟਬੋਟ ਜਵਾਬ ਦਾ ਵਰਣਨ ਕਰ ਸਕਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਦੂਜਾ ਚਿੱਤਰ ਨਿਰਮਾਣ, ਵੀਡੀਓ, ਜਾਂ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਮਾਡਲ ਸਿਖਲਾਈ ਨੂੰ ਕਵਰ ਕਰ ਸਕਦਾ ਹੈ। ਇੱਕ ਅੰਦਾਜ਼ੇ ਨੂੰ ਅਰਥਪੂਰਨ ਬਣਾਉਣ ਲਈ, ਇਸਨੂੰ ਕਾਰਜ ਕਿਸਮ, ਮਾਡਲ ਆਕਾਰ, ਹਾਰਡਵੇਅਰ, ਉਪਯੋਗਤਾ, ਕੂਲਿੰਗ ਅਤੇ ਸਥਾਨ ਵਰਗੇ ਸੰਦਰਭ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।.

ਕੀ AI ਨੂੰ ਸਿਖਲਾਈ ਦੇਣਾ ਜਾਂ AI ਨੂੰ ਰੋਜ਼ਾਨਾ ਚਲਾਉਣਾ ਊਰਜਾ ਦੀ ਵੱਧ ਲਾਗਤ ਹੈ?

ਸਿਖਲਾਈ ਆਮ ਤੌਰ 'ਤੇ ਵੱਡੀ ਸ਼ੁਰੂਆਤੀ ਊਰਜਾ ਘਟਨਾ ਹੁੰਦੀ ਹੈ, ਕਿਉਂਕਿ ਇਸ ਵਿੱਚ ਬਹੁਤ ਸਾਰੇ ਚਿੱਪ ਲੰਬੇ ਸਮੇਂ ਲਈ ਵਿਸ਼ਾਲ ਡੇਟਾਸੈਟਾਂ ਵਿੱਚ ਚੱਲ ਸਕਦੇ ਹਨ। ਅਨੁਮਾਨ ਉਹ ਚੱਲ ਰਹੀ ਲਾਗਤ ਹੈ ਜੋ ਹਰ ਵਾਰ ਉਪਭੋਗਤਾ ਬੇਨਤੀਆਂ ਭੇਜਣ 'ਤੇ ਪ੍ਰਗਟ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਪੈਮਾਨੇ 'ਤੇ ਇਹ ਬਹੁਤ ਵੱਡਾ ਵੀ ਹੋ ਸਕਦਾ ਹੈ। ਅਭਿਆਸ ਵਿੱਚ, ਦੋਵੇਂ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ, ਹਾਲਾਂਕਿ ਉਹ ਵੱਖ-ਵੱਖ ਤਰੀਕਿਆਂ ਨਾਲ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ।.

ਇੱਕ AI ਬੇਨਤੀ ਦੂਜੀ ਨਾਲੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਊਰਜਾ-ਸੰਬੰਧੀ ਕਿਉਂ ਬਣਾਉਂਦੀ ਹੈ?

ਲੰਬੀਆਂ ਸੰਦਰਭ ਵਿੰਡੋਜ਼, ਲੰਬੀਆਂ ਆਉਟਪੁੱਟ, ਵਾਰ-ਵਾਰ ਤਰਕਸ਼ੀਲ ਪਾਸ, ਟੂਲ ਕਾਲਾਂ, ਪ੍ਰਾਪਤੀ ਦੇ ਕਦਮ, ਅਤੇ ਮਲਟੀਮੋਡਲ ਪੀੜ੍ਹੀ, ਇਹ ਸਾਰੇ ਪ੍ਰਤੀ ਇੰਟਰੈਕਸ਼ਨ ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ। ਲੇਟੈਂਸੀ ਟਾਰਗੇਟ ਵੀ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ, ਕਿਉਂਕਿ ਤੇਜ਼ ਜਵਾਬ ਲੋੜਾਂ ਕੁਸ਼ਲਤਾ ਨੂੰ ਘਟਾ ਸਕਦੀਆਂ ਹਨ। ਇੱਕ ਛੋਟੀ ਮੁੜ ਲਿਖਣ ਦੀ ਬੇਨਤੀ ਅਤੇ ਇੱਕ ਲੰਮੀ ਕੋਡਿੰਗ ਜਾਂ ਚਿੱਤਰ ਵਰਕਫਲੋ ਤੁਲਨਾਤਮਕ ਨਹੀਂ ਹਨ।.

ਜਦੋਂ ਲੋਕ ਪੁੱਛਦੇ ਹਨ ਕਿ AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ, ਤਾਂ ਉਹ ਕਿਹੜੀਆਂ ਲੁਕੀਆਂ ਹੋਈਆਂ ਊਰਜਾ ਲਾਗਤਾਂ ਨੂੰ ਯਾਦ ਕਰਦੇ ਹਨ?

ਬਹੁਤ ਸਾਰੇ ਲੋਕ ਸਿਰਫ਼ ਚਿੱਪ 'ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਤ ਕਰਦੇ ਹਨ, ਪਰ ਇਹ ਕੂਲਿੰਗ, ਡੇਟਾ ਮੂਵਮੈਂਟ, ਸਟੋਰੇਜ, ਨਿਸ਼ਕਿਰਿਆ ਸਮਰੱਥਾ, ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਪ੍ਰਣਾਲੀਆਂ ਜਿਵੇਂ ਕਿ ਬੈਕਅੱਪ ਜਾਂ ਫੇਲਓਵਰ ਖੇਤਰਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦਾ ਹੈ। ਇਹ ਸਹਾਇਕ ਪਰਤਾਂ ਕੁੱਲ ਫੁੱਟਪ੍ਰਿੰਟ ਨੂੰ ਭੌਤਿਕ ਤੌਰ 'ਤੇ ਬਦਲ ਸਕਦੀਆਂ ਹਨ। ਇਸ ਲਈ ਇੱਕ ਬੈਂਚਮਾਰਕ ਆਪਣੇ ਆਪ ਵਿੱਚ ਪੂਰੀ ਊਰਜਾ ਤਸਵੀਰ ਨੂੰ ਘੱਟ ਹੀ ਕੈਪਚਰ ਕਰਦਾ ਹੈ।.

ਕੀ ਇੱਕ ਵੱਡਾ AI ਮਾਡਲ ਹਮੇਸ਼ਾ ਜ਼ਿਆਦਾ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?

ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਆਮ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਕੰਪਿਊਟ ਅਤੇ ਮੈਮੋਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਲੰਬੇ ਜਾਂ ਗੁੰਝਲਦਾਰ ਆਉਟਪੁੱਟ ਲਈ, ਇਸ ਲਈ ਉਹ ਅਕਸਰ ਜ਼ਿਆਦਾ ਊਰਜਾ ਦੀ ਖਪਤ ਕਰਦੇ ਹਨ। ਪਰ ਵੱਡੇ ਦਾ ਮਤਲਬ ਹਰ ਕੰਮ ਲਈ ਆਪਣੇ ਆਪ ਬਿਹਤਰ ਨਹੀਂ ਹੁੰਦਾ, ਅਤੇ ਅਨੁਕੂਲਤਾ ਤਸਵੀਰ ਨੂੰ ਕਾਫ਼ੀ ਬਦਲ ਸਕਦੀ ਹੈ। ਛੋਟੇ ਮਾਹਰ ਮਾਡਲ, ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ, ਬੈਚਿੰਗ, ਕੈਚਿੰਗ, ਅਤੇ ਸਮਾਰਟ ਰੂਟਿੰਗ, ਇਹ ਸਾਰੇ ਕੁਸ਼ਲਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰ ਸਕਦੇ ਹਨ।.

ਕੀ ਖਪਤਕਾਰਾਂ ਲਈ AI ਦੀ ਵਰਤੋਂ ਮੁੱਖ ਊਰਜਾ ਸਮੱਸਿਆ ਹੈ, ਜਾਂ ਕੀ ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਸਭ ਤੋਂ ਵੱਡਾ ਮੁੱਦਾ ਹੈ?

ਆਮ ਖਪਤਕਾਰਾਂ ਦੀ ਵਰਤੋਂ ਵਿੱਚ ਵਾਧਾ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਵੱਡੀ ਊਰਜਾ ਕਹਾਣੀ ਅਕਸਰ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਤੈਨਾਤੀਆਂ ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ। ਹਮੇਸ਼ਾ-ਚਾਲੂ ਸਹਿ-ਪਾਇਲਟ, ਦਸਤਾਵੇਜ਼ ਪ੍ਰਕਿਰਿਆ, ਕਾਲ ਸੰਖੇਪ, ਕੋਡ ਸਮੀਖਿਆ, ਅਤੇ ਪਿਛੋਕੜ ਏਜੰਟ ਵੱਡੇ ਉਪਭੋਗਤਾ ਅਧਾਰਾਂ ਵਿੱਚ ਵਾਰ-ਵਾਰ ਮੰਗ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਮੁੱਦਾ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਨਾਟਕੀ ਕਾਰਵਾਈ ਬਾਰੇ ਘੱਟ ਅਤੇ ਸਮੇਂ ਦੇ ਨਾਲ ਨਿਰੰਤਰ ਮਾਤਰਾ ਬਾਰੇ ਜ਼ਿਆਦਾ ਹੁੰਦਾ ਹੈ।.

ਜਦੋਂ ਤੁਸੀਂ ਡੇਟਾ ਸੈਂਟਰ ਅਤੇ ਕੂਲਿੰਗ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦੇ ਹੋ ਤਾਂ AI ਕਿੰਨੀ ਊਰਜਾ ਵਰਤਦਾ ਹੈ?

ਇੱਕ ਵਾਰ ਜਦੋਂ ਵਿਆਪਕ ਸਿਸਟਮ ਸ਼ਾਮਲ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਜਵਾਬ ਵਧੇਰੇ ਯਥਾਰਥਵਾਦੀ ਹੋ ਜਾਂਦਾ ਹੈ ਅਤੇ ਆਮ ਤੌਰ 'ਤੇ ਸਿਰਫ਼ ਚਿੱਪ-ਅਨੁਮਾਨਾਂ ਤੋਂ ਵੱਡਾ ਹੁੰਦਾ ਹੈ। ਡੇਟਾ ਸੈਂਟਰਾਂ ਨੂੰ ਸਿਰਫ਼ ਗਣਨਾ ਲਈ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਕੂਲਿੰਗ, ਨੈੱਟਵਰਕਿੰਗ, ਸਟੋਰੇਜ ਅਤੇ ਵਾਧੂ ਸਮਰੱਥਾ ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਲਈ ਵੀ ਸ਼ਕਤੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇਸੇ ਕਰਕੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਡਿਜ਼ਾਈਨ ਅਤੇ ਸਹੂਲਤ ਦੀ ਕੁਸ਼ਲਤਾ ਲਗਭਗ ਮਾਡਲ ਡਿਜ਼ਾਈਨ ਜਿੰਨੀ ਹੀ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ।.

ਅਸਲ ਵਰਕਫਲੋ ਵਿੱਚ AI ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਨੂੰ ਮਾਪਣ ਦਾ ਸਭ ਤੋਂ ਵਿਹਾਰਕ ਤਰੀਕਾ ਕੀ ਹੈ?

ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕਾ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਕੌਣ ਮਾਪ ਰਿਹਾ ਹੈ ਅਤੇ ਕਿਸ ਉਦੇਸ਼ ਲਈ। ਇੱਕ ਮੋਟਾ ਨਿਯਮ ਤੇਜ਼ ਤੁਲਨਾਵਾਂ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਵਾਟ ਮੀਟਰ, GPU ਟੈਲੀਮੈਟਰੀ, ਕਲਾਉਡ ਬਿਲਿੰਗ ਲੌਗ, ਅਤੇ ਡੇਟਾ ਸੈਂਟਰ ਰਿਪੋਰਟਿੰਗ ਹੌਲੀ-ਹੌਲੀ ਮਜ਼ਬੂਤ ​​ਸੰਚਾਲਨ ਸੂਝ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਗੰਭੀਰ ਸਥਿਰਤਾ ਕਾਰਜ ਲਈ, ਇੱਕ ਪੂਰਾ ਜੀਵਨ ਚੱਕਰ ਦ੍ਰਿਸ਼ ਹੋਰ ਵੀ ਮਜ਼ਬੂਤ ​​ਹੁੰਦਾ ਹੈ, ਹਾਲਾਂਕਿ ਇਹ ਹੌਲੀ ਅਤੇ ਵਧੇਰੇ ਮੰਗ ਵਾਲਾ ਹੁੰਦਾ ਹੈ।.

ਟੀਮਾਂ ਉਪਯੋਗੀ AI ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਛੱਡੇ ਬਿਨਾਂ AI ਊਰਜਾ ਦੀ ਵਰਤੋਂ ਨੂੰ ਕਿਵੇਂ ਘਟਾ ਸਕਦੀਆਂ ਹਨ?

ਸਭ ਤੋਂ ਵੱਡੇ ਲਾਭ ਆਮ ਤੌਰ 'ਤੇ ਸਭ ਤੋਂ ਛੋਟੇ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਨ ਤੋਂ ਆਉਂਦੇ ਹਨ ਜੋ ਅਜੇ ਵੀ ਕੰਮ ਕਰਦਾ ਹੈ, ਪ੍ਰੋਂਪਟ ਅਤੇ ਆਉਟਪੁੱਟ ਨੂੰ ਛੋਟਾ ਕਰਨਾ, ਵਾਰ-ਵਾਰ ਨਤੀਜਿਆਂ ਨੂੰ ਕੈਸ਼ ਕਰਨਾ, ਕੰਮ ਨੂੰ ਬੈਚ ਕਰਨਾ, ਅਤੇ ਸਿਰਫ਼ ਔਖੇ ਕੰਮਾਂ ਨੂੰ ਵੱਡੇ ਮਾਡਲਾਂ ਵਿੱਚ ਭੇਜਣਾ। ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਅਨੁਕੂਲਨ ਵੀ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਸਮਾਂ-ਸਾਰਣੀ ਅਤੇ ਹਾਰਡਵੇਅਰ ਕੁਸ਼ਲਤਾ। ਬਹੁਤ ਸਾਰੀਆਂ ਪਾਈਪਲਾਈਨਾਂ ਵਿੱਚ, ਪਹਿਲਾਂ ਮਾਪਣ ਨਾਲ ਟੀਮਾਂ ਨੂੰ ਗਲਤ ਚੀਜ਼ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣ ਤੋਂ ਰੋਕਣ ਵਿੱਚ ਮਦਦ ਮਿਲਦੀ ਹੈ।.

ਹਵਾਲੇ

  1. ਅੰਤਰਰਾਸ਼ਟਰੀ ਊਰਜਾ ਏਜੰਸੀ (IEA) - AI ਤੋਂ ਊਰਜਾ ਦੀ ਮੰਗ - iea.org

  2. ਅਮਰੀਕੀ ਊਰਜਾ ਵਿਭਾਗ (DOE) - DOE ਨੇ ਬਿਜਲੀ ਦੀ ਮੰਗ ਵਿੱਚ ਵਾਧੇ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲੀ ਨਵੀਂ ਰਿਪੋਰਟ ਜਾਰੀ ਕੀਤੀ ਡਾਟਾ ਸੈਂਟਰ - energy.gov

  3. ਗੂਗਲ ਕਲਾਉਡ - ਏਆਈ ਅਨੁਮਾਨ ਦੇ ਵਾਤਾਵਰਣ ਪ੍ਰਭਾਵ ਨੂੰ ਮਾਪਣਾ - cloud.google.com

  4. ਗੂਗਲ ਰਿਸਰਚ - ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਸਿਖਲਾਈ ਦੇ ਕਾਰਬਨ ਫੁੱਟਪ੍ਰਿੰਟ ਬਾਰੇ ਚੰਗੀ ਖ਼ਬਰ - research.google

  5. ਗੂਗਲ ਰਿਸਰਚ - ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਸਿਖਲਾਈ ਦਾ ਕਾਰਬਨ ਫੁੱਟਪ੍ਰਿੰਟ ਪੱਧਰ 'ਤੇ ਆਵੇਗਾ ਅਤੇ ਫਿਰ ਘਟੇਗਾ - research.google

  6. arXiv - ਹਰਾ AI - arxiv.org

  7. arXiv - Strubell et al. - arxiv.org

  8. arXiv - LLM ਊਰਜਾ ਵਰਤੋਂ ਵਿੱਚ ਕੁਆਂਟਾਇਜ਼ੇਸ਼ਨ, ਬੈਚਿੰਗ, ਅਤੇ ਸਰਵਿੰਗ ਰਣਨੀਤੀਆਂ - arxiv.org

ਅਧਿਕਾਰਤ AI ਸਹਾਇਕ ਸਟੋਰ 'ਤੇ ਨਵੀਨਤਮ AI ਲੱਭੋ

ਸਾਡੇ ਬਾਰੇ

ਬਲੌਗ ਤੇ ਵਾਪਸ ਜਾਓ