ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਕੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ?

ਸੰਖੇਪ ਜਵਾਬ: ਜਨਰੇਟਿਵ AI ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰ ਪੂਰੇ ਸਿਸਟਮ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹਨ, ਨਾ ਕਿ ਸਿਰਫ਼ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਲਈ। ਜਦੋਂ AI ਫੈਸਲਿਆਂ, ਕੋਡ, ਗੋਪਨੀਯਤਾ, ਜਾਂ ਉਪਭੋਗਤਾ ਵਿਸ਼ਵਾਸ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ, ਤਾਂ ਉਹਨਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਚੋਣ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਨਤੀਜਿਆਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਡੇਟਾ ਦੀ ਰੱਖਿਆ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਨੁਕਸਾਨ ਘਟਾਉਣਾ ਚਾਹੀਦਾ ਹੈ, ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਲੋਕ ਸਮੀਖਿਆ ਕਰ ਸਕਣ, ਓਵਰਰਾਈਡ ਕਰ ਸਕਣ ਅਤੇ ਗਲਤੀਆਂ ਨੂੰ ਠੀਕ ਕਰ ਸਕਣ।

ਮੁੱਖ ਗੱਲਾਂ:

ਤਸਦੀਕ : ਪਾਲਿਸ਼ ਕੀਤੇ ਆਉਟਪੁੱਟ ਨੂੰ ਉਦੋਂ ਤੱਕ ਅਵਿਸ਼ਵਾਸਯੋਗ ਮੰਨੋ ਜਦੋਂ ਤੱਕ ਸਰੋਤ, ਟੈਸਟ, ਜਾਂ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਉਹਨਾਂ ਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕਰਦੇ।

ਡਾਟਾ ਸੁਰੱਖਿਆ : ਪ੍ਰੋਂਪਟ ਡੇਟਾ ਨੂੰ ਘੱਟ ਤੋਂ ਘੱਟ ਕਰੋ, ਪਛਾਣਕਰਤਾਵਾਂ ਨੂੰ ਹਟਾਓ, ਅਤੇ ਲੌਗਸ, ਪਹੁੰਚ ਨਿਯੰਤਰਣ ਅਤੇ ਵਿਕਰੇਤਾਵਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰੋ।

ਨਿਰਪੱਖਤਾ : ਰੂੜ੍ਹੀਵਾਦੀ ਧਾਰਨਾਵਾਂ ਅਤੇ ਅਸਮਾਨ ਅਸਫਲਤਾ ਪੈਟਰਨਾਂ ਨੂੰ ਫੜਨ ਲਈ ਜਨਸੰਖਿਆ ਅਤੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਜਾਂਚ ਕਰੋ।

ਪਾਰਦਰਸ਼ਤਾ : AI ਵਰਤੋਂ ਨੂੰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਲੇਬਲ ਕਰੋ, ਇਸ ਦੀਆਂ ਸੀਮਾਵਾਂ ਦੀ ਵਿਆਖਿਆ ਕਰੋ, ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਜਾਂ ਅਪੀਲ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰੋ।

ਜਵਾਬਦੇਹੀ : ਲਾਂਚ ਤੋਂ ਪਹਿਲਾਂ ਤੈਨਾਤੀ, ਘਟਨਾਵਾਂ, ਨਿਗਰਾਨੀ ਅਤੇ ਰੋਲਬੈਕ ਲਈ ਸਪੱਸ਼ਟ ਮਾਲਕਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰੋ।

ਇਸ ਤੋਂ ਬਾਅਦ ਤੁਸੀਂ ਜੋ ਲੇਖ ਪੜ੍ਹਨਾ ਪਸੰਦ ਕਰ ਸਕਦੇ ਹੋ:

🔗 ਸਾਫਟਵੇਅਰ ਡਿਵੈਲਪਰਾਂ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ AI ਟੂਲ: ਚੋਟੀ ਦੇ AI-ਸੰਚਾਲਿਤ ਕੋਡਿੰਗ ਸਹਾਇਕ
ਤੇਜ਼, ਸਾਫ਼ ਵਿਕਾਸ ਵਰਕਫਲੋ ਲਈ ਚੋਟੀ ਦੇ AI ਕੋਡਿੰਗ ਸਹਾਇਕਾਂ ਦੀ ਤੁਲਨਾ ਕਰੋ।.

🔗 ਡਿਵੈਲਪਰਾਂ ਲਈ ਉਤਪਾਦਕਤਾ ਵਧਾਉਣ ਲਈ ਸਿਖਰਲੇ 10 AI ਟੂਲ
ਸਮਾਰਟ ਕੋਡਿੰਗ ਅਤੇ ਸਪੀਡ ਲਈ ਡਿਵੈਲਪਰ AI ਟੂਲਸ ਦੀ ਦਰਜਾਬੰਦੀ ਵਾਲੀ ਸੂਚੀ।.

🔗 ਏਆਈ ਸਮਾਜ ਅਤੇ ਵਿਸ਼ਵਾਸ ਲਈ ਮਾੜਾ ਕਿਉਂ ਹੋ ਸਕਦਾ ਹੈ
ਅਸਲ-ਸੰਸਾਰ ਦੇ ਨੁਕਸਾਨਾਂ ਬਾਰੇ ਦੱਸਦਾ ਹੈ: ਪੱਖਪਾਤ, ਗੋਪਨੀਯਤਾ, ਨੌਕਰੀਆਂ, ਅਤੇ ਗਲਤ ਜਾਣਕਾਰੀ ਦੇ ਜੋਖਮ।.

🔗 ਕੀ ਏਆਈ ਉੱਚ-ਦਾਅ ਵਾਲੇ ਫੈਸਲਿਆਂ ਵਿੱਚ ਬਹੁਤ ਅੱਗੇ ਵਧ ਗਿਆ ਹੈ?
ਇਹ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ ਕਿ ਕਦੋਂ AI ਸੀਮਾਵਾਂ ਪਾਰ ਕਰਦਾ ਹੈ: ਨਿਗਰਾਨੀ, ਡੀਪ ਫੇਕ, ਪ੍ਰੇਰਣਾ, ਕੋਈ ਸਹਿਮਤੀ ਨਹੀਂ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਲੋਕਾਂ ਦੇ ਸੋਚਣ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦੀ ਹੈ

ਬਹੁਤ ਸਾਰੇ ਸਾਫਟਵੇਅਰ ਬੱਗ ਪਰੇਸ਼ਾਨ ਕਰਦੇ ਹਨ। ਇੱਕ ਬਟਨ ਟੁੱਟ ਜਾਂਦਾ ਹੈ। ਇੱਕ ਪੰਨਾ ਹੌਲੀ-ਹੌਲੀ ਲੋਡ ਹੁੰਦਾ ਹੈ। ਕੁਝ ਕਰੈਸ਼ ਹੁੰਦਾ ਹੈ ਅਤੇ ਹਰ ਕੋਈ ਕੁਰਲਾਉਂਦਾ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਸਮੱਸਿਆਵਾਂ ਵੱਖ-ਵੱਖ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਉਹ ਸੂਖਮ ਹੋ ਸਕਦੀਆਂ ਹਨ।.

ਇੱਕ ਮਾਡਲ ਗਲਤ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਆਤਮਵਿਸ਼ਵਾਸੀ ਲੱਗ ਸਕਦਾ ਹੈ। NIST GenAI ਪ੍ਰੋਫਾਈਲ ਇਹ ਸਪੱਸ਼ਟ ਚੇਤਾਵਨੀ ਸੰਕੇਤਾਂ ਤੋਂ ਬਿਨਾਂ ਪੱਖਪਾਤ ਨੂੰ ਦੁਬਾਰਾ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। NIST GenAI ਪ੍ਰੋਫਾਈਲ ਇਹ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਨੂੰ ਬੇਨਕਾਬ ਕਰ ਸਕਦਾ ਹੈ ਜੇਕਰ ਲਾਪਰਵਾਹੀ ਨਾਲ ਵਰਤਿਆ ਜਾਵੇ। LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10 ICO ਦੇ ਜਨਰੇਟਿਵ AI ਲਈ ਅੱਠ ਸਵਾਲ ਇਹ ਅਜਿਹਾ ਕੋਡ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਕੰਮ ਕਰਦਾ ਹੈ - ਜਦੋਂ ਤੱਕ ਇਹ ਕਿਸੇ ਡੂੰਘੇ ਸ਼ਰਮਨਾਕ ਤਰੀਕੇ ਨਾਲ ਉਤਪਾਦਨ ਵਿੱਚ ਅਸਫਲ ਨਹੀਂ ਹੁੰਦਾ। LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10 ਇੱਕ ਬਹੁਤ ਹੀ ਉਤਸ਼ਾਹੀ ਇੰਟਰਨ ਨੂੰ ਨੌਕਰੀ 'ਤੇ ਰੱਖਣ ਵਰਗਾ ਹੈ ਜੋ ਕਦੇ ਨਹੀਂ ਸੌਂਦਾ ਅਤੇ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਸ਼ਾਨਦਾਰ ਆਤਮਵਿਸ਼ਵਾਸ ਨਾਲ ਤੱਥਾਂ ਦੀ ਖੋਜ ਕਰਦਾ ਹੈ।

ਇਸੇ ਲਈ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਸਧਾਰਨ ਲਾਗੂਕਰਨ ਨਾਲੋਂ ਵੱਡੀ ਹੈ। ਡਿਵੈਲਪਰ ਹੁਣ ਸਿਰਫ਼ ਤਰਕ ਪ੍ਰਣਾਲੀਆਂ ਨਹੀਂ ਬਣਾ ਰਹੇ ਹਨ। ਉਹ ਧੁੰਦਲੇ ਕਿਨਾਰਿਆਂ, ਅਣਪਛਾਤੇ ਆਉਟਪੁੱਟ ਅਤੇ ਅਸਲ ਸਮਾਜਿਕ ਨਤੀਜਿਆਂ ਵਾਲੇ ਸੰਭਾਵੀ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਨਿਰਮਾਣ ਕਰ ਰਹੇ ਹਨ। ਐਨਆਈਐਸਟੀ ਏਆਈ ਆਰਐਮਐਫ

ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:

• ਮਾਡਲ NIST AI RMF

• ਉਪਭੋਗਤਾ ਦੀ ਗੋਪਨੀਯਤਾ ਦੀ ਰੱਖਿਆ ਕਰਨਾ AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ 'ਤੇ ICO ਮਾਰਗਦਰਸ਼ਨ

• ਨੁਕਸਾਨਦੇਹ ਆਉਟਪੁੱਟ ਘਟਾਉਣਾ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਭਰੋਸਾ ਦਿੱਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਸ਼ੁੱਧਤਾ ਦੀ ਜਾਂਚ ਕਰਨਾ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਮਨੁੱਖੀ ਭੂਮਿਕਾ ਨੂੰ ਸਪੱਸ਼ਟ ਕਰਨਾ OECD AI ਸਿਧਾਂਤ

• ਜਦੋਂ AI ਅਸਫਲ ਹੁੰਦਾ ਹੈ ਤਾਂ ਫਾਲਬੈਕ ਮਾਰਗ ਡਿਜ਼ਾਈਨ ਕਰਨਾ OECD AI ਸਿਧਾਂਤ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

• ਸਿਸਟਮ ਨੂੰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਦਸਤਾਵੇਜ਼ੀਕਰਨ OECD AI ਸਿਧਾਂਤ

ਤੁਸੀਂ ਜਾਣਦੇ ਹੋ ਇਹ ਕਿਵੇਂ ਹੁੰਦਾ ਹੈ - ਜਦੋਂ ਕੋਈ ਔਜ਼ਾਰ ਜਾਦੂਈ ਲੱਗਦਾ ਹੈ, ਲੋਕ ਇਸ 'ਤੇ ਸਵਾਲ ਕਰਨਾ ਬੰਦ ਕਰ ਦਿੰਦੇ ਹਨ। ਡਿਵੈਲਪਰ ਇੰਨਾ ਆਰਾਮਦਾਇਕ ਨਹੀਂ ਹੋ ਸਕਦੇ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਇੱਕ ਚੰਗਾ ਰੂਪ ਕੀ ਹੈ? 🛠️

ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਇੱਕ ਚੰਗਾ ਰੂਪ ਪ੍ਰਦਰਸ਼ਨਕਾਰੀ ਨਹੀਂ ਹੁੰਦਾ। ਇਹ ਸਿਰਫ਼ ਹੇਠਾਂ ਇੱਕ ਬੇਦਾਅਵਾ ਜੋੜਨਾ ਅਤੇ ਇਸਨੂੰ ਨੈਤਿਕਤਾ ਕਹਿਣਾ ਨਹੀਂ ਹੈ। ਇਹ ਡਿਜ਼ਾਈਨ ਚੋਣਾਂ, ਟੈਸਟਿੰਗ ਆਦਤਾਂ ਅਤੇ ਉਤਪਾਦ ਵਿਵਹਾਰ ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਇੱਕ ਮਜ਼ਬੂਤ ​​ਰੂਪ ਆਮ ਤੌਰ 'ਤੇ ਇਸ ਤਰ੍ਹਾਂ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ:

• ਜਾਣਬੁੱਝ ਕੇ ਵਰਤੋਂ NIST AI RMF

  • ਏਆਈ ਦੀ ਵਰਤੋਂ ਇੱਕ ਅਸਲ ਸਮੱਸਿਆ ਲਈ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ, ਨਾ ਕਿ ਉਤਪਾਦ ਵਿੱਚ ਇਸ ਲਈ ਧੱਕੀ ਗਈ ਕਿਉਂਕਿ ਇਹ ਫੈਸ਼ਨੇਬਲ ਲੱਗਦਾ ਹੈ।.

• ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ OECD AI ਸਿਧਾਂਤ

  • ਲੋਕ ਆਉਟਪੁੱਟ ਦੀ ਸਮੀਖਿਆ ਕਰ ਸਕਦੇ ਹਨ, ਸਹੀ ਕਰ ਸਕਦੇ ਹਨ, ਓਵਰਰਾਈਡ ਕਰ ਸਕਦੇ ਹਨ ਜਾਂ ਅਸਵੀਕਾਰ ਕਰ ਸਕਦੇ ਹਨ।.

• ਡਿਜ਼ਾਈਨ ਦੁਆਰਾ ਸੁਰੱਖਿਆ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

  • ਜੋਖਮ ਨਿਯੰਤਰਣ ਜਲਦੀ ਹੀ ਬਣਾਏ ਜਾਂਦੇ ਹਨ, ਬਾਅਦ ਵਿੱਚ ਡਕਟ-ਟੇਪ ਨਹੀਂ ਕੀਤੇ ਜਾਂਦੇ।.

• ਪਾਰਦਰਸ਼ਤਾ OECD AI ਸਿਧਾਂਤ ਯੂਰਪੀਅਨ ਕਮਿਸ਼ਨ AI ਐਕਟ ਸੰਖੇਪ ਜਾਣਕਾਰੀ

  • ਉਪਭੋਗਤਾ ਸਮਝਦੇ ਹਨ ਕਿ ਸਮੱਗਰੀ ਕਦੋਂ AI- ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜਾਂ AI- ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਹੁੰਦੀ ਹੈ।.

• ਡੇਟਾ ਕੇਅਰ ICO ਦੇ ਅੱਠ ਸਵਾਲ

  • ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਨੂੰ ਧਿਆਨ ਨਾਲ ਸੰਭਾਲਿਆ ਜਾਂਦਾ ਹੈ, ਅਤੇ ਪਹੁੰਚ ਸੀਮਤ ਹੁੰਦੀ ਹੈ।.

• ਨਿਰਪੱਖਤਾ ਜਾਂਚ NIST GenAI ਪ੍ਰੋਫਾਈਲ ICO AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ ਬਾਰੇ ਮਾਰਗਦਰਸ਼ਨ

  • ਸਿਸਟਮ ਦੀ ਪੱਖਪਾਤ, ਅਸਮਾਨ ਪ੍ਰਦਰਸ਼ਨ, ਅਤੇ ਨੁਕਸਾਨਦੇਹ ਪੈਟਰਨਾਂ ਲਈ ਜਾਂਚ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।.

• ਚੱਲ ਰਹੀ ਨਿਗਰਾਨੀ NIST AI RMF NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

  • ਲਾਂਚ ਅੰਤਿਮ ਰੇਖਾ ਨਹੀਂ ਹੈ। ਇਹ ਸ਼ੁਰੂਆਤੀ ਸੀਟੀ ਵਾਂਗ ਹੈ।.

ਜੇ ਇਹ ਬਹੁਤ ਕੁਝ ਲੱਗਦਾ ਹੈ, ਤਾਂ ਠੀਕ ਹੈ... ਇਹ ਹੈ। ਪਰ ਇਹ ਉਹ ਸੌਦਾ ਹੈ ਜਦੋਂ ਤੁਸੀਂ ਤਕਨਾਲੋਜੀ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹੋ ਜੋ ਫੈਸਲਿਆਂ, ਵਿਸ਼ਵਾਸਾਂ ਅਤੇ ਵਿਵਹਾਰ ਨੂੰ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀ ਹੈ। OECD AI ਸਿਧਾਂਤ

ਤੁਲਨਾ ਸਾਰਣੀ - ਇੱਕ ਨਜ਼ਰ ਵਿੱਚ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਮੁੱਖ ਜ਼ਿੰਮੇਵਾਰੀ 📋

ਜ਼ਿੰਮੇਵਾਰੀ ਖੇਤਰ	ਇਹ ਕਿਸਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ	ਰੋਜ਼ਾਨਾ ਡਿਵੈਲਪਰ ਅਭਿਆਸ	ਇਹ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ
ਸ਼ੁੱਧਤਾ ਅਤੇ ਤਸਦੀਕ	ਵਰਤੋਂਕਾਰ, ਟੀਮਾਂ, ਗਾਹਕ	ਆਉਟਪੁੱਟ ਦੀ ਸਮੀਖਿਆ ਕਰੋ, ਪ੍ਰਮਾਣਿਕਤਾ ਪਰਤਾਂ ਜੋੜੋ, ਟੈਸਟ ਐਜ ਕੇਸ	ਏਆਈ ਪ੍ਰਵਾਹਿਤ ਹੋ ਸਕਦਾ ਹੈ ਅਤੇ ਫਿਰ ਵੀ ਬਹੁਤ ਗਲਤ ਹੋ ਸਕਦਾ ਹੈ - ਜੋ ਕਿ ਇੱਕ ਮੋਟਾ ਸੁਮੇਲ ਹੈ NIST GenAI ਪ੍ਰੋਫਾਈਲ
ਗੋਪਨੀਯਤਾ ਸੁਰੱਖਿਆ	ਉਪਭੋਗਤਾ, ਗਾਹਕ, ਅੰਦਰੂਨੀ ਸਟਾਫ	ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਵਰਤੋਂ ਨੂੰ ਘੱਟ ਤੋਂ ਘੱਟ ਕਰੋ, ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਸਾਫ਼ ਕਰੋ, ਲੌਗਾਂ ਨੂੰ ਕੰਟਰੋਲ ਕਰੋ	ਇੱਕ ਵਾਰ ਨਿੱਜੀ ਡਾਟਾ ਲੀਕ ਹੋਣ ਤੋਂ ਬਾਅਦ, ਟੁੱਥਪੇਸਟ ਟਿਊਬ ਤੋਂ ਬਾਹਰ ਹੋ ਜਾਂਦਾ ਹੈ 😬 ਜਨਰੇਟਿਵ AI OWASP ਲਈ ICO ਦੇ ਅੱਠ ਸਵਾਲ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10
ਪੱਖਪਾਤ ਅਤੇ ਨਿਰਪੱਖਤਾ	ਘੱਟ ਪ੍ਰਤੀਨਿਧਤਾ ਵਾਲੇ ਸਮੂਹ, ਸਾਰੇ ਉਪਭੋਗਤਾ ਅਸਲ ਵਿੱਚ	ਆਡਿਟ ਆਉਟਪੁੱਟ, ਵਿਭਿੰਨ ਇਨਪੁਟਸ ਦੀ ਜਾਂਚ ਕਰੋ, ਸੁਰੱਖਿਆ ਉਪਾਅ ਟਿਊਨ ਕਰੋ	ਨੁਕਸਾਨ ਹਮੇਸ਼ਾ ਉੱਚਾ ਨਹੀਂ ਹੁੰਦਾ - ਕਈ ਵਾਰ ਇਹ ਯੋਜਨਾਬੱਧ ਅਤੇ ਸ਼ਾਂਤ ਹੁੰਦਾ ਹੈ NIST GenAI ਪ੍ਰੋਫਾਈਲ AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ 'ਤੇ ICO ਮਾਰਗਦਰਸ਼ਨ
ਸੁਰੱਖਿਆ	ਕੰਪਨੀ ਸਿਸਟਮ, ਉਪਭੋਗਤਾ	ਮਾਡਲ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰੋ, ਤੁਰੰਤ ਟੀਕੇ, ਸੈਂਡਬੌਕਸ ਜੋਖਮ ਭਰੀਆਂ ਕਾਰਵਾਈਆਂ ਤੋਂ ਬਚਾਓ	ਇੱਕ ਚਲਾਕ ਕਾਰਨਾਮਾ ਵਿਸ਼ਵਾਸ ਨੂੰ ਜਲਦੀ ਤੋੜ ਸਕਦਾ ਹੈ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10 AI ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ 'ਤੇ NCSC
ਪਾਰਦਰਸ਼ਤਾ	ਅੰਤਮ ਉਪਭੋਗਤਾ, ਰੈਗੂਲੇਟਰ, ਸਹਾਇਤਾ ਟੀਮਾਂ	AI ਵਿਵਹਾਰ ਨੂੰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਲੇਬਲ ਕਰੋ, ਸੀਮਾਵਾਂ ਸਮਝਾਓ, ਦਸਤਾਵੇਜ਼ ਵਰਤੋਂ	ਲੋਕਾਂ ਨੂੰ ਇਹ ਜਾਣਨ ਦਾ ਹੱਕ ਹੈ ਕਿ ਮਸ਼ੀਨ ਕਦੋਂ OECD AI ਦੀ , AI-ਤਿਆਰ ਕੀਤੀ ਸਮੱਗਰੀ ਦੀ ਮਾਰਕਿੰਗ ਅਤੇ ਲੇਬਲਿੰਗ 'ਤੇ ਸਿਧਾਂਤਾਂ ਦੇ ਅਭਿਆਸ ਕੋਡ
ਜਵਾਬਦੇਹੀ	ਉਤਪਾਦ ਮਾਲਕ, ਕਾਨੂੰਨੀ, ਵਿਕਾਸ ਟੀਮਾਂ	ਮਾਲਕੀ, ਘਟਨਾ ਪ੍ਰਬੰਧਨ, ਵਾਧਾ ਮਾਰਗਾਂ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ	"ਏਆਈ ਨੇ ਇਹ ਕੀਤਾ" ਇਹ ਕੋਈ ਵੱਡੇ ਹੋ ਕੇ ਕੀਤਾ ਗਿਆ ਜਵਾਬ ਨਹੀਂ ਹੈ OECD AI ਸਿਧਾਂਤ
ਭਰੋਸੇਯੋਗਤਾ	ਉਤਪਾਦ ਨੂੰ ਛੂਹਣ ਵਾਲਾ ਹਰ ਕੋਈ	ਅਸਫਲਤਾਵਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰੋ, ਵਿਸ਼ਵਾਸ ਸੀਮਾਵਾਂ ਸੈੱਟ ਕਰੋ, ਫਾਲਬੈਕ ਤਰਕ ਬਣਾਓ	ਮਾਡਲ ਭਟਕਦੇ ਹਨ, ਅਚਾਨਕ ਤਰੀਕਿਆਂ ਨਾਲ ਅਸਫਲ ਹੋ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਸਮੇਂ-ਸਮੇਂ 'ਤੇ ਇੱਕ ਨਾਟਕੀ ਛੋਟਾ ਐਪੀਸੋਡ ਹੁੰਦਾ ਹੈ NIST AI RMF NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼
ਉਪਭੋਗਤਾ ਤੰਦਰੁਸਤੀ	ਕਮਜ਼ੋਰ ਉਪਭੋਗਤਾ ਖਾਸ ਕਰਕੇ	ਹੇਰਾਫੇਰੀ ਵਾਲੇ ਡਿਜ਼ਾਈਨ ਤੋਂ ਬਚੋ, ਨੁਕਸਾਨਦੇਹ ਆਉਟਪੁੱਟ ਨੂੰ ਸੀਮਤ ਕਰੋ, ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਵਰਤੋਂ ਦੇ ਮਾਮਲਿਆਂ ਦੀ ਸਮੀਖਿਆ ਕਰੋ।	ਸਿਰਫ਼ ਇਸ ਲਈ ਕਿ ਕੁਝ ਤਿਆਰ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਇਸਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਕਿ ਇਹ OECD AI ਸਿਧਾਂਤ NIST AI RMF

ਥੋੜ੍ਹਾ ਜਿਹਾ ਅਸਮਾਨ ਮੇਜ਼, ਜ਼ਰੂਰ, ਪਰ ਇਹ ਵਿਸ਼ੇ ਦੇ ਅਨੁਕੂਲ ਹੈ। ਅਸਲ ਜ਼ਿੰਮੇਵਾਰੀ ਵੀ ਅਸਮਾਨ ਹੈ।.

ਜ਼ਿੰਮੇਵਾਰੀ ਪਹਿਲੇ ਪ੍ਰੋਂਪਟ ਤੋਂ ਪਹਿਲਾਂ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ - ਸਹੀ ਵਰਤੋਂ ਦੇ ਮਾਮਲੇ ਦੀ ਚੋਣ ਕਰਨਾ 🎯

ਡਿਵੈਲਪਰਾਂ ਦੀ ਸਭ ਤੋਂ ਵੱਡੀ ਜ਼ਿੰਮੇਵਾਰੀ ਇਹ ਫੈਸਲਾ ਕਰਨਾ ਹੈ ਕਿ ਕੀ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਬਿਲਕੁਲ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ । NIST AI RMF

ਇਹ ਸਪੱਸ਼ਟ ਜਾਪਦਾ ਹੈ, ਪਰ ਇਹ ਹਰ ਸਮੇਂ ਛੱਡਿਆ ਜਾਂਦਾ ਹੈ। ਟੀਮਾਂ ਇੱਕ ਮਾਡਲ ਦੇਖਦੀਆਂ ਹਨ, ਉਤਸ਼ਾਹਿਤ ਹੁੰਦੀਆਂ ਹਨ, ਅਤੇ ਇਸਨੂੰ ਵਰਕਫਲੋ ਵਿੱਚ ਮਜਬੂਰ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੰਦੀਆਂ ਹਨ ਜਿਸਨੂੰ ਨਿਯਮਾਂ, ਖੋਜ, ਜਾਂ ਆਮ ਸੌਫਟਵੇਅਰ ਤਰਕ ਦੁਆਰਾ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਸੰਭਾਲਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਹਰ ਸਮੱਸਿਆ ਨੂੰ ਭਾਸ਼ਾ ਮਾਡਲ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ। ਕੁਝ ਸਮੱਸਿਆਵਾਂ ਲਈ ਇੱਕ ਡੇਟਾਬੇਸ ਅਤੇ ਇੱਕ ਸ਼ਾਂਤ ਦੁਪਹਿਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।.

ਉਸਾਰੀ ਤੋਂ ਪਹਿਲਾਂ, ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਹੈ:

• ਕੀ ਕੰਮ ਖੁੱਲ੍ਹਾ ਹੈ ਜਾਂ ਨਿਰਧਾਰਤ ਹੈ?

• ਕੀ ਗਲਤ ਆਉਟਪੁੱਟ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੀ ਹੈ?

• ਕੀ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਰਚਨਾਤਮਕਤਾ, ਭਵਿੱਖਬਾਣੀ, ਸੰਖੇਪ, ਆਟੋਮੇਸ਼ਨ ਦੀ ਲੋੜ ਹੈ - ਜਾਂ ਸਿਰਫ਼ ਗਤੀ?

• ਕੀ ਲੋਕ ਆਉਟਪੁੱਟ 'ਤੇ ਜ਼ਿਆਦਾ ਭਰੋਸਾ ਕਰਨਗੇ? NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਕੀ ਕੋਈ ਮਨੁੱਖ ਨਤੀਜਿਆਂ ਦੀ ਯਥਾਰਥਵਾਦੀ ਸਮੀਖਿਆ ਕਰ ਸਕਦਾ ਹੈ? OECD AI ਸਿਧਾਂਤ

• ਜਦੋਂ ਮਾਡਲ ਗਲਤ ਹੁੰਦਾ ਹੈ ਤਾਂ ਕੀ ਹੁੰਦਾ ਹੈ? OECD AI ਸਿਧਾਂਤ

ਇੱਕ ਜ਼ਿੰਮੇਵਾਰ ਡਿਵੈਲਪਰ ਸਿਰਫ਼ ਇਹ ਨਹੀਂ ਪੁੱਛਦਾ, "ਕੀ ਅਸੀਂ ਇਸਨੂੰ ਬਣਾ ਸਕਦੇ ਹਾਂ?" ਉਹ ਪੁੱਛਦੇ ਹਨ, "ਕੀ ਇਸਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਬਣਾਇਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ?" NIST AI RMF

ਇਹ ਸਵਾਲ ਆਪਣੇ ਆਪ ਵਿੱਚ ਬਹੁਤ ਸਾਰੀਆਂ ਚਮਕਦਾਰ ਬਕਵਾਸਾਂ ਨੂੰ ਰੋਕਦਾ ਹੈ।.

ਸ਼ੁੱਧਤਾ ਇੱਕ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ, ਬੋਨਸ ਵਿਸ਼ੇਸ਼ਤਾ ਨਹੀਂ ✅

ਆਓ ਸਪੱਸ਼ਟ ਹੋਈਏ - ਜਨਰੇਟਿਵ ਏਆਈ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਡੇ ਜਾਲਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਾਕਫੀਅਤ ਨੂੰ ਸੱਚਾਈ ਨਾਲ ਜੋੜਨਾ ਹੈ। ਮਾਡਲ ਅਕਸਰ ਅਜਿਹੇ ਜਵਾਬ ਪੈਦਾ ਕਰਦੇ ਹਨ ਜੋ ਪਾਲਿਸ਼ ਕੀਤੇ, ਢਾਂਚਾਗਤ ਅਤੇ ਡੂੰਘਾਈ ਨਾਲ ਯਕੀਨਨ ਲੱਗਦੇ ਹਨ। ਜੋ ਕਿ ਪਿਆਰਾ ਹੈ, ਜਦੋਂ ਤੱਕ ਸਮੱਗਰੀ ਭਰੋਸੇ ਵਿੱਚ ਲਪੇਟਿਆ ਹੋਇਆ ਬਕਵਾਸ ਨਹੀਂ ਹੁੰਦਾ। NIST GenAI ਪ੍ਰੋਫਾਈਲ

ਇਸ ਲਈ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿੱਚ ਤਸਦੀਕ ਲਈ ਬਿਲਡਿੰਗ ਸ਼ਾਮਲ ਹੈ।

ਇਸਦਾ ਮਤਲਬ ਹੈ:

• ਜਿੱਥੇ ਸੰਭਵ ਹੋਵੇ ਪ੍ਰਾਪਤੀ ਜਾਂ ਗਰਾਉਂਡਿੰਗ ਦੀ ਵਰਤੋਂ ਕਰਨਾ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਤਿਆਰ ਕੀਤੀ ਸਮੱਗਰੀ ਨੂੰ ਪੁਸ਼ਟੀ ਕੀਤੇ ਤੱਥਾਂ ਤੋਂ ਵੱਖ ਕਰਨਾ OECD AI ਸਿਧਾਂਤ

• ਭਰੋਸੇ ਦੀਆਂ ਹੱਦਾਂ ਨੂੰ ਧਿਆਨ ਨਾਲ ਜੋੜਨਾ NIST AI RMF

• ਉੱਚ-ਹਿੱਸੇਦਾਰ ਆਉਟਪੁੱਟ ਲਈ ਸਮੀਖਿਆ ਵਰਕਫਲੋ ਬਣਾਉਣਾ OECD AI ਸਿਧਾਂਤ

• ਨਾਜ਼ੁਕ ਸੰਦਰਭਾਂ ਵਿੱਚ ਮਾਡਲ ਨੂੰ ਸੁਧਾਰ ਕਰਨ ਤੋਂ ਰੋਕਣਾ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਟੈਸਟਿੰਗ ਪ੍ਰੋਂਪਟ ਜੋ ਸਿਸਟਮ ਨੂੰ ਤੋੜਨ ਜਾਂ ਗੁੰਮਰਾਹ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਨ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

ਇਹ ਇਹਨਾਂ ਖੇਤਰਾਂ ਵਿੱਚ ਬਹੁਤ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ:

• ਸਿਹਤ ਸੰਭਾਲ

• ਵਿੱਤ

• ਕਾਨੂੰਨੀ ਵਰਕਫਲੋ

• ਸਿੱਖਿਆ

• ਗਾਹਕ ਸਹਾਇਤਾ

• ਐਂਟਰਪ੍ਰਾਈਜ਼ ਆਟੋਮੇਸ਼ਨ

• ਕੋਡ ਜਨਰੇਸ਼ਨ

ਉਦਾਹਰਨ ਲਈ, ਤਿਆਰ ਕੀਤਾ ਕੋਡ ਸੁਰੱਖਿਆ ਖਾਮੀਆਂ ਜਾਂ ਤਰਕ ਦੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਛੁਪਾਉਂਦੇ ਹੋਏ ਸਾਫ਼-ਸੁਥਰਾ ਦਿਖਾਈ ਦੇ ਸਕਦਾ ਹੈ। ਇੱਕ ਡਿਵੈਲਪਰ ਜੋ ਇਸਨੂੰ ਅੰਨ੍ਹੇਵਾਹ ਕਾਪੀ ਕਰਦਾ ਹੈ ਉਹ ਕੁਸ਼ਲ ਨਹੀਂ ਹੁੰਦਾ - ਉਹ ਸਿਰਫ਼ ਇੱਕ ਸੁੰਦਰ ਫਾਰਮੈਟ ਵਿੱਚ ਜੋਖਮ ਨੂੰ ਆਊਟਸੋਰਸ ਕਰ ਰਹੇ ਹੁੰਦੇ ਹਨ। OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10 AI ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ 'ਤੇ NCSC

ਮਾਡਲ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ। ਡਿਵੈਲਪਰ ਅਜੇ ਵੀ ਨਤੀਜੇ ਦਾ ਮਾਲਕ ਹੈ। OECD AI ਸਿਧਾਂਤ

ਗੋਪਨੀਯਤਾ ਅਤੇ ਡੇਟਾ ਪ੍ਰਬੰਧਨ ਗੈਰ-ਸਮਝੌਤਾਯੋਗ ਹਨ 🔐

ਇਹ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਚੀਜ਼ਾਂ ਜਲਦੀ ਗੰਭੀਰ ਹੋ ਜਾਂਦੀਆਂ ਹਨ। ਜਨਰੇਟਿਵ ਏਆਈ ਸਿਸਟਮ ਅਕਸਰ ਪ੍ਰੋਂਪਟ, ਲੌਗ, ਸੰਦਰਭ ਵਿੰਡੋਜ਼, ਮੈਮੋਰੀ ਲੇਅਰਾਂ, ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਤੀਜੀ-ਧਿਰ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਇਹ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਦੇ ਲੀਕ ਹੋਣ, ਬਣੇ ਰਹਿਣ, ਜਾਂ ਦੁਬਾਰਾ ਵਰਤੇ ਜਾਣ ਦੇ ਬਹੁਤ ਸਾਰੇ ਮੌਕੇ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜਿਸਦੀ ਉਪਭੋਗਤਾਵਾਂ ਨੇ ਕਦੇ ਉਮੀਦ ਨਹੀਂ ਕੀਤੀ ਸੀ। ਜਨਰੇਟਿਵ ਏਆਈ ਲਈ ICO ਦੇ ਅੱਠ ਸਵਾਲ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

ਡਿਵੈਲਪਰਾਂ ਦੀ ਇਹ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ ਕਿ ਉਹ ਇਹਨਾਂ ਦੀ ਰੱਖਿਆ ਕਰਨ:

• ਵਿਅਕਤੀਗਤ ਜਾਣਕਾਰੀ

• ਵਿੱਤੀ ਰਿਕਾਰਡ

• ਡਾਕਟਰੀ ਵੇਰਵੇ

• ਕੰਪਨੀ ਦਾ ਅੰਦਰੂਨੀ ਡਾਟਾ

• ਵਪਾਰਕ ਭੇਦ

• ਪ੍ਰਮਾਣੀਕਰਨ ਟੋਕਨ

• ਕਲਾਇੰਟ ਸੰਚਾਰ

ਜ਼ਿੰਮੇਵਾਰ ਅਭਿਆਸਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:

• ਜਨਰੇਟਿਵ AI ਲਈ ਮਾਡਲ ICO ਦੇ ਅੱਠ ਸਵਾਲਾਂ ਵਿੱਚ ਕਿਹੜਾ ਡੇਟਾ ਦਾਖਲ ਹੁੰਦਾ ਹੈ, ਇਸਨੂੰ ਘੱਟ ਤੋਂ ਘੱਟ ਕਰਨਾ

• ਪਛਾਣਕਰਤਾਵਾਂ ਨੂੰ ਮਾਸਕ ਕਰਨਾ ਜਾਂ ਹਟਾਉਣਾ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਲਾਗ ਧਾਰਨ ਨੂੰ ਸੀਮਤ ਕਰਨਾ AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ 'ਤੇ ICO ਮਾਰਗਦਰਸ਼ਨ

• ਇਹ ਨਿਯੰਤਰਿਤ ਕਰਨਾ ਕਿ ਪ੍ਰੋਂਪਟ ਅਤੇ ਆਉਟਪੁੱਟ ਕੌਣ ਐਕਸੈਸ ਕਰ ਸਕਦਾ ਹੈ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

• ਵਿਕਰੇਤਾ ਸੈਟਿੰਗਾਂ ਦੀ ਧਿਆਨ ਨਾਲ ਸਮੀਖਿਆ ਕਰਨਾ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

• ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਵਰਕਫਲੋ ਨੂੰ ਅਲੱਗ ਕਰਨਾ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

• ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਗੋਪਨੀਯਤਾ ਵਿਵਹਾਰ ਨੂੰ ਦ੍ਰਿਸ਼ਮਾਨ ਬਣਾਉਣਾ ਜਨਰੇਟਿਵ AI ਲਈ ICO ਦੇ ਅੱਠ ਸਵਾਲ

ਇਹ ਉਨ੍ਹਾਂ ਖੇਤਰਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ ਜਿੱਥੇ "ਅਸੀਂ ਇਸ ਬਾਰੇ ਸੋਚਣਾ ਭੁੱਲ ਗਏ" ਕੋਈ ਛੋਟੀ ਗਲਤੀ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਵਿਸ਼ਵਾਸ ਤੋੜਨ ਵਾਲੀ ਅਸਫਲਤਾ ਹੈ।.

ਅਤੇ ਵਿਸ਼ਵਾਸ, ਇੱਕ ਵਾਰ ਟੁੱਟ ਜਾਣ 'ਤੇ, ਡਿੱਗੇ ਹੋਏ ਸ਼ੀਸ਼ੇ ਵਾਂਗ ਫੈਲ ਜਾਂਦਾ ਹੈ। ਸ਼ਾਇਦ ਇਹ ਸਭ ਤੋਂ ਵਧੀਆ ਰੂਪਕ ਨਹੀਂ ਹੈ, ਪਰ ਤੁਸੀਂ ਸਮਝ ਜਾਂਦੇ ਹੋ।.

ਪੱਖਪਾਤ, ਨਿਰਪੱਖਤਾ, ਅਤੇ ਪ੍ਰਤੀਨਿਧਤਾ - ਸ਼ਾਂਤ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ⚖️

ਜਨਰੇਟਿਵ ਏਆਈ ਵਿੱਚ ਪੱਖਪਾਤ ਸ਼ਾਇਦ ਹੀ ਕਦੇ ਇੱਕ ਕਾਰਟੂਨ ਖਲਨਾਇਕ ਹੁੰਦਾ ਹੈ। ਇਹ ਆਮ ਤੌਰ 'ਤੇ ਇਸ ਤੋਂ ਵੱਧ ਤਿਲਕਣ ਵਾਲਾ ਹੁੰਦਾ ਹੈ। ਇੱਕ ਮਾਡਲ ਸਪੱਸ਼ਟ ਅਲਾਰਮ ਸ਼ੁਰੂ ਕੀਤੇ ਬਿਨਾਂ ਰੂੜ੍ਹੀਵਾਦੀ ਨੌਕਰੀ ਦੇ ਵਰਣਨ, ਅਸਮਾਨ ਸੰਜਮ ਫੈਸਲੇ, ਇਕਪਾਸੜ ਸਿਫ਼ਾਰਸ਼ਾਂ, ਜਾਂ ਸੱਭਿਆਚਾਰਕ ਤੌਰ 'ਤੇ ਤੰਗ ਧਾਰਨਾਵਾਂ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। NIST GenAI ਪ੍ਰੋਫਾਈਲ

ਇਸੇ ਲਈ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿੱਚ ਸਰਗਰਮ ਨਿਰਪੱਖਤਾ ਦਾ ਕੰਮ ਸ਼ਾਮਲ ਹੈ।

ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇਹ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ:

• ਵੱਖ-ਵੱਖ ਜਨਸੰਖਿਆ ਅਤੇ ਸੰਦਰਭਾਂ ਤੋਂ ਟੈਸਟ ਪ੍ਰੋਂਪਟ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਰੂੜ੍ਹੀਵਾਦੀ ਵਿਚਾਰਾਂ ਅਤੇ ਬੇਦਖਲੀ ਲਈ ਸਮੀਖਿਆ ਆਉਟਪੁੱਟ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਵਿਭਿੰਨ ਦ੍ਰਿਸ਼ਟੀਕੋਣਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰੋ NIST AI RMF

• ਅਸਮਾਨ ਅਸਫਲਤਾ ਪੈਟਰਨਾਂ ਲਈ ਵੇਖੋ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਇਹ ਮੰਨਣ ਤੋਂ ਬਚੋ ਕਿ ਇੱਕ ਭਾਸ਼ਾ ਸ਼ੈਲੀ ਜਾਂ ਸੱਭਿਆਚਾਰਕ ਆਦਰਸ਼ ਸਾਰਿਆਂ ਲਈ ਢੁਕਵਾਂ ਹੈ AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ 'ਤੇ ICO ਮਾਰਗਦਰਸ਼ਨ

• ਨੁਕਸਾਨਦੇਹ ਆਉਟਪੁੱਟ ਲਈ ਰਿਪੋਰਟਿੰਗ ਚੈਨਲ ਬਣਾਓ NIST AI RMF

ਇੱਕ ਸਿਸਟਮ ਸਮੁੱਚੇ ਤੌਰ 'ਤੇ ਵਧੀਆ ਕੰਮ ਕਰਦਾ ਦਿਖਾਈ ਦੇ ਸਕਦਾ ਹੈ ਜਦੋਂ ਕਿ ਕੁਝ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਲਗਾਤਾਰ ਦੂਜਿਆਂ ਨਾਲੋਂ ਮਾੜੀ ਸੇਵਾ ਦਿੰਦਾ ਹੈ। ਇਹ ਸਵੀਕਾਰਯੋਗ ਨਹੀਂ ਹੈ ਕਿਉਂਕਿ ਔਸਤ ਪ੍ਰਦਰਸ਼ਨ ਡੈਸ਼ਬੋਰਡ 'ਤੇ ਵਧੀਆ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ। AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ 'ਤੇ ICO ਮਾਰਗਦਰਸ਼ਨ NIST GenAI ਪ੍ਰੋਫਾਈਲ

ਅਤੇ ਹਾਂ, ਨਿਰਪੱਖਤਾ ਇੱਕ ਸਾਫ਼-ਸੁਥਰੀ ਚੈੱਕਲਿਸਟ ਨਾਲੋਂ ਔਖੀ ਹੈ। ਇਸ ਵਿੱਚ ਨਿਰਣਾ ਹੈ। ਸੰਦਰਭ। ਵਪਾਰ। ਬੇਅਰਾਮੀ ਦਾ ਇੱਕ ਮਾਪ ਵੀ। ਪਰ ਇਹ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਨਹੀਂ ਹਟਾਉਂਦਾ - ਇਹ ਇਸਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ। AI ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ 'ਤੇ ICO ਮਾਰਗਦਰਸ਼ਨ

ਸੁਰੱਖਿਆ ਹੁਣ ਇੱਕ ਹਿੱਸਾ ਤੁਰੰਤ ਡਿਜ਼ਾਈਨ ਹੈ, ਇੱਕ ਹਿੱਸਾ ਇੰਜੀਨੀਅਰਿੰਗ ਅਨੁਸ਼ਾਸਨ 🧱

ਜਨਰੇਟਿਵ ਏਆਈ ਸੁਰੱਖਿਆ ਆਪਣਾ ਇੱਕ ਅਨੋਖਾ ਜਾਨਵਰ ਹੈ। ਬੇਸ਼ੱਕ, ਰਵਾਇਤੀ ਐਪ ਸੁਰੱਖਿਆ ਅਜੇ ਵੀ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ, ਪਰ ਏਆਈ ਸਿਸਟਮ ਅਸਾਧਾਰਨ ਹਮਲੇ ਦੀਆਂ ਸਤਹਾਂ ਜੋੜਦੇ ਹਨ: ਤੁਰੰਤ ਟੀਕਾਕਰਨ, ਅਸਿੱਧੇ ਤੁਰੰਤ ਹੇਰਾਫੇਰੀ, ਅਸੁਰੱਖਿਅਤ ਟੂਲ ਵਰਤੋਂ, ਸੰਦਰਭ ਰਾਹੀਂ ਡੇਟਾ ਐਕਸਫਿਲਟਰੇਸ਼ਨ, ਅਤੇ ਆਟੋਮੇਟਿਡ ਵਰਕਫਲੋ ਦੁਆਰਾ ਮਾਡਲ ਦੀ ਦੁਰਵਰਤੋਂ। ਐਲਐਲਐਮ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਓਡਬਲਯੂਏਐਸਪੀ ਸਿਖਰਲੇ 10 ਏਆਈ ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ 'ਤੇ ਐਨਸੀਐਸਸੀ।

ਡਿਵੈਲਪਰ ਸਿਰਫ਼ ਇੰਟਰਫੇਸ ਨੂੰ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਪੂਰੇ ਸਿਸਟਮ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰਨ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹਨ। NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

ਇੱਥੇ ਮੁੱਖ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:

• ਗੈਰ-ਭਰੋਸੇਯੋਗ ਇਨਪੁਟ ਨੂੰ ਰੋਗਾਣੂ-ਮੁਕਤ ਕਰਨਾ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

• ਮਾਡਲ ਕਿਹੜੇ ਟੂਲਸ ਨੂੰ OWASP ਕਹਿ ਸਕਦਾ ਹੈ, ਨੂੰ ਸੀਮਤ ਕਰਨਾ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

• ਫਾਈਲ ਅਤੇ ਨੈੱਟਵਰਕ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਨਾ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

• ਇਜਾਜ਼ਤਾਂ ਨੂੰ ਵੱਖ ਕਰਨਾ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਨਾਲ

• ਦੁਰਵਿਵਹਾਰ ਦੇ ਪੈਟਰਨਾਂ ਦੀ ਨਿਗਰਾਨੀ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

• ਮਹਿੰਗੀਆਂ ਜਾਂ ਜੋਖਮ ਭਰੀਆਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਸੀਮਤ ਕਰਨ ਵਾਲੀਆਂ ਦਰਾਂ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

• ਟੈਸਟਿੰਗ ਐਡਵਰਸਰੀਅਲ ਪ੍ਰੋਂਪਟਸ OWASP LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10

• ਜਦੋਂ ਨਿਰਦੇਸ਼ਾਂ ਦਾ ਟਕਰਾਅ ਹੋਵੇ ਤਾਂ ਸੁਰੱਖਿਅਤ ਫਾਲਬੈਕ ਬਣਾਉਣਾ OECD AI ਸਿਧਾਂਤ

ਇੱਕ ਅਸੁਵਿਧਾਜਨਕ ਸੱਚ ਇਹ ਹੈ ਕਿ ਉਪਭੋਗਤਾ - ਅਤੇ ਹਮਲਾਵਰ - ਬਿਲਕੁਲ ਉਹ ਚੀਜ਼ਾਂ ਅਜ਼ਮਾਉਣਗੇ ਜੋ ਡਿਵੈਲਪਰਾਂ ਨੇ ਉਮੀਦ ਨਹੀਂ ਕੀਤੀ ਸੀ। ਕੁਝ ਉਤਸੁਕਤਾ ਕਾਰਨ, ਕੁਝ ਦੁਸ਼ਮਣੀ ਕਾਰਨ, ਕੁਝ ਇਸ ਲਈ ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਨੇ ਸਵੇਰੇ 2 ਵਜੇ ਗਲਤ ਚੀਜ਼ 'ਤੇ ਕਲਿੱਕ ਕੀਤਾ ਸੀ। ਇਹ ਵਾਪਰਦਾ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਲਈ ਸੁਰੱਖਿਆ ਕੰਧ ਬਣਾਉਣ ਵਰਗੀ ਘੱਟ ਹੈ ਅਤੇ ਇੱਕ ਬਹੁਤ ਹੀ ਬੋਲਣ ਵਾਲੇ ਗੇਟਕੀਪਰ ਨੂੰ ਸੰਭਾਲਣ ਵਰਗੀ ਹੈ ਜੋ ਕਈ ਵਾਰ ਵਾਕਾਂਸ਼ਾਂ ਦੁਆਰਾ ਧੋਖਾ ਖਾ ਜਾਂਦਾ ਹੈ।.

ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਉਪਭੋਗਤਾ ਦੀ ਸਹਿਮਤੀ ਚਮਕਦਾਰ UX ਨਾਲੋਂ ਵੱਧ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ 🗣️

ਜਦੋਂ ਉਪਭੋਗਤਾ AI ਨਾਲ ਗੱਲਬਾਤ ਕਰਦੇ ਹਨ, ਤਾਂ ਉਹਨਾਂ ਨੂੰ ਇਹ ਪਤਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। OECD AI ਸਿਧਾਂਤ AI-ਤਿਆਰ ਸਮੱਗਰੀ ਦੀ ਮਾਰਕਿੰਗ ਅਤੇ ਲੇਬਲਿੰਗ 'ਤੇ ਅਭਿਆਸ ਕੋਡ

ਅਸਪਸ਼ਟ ਨਹੀਂ। ਸ਼ਬਦਾਂ ਵਿੱਚ ਦੱਬਿਆ ਨਹੀਂ। ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਇੱਕ ਮੁੱਖ ਹਿੱਸਾ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਉਪਭੋਗਤਾ ਇਹ ਸਮਝਦੇ ਹਨ:

• ਜਦੋਂ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ OECD AI ਸਿਧਾਂਤ

• ਏਆਈ ਕੀ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਕੀ ਨਹੀਂ ਕਰ ਸਕਦਾ ਓਈਸੀਡੀ ਏਆਈ ਸਿਧਾਂਤ

• ਕੀ ਆਉਟਪੁੱਟ ਦੀ ਸਮੀਖਿਆ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਕੀਤੀ ਜਾਂਦੀ ਹੈ OECD AI ਸਿਧਾਂਤ

• ਉਹਨਾਂ ਦੇ ਡੇਟਾ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰੋਸੈਸ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ICO ਦੇ ਜਨਰੇਟਿਵ AI ਲਈ ਅੱਠ ਸਵਾਲ

• ਉਹਨਾਂ ਕੋਲ ਕਿਸ ਪੱਧਰ ਦਾ ਵਿਸ਼ਵਾਸ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ NIST AI RMF

• ਸਮੱਸਿਆਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਿਵੇਂ ਕਰਨੀ ਹੈ ਜਾਂ ਫੈਸਲਿਆਂ 'ਤੇ ਅਪੀਲ ਕਿਵੇਂ ਕਰਨੀ ਹੈ OECD AI ਸਿਧਾਂਤ NIST AI RMF

ਪਾਰਦਰਸ਼ਤਾ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਡਰਾਉਣ ਬਾਰੇ ਨਹੀਂ ਹੈ। ਇਹ ਉਹਨਾਂ ਦਾ ਸਤਿਕਾਰ ਕਰਨ ਬਾਰੇ ਹੈ।.

ਚੰਗੀ ਪਾਰਦਰਸ਼ਤਾ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਸਕਦੇ ਹਨ:

• AI-ਤਿਆਰ ਕੀਤੀ ਸਮੱਗਰੀ ਦੀ ਨਿਸ਼ਾਨਦੇਹੀ ਅਤੇ ਲੇਬਲਿੰਗ 'ਤੇ AI-ਤਿਆਰ ਕੀਤੀ ਗਈ ਜਾਂ AI-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਅਭਿਆਸ ਕੋਡ ਵਰਗੇ ਲੇਬਲ

• ਸਾਦੀ ਭਾਸ਼ਾ ਵਿੱਚ ਸਪੱਸ਼ਟੀਕਰਨ OECD AI ਸਿਧਾਂਤ

• ਜਿੱਥੇ ਢੁਕਵਾਂ ਹੋਵੇ, ਦਿਖਾਈ ਦੇਣ ਵਾਲਾ ਸੰਪਾਦਨ ਇਤਿਹਾਸ

• AI ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਬੰਦ ਕਰਨ ਦੇ ਵਿਕਲਪ

• ਲੋੜ ਪੈਣ 'ਤੇ ਮਨੁੱਖ ਨੂੰ ਸਹਾਇਤਾ ਪ੍ਰਦਾਨ ਕਰਨਾ OECD AI ਸਿਧਾਂਤ

• ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਕੰਮਾਂ ਲਈ ਸੰਖੇਪ ਚੇਤਾਵਨੀਆਂ ਯੂਰਪੀਅਨ ਕਮਿਸ਼ਨ ਏਆਈ ਐਕਟ ਸੰਖੇਪ ਜਾਣਕਾਰੀ

ਬਹੁਤ ਸਾਰੀਆਂ ਉਤਪਾਦ ਟੀਮਾਂ ਚਿੰਤਾ ਕਰਦੀਆਂ ਹਨ ਕਿ ਇਮਾਨਦਾਰੀ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਘੱਟ ਜਾਦੂਈ ਬਣਾ ਦੇਵੇਗੀ। ਸ਼ਾਇਦ। ਪਰ ਝੂਠੀ ਨਿਸ਼ਚਤਤਾ ਇਸ ਤੋਂ ਵੀ ਮਾੜੀ ਹੈ। ਇੱਕ ਨਿਰਵਿਘਨ ਇੰਟਰਫੇਸ ਜੋ ਜੋਖਮ ਨੂੰ ਲੁਕਾਉਂਦਾ ਹੈ ਅਸਲ ਵਿੱਚ ਪਾਲਿਸ਼ ਕੀਤੀ ਉਲਝਣ ਹੈ।.

ਡਿਵੈਲਪਰ ਜਵਾਬਦੇਹ ਰਹਿੰਦੇ ਹਨ - ਭਾਵੇਂ ਮਾਡਲ "ਫੈਸਲਾ" ਕਰਦਾ ਹੈ 👀

ਇਹ ਹਿੱਸਾ ਬਹੁਤ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਜ਼ਿੰਮੇਵਾਰੀ ਮਾਡਲ ਵਿਕਰੇਤਾ, ਮਾਡਲ ਕਾਰਡ, ਪ੍ਰੋਂਪਟ ਟੈਂਪਲੇਟ, ਜਾਂ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਦੇ ਰਹੱਸਮਈ ਮਾਹੌਲ ਨੂੰ ਆਊਟਸੋਰਸ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕਦੀ। OECD AI ਸਿਧਾਂਤ NIST AI RMF

ਡਿਵੈਲਪਰ ਅਜੇ ਵੀ ਜਵਾਬਦੇਹ ਹਨ। OECD AI ਸਿਧਾਂਤ

ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਟੀਮ ਦੇ ਕਿਸੇ ਵਿਅਕਤੀ ਕੋਲ ਇਹ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ:

• ਮਾਡਲ ਚੋਣ NIST AI RMF

• ਟੈਸਟਿੰਗ ਸਟੈਂਡਰਡ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਰੀਲੀਜ਼ ਮਾਪਦੰਡ NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼

• ਉਪਭੋਗਤਾ ਸ਼ਿਕਾਇਤ ਪ੍ਰਬੰਧਨ NIST AI RMF

• ਰੋਲਬੈਕ ਪ੍ਰਕਿਰਿਆਵਾਂ OECD AI ਸਿਧਾਂਤ

• ਬਦਲਾਅ ਟਰੈਕਿੰਗ OECD AI ਸਿਧਾਂਤ

• ਦਸਤਾਵੇਜ਼ OECD AI ਸਿਧਾਂਤ

ਸਵਾਲਾਂ ਦੇ ਸਪੱਸ਼ਟ ਜਵਾਬ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ ਜਿਵੇਂ ਕਿ:

• ਤੈਨਾਤੀ ਨੂੰ ਕੌਣ ਮਨਜ਼ੂਰੀ ਦਿੰਦਾ ਹੈ? NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਨੁਕਸਾਨਦੇਹ-ਆਉਟਪੁੱਟ ਘਟਨਾਵਾਂ ਦੀ ਸਮੀਖਿਆ ਕੌਣ ਕਰਦਾ ਹੈ? NIST GenAI ਪ੍ਰੋਫਾਈਲ

• ਇਸ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਕੌਣ ਅਯੋਗ ਕਰ ਸਕਦਾ ਹੈ? OECD AI ਸਿਧਾਂਤ

• ਰਿਗਰੈਸ਼ਨ ਦੀ ਨਿਗਰਾਨੀ ਕੌਣ ਕਰਦਾ ਹੈ? NIST AI RMF

• ਜਦੋਂ ਕੁਝ ਟੁੱਟ ਜਾਂਦਾ ਹੈ ਤਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨਾਲ ਕੌਣ ਸੰਚਾਰ ਕਰਦਾ ਹੈ? OECD AI ਸਿਧਾਂਤ

ਮਾਲਕੀ ਤੋਂ ਬਿਨਾਂ, ਜ਼ਿੰਮੇਵਾਰੀ ਧੁੰਦ ਵਿੱਚ ਬਦਲ ਜਾਂਦੀ ਹੈ। ਹਰ ਕੋਈ ਮੰਨਦਾ ਹੈ ਕਿ ਕੋਈ ਹੋਰ ਇਸਨੂੰ ਸੰਭਾਲ ਰਿਹਾ ਹੈ... ਅਤੇ ਫਿਰ ਕੋਈ ਨਹੀਂ।.

ਇਹ ਪੈਟਰਨ ਅਸਲ ਵਿੱਚ AI ਤੋਂ ਪੁਰਾਣਾ ਹੈ। AI ਇਸਨੂੰ ਹੋਰ ਵੀ ਖ਼ਤਰਨਾਕ ਬਣਾਉਂਦਾ ਹੈ।.

ਜ਼ਿੰਮੇਵਾਰ ਡਿਵੈਲਪਰ ਸੁਧਾਰ ਲਈ ਬਣਾਉਂਦੇ ਹਨ, ਸੰਪੂਰਨਤਾ ਲਈ ਨਹੀਂ 🔄

ਇਸ ਸਭ ਵਿੱਚ ਇੱਕ ਛੋਟਾ ਜਿਹਾ ਮੋੜ ਇਹ ਹੈ: ਜ਼ਿੰਮੇਵਾਰ AI ਵਿਕਾਸ ਇਹ ਦਿਖਾਉਣ ਬਾਰੇ ਨਹੀਂ ਹੈ ਕਿ ਸਿਸਟਮ ਸੰਪੂਰਨ ਹੋਵੇਗਾ। ਇਹ ਇਹ ਮੰਨਣ ਬਾਰੇ ਹੈ ਕਿ ਇਹ ਕਿਸੇ ਤਰੀਕੇ ਨਾਲ ਅਸਫਲ ਹੋ ਜਾਵੇਗਾ ਅਤੇ ਉਸ ਹਕੀਕਤ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਡਿਜ਼ਾਈਨ ਕਰਨਾ ਹੈ। NIST AI RMF

ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਅਜਿਹੇ ਉਤਪਾਦ ਬਣਾਉਣੇ ਜੋ:

• ਆਡੀਟੇਬਲ OECD AI ਸਿਧਾਂਤ

  • ਫੈਸਲਿਆਂ ਅਤੇ ਨਤੀਜਿਆਂ ਦੀ ਸਮੀਖਿਆ ਬਾਅਦ ਵਿੱਚ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।

• ਰੁਕਾਵਟਯੋਗ OECD AI ਸਿਧਾਂਤ

  • ਇਨਸਾਨ ਬੁਰੇ ਵਿਵਹਾਰ ਨੂੰ ਰੋਕ ਸਕਦੇ ਹਨ ਜਾਂ ਓਵਰਰਾਈਡ ਕਰ ਸਕਦੇ ਹਨ

• ਮੁੜ ਪ੍ਰਾਪਤ ਕਰਨ ਯੋਗ OECD AI ਸਿਧਾਂਤ

  • ਜਦੋਂ AI ਆਉਟਪੁੱਟ ਗਲਤ ਹੁੰਦਾ ਹੈ ਤਾਂ ਇੱਕ ਫਾਲਬੈਕ ਹੁੰਦਾ ਹੈ

• ਨਿਗਰਾਨੀਯੋਗ NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ NIST AI RMF

  • ਟੀਮਾਂ ਆਫ਼ਤਾਂ ਬਣਨ ਤੋਂ ਪਹਿਲਾਂ ਪੈਟਰਨਾਂ ਨੂੰ ਪਛਾਣ ਸਕਦੀਆਂ ਹਨ

• ਸੁਧਾਰਯੋਗ NIST GenAI ਪ੍ਰੋਫਾਈਲ

  • ਫੀਡਬੈਕ ਲੂਪਸ ਮੌਜੂਦ ਹਨ, ਅਤੇ ਕੋਈ ਉਨ੍ਹਾਂ ਨੂੰ ਪੜ੍ਹਦਾ ਹੈ

ਇਹੀ ਪਰਿਪੱਕਤਾ ਦਿਖਦੀ ਹੈ। ਚਮਕਦਾਰ ਡੈਮੋ ਨਹੀਂ। ਸਾਹ ਲੈਣ ਵਾਲੀ ਮਾਰਕੀਟਿੰਗ ਕਾਪੀ ਨਹੀਂ। ਅਸਲ ਸਿਸਟਮ, ਗਾਰਡਰੇਲ, ਲੌਗ, ਜਵਾਬਦੇਹੀ, ਅਤੇ ਇੰਨੀ ਨਿਮਰਤਾ ਦੇ ਨਾਲ ਕਿ ਇਹ ਸਵੀਕਾਰ ਕੀਤਾ ਜਾ ਸਕੇ ਕਿ ਮਸ਼ੀਨ ਕੋਈ ਜਾਦੂਗਰ ਨਹੀਂ ਹੈ। NCSC ਸੁਰੱਖਿਅਤ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ OECD AI ਸਿਧਾਂਤ

ਕਿਉਂਕਿ ਇਹ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਔਜ਼ਾਰ ਹੈ। ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ, ਹਾਂ। ਪਰ ਫਿਰ ਵੀ ਇੱਕ ਔਜ਼ਾਰ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ 🌍 ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ 'ਤੇ ਅੰਤਿਮ ਵਿਚਾਰ

ਤਾਂ, ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਕੀ ਜ਼ਿੰਮੇਵਾਰੀ ?

ਇਹ ਧਿਆਨ ਨਾਲ ਬਣਾਉਣਾ ਹੈ। ਇਹ ਸਵਾਲ ਕਰਨਾ ਕਿ ਸਿਸਟਮ ਕਿੱਥੇ ਮਦਦ ਕਰਦਾ ਹੈ ਅਤੇ ਕਿੱਥੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦਾ ਹੈ। ਗੋਪਨੀਯਤਾ ਦੀ ਰੱਖਿਆ ਕਰਨਾ। ਪੱਖਪਾਤ ਦੀ ਜਾਂਚ ਕਰਨਾ। ਆਉਟਪੁੱਟ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨਾ। ਵਰਕਫਲੋ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰਨਾ। ਉਪਭੋਗਤਾਵਾਂ ਨਾਲ ਪਾਰਦਰਸ਼ੀ ਹੋਣਾ। ਮਨੁੱਖਾਂ ਨੂੰ ਅਰਥਪੂਰਨ ਨਿਯੰਤਰਣ ਵਿੱਚ ਰੱਖਣਾ। ਜਦੋਂ ਚੀਜ਼ਾਂ ਗਲਤ ਹੋ ਜਾਂਦੀਆਂ ਹਨ ਤਾਂ ਜਵਾਬਦੇਹ ਰਹਿਣਾ। NIST AI RMF OECD AI ਸਿਧਾਂਤ

ਇਹ ਔਖਾ ਲੱਗ ਸਕਦਾ ਹੈ - ਅਤੇ ਇਹ ਹੈ। ਪਰ ਇਹ ਉਹ ਵੀ ਹੈ ਜੋ ਸੋਚ-ਸਮਝ ਕੇ ਕੀਤੇ ਵਿਕਾਸ ਨੂੰ ਲਾਪਰਵਾਹੀ ਵਾਲੇ ਆਟੋਮੇਸ਼ਨ ਤੋਂ ਵੱਖ ਕਰਦਾ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਸਭ ਤੋਂ ਵਧੀਆ ਡਿਵੈਲਪਰ ਉਹ ਨਹੀਂ ਹਨ ਜੋ ਮਾਡਲ ਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਚਾਲਾਂ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰਦੇ ਹਨ। ਉਹ ਉਹ ਹਨ ਜੋ ਉਨ੍ਹਾਂ ਚਾਲਾਂ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਸਮਝਦੇ ਹਨ, ਅਤੇ ਉਸ ਅਨੁਸਾਰ ਡਿਜ਼ਾਈਨ ਕਰਦੇ ਹਨ। ਉਹ ਗਤੀ ਦੇ ਮਾਇਨੇ ਜਾਣਦੇ ਹਨ, ਪਰ ਵਿਸ਼ਵਾਸ ਅਸਲ ਉਤਪਾਦ ਹੈ। ਅਜੀਬ ਗੱਲ ਇਹ ਹੈ ਕਿ ਉਹ ਪੁਰਾਣੇ ਜ਼ਮਾਨੇ ਦਾ ਵਿਚਾਰ ਅਜੇ ਵੀ ਕਾਇਮ ਹੈ। NIST AI RMF

ਅੰਤ ਵਿੱਚ, ਜ਼ਿੰਮੇਵਾਰੀ ਨਵੀਨਤਾ ਲਈ ਰੁਕਾਵਟ ਨਹੀਂ ਹੈ। ਇਹੀ ਉਹ ਚੀਜ਼ ਹੈ ਜੋ ਨਵੀਨਤਾ ਨੂੰ ਇੱਕ ਮਹਿੰਗੇ, ਗੜਬੜ ਵਾਲੇ ਫੈਲਾਅ ਵਿੱਚ ਬਦਲਣ ਤੋਂ ਰੋਕਦੀ ਹੈ ਜਿਸ ਵਿੱਚ ਇੱਕ ਪਾਲਿਸ਼ਡ ਇੰਟਰਫੇਸ ਅਤੇ ਇੱਕ ਵਿਸ਼ਵਾਸ ਸਮੱਸਿਆ ਹੈ 😬✨

ਅਤੇ ਸ਼ਾਇਦ ਇਹ ਇਸਦਾ ਸਭ ਤੋਂ ਸਰਲ ਰੂਪ ਹੈ।.

ਦਲੇਰੀ ਨਾਲ ਬਣਾਓ, ਯਕੀਨਨ - ਪਰ ਇਸ ਤਰ੍ਹਾਂ ਬਣਾਓ ਜਿਵੇਂ ਲੋਕ ਪ੍ਰਭਾਵਿਤ ਹੋ ਸਕਦੇ ਹਨ, ਕਿਉਂਕਿ ਉਹ ਪ੍ਰਭਾਵਿਤ ਹੁੰਦੇ ਹਨ। OECD AI ਸਿਧਾਂਤ

ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ

ਅਭਿਆਸ ਵਿੱਚ ਜਨਰੇਟਿਵ AI ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਕੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ?

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਭੇਜਣ ਤੋਂ ਕਿਤੇ ਵੱਧ ਹੈ। ਇਸ ਵਿੱਚ ਸਹੀ ਵਰਤੋਂ ਦੇ ਮਾਮਲੇ ਦੀ ਚੋਣ ਕਰਨਾ, ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰਨਾ, ਗੋਪਨੀਯਤਾ ਦੀ ਰੱਖਿਆ ਕਰਨਾ, ਨੁਕਸਾਨਦੇਹ ਵਿਵਹਾਰ ਨੂੰ ਘਟਾਉਣਾ, ਅਤੇ ਸਿਸਟਮ ਨੂੰ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਸਮਝਣਯੋਗ ਬਣਾਉਣਾ ਸ਼ਾਮਲ ਹੈ। ਅਭਿਆਸ ਵਿੱਚ, ਡਿਵੈਲਪਰ ਇਸ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਰਹਿੰਦੇ ਹਨ ਕਿ ਜਦੋਂ ਇਹ ਅਸਫਲ ਹੋ ਜਾਂਦਾ ਹੈ ਤਾਂ ਟੂਲ ਨੂੰ ਕਿਵੇਂ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਨਿਗਰਾਨੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਠੀਕ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਨੂੰ ਆਮ ਸਾਫਟਵੇਅਰ ਨਾਲੋਂ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿਆਦਾ ਜ਼ਿੰਮੇਵਾਰੀ ਕਿਉਂ ਚਾਹੀਦੀ ਹੈ?

ਰਵਾਇਤੀ ਬੱਗ ਅਕਸਰ ਸਪੱਸ਼ਟ ਹੁੰਦੇ ਹਨ, ਪਰ ਜਨਰੇਟਿਵ AI ਅਸਫਲਤਾਵਾਂ ਗਲਤ, ਪੱਖਪਾਤੀ, ਜਾਂ ਜੋਖਮ ਭਰੀਆਂ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਪਾਲਿਸ਼ ਕੀਤੀਆਂ ਜਾ ਸਕਦੀਆਂ ਹਨ। ਇਸ ਨਾਲ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਲੱਭਣਾ ਔਖਾ ਹੋ ਜਾਂਦਾ ਹੈ ਅਤੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਗਲਤੀ ਨਾਲ ਭਰੋਸਾ ਕਰਨਾ ਆਸਾਨ ਹੋ ਜਾਂਦਾ ਹੈ। ਡਿਵੈਲਪਰ ਸੰਭਾਵੀ ਪ੍ਰਣਾਲੀਆਂ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਨ, ਇਸ ਲਈ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿੱਚ ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਸੰਭਾਲਣਾ, ਨੁਕਸਾਨ ਨੂੰ ਸੀਮਤ ਕਰਨਾ ਅਤੇ ਲਾਂਚ ਤੋਂ ਪਹਿਲਾਂ ਅਣਪਛਾਤੇ ਆਉਟਪੁੱਟ ਲਈ ਤਿਆਰੀ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ।.

ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਕਿਵੇਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਦੋਂ ਨਹੀਂ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ?

ਇੱਕ ਆਮ ਸ਼ੁਰੂਆਤੀ ਬਿੰਦੂ ਇਹ ਪੁੱਛਣਾ ਹੈ ਕਿ ਕੀ ਕੰਮ ਖੁੱਲ੍ਹਾ ਹੈ ਜਾਂ ਨਿਯਮਾਂ, ਖੋਜ, ਜਾਂ ਮਿਆਰੀ ਸੌਫਟਵੇਅਰ ਤਰਕ ਦੁਆਰਾ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਸੰਭਾਲਿਆ ਜਾਂਦਾ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇਹ ਵੀ ਵਿਚਾਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਇੱਕ ਗਲਤ ਜਵਾਬ ਕਿੰਨਾ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ ਅਤੇ ਕੀ ਕੋਈ ਮਨੁੱਖ ਨਤੀਜਿਆਂ ਦੀ ਅਸਲ ਸਮੀਖਿਆ ਕਰ ਸਕਦਾ ਹੈ। ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਦਾ ਕਈ ਵਾਰ ਮਤਲਬ ਹੁੰਦਾ ਹੈ ਕਿ ਜਨਰੇਟਿਵ AI ਦੀ ਵਰਤੋਂ ਬਿਲਕੁਲ ਨਾ ਕਰਨ ਦਾ ਫੈਸਲਾ ਕਰਨਾ।.

ਡਿਵੈਲਪਰ ਜਨਰੇਟਿਵ ਏਆਈ ਸਿਸਟਮਾਂ ਵਿੱਚ ਭਰਮ ਅਤੇ ਗਲਤ ਜਵਾਬਾਂ ਨੂੰ ਕਿਵੇਂ ਘਟਾ ਸਕਦੇ ਹਨ?

ਸ਼ੁੱਧਤਾ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨ ਦੀ ਲੋੜ ਹੈ, ਅੰਦਾਜ਼ਾ ਨਹੀਂ। ਬਹੁਤ ਸਾਰੀਆਂ ਪਾਈਪਲਾਈਨਾਂ ਵਿੱਚ, ਇਸਦਾ ਮਤਲਬ ਹੈ ਭਰੋਸੇਯੋਗ ਸਰੋਤਾਂ ਵਿੱਚ ਆਉਟਪੁੱਟ ਨੂੰ ਆਧਾਰ ਬਣਾਉਣਾ, ਤਿਆਰ ਕੀਤੇ ਟੈਕਸਟ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਤੱਥਾਂ ਤੋਂ ਵੱਖ ਕਰਨਾ, ਅਤੇ ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਕੰਮਾਂ ਲਈ ਸਮੀਖਿਆ ਵਰਕਫਲੋ ਦੀ ਵਰਤੋਂ ਕਰਨਾ। ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਸਿਸਟਮ ਨੂੰ ਉਲਝਾਉਣ ਜਾਂ ਗੁੰਮਰਾਹ ਕਰਨ ਲਈ ਪ੍ਰੋਂਪਟਾਂ ਦੀ ਵੀ ਜਾਂਚ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਕੋਡ, ਸਹਾਇਤਾ, ਵਿੱਤ, ਸਿੱਖਿਆ ਅਤੇ ਸਿਹਤ ਸੰਭਾਲ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ।.

ਗੋਪਨੀਯਤਾ ਅਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਲਈ ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਕੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ?

ਜਨਰੇਟਿਵ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵਿੱਚ ਮਾਡਲ ਵਿੱਚ ਦਾਖਲ ਹੋਣ ਵਾਲੇ ਡੇਟਾ ਨੂੰ ਘੱਟ ਤੋਂ ਘੱਟ ਕਰਨਾ ਅਤੇ ਪ੍ਰੋਂਪਟ, ਲੌਗ ਅਤੇ ਆਉਟਪੁੱਟ ਨੂੰ ਸੰਵੇਦਨਸ਼ੀਲ ਮੰਨਣਾ ਸ਼ਾਮਲ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਜਿੱਥੇ ਵੀ ਸੰਭਵ ਹੋਵੇ ਪਛਾਣਕਰਤਾਵਾਂ ਨੂੰ ਹਟਾਉਣਾ ਚਾਹੀਦਾ ਹੈ, ਧਾਰਨ ਨੂੰ ਸੀਮਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਪਹੁੰਚ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਅਤੇ ਵਿਕਰੇਤਾ ਸੈਟਿੰਗਾਂ ਦੀ ਧਿਆਨ ਨਾਲ ਸਮੀਖਿਆ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇਹ ਵੀ ਸਮਝਣ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਡੇਟਾ ਨੂੰ ਕਿਵੇਂ ਸੰਭਾਲਿਆ ਜਾਂਦਾ ਹੈ, ਨਾ ਕਿ ਬਾਅਦ ਵਿੱਚ ਜੋਖਮਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣਾ।.

ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਜਨਰੇਟਿਵ ਏਆਈ ਆਉਟਪੁੱਟ ਵਿੱਚ ਪੱਖਪਾਤ ਅਤੇ ਨਿਰਪੱਖਤਾ ਨੂੰ ਕਿਵੇਂ ਸੰਭਾਲਣਾ ਚਾਹੀਦਾ ਹੈ?

ਪੱਖਪਾਤੀ ਕੰਮ ਲਈ ਸਰਗਰਮ ਮੁਲਾਂਕਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਧਾਰਨਾਵਾਂ ਦੀ ਨਹੀਂ। ਇੱਕ ਵਿਹਾਰਕ ਪਹੁੰਚ ਵੱਖ-ਵੱਖ ਜਨਸੰਖਿਆ, ਭਾਸ਼ਾਵਾਂ ਅਤੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਪ੍ਰੋਂਪਟਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ ਹੈ, ਫਿਰ ਰੂੜ੍ਹੀਵਾਦੀ ਵਿਚਾਰਾਂ, ਬੇਦਖਲੀ, ਜਾਂ ਅਸਮਾਨ ਅਸਫਲਤਾ ਪੈਟਰਨਾਂ ਲਈ ਆਉਟਪੁੱਟ ਦੀ ਸਮੀਖਿਆ ਕਰਨਾ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਉਪਭੋਗਤਾਵਾਂ ਜਾਂ ਟੀਮਾਂ ਲਈ ਨੁਕਸਾਨਦੇਹ ਵਿਵਹਾਰ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਦੇ ਤਰੀਕੇ ਵੀ ਬਣਾਉਣੇ ਚਾਹੀਦੇ ਹਨ, ਕਿਉਂਕਿ ਇੱਕ ਸਿਸਟਮ ਸਮੁੱਚੇ ਤੌਰ 'ਤੇ ਮਜ਼ਬੂਤ ​​ਦਿਖਾਈ ਦੇ ਸਕਦਾ ਹੈ ਜਦੋਂ ਕਿ ਕੁਝ ਸਮੂਹਾਂ ਨੂੰ ਲਗਾਤਾਰ ਅਸਫਲ ਕਰਦਾ ਰਹਿੰਦਾ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਨਾਲ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਕਿਹੜੇ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਬਾਰੇ ਸੋਚਣ ਦੀ ਲੋੜ ਹੈ?

ਜਨਰੇਟਿਵ ਏਆਈ ਨਵੇਂ ਹਮਲੇ ਵਾਲੇ ਸਤਹਾਂ ਨੂੰ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਤੁਰੰਤ ਟੀਕਾ ਲਗਾਉਣਾ, ਅਸੁਰੱਖਿਅਤ ਟੂਲ ਵਰਤੋਂ, ਸੰਦਰਭ ਰਾਹੀਂ ਡੇਟਾ ਲੀਕ ਹੋਣਾ, ਅਤੇ ਆਟੋਮੇਟਿਡ ਐਕਸ਼ਨਾਂ ਦੀ ਦੁਰਵਰਤੋਂ ਸ਼ਾਮਲ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਗੈਰ-ਭਰੋਸੇਯੋਗ ਇਨਪੁਟ ਨੂੰ ਰੋਗਾਣੂ-ਮੁਕਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਟੂਲ ਅਨੁਮਤੀਆਂ ਨੂੰ ਸੀਮਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਫਾਈਲ ਅਤੇ ਨੈੱਟਵਰਕ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਅਤੇ ਦੁਰਵਰਤੋਂ ਦੇ ਪੈਟਰਨਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਸੁਰੱਖਿਆ ਸਿਰਫ ਇੰਟਰਫੇਸ ਬਾਰੇ ਨਹੀਂ ਹੈ; ਇਹ ਮਾਡਲ ਦੇ ਆਲੇ ਦੁਆਲੇ ਪੂਰੇ ਵਰਕਫਲੋ 'ਤੇ ਲਾਗੂ ਹੁੰਦੀ ਹੈ।.

ਜਨਰੇਟਿਵ ਏਆਈ ਨਾਲ ਨਿਰਮਾਣ ਕਰਦੇ ਸਮੇਂ ਪਾਰਦਰਸ਼ਤਾ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ?

ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਪਤਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ AI ਕਦੋਂ ਸ਼ਾਮਲ ਹੈ, ਇਹ ਕੀ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਇਸਦੀਆਂ ਸੀਮਾਵਾਂ ਕਿੱਥੇ ਹਨ। ਚੰਗੀ ਪਾਰਦਰਸ਼ਤਾ ਵਿੱਚ AI-ਉਤਪੰਨ ਜਾਂ AI-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਲੇਬਲ, ਸਰਲ ਵਿਆਖਿਆਵਾਂ, ਅਤੇ ਮਨੁੱਖੀ ਸਹਾਇਤਾ ਲਈ ਸਪਸ਼ਟ ਰਸਤੇ ਸ਼ਾਮਲ ਹੋ ਸਕਦੇ ਹਨ। ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਸਪੱਸ਼ਟਤਾ ਉਤਪਾਦ ਨੂੰ ਕਮਜ਼ੋਰ ਨਹੀਂ ਕਰਦੀ; ਇਹ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਵਿਸ਼ਵਾਸ ਨੂੰ ਕੈਲੀਬਰੇਟ ਕਰਨ ਅਤੇ ਬਿਹਤਰ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰਦੀ ਹੈ।.

ਜਦੋਂ ਕੋਈ ਜਨਰੇਟਿਵ ਏਆਈ ਵਿਸ਼ੇਸ਼ਤਾ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੀ ਹੈ ਜਾਂ ਕੁਝ ਗਲਤ ਹੋ ਜਾਂਦਾ ਹੈ ਤਾਂ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੈ?

ਡਿਵੈਲਪਰ ਅਤੇ ਉਤਪਾਦ ਟੀਮਾਂ ਅਜੇ ਵੀ ਨਤੀਜੇ ਦੇ ਮਾਲਕ ਹਨ, ਭਾਵੇਂ ਮਾਡਲ ਜਵਾਬ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੈਨਾਤੀ ਪ੍ਰਵਾਨਗੀ, ਘਟਨਾ ਪ੍ਰਬੰਧਨ, ਰੋਲਬੈਕ, ਨਿਗਰਾਨੀ ਅਤੇ ਉਪਭੋਗਤਾ ਸੰਚਾਰ ਲਈ ਸਪੱਸ਼ਟ ਜ਼ਿੰਮੇਵਾਰੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ। "ਮਾਡਲ ਨੇ ਫੈਸਲਾ ਕੀਤਾ" ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ, ਕਿਉਂਕਿ ਜਵਾਬਦੇਹੀ ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਨਾਲ ਰਹਿਣੀ ਚਾਹੀਦੀ ਹੈ ਜਿਨ੍ਹਾਂ ਨੇ ਸਿਸਟਮ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਅਤੇ ਲਾਂਚ ਕੀਤਾ।.

ਲਾਂਚ ਤੋਂ ਬਾਅਦ ਜ਼ਿੰਮੇਵਾਰ ਜਨਰੇਟਿਵ ਏਆਈ ਵਿਕਾਸ ਕਿਹੋ ਜਿਹਾ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ?

ਨਿਗਰਾਨੀ, ਫੀਡਬੈਕ, ਸਮੀਖਿਆ ਅਤੇ ਸੁਧਾਰ ਰਾਹੀਂ ਰਿਲੀਜ਼ ਤੋਂ ਬਾਅਦ ਜ਼ਿੰਮੇਵਾਰ ਵਿਕਾਸ ਜਾਰੀ ਰਹਿੰਦਾ ਹੈ। ਮਜ਼ਬੂਤ ​​ਸਿਸਟਮ ਆਡਿਟ ਕਰਨ ਯੋਗ, ਰੁਕਾਵਟਯੋਗ, ਰਿਕਵਰੀਯੋਗ ਹੁੰਦੇ ਹਨ, ਅਤੇ ਜਦੋਂ AI ਅਸਫਲ ਹੋ ਜਾਂਦਾ ਹੈ ਤਾਂ ਫਾਲਬੈਕ ਮਾਰਗਾਂ ਨਾਲ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਟੀਚਾ ਸੰਪੂਰਨਤਾ ਨਹੀਂ ਹੈ; ਇਹ ਕੁਝ ਅਜਿਹਾ ਬਣਾਉਣਾ ਹੈ ਜਿਸਦੀ ਜਾਂਚ ਕੀਤੀ ਜਾ ਸਕੇ, ਸੁਧਾਰਿਆ ਜਾ ਸਕੇ ਅਤੇ ਅਸਲ-ਸੰਸਾਰ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਦੇ ਪ੍ਰਗਟ ਹੋਣ 'ਤੇ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਐਡਜਸਟ ਕੀਤਾ ਜਾ ਸਕੇ।.

ਹਵਾਲੇ

1. ਨੈਸ਼ਨਲ ਇੰਸਟੀਚਿਊਟ ਆਫ਼ ਸਟੈਂਡਰਡਜ਼ ਐਂਡ ਟੈਕਨਾਲੋਜੀ (NIST) - NIST GenAI ਪ੍ਰੋਫਾਈਲ - nvlpubs.nist.gov

2. OWASP - LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10 - owasp.org

3. ਸੂਚਨਾ ਕਮਿਸ਼ਨਰ ਦਫ਼ਤਰ (ICO) - ਜਨਰੇਟਿਵ AI ਲਈ ICO ਦੇ ਅੱਠ ਸਵਾਲ - ico.org.uk

ਅਧਿਕਾਰਤ AI ਸਹਾਇਕ ਸਟੋਰ 'ਤੇ ਨਵੀਨਤਮ AI ਲੱਭੋ

ਸਾਡੇ ਬਾਰੇ