ਛੋਟਾ ਜਵਾਬ: ਇੱਕ AI ਏਜੰਟ ਬਣਾਉਣ ਲਈ ਜੋ ਅਭਿਆਸ ਵਿੱਚ ਕੰਮ ਕਰਦਾ ਹੈ, ਇਸਨੂੰ ਇੱਕ ਨਿਯੰਤਰਿਤ ਲੂਪ ਵਾਂਗ ਵਰਤੋ: ਇਨਪੁਟ ਲਓ, ਅਗਲੀ ਕਾਰਵਾਈ ਦਾ ਫੈਸਲਾ ਕਰੋ, ਇੱਕ ਸੰਕੁਚਿਤ ਸਕੋਪ ਵਾਲੇ ਟੂਲ ਨੂੰ ਕਾਲ ਕਰੋ, ਨਤੀਜੇ ਦਾ ਨਿਰੀਖਣ ਕਰੋ, ਅਤੇ ਇੱਕ ਸਪੱਸ਼ਟ "ਕੀਤਾ" ਜਾਂਚ ਪਾਸ ਹੋਣ ਤੱਕ ਦੁਹਰਾਓ। ਇਹ ਕੰਮ ਮਲਟੀ-ਸਟੈਪ ਅਤੇ ਟੂਲ-ਸੰਚਾਲਿਤ ਹੋਣ 'ਤੇ ਆਪਣਾ ਰੱਖ-ਰਖਾਅ ਕਮਾਉਂਦਾ ਹੈ; ਜੇਕਰ ਇੱਕ ਸਿੰਗਲ ਪ੍ਰੋਂਪਟ ਇਸਨੂੰ ਹੱਲ ਕਰਦਾ ਹੈ, ਤਾਂ ਏਜੰਟ ਨੂੰ ਛੱਡ ਦਿਓ। ਸਖ਼ਤ ਟੂਲ ਸਕੀਮਾ, ਕਦਮ ਸੀਮਾਵਾਂ, ਲੌਗਿੰਗ, ਅਤੇ ਇੱਕ ਪ੍ਰਮਾਣਕ/ਆਲੋਚਕ ਸ਼ਾਮਲ ਕਰੋ ਤਾਂ ਜੋ ਜਦੋਂ ਟੂਲ ਅਸਫਲ ਹੋ ਜਾਣ ਜਾਂ ਇਨਪੁਟ ਅਸਪਸ਼ਟ ਹੋਣ, ਤਾਂ ਏਜੰਟ ਲੂਪਿੰਗ ਦੀ ਬਜਾਏ ਵਧਦਾ ਹੈ।
ਮੁੱਖ ਗੱਲਾਂ:
ਕੰਟਰੋਲਰ ਲੂਪ : ਸਪੱਸ਼ਟ ਸਟਾਪ ਸ਼ਰਤਾਂ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਕਦਮਾਂ ਦੇ ਨਾਲ ਇਨਪੁਟ→ਐਕਟ→ਰੀਪੀਟੇਸ਼ਨ ਨੂੰ ਲਾਗੂ ਕਰੋ।
ਟੂਲ ਡਿਜ਼ਾਈਨ : "ਕੁਝ ਵੀ ਕਰੋ" ਹਫੜਾ-ਦਫੜੀ ਨੂੰ ਰੋਕਣ ਲਈ ਟੂਲਸ ਨੂੰ ਤੰਗ, ਟਾਈਪ ਕੀਤਾ, ਅਨੁਮਤੀ ਪ੍ਰਾਪਤ ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਰੱਖੋ।
ਯਾਦਦਾਸ਼ਤ ਦੀ ਸਫਾਈ : ਸੰਖੇਪ ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਸਥਿਤੀ ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਦੀ ਪ੍ਰਾਪਤੀ ਦੀ ਵਰਤੋਂ ਕਰੋ; ਪੂਰੀਆਂ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਨੂੰ ਡੰਪ ਕਰਨ ਤੋਂ ਬਚੋ।
ਦੁਰਵਰਤੋਂ ਪ੍ਰਤੀਰੋਧ : ਜੋਖਮ ਭਰੀਆਂ ਕਾਰਵਾਈਆਂ ਲਈ ਆਗਿਆ ਸੂਚੀਆਂ, ਦਰ ਸੀਮਾਵਾਂ, ਅਯੋਗਤਾ, ਅਤੇ "ਡਰਾਈ-ਰਨ" ਸ਼ਾਮਲ ਕਰੋ।
ਟੈਸਟਯੋਗਤਾ : ਇੱਕ ਦ੍ਰਿਸ਼ ਸੂਟ (ਅਸਫਲਤਾਵਾਂ, ਅਸਪਸ਼ਟਤਾ, ਟੀਕੇ) ਬਣਾਈ ਰੱਖੋ ਅਤੇ ਹਰ ਬਦਲਾਅ 'ਤੇ ਦੁਬਾਰਾ ਚਲਾਓ।

🔗 ਏਆਈ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਕਿਵੇਂ ਮਾਪਣਾ ਹੈ
ਗਤੀ, ਸ਼ੁੱਧਤਾ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਦੇ ਮਾਪਦੰਡਾਂ ਲਈ ਵਿਹਾਰਕ ਮਾਪਦੰਡ ਸਿੱਖੋ।.
🔗 ਏਆਈ ਨਾਲ ਕਿਵੇਂ ਗੱਲ ਕਰੀਏ
ਬਿਹਤਰ ਜਵਾਬ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਪ੍ਰੋਂਪਟ, ਸੰਦਰਭ ਅਤੇ ਫਾਲੋ-ਅੱਪ ਦੀ ਵਰਤੋਂ ਕਰੋ।.
🔗 ਏਆਈ ਮਾਡਲਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਿਵੇਂ ਕਰੀਏ
ਟੈਸਟਾਂ, ਰੁਬਰਿਕਸ, ਅਤੇ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਕਾਰਜ ਨਤੀਜਿਆਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਮਾਡਲਾਂ ਦੀ ਤੁਲਨਾ ਕਰੋ।.
🔗 ਏਆਈ ਮਾਡਲਾਂ ਨੂੰ ਕਿਵੇਂ ਅਨੁਕੂਲ ਬਣਾਇਆ ਜਾਵੇ
ਟਿਊਨਿੰਗ, ਛਾਂਟੀ ਅਤੇ ਨਿਗਰਾਨੀ ਨਾਲ ਗੁਣਵੱਤਾ ਅਤੇ ਲਾਗਤ ਵਿੱਚ ਸੁਧਾਰ ਕਰੋ।.
1) ਆਮ ਵਿਅਕਤੀ ਦੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਇੱਕ AI ਏਜੰਟ ਕੀ ਹੁੰਦਾ ਹੈ 🧠
ਇੱਕ AI ਏਜੰਟ ਇੱਕ ਲੂਪ ਹੁੰਦਾ ਹੈ। LangChain “ਏਜੰਟ” ਦਸਤਾਵੇਜ਼
ਬੱਸ ਹੋ ਗਿਆ। ਇੱਕ ਲੂਪ ਜਿਸਦੇ ਵਿਚਕਾਰ ਦਿਮਾਗ ਹੈ।.
ਇਨਪੁਟ → ਸੋਚੋ → ਕਾਰਵਾਈ → ਨਿਰੀਖਣ → ਦੁਹਰਾਓ । ਰੀਐਕਟ ਪੇਪਰ (ਕਾਰਨ + ਕਾਰਵਾਈ)
ਕਿੱਥੇ:
-
ਇਨਪੁੱਟ ਇੱਕ ਉਪਭੋਗਤਾ ਬੇਨਤੀ ਜਾਂ ਇੱਕ ਇਵੈਂਟ ਹੈ (ਨਵੀਂ ਈਮੇਲ, ਸਹਾਇਤਾ ਟਿਕਟ, ਸੈਂਸਰ ਪਿੰਗ)।
-
ਸੋਚਣਾ ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਹੈ ਜੋ ਅਗਲੇ ਕਦਮ ਬਾਰੇ ਤਰਕ ਕਰਦਾ ਹੈ।
-
ਐਕਟ ਇੱਕ ਟੂਲ ਨੂੰ ਕਾਲ ਕਰ ਰਿਹਾ ਹੈ (ਅੰਦਰੂਨੀ ਦਸਤਾਵੇਜ਼ ਖੋਜੋ, ਕੋਡ ਚਲਾਓ, ਇੱਕ ਟਿਕਟ ਬਣਾਓ, ਇੱਕ ਜਵਾਬ ਡਰਾਫਟ ਕਰੋ)। OpenAI ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਗਾਈਡ
-
ਆਬਜ਼ਰਵ ਟੂਲ ਆਉਟਪੁੱਟ ਪੜ੍ਹ ਰਿਹਾ ਹੈ।
-
ਦੁਹਰਾਓ ਉਹ ਹਿੱਸਾ ਹੈ ਜੋ ਇਸਨੂੰ "ਗੱਲਬਾਤ" ਕਰਨ ਦੀ ਬਜਾਏ "ਏਜੰਟਿਕ" ਮਹਿਸੂਸ ਕਰਵਾਉਂਦਾ ਹੈ। LangChain "ਏਜੰਟ" ਦਸਤਾਵੇਜ਼
ਕੁਝ ਏਜੰਟ ਮੂਲ ਰੂਪ ਵਿੱਚ ਸਮਾਰਟ ਮੈਕਰੋ ਹੁੰਦੇ ਹਨ। ਦੂਸਰੇ ਇੱਕ ਜੂਨੀਅਰ ਆਪਰੇਟਰ ਵਾਂਗ ਕੰਮ ਕਰਦੇ ਹਨ ਜੋ ਕੰਮਾਂ ਨੂੰ ਜੁਗਲਬੰਦ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਗਲਤੀਆਂ ਤੋਂ ਉਭਰ ਸਕਦੇ ਹਨ। ਦੋਵੇਂ ਹੀ ਮਾਇਨੇ ਰੱਖਦੇ ਹਨ।.
ਨਾਲ ਹੀ, ਤੁਹਾਨੂੰ ਪੂਰੀ ਖੁਦਮੁਖਤਿਆਰੀ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਦਰਅਸਲ... ਤੁਸੀਂ ਸ਼ਾਇਦ ਇਹ ਨਹੀਂ ਚਾਹੁੰਦੇ 🙃
2) ਤੁਹਾਨੂੰ ਏਜੰਟ ਕਦੋਂ ਬਣਾਉਣਾ ਚਾਹੀਦਾ ਹੈ (ਅਤੇ ਕਦੋਂ ਨਹੀਂ ਬਣਾਉਣਾ ਚਾਹੀਦਾ) 🚦
ਏਜੰਟ ਬਣਾਓ ਜਦੋਂ:
-
ਇਹ ਕੰਮ ਕਈ ਪੜਾਵਾਂ ਵਾਲਾ ਅਤੇ ਵਿਚਕਾਰ ਕੀ ਹੁੰਦਾ ਹੈ ਇਸ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ।
-
ਇਸ ਨੌਕਰੀ ਲਈ ਟੂਲ ਦੀ ਵਰਤੋਂ (ਡੇਟਾਬੇਸ, ਸੀਆਰਐਮ, ਕੋਡ ਐਗਜ਼ੀਕਿਊਸ਼ਨ, ਫਾਈਲ ਜਨਰੇਸ਼ਨ, ਬ੍ਰਾਊਜ਼ਰ, ਅੰਦਰੂਨੀ API) ਦੀ ਲੋੜ ਹੈ। LangChain “ਟੂਲ” ਡੌਕਸ
-
ਤੁਸੀਂ ਦੁਹਰਾਉਣ ਯੋਗ ਨਤੀਜੇ , ਨਾ ਕਿ ਸਿਰਫ਼ ਇੱਕ ਵਾਰ ਦੇ ਜਵਾਬ।
-
ਤੁਸੀਂ "ਕੀਤਾ" ਨੂੰ ਇਸ ਤਰੀਕੇ ਨਾਲ ਪਰਿਭਾਸ਼ਿਤ ਕਰ ਸਕਦੇ ਹੋ ਜਿਵੇਂ ਕੰਪਿਊਟਰ ਜਾਂਚ ਕਰ ਸਕਦਾ ਹੈ, ਭਾਵੇਂ ਢਿੱਲੇ ਢੰਗ ਨਾਲ ਵੀ।.
ਏਜੰਟ ਨਾ ਬਣਾਓ ਜਦੋਂ:
-
ਇੱਕ ਸਧਾਰਨ ਪ੍ਰੋਂਪਟ + ਜਵਾਬ ਇਸਨੂੰ ਹੱਲ ਕਰ ਦਿੰਦਾ ਹੈ (ਜ਼ਿਆਦਾ ਮਿਹਨਤ ਨਾ ਕਰੋ, ਤੁਸੀਂ ਬਾਅਦ ਵਿੱਚ ਆਪਣੇ ਆਪ ਨੂੰ ਨਫ਼ਰਤ ਕਰੋਗੇ)।.
-
ਤੁਹਾਨੂੰ ਸੰਪੂਰਨ ਨਿਰਣਾਇਕਤਾ ਦੀ ਲੋੜ ਹੈ (ਏਜੰਟ ਇਕਸਾਰ ਹੋ ਸਕਦੇ ਹਨ, ਪਰ ਰੋਬੋਟਿਕ ਨਹੀਂ)।.
-
ਤੁਹਾਡੇ ਕੋਲ ਜੁੜਨ ਲਈ ਕੋਈ ਟੂਲ ਜਾਂ ਡੇਟਾ ਨਹੀਂ ਹੈ - ਫਿਰ ਇਹ ਜ਼ਿਆਦਾਤਰ ਸਿਰਫ਼ ਵਾਈਬਸ ਹੈ।.
ਆਓ ਸਾਫ਼-ਸਾਫ਼ ਕਹੀਏ: "AI ਏਜੰਟ ਪ੍ਰੋਜੈਕਟਾਂ" ਦਾ ਅੱਧਾ ਹਿੱਸਾ ਕੁਝ ਬ੍ਰਾਂਚਿੰਗ ਨਿਯਮਾਂ ਦੇ ਨਾਲ ਇੱਕ ਵਰਕਫਲੋ ਹੋ ਸਕਦਾ ਹੈ। ਪਰ ਹੇ, ਕਈ ਵਾਰ ਵਾਈਬ ਵੀ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ 🤷♂️
3) ਇੱਕ AI ਏਜੰਟ ਦਾ ਇੱਕ ਚੰਗਾ ਸੰਸਕਰਣ ਕੀ ਬਣਾਉਂਦਾ ਹੈ ✅
ਇਹ ਉਹ "ਇੱਕ ਚੰਗਾ ਸੰਸਕਰਣ ਕੀ ਬਣਾਉਂਦਾ ਹੈ" ਭਾਗ ਹੈ ਜਿਸਦੀ ਤੁਸੀਂ ਮੰਗ ਕੀਤੀ ਸੀ, ਸਿਵਾਏ ਮੈਂ ਥੋੜ੍ਹਾ ਜਿਹਾ ਸਪੱਸ਼ਟ ਹੋਵਾਂਗਾ:
ਇੱਕ AI ਏਜੰਟ ਦਾ ਇੱਕ ਚੰਗਾ ਰੂਪ ਉਹ ਨਹੀਂ
-
ਜਾਣਦਾ ਹੈ ਕਿ ਇਸਨੂੰ ਕੀ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਹੈ (ਸਕੋਪ ਸੀਮਾਵਾਂ)
-
ਟੂਲਸ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਨਾਲ ਵਰਤੋਂ ਕਰਦਾ ਹੈ (ਸਟ੍ਰਕਚਰਡ ਕਾਲਾਂ, ਰੀਟ੍ਰਾਈ, ਟਾਈਮਆਉਟ) ਓਪਨਏਆਈ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਗਾਈਡ AWS "ਟਾਈਮਆਉਟ, ਰੀਟ੍ਰਾਈ, ਅਤੇ ਬੈਕਆਫ ਵਿਦ ਜਿਟਰ"
-
ਸਥਿਤੀ ਨੂੰ ਸਾਫ਼ ਰੱਖਦਾ ਹੈ (ਯਾਦਦਾਸ਼ਤ ਜੋ ਸੜਦੀ ਨਹੀਂ) LangChain “ਯਾਦਦਾਸ਼ਤ ਸੰਖੇਪ ਜਾਣਕਾਰੀ”
-
ਆਪਣੀਆਂ ਕਾਰਵਾਈਆਂ ਬਾਰੇ ਦੱਸਦਾ ਹੈ (ਆਡਿਟ ਟ੍ਰੇਲ, ਗੁਪਤ ਤਰਕ ਡੰਪ ਨਹੀਂ) NIST AI RMF 1.0 (ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ)
-
ਸਹੀ ਢੰਗ ਨਾਲ ਰੁਕਦਾ ਹੈ (ਪੂਰਤੀ ਜਾਂਚ, ਵੱਧ ਤੋਂ ਵੱਧ ਕਦਮ, ਵਾਧਾ) LangChain “ਏਜੰਟ” ਦਸਤਾਵੇਜ਼
-
ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਅਸਫਲ ਹੋ ਜਾਂਦਾ ਹੈ (ਮਦਦ ਮੰਗਦਾ ਹੈ, ਅਧਿਕਾਰ ਨੂੰ ਭਰਮ ਨਹੀਂ ਦਿੰਦਾ) NIST AI RMF 1.0
-
ਟੈਸਟ ਕਰਨ ਯੋਗ ਹੈ (ਤੁਸੀਂ ਇਸਨੂੰ ਡੱਬਾਬੰਦ ਦ੍ਰਿਸ਼ਾਂ ਅਤੇ ਸਕੋਰ ਨਤੀਜਿਆਂ 'ਤੇ ਚਲਾ ਸਕਦੇ ਹੋ)
ਜੇਕਰ ਤੁਹਾਡੇ ਏਜੰਟ ਦੀ ਜਾਂਚ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕਦੀ, ਤਾਂ ਇਹ ਅਸਲ ਵਿੱਚ ਇੱਕ ਬਹੁਤ ਹੀ ਭਰੋਸੇਮੰਦ ਸਲਾਟ ਮਸ਼ੀਨ ਹੈ। ਪਾਰਟੀਆਂ ਵਿੱਚ ਮਸਤੀ, ਪ੍ਰੋਡਕਸ਼ਨ ਵਿੱਚ ਡਰਾਉਣਾ 😬
4) ਇੱਕ ਏਜੰਟ ਦੇ ਮੁੱਖ ਨਿਰਮਾਣ ਬਲਾਕ ("ਸਰੀਰ ਵਿਗਿਆਨ" 🧩)
ਜ਼ਿਆਦਾਤਰ ਠੋਸ ਏਜੰਟਾਂ ਵਿੱਚ ਇਹ ਟੁਕੜੇ ਹੁੰਦੇ ਹਨ:
A) ਕੰਟਰੋਲਰ ਲੂਪ 🔁
ਇਹ ਆਰਕੈਸਟ੍ਰੇਟਰ ਹੈ:
-
ਟੀਚਾ ਰੱਖੋ
-
ਅਗਲੀ ਕਾਰਵਾਈ ਲਈ ਮਾਡਲ ਨੂੰ ਪੁੱਛੋ
-
ਰਨ ਟੂਲ
-
ਨਿਰੀਖਣ ਜੋੜੋ
-
ਲੈਂਗਚੇਨ “ਏਜੰਟ” ਡੌਕਸ ਪੂਰਾ ਹੋਣ ਤੱਕ ਦੁਹਰਾਓ
ਅ) ਔਜ਼ਾਰ (ਉਰਫ਼ ਸਮਰੱਥਾਵਾਂ) 🧰
ਔਜ਼ਾਰ ਉਹ ਹੁੰਦੇ ਹਨ ਜੋ ਇੱਕ ਏਜੰਟ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਬਣਾਉਂਦੇ ਹਨ: LangChain “ਟੂਲਜ਼” ਦਸਤਾਵੇਜ਼
-
ਡਾਟਾਬੇਸ ਪੁੱਛਗਿੱਛਾਂ
-
ਈਮੇਲ ਭੇਜਣਾ
-
ਫਾਈਲਾਂ ਖਿੱਚਣਾ
-
ਚੱਲ ਰਿਹਾ ਕੋਡ
-
ਅੰਦਰੂਨੀ API ਨੂੰ ਕਾਲ ਕਰਨਾ
-
ਸਪ੍ਰੈਡਸ਼ੀਟਾਂ ਜਾਂ CRMs ਨੂੰ ਲਿਖਣਾ
C) ਯਾਦਦਾਸ਼ਤ 🗃️
ਦੋ ਤਰ੍ਹਾਂ ਦੇ ਮਾਇਨੇ:
-
ਛੋਟੀ ਮਿਆਦ ਦੀ ਯਾਦਦਾਸ਼ਤ : ਮੌਜੂਦਾ ਦੌੜ ਸੰਦਰਭ, ਹਾਲੀਆ ਕਦਮ, ਮੌਜੂਦਾ ਯੋਜਨਾ
-
ਲੰਬੀ ਮਿਆਦ ਦੀ ਯਾਦਦਾਸ਼ਤ : ਉਪਭੋਗਤਾ ਤਰਜੀਹਾਂ, ਪ੍ਰੋਜੈਕਟ ਸੰਦਰਭ, ਪ੍ਰਾਪਤ ਗਿਆਨ (ਅਕਸਰ ਏਮਬੈਡਿੰਗ + ਇੱਕ ਵੈਕਟਰ ਸਟੋਰ ਰਾਹੀਂ) RAG ਪੇਪਰ
ਡੀ) ਯੋਜਨਾਬੰਦੀ ਅਤੇ ਫੈਸਲਾ ਨੀਤੀ 🧭
ਭਾਵੇਂ ਤੁਸੀਂ ਇਸਨੂੰ "ਯੋਜਨਾਬੰਦੀ" ਨਾ ਵੀ ਕਹੋ, ਤੁਹਾਨੂੰ ਇੱਕ ਢੰਗ ਦੀ ਲੋੜ ਹੈ:
-
ਚੈੱਕਲਿਸਟਾਂ
-
ਰੀਐਕਟ-ਸ਼ੈਲੀ "ਫਿਰ ਸੋਚੋ ਟੂਲ" ਰੀਐਕਟ ਪੇਪਰ
-
ਕਾਰਜ ਗ੍ਰਾਫ਼
-
ਸੁਪਰਵਾਈਜ਼ਰ-ਵਰਕਰ ਪੈਟਰਨ
-
ਸੁਪਰਵਾਈਜ਼ਰ-ਵਰਕਰ ਪੈਟਰਨ ਮਾਈਕ੍ਰੋਸਾਫਟ ਆਟੋਜੇਨ (ਮਲਟੀ-ਏਜੰਟ ਫਰੇਮਵਰਕ)
E) ਗਾਰਡਰੇਲ ਅਤੇ ਮੁਲਾਂਕਣ 🧯
-
ਇਜਾਜ਼ਤਾਂ
-
ਸੁਰੱਖਿਅਤ ਟੂਲ ਸਕੀਮਾਂ ਓਪਨਏਆਈ ਸਟ੍ਰਕਚਰਡ ਆਉਟਪੁੱਟ
-
ਆਉਟਪੁੱਟ ਪ੍ਰਮਾਣਿਕਤਾ
-
ਕਦਮ ਸੀਮਾਵਾਂ
-
ਲਾਗਿੰਗ
-
NIST AI RMF 1.0 ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ
ਹਾਂ, ਇਹ ਪ੍ਰੇਰਨਾ ਦੇਣ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਇੰਜੀਨੀਅਰਿੰਗ ਹੈ। ਜੋ ਕਿ... ਕੁਝ ਹੱਦ ਤੱਕ ਸਹੀ ਗੱਲ ਹੈ।.
5) ਤੁਲਨਾ ਸਾਰਣੀ: ਏਜੰਟ ਬਣਾਉਣ ਦੇ ਪ੍ਰਸਿੱਧ ਤਰੀਕੇ 🧾
ਹੇਠਾਂ ਇੱਕ ਯਥਾਰਥਵਾਦੀ "ਤੁਲਨਾ ਸਾਰਣੀ" ਹੈ - ਕੁਝ ਕੁ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੇ ਨਾਲ, ਕਿਉਂਕਿ ਅਸਲ ਟੀਮਾਂ ਅਜੀਬ ਹੁੰਦੀਆਂ ਹਨ 😄
| ਟੂਲ / ਫਰੇਮਵਰਕ | ਦਰਸ਼ਕ | ਕੀਮਤ | ਇਹ ਕਿਉਂ ਕੰਮ ਕਰਦਾ ਹੈ | ਨੋਟਸ (ਛੋਟੀ ਜਿਹੀ ਹਫੜਾ-ਦਫੜੀ) | |
|---|---|---|---|---|---|
| ਲੈਂਗਚੇਨ | ਬਿਲਡਰ ਜੋ ਲੇਗੋ-ਸ਼ੈਲੀ ਦੇ ਹਿੱਸੇ ਪਸੰਦ ਕਰਦੇ ਹਨ | ਫ੍ਰੀ-ਇਸ਼ + ਇਨਫਰਾ | ਔਜ਼ਾਰਾਂ, ਯਾਦਦਾਸ਼ਤ, ਚੇਨਾਂ ਲਈ ਵੱਡਾ ਈਕੋਸਿਸਟਮ | ਜੇ ਤੁਸੀਂ ਚੀਜ਼ਾਂ ਨੂੰ ਸਾਫ਼-ਸਾਫ਼ ਨਹੀਂ ਕਹਿੰਦੇ ਤਾਂ ਮੈਨੂੰ ਸਪੈਗੇਟੀ-ਫਾਸਟ ਮਿਲ ਸਕਦਾ ਹੈ। | |
| ਲਾਮਾਇੰਡੈਕਸ | RAG-ਭਾਰੀ ਟੀਮਾਂ | ਫ੍ਰੀ-ਇਸ਼ + ਇਨਫਰਾ | ਮਜ਼ਬੂਤ ਪ੍ਰਾਪਤੀ ਪੈਟਰਨ, ਇੰਡੈਕਸਿੰਗ, ਕਨੈਕਟਰ | ਬਹੁਤ ਵਧੀਆ ਜਦੋਂ ਤੁਹਾਡਾ ਏਜੰਟ ਮੂਲ ਰੂਪ ਵਿੱਚ "ਖੋਜ + ਕਾਰਵਾਈ" ਕਰਦਾ ਹੈ... ਜੋ ਕਿ ਆਮ ਗੱਲ ਹੈ | |
| ਓਪਨਏਆਈ ਅਸਿਸਟੈਂਟਸ ਸ਼ੈਲੀ ਦਾ ਤਰੀਕਾ | ਤੇਜ਼ ਸੈੱਟਅੱਪ ਚਾਹੁੰਦੀਆਂ ਟੀਮਾਂ | ਵਰਤੋਂ-ਅਧਾਰਿਤ | ਬਿਲਟ-ਇਨ ਟੂਲ ਕਾਲਿੰਗ ਪੈਟਰਨ ਅਤੇ ਰਨ ਸਟੇਟ | ਕੁਝ ਕੋਨਿਆਂ ਵਿੱਚ ਘੱਟ ਲਚਕਦਾਰ, ਪਰ ਕਈ ਐਪਾਂ ਲਈ ਸਾਫ਼ | OpenAI API OpenAI Assistants ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ |
| ਸਿਮੈਂਟਿਕ ਕਰਨਲ | ਵਿਕਾਸਕਾਰ ਜੋ ਢਾਂਚਾਗਤ ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਚਾਹੁੰਦੇ ਹਨ | ਆਜ਼ਾਦ | ਹੁਨਰਾਂ/ਕਾਰਜਾਂ ਲਈ ਸਾਫ਼-ਸੁਥਰਾ ਐਬਸਟਰੈਕਸ਼ਨ | "ਐਂਟਰਪ੍ਰਾਈਜ਼ ਸਾਫ਼-ਸੁਥਰਾ" ਮਹਿਸੂਸ ਹੁੰਦਾ ਹੈ - ਕਈ ਵਾਰ ਇਹ ਇੱਕ ਤਾਰੀਫ਼ ਹੁੰਦੀ ਹੈ 😉 | |
| ਆਟੋਜੇਨ | ਮਲਟੀ-ਏਜੰਟ ਪ੍ਰਯੋਗਕਰਤਾ | ਆਜ਼ਾਦ | ਏਜੰਟ-ਤੋਂ-ਏਜੰਟ ਸਹਿਯੋਗ ਪੈਟਰਨ | ਜ਼ਿਆਦਾ ਗੱਲ ਕਰ ਸਕਦਾ ਹੈ; ਸਖ਼ਤ ਸਮਾਪਤੀ ਨਿਯਮ ਨਿਰਧਾਰਤ ਕਰੋ | |
| ਕਰੂਏਆਈ | "ਏਜੰਟਾਂ ਦੀਆਂ ਟੀਮਾਂ" ਦੇ ਪ੍ਰਸ਼ੰਸਕ | ਆਜ਼ਾਦ | ਭੂਮਿਕਾਵਾਂ + ਕਾਰਜ + ਹੈਂਡਆਫਸ ਨੂੰ ਪ੍ਰਗਟ ਕਰਨਾ ਆਸਾਨ ਹੈ | ਜਦੋਂ ਕੰਮ ਨਰਮ ਨਹੀਂ, ਸਗੋਂ ਕਰਿਸਪ ਹੁੰਦੇ ਹਨ ਤਾਂ ਸਭ ਤੋਂ ਵਧੀਆ ਕੰਮ ਕਰਦਾ ਹੈ | |
| ਘਾਹ ਦਾ ਢੇਰ | ਖੋਜ + ਪਾਈਪਲਾਈਨ ਲੋਕ | ਆਜ਼ਾਦ | ਠੋਸ ਪਾਈਪਲਾਈਨਾਂ, ਪ੍ਰਾਪਤੀ, ਹਿੱਸੇ | ਘੱਟ "ਏਜੰਟ ਥੀਏਟਰ", ਵਧੇਰੇ "ਵਿਹਾਰਕ ਫੈਕਟਰੀ" | |
| ਆਪਣਾ-ਆਪਣਾ ਰੋਲ ਕਰੋ (ਕਸਟਮ ਲੂਪ) | ਕੰਟਰੋਲ ਫ਼ਰੀਕਸ (ਪਿਆਰ ਕਰਨ ਵਾਲੇ) | ਤੁਹਾਡਾ ਸਮਾਂ | ਘੱਟੋ-ਘੱਟ ਜਾਦੂ, ਵੱਧ ਤੋਂ ਵੱਧ ਸਪੱਸ਼ਟਤਾ | ਆਮ ਤੌਰ 'ਤੇ ਸਭ ਤੋਂ ਵਧੀਆ ਲੰਬੇ ਸਮੇਂ ਲਈ... ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਸਭ ਕੁਝ ਦੁਬਾਰਾ ਨਹੀਂ ਬਣਾਉਂਦੇ 😅 |
ਕੋਈ ਇੱਕ ਵੀ ਜੇਤੂ ਨਹੀਂ। ਸਭ ਤੋਂ ਵਧੀਆ ਚੋਣ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ ਕਿ ਤੁਹਾਡੇ ਏਜੰਟ ਦਾ ਮੁੱਖ ਕੰਮ ਪ੍ਰਾਪਤੀ , ਟੂਲ ਐਗਜ਼ੀਕਿਊਸ਼ਨ , ਮਲਟੀ-ਏਜੰਟ ਤਾਲਮੇਲ , ਜਾਂ ਵਰਕਫਲੋ ਆਟੋਮੇਸ਼ਨ ।
6) ਇੱਕ AI ਏਜੰਟ ਨੂੰ ਕਦਮ-ਦਰ-ਕਦਮ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ (ਅਸਲ ਵਿਅੰਜਨ) 🍳🤖
ਇਹ ਉਹ ਹਿੱਸਾ ਹੈ ਜਿਸਨੂੰ ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਛੱਡ ਦਿੰਦੇ ਹਨ, ਫਿਰ ਸੋਚਦੇ ਹਨ ਕਿ ਏਜੰਟ ਪੈਂਟਰੀ ਵਿੱਚ ਇੱਕ ਰੈਕੂਨ ਵਾਂਗ ਕਿਉਂ ਵਿਵਹਾਰ ਕਰਦਾ ਹੈ।.
ਕਦਮ 1: ਨੌਕਰੀ ਨੂੰ ਇੱਕ ਵਾਕ ਵਿੱਚ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ 🎯
ਉਦਾਹਰਨਾਂ:
-
"ਨੀਤੀ ਅਤੇ ਟਿਕਟ ਸੰਦਰਭ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਗਾਹਕ ਜਵਾਬ ਤਿਆਰ ਕਰੋ, ਫਿਰ ਪ੍ਰਵਾਨਗੀ ਮੰਗੋ।"
-
"ਇੱਕ ਬੱਗ ਰਿਪੋਰਟ ਦੀ ਜਾਂਚ ਕਰੋ, ਇਸਨੂੰ ਦੁਬਾਰਾ ਤਿਆਰ ਕਰੋ, ਅਤੇ ਇੱਕ ਹੱਲ ਸੁਝਾਓ।"
-
"ਅਪੂਰਣ ਮੀਟਿੰਗ ਨੋਟਸ ਨੂੰ ਕੰਮਾਂ, ਮਾਲਕਾਂ ਅਤੇ ਸਮਾਂ-ਸੀਮਾਵਾਂ ਵਿੱਚ ਬਦਲੋ।"
ਜੇ ਤੁਸੀਂ ਇਸਨੂੰ ਸਰਲਤਾ ਨਾਲ ਪਰਿਭਾਸ਼ਿਤ ਨਹੀਂ ਕਰ ਸਕਦੇ, ਤਾਂ ਤੁਹਾਡਾ ਏਜੰਟ ਵੀ ਨਹੀਂ ਕਰ ਸਕਦਾ। ਮੇਰਾ ਮਤਲਬ ਹੈ ਕਿ ਇਹ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਇਹ ਸੁਧਾਰ ਕਰੇਗਾ, ਅਤੇ ਸੁਧਾਰ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਬਜਟ ਖਤਮ ਹੋ ਜਾਂਦੇ ਹਨ।.
ਕਦਮ 2: ਖੁਦਮੁਖਤਿਆਰੀ ਦਾ ਪੱਧਰ (ਘੱਟ, ਦਰਮਿਆਨਾ, ਮਸਾਲੇਦਾਰ) ਤੈਅ ਕਰੋ 🌶️
-
ਘੱਟ ਖੁਦਮੁਖਤਿਆਰੀ : ਕਦਮ ਸੁਝਾਉਂਦੇ ਹਨ, ਮਨੁੱਖੀ ਕਲਿੱਕ "ਮਨਜ਼ੂਰ" ਕਰਦੇ ਹਨ
-
ਮਾਧਿਅਮ : ਟੂਲ ਚਲਾਉਂਦਾ ਹੈ, ਆਉਟਪੁੱਟ ਡਰਾਫਟ ਕਰਦਾ ਹੈ, ਅਨਿਸ਼ਚਿਤਤਾ 'ਤੇ ਵਧਦਾ ਹੈ
-
ਉੱਚ : ਸਿਰੇ ਤੋਂ ਸਿਰੇ ਤੱਕ ਚਲਾਉਂਦਾ ਹੈ, ਸਿਰਫ਼ ਅਪਵਾਦਾਂ 'ਤੇ ਮਨੁੱਖਾਂ ਨੂੰ ਪਿੰਗ ਕਰਦਾ ਹੈ
ਆਪਣੀ ਇੱਛਾ ਤੋਂ ਘੱਟ ਸ਼ੁਰੂ ਕਰੋ। ਤੁਸੀਂ ਇਸਨੂੰ ਬਾਅਦ ਵਿੱਚ ਹਮੇਸ਼ਾ ਵਧਾ ਸਕਦੇ ਹੋ।.
ਕਦਮ 3: ਆਪਣੀ ਮਾਡਲ ਰਣਨੀਤੀ ਚੁਣੋ 🧠
ਤੁਸੀਂ ਆਮ ਤੌਰ 'ਤੇ ਇਹ ਚੁਣਦੇ ਹੋ:
-
ਹਰ ਚੀਜ਼ ਲਈ ਇੱਕ ਮਜ਼ਬੂਤ ਮਾਡਲ (ਸਧਾਰਨ)
-
ਇੱਕ ਮਜ਼ਬੂਤ ਮਾਡਲ + ਸਸਤੇ ਕਦਮਾਂ ਲਈ ਛੋਟਾ ਮਾਡਲ (ਵਰਗੀਕਰਨ, ਰੂਟਿੰਗ)
-
ਜੇਕਰ ਲੋੜ ਹੋਵੇ ਤਾਂ ਵਿਸ਼ੇਸ਼ ਮਾਡਲ (ਦ੍ਰਿਸ਼ਟੀ, ਕੋਡ, ਭਾਸ਼ਣ)
ਇਹ ਵੀ ਫੈਸਲਾ ਕਰੋ:
-
ਵੱਧ ਤੋਂ ਵੱਧ ਟੋਕਨ
-
ਤਾਪਮਾਨ
-
ਕੀ ਤੁਸੀਂ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਲੰਬੇ ਤਰਕ ਦੇ ਨਿਸ਼ਾਨਾਂ ਦੀ ਆਗਿਆ ਦਿੰਦੇ ਹੋ (ਤੁਸੀਂ ਕਰ ਸਕਦੇ ਹੋ, ਪਰ ਅੰਤਮ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਕੱਚੇ ਵਿਚਾਰਾਂ ਦੀ ਲੜੀ ਦਾ ਪਰਦਾਫਾਸ਼ ਨਾ ਕਰੋ)
ਕਦਮ 4: ਸਖ਼ਤ ਸਕੀਮਾਂ ਨਾਲ ਟੂਲਸ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ 🔩
ਔਜ਼ਾਰ ਇਹ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ:
-
ਤੰਗ
-
ਟਾਈਪ ਕੀਤਾ
-
ਇਜਾਜ਼ਤ ਦਿੱਤੀ ਗਈ
-
ਪ੍ਰਮਾਣਿਤ OpenAI ਸਟ੍ਰਕਚਰਡ ਆਉਟਪੁੱਟ
do_anything(input: string) ਨਾਮਕ ਟੂਲ ਦੀ ਬਜਾਏ , ਇਹ ਬਣਾਓ:
-
search_kb(ਪੁੱਛਗਿੱਛ: ਸਤਰ) -> ਨਤੀਜੇ[] -
ਟਿਕਟ_ਬਣਾਓ (ਸਿਰਲੇਖ: ਸਤਰ, ਮੁੱਖ ਭਾਗ: ਸਤਰ, ਤਰਜੀਹ: enum) -> ਟਿਕਟ_ਆਈਡੀ -
ਈਮੇਲ ਭੇਜੋ(ਨੂੰ: ਸਤਰ, ਵਿਸ਼ਾ: ਸਤਰ, ਮੁੱਖ ਭਾਗ: ਸਤਰ) -> ਸਥਿਤੀਓਪਨਏਆਈ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਗਾਈਡ
ਜੇ ਤੁਸੀਂ ਏਜੰਟ ਨੂੰ ਚੇਨਸਾ ਦਿੰਦੇ ਹੋ, ਤਾਂ ਹੈਰਾਨ ਨਾ ਹੋਵੋ ਜਦੋਂ ਉਹ ਵਾੜ ਨੂੰ ਵੀ ਹਟਾ ਕੇ ਇੱਕ ਹੇਜ ਨੂੰ ਕੱਟਦਾ ਹੈ।.
ਕਦਮ 5: ਕੰਟਰੋਲਰ ਲੂਪ ਬਣਾਓ 🔁
ਘੱਟੋ-ਘੱਟ ਲੂਪ:
-
ਟੀਚਾ + ਸ਼ੁਰੂਆਤੀ ਸੰਦਰਭ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ
-
ਮਾਡਲ ਨੂੰ ਪੁੱਛੋ: "ਅਗਲੀ ਕਾਰਵਾਈ?"
-
ਜੇਕਰ ਟੂਲ ਕਾਲ - ਐਗਜ਼ੀਕਿਊਟ ਟੂਲ
-
ਨਿਰੀਖਣ ਜੋੜੋ
-
ਸਟਾਪ ਸਥਿਤੀ ਦੀ ਜਾਂਚ ਕਰੋ
-
ਦੁਹਰਾਓ (ਵੱਧ ਤੋਂ ਵੱਧ ਕਦਮਾਂ ਦੇ ਨਾਲ) ਲੈਂਗਚੇਨ “ਏਜੰਟ” ਦਸਤਾਵੇਜ਼
ਸ਼ਾਮਲ ਕਰੋ:
-
ਸਮਾਂ ਸਮਾਪਤੀ
-
ਮੁੜ ਕੋਸ਼ਿਸ਼ਾਂ (ਸਾਵਧਾਨੀ ਨਾਲ - ਮੁੜ ਕੋਸ਼ਿਸ਼ਾਂ ਲੂਪ ਹੋ ਸਕਦੀਆਂ ਹਨ) AWS “ਟਾਈਮਆਉਟ, ਮੁੜ ਕੋਸ਼ਿਸ਼ਾਂ, ਅਤੇ ਝਿੜਕਣ ਨਾਲ ਬੈਕਆਫ”
-
ਟੂਲ ਗਲਤੀ ਫਾਰਮੈਟਿੰਗ (ਸਪਸ਼ਟ, ਢਾਂਚਾਗਤ)
ਕਦਮ 6: ਧਿਆਨ ਨਾਲ ਮੈਮੋਰੀ ਜੋੜੋ 🗃️
ਥੋੜ੍ਹੇ ਸਮੇਂ ਲਈ: ਹਰ ਕਦਮ 'ਤੇ ਇੱਕ ਸੰਖੇਪ "ਸਟੇਟ ਸੰਖੇਪ" ਨੂੰ ਅੱਪਡੇਟ ਰੱਖੋ। LangChain "ਮੈਮੋਰੀ ਸੰਖੇਪ ਜਾਣਕਾਰੀ"
ਲੰਬੇ ਸਮੇਂ ਲਈ: ਟਿਕਾਊ ਤੱਥਾਂ ਨੂੰ ਸਟੋਰ ਕਰੋ (ਉਪਭੋਗਤਾ ਤਰਜੀਹਾਂ, ਸੰਗਠਨ ਨਿਯਮ, ਸਥਿਰ ਦਸਤਾਵੇਜ਼)।
ਅੰਗੂਠੇ ਦਾ ਨਿਯਮ:
-
ਜੇਕਰ ਇਹ ਅਕਸਰ ਬਦਲਦਾ ਹੈ - ਤਾਂ ਇਸਨੂੰ ਥੋੜ੍ਹੇ ਸਮੇਂ ਲਈ ਰੱਖੋ।
-
ਜੇਕਰ ਇਹ ਸਥਿਰ ਹੈ - ਲੰਬੇ ਸਮੇਂ ਲਈ ਸਟੋਰ ਕਰੋ
-
ਜੇਕਰ ਇਹ ਸੰਵੇਦਨਸ਼ੀਲ ਹੈ - ਘੱਟ ਤੋਂ ਘੱਟ ਸਟੋਰ ਕਰੋ (ਜਾਂ ਬਿਲਕੁਲ ਨਹੀਂ)
ਕਦਮ 7: ਪ੍ਰਮਾਣਿਕਤਾ ਅਤੇ ਇੱਕ "ਆਲੋਚਕ" ਪਾਸ ਸ਼ਾਮਲ ਕਰੋ 🧪
ਇੱਕ ਸਸਤਾ, ਵਿਹਾਰਕ ਪੈਟਰਨ:
-
ਏਜੰਟ ਨਤੀਜਾ ਤਿਆਰ ਕਰਦਾ ਹੈ
-
ਪ੍ਰਮਾਣਕ ਬਣਤਰ ਅਤੇ ਰੁਕਾਵਟਾਂ ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ
-
ਗੁੰਮ ਹੋਏ ਕਦਮਾਂ ਜਾਂ ਨੀਤੀ ਉਲੰਘਣਾਵਾਂ ਲਈ ਵਿਕਲਪਿਕ ਆਲੋਚਕ ਮਾਡਲ ਸਮੀਖਿਆਵਾਂ NIST AI RMF 1.0
ਸੰਪੂਰਨ ਨਹੀਂ, ਪਰ ਇਹ ਬਹੁਤ ਸਾਰੀਆਂ ਬਕਵਾਸਾਂ ਨੂੰ ਫੜਦਾ ਹੈ।.
ਕਦਮ 8: ਹਰ ਚੀਜ਼ ਨੂੰ ਲੌਗ ਕਰੋ ਜਿਸਦਾ ਤੁਹਾਨੂੰ ਲੌਗਇਨ ਨਾ ਕਰਨ ਦਾ ਪਛਤਾਵਾ ਹੋਵੇਗਾ 📜
ਲਾਗ:
-
ਟੂਲ ਕਾਲ + ਇਨਪੁੱਟ + ਆਉਟਪੁੱਟ
-
ਲਏ ਗਏ ਫੈਸਲੇ
-
ਗਲਤੀਆਂ
-
ਅੰਤਿਮ ਨਤੀਜੇ
-
ਟੋਕਨ ਅਤੇ ਲੇਟੈਂਸੀ ਓਪਨਟੈਲੀਮੈਟਰੀ ਔਬਜ਼ਰਵੇਬਿਲਟੀ ਪ੍ਰਾਈਮਰ
ਭਵਿੱਖ - ਤੁਸੀਂ ਤੁਹਾਡਾ ਧੰਨਵਾਦ ਕਰੋਗੇ। ਵਰਤਮਾਨ - ਤੁਸੀਂ ਭੁੱਲ ਜਾਓਗੇ। ਬੱਸ ਇਹੀ ਜ਼ਿੰਦਗੀ ਹੈ 😵💫
7) ਟੂਲ ਕਾਲਿੰਗ ਜੋ ਤੁਹਾਡੀ ਰੂਹ ਨੂੰ ਨਹੀਂ ਤੋੜਦੀ 🧰😵
ਟੂਲ ਕਾਲਿੰਗ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ "ਏਆਈ ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ" ਅਸਲ ਸਾਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਬਣ ਜਾਂਦੀ ਹੈ।.
ਔਜ਼ਾਰਾਂ ਨੂੰ ਭਰੋਸੇਯੋਗ ਬਣਾਓ (ਭਰੋਸੇਯੋਗ ਚੰਗਾ ਹੈ)
ਭਰੋਸੇਯੋਗ ਔਜ਼ਾਰ ਹਨ:
-
ਨਿਰਣਾਇਕ
-
ਘੇਰੇ ਵਿੱਚ ਤੰਗ
-
ਟੈਸਟ ਕਰਨ ਲਈ ਆਸਾਨ
-
ਸਟ੍ਰਾਈਪ "ਆਈਡੈਂਪੋਟੈਂਟ ਬੇਨਤੀਆਂ" ਨੂੰ ਦੁਬਾਰਾ ਚਲਾਉਣ ਲਈ ਸੁਰੱਖਿਅਤ
ਟੂਲ ਲੇਅਰ 'ਤੇ ਗਾਰਡਰੇਲ ਸ਼ਾਮਲ ਕਰੋ, ਸਿਰਫ਼ ਪ੍ਰੋਂਪਟ ਹੀ ਨਹੀਂ।
ਪ੍ਰੋਂਪਟ ਨਿਮਰ ਸੁਝਾਅ ਹਨ। ਟੂਲ ਵੈਲੀਡੇਸ਼ਨ ਇੱਕ ਬੰਦ ਦਰਵਾਜ਼ਾ ਹੈ। OpenAI ਸਟ੍ਰਕਚਰਡ ਆਉਟਪੁੱਟ
ਕਰੋ:
-
ਅਲਾਉਲਿਸਟ (ਕਿਹੜੇ ਟੂਲ ਚੱਲ ਸਕਦੇ ਹਨ)
-
ਇਨਪੁੱਟ ਪ੍ਰਮਾਣਿਕਤਾ
-
ਦਰ ਸੀਮਾਵਾਂ OpenAI ਦਰ ਸੀਮਾਵਾਂ ਗਾਈਡ
-
ਪ੍ਰਤੀ ਉਪਭੋਗਤਾ/ਸੰਸਥਾ ਅਨੁਮਤੀ ਜਾਂਚਾਂ
-
ਜੋਖਮ ਭਰੀਆਂ ਕਾਰਵਾਈਆਂ ਲਈ "ਡਰਾਈ-ਰਨ ਮੋਡ"
ਅੰਸ਼ਕ ਅਸਫਲਤਾ ਲਈ ਡਿਜ਼ਾਈਨ
ਟੂਲ ਫੇਲ੍ਹ ਹੋ ਜਾਂਦੇ ਹਨ। ਨੈੱਟਵਰਕ ਡਗਮਗਾ ਜਾਂਦੇ ਹਨ। ਪ੍ਰਮਾਣੀਕਰਨ ਦੀ ਮਿਆਦ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ। ਏਜੰਟ ਨੂੰ ਇਹ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ:
-
ਗਲਤੀਆਂ ਦੀ ਵਿਆਖਿਆ ਕਰੋ
-
ਢੁਕਵੇਂ ਹੋਣ 'ਤੇ ਬੈਕਆਫ ਨਾਲ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕਰੋ Google ਕਲਾਉਡ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਰਣਨੀਤੀ (ਬੈਕਆਫ + ਘਬਰਾਹਟ)
-
ਵਿਕਲਪਿਕ ਔਜ਼ਾਰ ਚੁਣੋ
-
ਫਸਣ 'ਤੇ ਵਧਾਓ
ਇੱਕ ਚੁੱਪਚਾਪ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਚਾਲ: ਢਾਂਚਾਗਤ ਗਲਤੀਆਂ ਵਾਪਸ ਕਰੋ ਜਿਵੇਂ ਕਿ:
-
ਕਿਸਮ: auth_error -
ਕਿਸਮ: ਨਹੀਂ ਮਿਲਿਆ -
ਕਿਸਮ: rate_limited
ਇਸ ਲਈ ਮਾਡਲ ਘਬਰਾਉਣ ਦੀ ਬਜਾਏ ਸਮਝਦਾਰੀ ਨਾਲ ਜਵਾਬ ਦੇ ਸਕਦਾ ਹੈ।
8) ਯਾਦਦਾਸ਼ਤ ਜੋ ਤੁਹਾਨੂੰ ਪਰੇਸ਼ਾਨ ਕਰਨ ਦੀ ਬਜਾਏ ਮਦਦ ਕਰਦੀ ਹੈ 👻🗂️
ਯਾਦਦਾਸ਼ਤ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੁੰਦੀ ਹੈ, ਪਰ ਇਹ ਇੱਕ ਕਬਾੜ ਦਾ ਡੱਬਾ ਵੀ ਬਣ ਸਕਦੀ ਹੈ।.
ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਯਾਦਦਾਸ਼ਤ: ਇਸਨੂੰ ਸੰਖੇਪ ਰੱਖੋ
ਵਰਤੋਂ:
-
ਆਖਰੀ N ਕਦਮ
-
ਇੱਕ ਚੱਲ ਰਿਹਾ ਸੰਖੇਪ (ਹਰ ਲੂਪ ਨੂੰ ਅੱਪਡੇਟ ਕੀਤਾ ਗਿਆ)
-
ਮੌਜੂਦਾ ਯੋਜਨਾ
-
ਮੌਜੂਦਾ ਪਾਬੰਦੀਆਂ (ਬਜਟ, ਸਮਾਂ, ਨੀਤੀਆਂ)
ਜੇਕਰ ਤੁਸੀਂ ਹਰ ਚੀਜ਼ ਨੂੰ ਸੰਦਰਭ ਵਿੱਚ ਡੰਪ ਕਰਦੇ ਹੋ, ਤਾਂ ਤੁਹਾਨੂੰ ਮਿਲਦਾ ਹੈ:
-
ਵੱਧ ਲਾਗਤ
-
ਹੌਲੀ ਲੇਟੈਂਸੀ
-
ਹੋਰ ਉਲਝਣ (ਹਾਂ, ਫਿਰ ਵੀ)
ਲੰਬੇ ਸਮੇਂ ਦੀ ਯਾਦਦਾਸ਼ਤ: "ਸਟਫਿੰਗ" ਉੱਤੇ ਮੁੜ ਪ੍ਰਾਪਤੀ
ਜ਼ਿਆਦਾਤਰ "ਲੰਬੀ ਮਿਆਦ ਦੀ ਯਾਦਦਾਸ਼ਤ" ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਹੁੰਦੀ ਹੈ:
-
ਏਮਬੈਡਿੰਗਜ਼
-
ਵੈਕਟਰ ਸਟੋਰ
-
ਰਿਟ੍ਰੀਵਲ ਔਗਮੈਂਟੇਡ ਜਨਰੇਸ਼ਨ (RAG) RAG ਪੇਪਰ
ਏਜੰਟ ਯਾਦ ਨਹੀਂ ਰੱਖਦਾ। ਇਹ ਰਨਟਾਈਮ 'ਤੇ ਸਭ ਤੋਂ ਢੁਕਵੇਂ ਸਨਿੱਪਟ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ। LlamaIndex “RAG ਦੀ ਜਾਣ-ਪਛਾਣ”
ਵਿਹਾਰਕ ਯਾਦਦਾਸ਼ਤ ਦੇ ਨਿਯਮ
-
"ਪਸੰਦਾਂ" ਨੂੰ ਸਪੱਸ਼ਟ ਤੱਥਾਂ ਵਜੋਂ ਸਟੋਰ ਕਰੋ: "ਯੂਜ਼ਰ ਨੂੰ ਬੁਲੇਟ ਸੰਖੇਪ ਪਸੰਦ ਹਨ ਅਤੇ ਇਮੋਜੀ ਨਫ਼ਰਤ ਹਨ" (lol, ਇੱਥੇ ਨਹੀਂ 😄)
-
"ਫੈਸਲਿਆਂ" ਨੂੰ ਟਾਈਮਸਟੈਂਪਾਂ ਜਾਂ ਸੰਸਕਰਣਾਂ ਨਾਲ ਸਟੋਰ ਕਰੋ (ਨਹੀਂ ਤਾਂ ਵਿਰੋਧਾਭਾਸ ਇਕੱਠੇ ਹੋ ਜਾਂਦੇ ਹਨ)
-
ਕਦੇ ਵੀ ਭੇਤ ਨਾ ਰੱਖੋ ਜਦੋਂ ਤੱਕ ਤੁਹਾਨੂੰ ਸੱਚਮੁੱਚ ਅਜਿਹਾ ਕਰਨ ਦੀ ਲੋੜ ਨਾ ਪਵੇ
ਅਤੇ ਇੱਥੇ ਮੇਰਾ ਅਪੂਰਣ ਰੂਪਕ ਹੈ: ਯਾਦਦਾਸ਼ਤ ਇੱਕ ਫਰਿੱਜ ਵਰਗੀ ਹੈ। ਜੇ ਤੁਸੀਂ ਇਸਨੂੰ ਕਦੇ ਸਾਫ਼ ਨਹੀਂ ਕਰਦੇ, ਤਾਂ ਅੰਤ ਵਿੱਚ ਤੁਹਾਡੇ ਸੈਂਡਵਿਚ ਦਾ ਸੁਆਦ ਪਿਆਜ਼ ਅਤੇ ਪਛਤਾਵੇ ਵਰਗਾ ਹੋ ਜਾਵੇਗਾ।.
9) ਯੋਜਨਾਬੰਦੀ ਦੇ ਨਮੂਨੇ (ਸਧਾਰਨ ਤੋਂ ਫੈਂਸੀ ਤੱਕ) 🧭✨
ਯੋਜਨਾਬੰਦੀ ਸਿਰਫ਼ ਨਿਯੰਤਰਿਤ ਸੜਨ ਹੈ। ਇਸਨੂੰ ਰਹੱਸਮਈ ਨਾ ਬਣਾਓ।.
ਪੈਟਰਨ ਏ: ਚੈੱਕਲਿਸਟ ਪਲੈਨਰ ✅
-
ਮਾਡਲ ਕਦਮਾਂ ਦੀ ਇੱਕ ਸੂਚੀ ਆਉਟਪੁੱਟ ਕਰਦਾ ਹੈ
-
ਕਦਮ-ਦਰ-ਕਦਮ ਲਾਗੂ ਕਰਦਾ ਹੈ
-
ਚੈੱਕਲਿਸਟ ਸਥਿਤੀ ਨੂੰ ਅੱਪਡੇਟ ਕਰਦਾ ਹੈ
ਆਨਬੋਰਡਿੰਗ ਲਈ ਬਹੁਤ ਵਧੀਆ। ਸਰਲ, ਟੈਸਟ ਕਰਨ ਯੋਗ।.
ਪੈਟਰਨ ਬੀ: ਰੀਐਕਟ ਲੂਪ (ਕਾਰਨ + ਐਕਟ) 🧠→🧰
-
ਮਾਡਲ ਅਗਲੀ ਟੂਲ ਕਾਲ ਦਾ ਫੈਸਲਾ ਕਰਦਾ ਹੈ
-
ਆਉਟਪੁੱਟ ਨੂੰ ਵੇਖਦਾ ਹੈ
-
ਰੀਐਕਟ ਪੇਪਰ ਦੁਹਰਾਉਂਦਾ ਹੈ
ਇਹ ਕਲਾਸਿਕ ਏਜੰਟ ਅਹਿਸਾਸ ਹੈ।.
ਪੈਟਰਨ C: ਸੁਪਰਵਾਈਜ਼ਰ-ਵਰਕਰ 👥
-
ਸੁਪਰਵਾਈਜ਼ਰ ਟੀਚੇ ਨੂੰ ਕੰਮਾਂ ਵਿੱਚ ਵੰਡਦਾ ਹੈ
-
ਕਾਮੇ ਵਿਸ਼ੇਸ਼ ਕੰਮ ਕਰਦੇ ਹਨ
-
ਸੁਪਰਵਾਈਜ਼ਰ ਨਤੀਜਿਆਂ ਨੂੰ ਮਿਲਾਉਂਦਾ ਹੈ ਮਾਈਕ੍ਰੋਸਾਫਟ ਆਟੋਜੇਨ (ਮਲਟੀ-ਏਜੰਟ ਫਰੇਮਵਰਕ)
ਇਹ ਉਦੋਂ ਕੀਮਤੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਕਾਰਜ ਸਮਾਨਾਂਤਰ ਹੋਣ, ਜਾਂ ਜਦੋਂ ਤੁਸੀਂ ਵੱਖ-ਵੱਖ "ਭੂਮਿਕਾ" ਚਾਹੁੰਦੇ ਹੋ ਜਿਵੇਂ ਕਿ:
-
ਖੋਜਕਰਤਾ
-
ਕੋਡਰ
-
ਸੰਪਾਦਕ
-
QA ਚੈਕਰ
ਪੈਟਰਨ ਡੀ: ਦੁਬਾਰਾ ਯੋਜਨਾਬੰਦੀ ਨਾਲ ਯੋਜਨਾ ਬਣਾਓ-ਫਿਰ-ਲਾਗੂ ਕਰੋ 🔄
-
ਯੋਜਨਾ ਬਣਾਓ
-
ਚਲਾਉਣਾ
-
ਜੇਕਰ ਔਜ਼ਾਰ ਦੇ ਨਤੀਜੇ ਹਕੀਕਤ ਨੂੰ ਬਦਲਦੇ ਹਨ, ਤਾਂ ਦੁਬਾਰਾ ਯੋਜਨਾ ਬਣਾਓ
ਇਹ ਏਜੰਟ ਨੂੰ ਇੱਕ ਬੁਰੀ ਯੋਜਨਾ ਦੀ ਜ਼ਿੱਦ ਨਾਲ ਪਾਲਣਾ ਕਰਨ ਤੋਂ ਰੋਕਦਾ ਹੈ। ਮਨੁੱਖ ਵੀ ਅਜਿਹਾ ਕਰਦੇ ਹਨ, ਜਦੋਂ ਤੱਕ ਕਿ ਉਹ ਥੱਕੇ ਨਾ ਹੋਣ, ਇਸ ਸਥਿਤੀ ਵਿੱਚ ਉਹ ਵੀ ਮਾੜੀਆਂ ਯੋਜਨਾਵਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ।.
10) ਸੁਰੱਖਿਆ, ਭਰੋਸੇਯੋਗਤਾ, ਅਤੇ ਨੌਕਰੀ ਤੋਂ ਨਾ ਕੱਢੇ ਜਾਣਾ 🔐😅
ਜੇਕਰ ਤੁਹਾਡਾ ਏਜੰਟ ਕਾਰਵਾਈ ਕਰ ਸਕਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਸੁਰੱਖਿਆ ਡਿਜ਼ਾਈਨ ਦੀ ਲੋੜ ਹੈ। "ਹੋਣਾ ਚੰਗਾ" ਨਹੀਂ। ਲੋੜ ਹੈ। NIST AI RMF 1.0
ਸਖ਼ਤ ਸੀਮਾਵਾਂ
-
ਪ੍ਰਤੀ ਦੌੜ ਵੱਧ ਤੋਂ ਵੱਧ ਕਦਮ
-
ਵੱਧ ਤੋਂ ਵੱਧ ਟੂਲ ਕਾਲ ਪ੍ਰਤੀ ਮਿੰਟ
-
ਪ੍ਰਤੀ ਸੈਸ਼ਨ ਵੱਧ ਤੋਂ ਵੱਧ ਖਰਚ (ਟੋਕਨ ਬਜਟ)
-
ਪ੍ਰਵਾਨਗੀ ਦੇ ਪਿੱਛੇ ਸੀਮਤ ਔਜ਼ਾਰ
ਡਾਟਾ ਹੈਂਡਲਿੰਗ
-
ਲਾਗਿੰਗ ਤੋਂ ਪਹਿਲਾਂ ਸੰਵੇਦਨਸ਼ੀਲ ਇਨਪੁਟਸ ਨੂੰ ਸੋਧੋ
-
ਵੱਖਰੇ ਵਾਤਾਵਰਣ (ਵਿਕਾਸ ਬਨਾਮ ਉਤਪਾਦਨ)
-
ਘੱਟ ਤੋਂ ਘੱਟ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਵਾਲੇ ਟੂਲ ਅਨੁਮਤੀਆਂ
ਵਿਵਹਾਰ ਸੰਬੰਧੀ ਪਾਬੰਦੀਆਂ
-
ਏਜੰਟ ਨੂੰ ਅੰਦਰੂਨੀ ਸਬੂਤ ਦੇ ਸਨਿੱਪਟ (ਬਾਹਰੀ ਲਿੰਕ ਨਹੀਂ, ਸਿਰਫ਼ ਅੰਦਰੂਨੀ ਹਵਾਲੇ) ਦੇਣ ਲਈ ਮਜਬੂਰ ਕਰੋ।
-
ਜਦੋਂ ਵਿਸ਼ਵਾਸ ਘੱਟ ਹੋਵੇ ਤਾਂ ਅਨਿਸ਼ਚਿਤਤਾ ਦੇ ਝੰਡੇ ਚਾਹੀਦੇ ਹਨ
-
ਜੇਕਰ ਇਨਪੁਟ ਅਸਪਸ਼ਟ ਹਨ ਤਾਂ "ਸਪਸ਼ਟੀਕਰਨ ਸਵਾਲ ਪੁੱਛੋ" ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
ਇੱਕ ਭਰੋਸੇਮੰਦ ਏਜੰਟ ਸਭ ਤੋਂ ਵੱਧ ਭਰੋਸੇਮੰਦ ਨਹੀਂ ਹੁੰਦਾ। ਇਹ ਉਹ ਹੁੰਦਾ ਹੈ ਜੋ ਜਾਣਦਾ ਹੈ ਕਿ ਇਹ ਕਦੋਂ ਅੰਦਾਜ਼ਾ ਲਗਾ ਰਿਹਾ ਹੈ... ਅਤੇ ਅਜਿਹਾ ਕਹਿੰਦਾ ਹੈ।.
11) ਜਾਂਚ ਅਤੇ ਮੁਲਾਂਕਣ (ਉਹ ਹਿੱਸਾ ਜਿਸ ਤੋਂ ਹਰ ਕੋਈ ਪਰਹੇਜ਼ ਕਰਦਾ ਹੈ) 🧪📏
ਤੁਸੀਂ ਉਸ ਨੂੰ ਸੁਧਾਰ ਨਹੀਂ ਸਕਦੇ ਜਿਸਨੂੰ ਤੁਸੀਂ ਮਾਪ ਨਹੀਂ ਸਕਦੇ। ਹਾਂ, ਉਹ ਲਾਈਨ ਠੱਗੀ ਵਾਲੀ ਹੈ, ਪਰ ਇਹ ਤੰਗ ਕਰਨ ਵਾਲੀ ਸੱਚ ਹੈ।.
ਇੱਕ ਦ੍ਰਿਸ਼ ਸੈੱਟ ਬਣਾਓ
30-100 ਟੈਸਟ ਕੇਸ ਬਣਾਓ:
-
ਖੁਸ਼ਹਾਲ ਰਸਤੇ
-
ਕਿਨਾਰੇ ਵਾਲੇ ਕੇਸ
-
"ਔਜ਼ਾਰ ਫੇਲ੍ਹ" ਮਾਮਲੇ
-
ਅਸਪਸ਼ਟ ਬੇਨਤੀਆਂ
-
ਐਡਵਰਸਰੀਅਲ ਪ੍ਰੋਂਪਟ (ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਕੋਸ਼ਿਸ਼ਾਂ) OWASP LLM ਐਪਸ ਲਈ ਸਿਖਰਲੇ 10 OWASP LLM01 ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ
ਸਕੋਰ ਨਤੀਜੇ
ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਮੈਟ੍ਰਿਕਸ ਦੀ ਵਰਤੋਂ ਕਰੋ:
-
ਕੰਮ ਦੀ ਸਫਲਤਾ ਦਰ
-
ਪੂਰਾ ਹੋਣ ਦਾ ਸਮਾਂ
-
ਟੂਲ ਗਲਤੀ ਰਿਕਵਰੀ ਦਰ
-
ਭਰਮ ਦਰ (ਸਬੂਤ ਤੋਂ ਬਿਨਾਂ ਦਾਅਵੇ)
-
ਮਨੁੱਖੀ ਪ੍ਰਵਾਨਗੀ ਦਰ (ਜੇਕਰ ਨਿਗਰਾਨੀ ਅਧੀਨ ਹੋਵੇ)
ਪ੍ਰੋਂਪਟ ਅਤੇ ਟੂਲਸ ਲਈ ਰਿਗਰੈਸ਼ਨ ਟੈਸਟ
ਜਦੋਂ ਵੀ ਤੁਸੀਂ ਬਦਲਦੇ ਹੋ:
-
ਟੂਲ ਸਕੀਮਾ
-
ਸਿਸਟਮ ਨਿਰਦੇਸ਼
-
ਪ੍ਰਾਪਤੀ ਤਰਕ
-
ਮੈਮੋਰੀ ਫਾਰਮੈਟ
ਸੂਟ ਨੂੰ ਦੁਬਾਰਾ ਚਲਾਓ।
ਏਜੰਟ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਨਵਰ ਹੁੰਦੇ ਹਨ। ਘਰੇਲੂ ਪੌਦਿਆਂ ਵਾਂਗ, ਪਰ ਵਧੇਰੇ ਮਹਿੰਗੇ।.
12) ਤੈਨਾਤੀ ਪੈਟਰਨ ਜੋ ਤੁਹਾਡੇ ਬਜਟ ਨੂੰ ਨਹੀਂ ਪਿਘਲਾਉਂਦੇ 💸🔥
ਇੱਕ ਸੇਵਾ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ
-
ਏਜੰਟ ਕੰਟਰੋਲਰ API
-
ਇਸਦੇ ਪਿੱਛੇ ਟੂਲ ਸੇਵਾਵਾਂ
-
ਲੌਗਿੰਗ + ਨਿਗਰਾਨੀ ਓਪਨਟੈਲੀਮੈਟਰੀ ਨਿਰੀਖਣਯੋਗਤਾ ਪ੍ਰਾਈਮਰ
ਲਾਗਤ ਨਿਯੰਤਰਣ ਜਲਦੀ ਸ਼ਾਮਲ ਕਰੋ
-
ਕੈਸ਼ਿੰਗ ਪ੍ਰਾਪਤੀ ਨਤੀਜੇ
-
ਸੰਖੇਪਾਂ ਨਾਲ ਗੱਲਬਾਤ ਸਥਿਤੀ ਨੂੰ ਸੰਕੁਚਿਤ ਕਰਨਾ
-
ਰੂਟਿੰਗ ਅਤੇ ਐਕਸਟਰੈਕਸ਼ਨ ਲਈ ਛੋਟੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ
-
"ਡੂੰਘੀ ਸੋਚ ਦੇ ਢੰਗ" ਨੂੰ ਸਭ ਤੋਂ ਔਖੇ ਕਦਮਾਂ ਤੱਕ ਸੀਮਤ ਕਰਨਾ
ਆਮ ਆਰਕੀਟੈਕਚਰ ਚੋਣ
-
ਸਟੇਟਲੈੱਸ ਕੰਟਰੋਲਰ + ਬਾਹਰੀ ਸਟੇਟ ਸਟੋਰ (DB/redis)
-
ਜਿੱਥੇ ਸੰਭਵ ਹੋਵੇ ਟੂਲ ਕਾਲਾਂ ਅਯੋਗ ਹਨ ਸਟ੍ਰਾਈਪ “ਅਯੋਗ ਬੇਨਤੀਆਂ”
-
ਲੰਬੇ ਕੰਮਾਂ ਲਈ ਕਤਾਰ (ਤਾਂ ਜੋ ਤੁਹਾਡੇ ਕੋਲ ਵੈੱਬ ਬੇਨਤੀ ਹਮੇਸ਼ਾ ਲਈ ਖੁੱਲ੍ਹੀ ਨਾ ਰਹੇ)
ਨਾਲ ਹੀ: ਇੱਕ "ਕਿੱਲ ਸਵਿੱਚ" ਬਣਾਓ। ਤੁਹਾਨੂੰ ਇਸਦੀ ਲੋੜ ਉਦੋਂ ਤੱਕ ਨਹੀਂ ਪਵੇਗੀ ਜਦੋਂ ਤੱਕ ਤੁਹਾਨੂੰ ਇਸਦੀ ਸੱਚਮੁੱਚ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ 😬
13) ਸਮਾਪਤੀ ਨੋਟਸ - ਇੱਕ AI ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਉਣਾ ਹੈ ਬਾਰੇ ਛੋਟਾ ਸੰਸਕਰਣ 🎁🤖
ਜੇ ਤੁਹਾਨੂੰ ਹੋਰ ਕੁਝ ਯਾਦ ਨਹੀਂ ਹੈ, ਤਾਂ ਇਹ ਯਾਦ ਰੱਖੋ:
-
ਇੱਕ AI ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ ਇਹ ਜ਼ਿਆਦਾਤਰ ਇੱਕ ਮਾਡਲ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਇੱਕ ਸੁਰੱਖਿਅਤ ਲੂਪ ਬਣਾਉਣ ਬਾਰੇ ਹੈ। LangChain “ਏਜੰਟ” ਦਸਤਾਵੇਜ਼
-
ਇੱਕ ਸਪੱਸ਼ਟ ਟੀਚੇ, ਘੱਟ ਖੁਦਮੁਖਤਿਆਰੀ, ਅਤੇ ਸਖ਼ਤ ਔਜ਼ਾਰਾਂ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰੋ। OpenAI ਸਟ੍ਰਕਚਰਡ ਆਉਟਪੁੱਟ
-
ਬੇਅੰਤ ਸੰਦਰਭ ਭਰਾਈ ਰਾਹੀਂ ਨਹੀਂ, ਸਗੋਂ ਪ੍ਰਾਪਤੀ ਰਾਹੀਂ ਮੈਮੋਰੀ ਜੋੜੋ। RAG ਪੇਪਰ
-
ਯੋਜਨਾਬੰਦੀ ਸੌਖੀ ਹੋ ਸਕਦੀ ਹੈ - ਚੈੱਕਲਿਸਟਾਂ ਅਤੇ ਮੁੜ ਯੋਜਨਾਬੰਦੀ ਬਹੁਤ ਦੂਰ ਤੱਕ ਜਾਂਦੀ ਹੈ।.
-
ਲੌਗਿੰਗ ਅਤੇ ਟੈਸਟ ਏਜੰਟ ਹਫੜਾ-ਦਫੜੀ ਨੂੰ ਅਜਿਹੀ ਚੀਜ਼ ਵਿੱਚ ਬਦਲ ਦਿੰਦੇ ਹਨ ਜਿਸਨੂੰ ਤੁਸੀਂ ਭੇਜ ਸਕਦੇ ਹੋ। ਓਪਨਟੈਲੀਮੈਟਰੀ ਆਬਜ਼ਰਵੇਬਿਲਟੀ ਪ੍ਰਾਈਮਰ
-
ਗਾਰਡਰੇਲ ਕੋਡ ਵਿੱਚ ਹੁੰਦੇ ਹਨ, ਸਿਰਫ਼ ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਨਹੀਂ। LLM ਐਪਸ ਲਈ OWASP ਸਿਖਰਲੇ 10
ਇੱਕ ਏਜੰਟ ਜਾਦੂ ਨਹੀਂ ਹੁੰਦਾ। ਇਹ ਇੱਕ ਅਜਿਹਾ ਸਿਸਟਮ ਹੈ ਜੋ ਅਕਸਰ ਕੀਮਤੀ ਹੋਣ ਲਈ ਚੰਗੇ ਫੈਸਲੇ ਲੈਂਦਾ ਹੈ... ਅਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਹਾਰ ਮੰਨ ਲੈਂਦਾ ਹੈ। ਚੁੱਪਚਾਪ ਦਿਲਾਸਾ ਦੇਣ ਵਾਲਾ, ਇੱਕ ਤਰ੍ਹਾਂ ਨਾਲ 😌
ਅਤੇ ਹਾਂ, ਜੇ ਤੁਸੀਂ ਇਸਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਬਣਾਉਂਦੇ ਹੋ, ਤਾਂ ਇਹ ਇੱਕ ਛੋਟੇ ਜਿਹੇ ਡਿਜੀਟਲ ਇੰਟਰਨ ਨੂੰ ਨੌਕਰੀ 'ਤੇ ਰੱਖਣ ਵਰਗਾ ਮਹਿਸੂਸ ਹੁੰਦਾ ਹੈ ਜੋ ਕਦੇ ਨਹੀਂ ਸੌਂਦਾ, ਕਦੇ-ਕਦੇ ਘਬਰਾ ਜਾਂਦਾ ਹੈ, ਅਤੇ ਕਾਗਜ਼ੀ ਕਾਰਵਾਈ ਨੂੰ ਪਿਆਰ ਕਰਦਾ ਹੈ। ਇਸ ਲਈ, ਅਸਲ ਵਿੱਚ ਇੱਕ ਇੰਟਰਨ।.
ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਸਰਲ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਇੱਕ AI ਏਜੰਟ ਕੀ ਹੁੰਦਾ ਹੈ?
ਇੱਕ AI ਏਜੰਟ ਮੂਲ ਰੂਪ ਵਿੱਚ ਇੱਕ ਲੂਪ ਹੁੰਦਾ ਹੈ ਜੋ ਦੁਹਰਾਉਂਦਾ ਹੈ: ਇਨਪੁਟ ਲਓ, ਅਗਲਾ ਕਦਮ ਫੈਸਲਾ ਕਰੋ, ਇੱਕ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰੋ, ਨਤੀਜਾ ਪੜ੍ਹੋ, ਅਤੇ ਜਦੋਂ ਤੱਕ ਇਹ ਪੂਰਾ ਨਹੀਂ ਹੋ ਜਾਂਦਾ ਉਦੋਂ ਤੱਕ ਦੁਹਰਾਓ। "ਏਜੰਟਿਕ" ਹਿੱਸਾ ਸਿਰਫ਼ ਚੈਟਿੰਗ ਤੋਂ ਨਹੀਂ, ਸਗੋਂ ਕੰਮ ਕਰਨ ਅਤੇ ਦੇਖਣ ਤੋਂ ਆਉਂਦਾ ਹੈ। ਬਹੁਤ ਸਾਰੇ ਏਜੰਟ ਸਿਰਫ਼ ਟੂਲ ਐਕਸੈਸ ਦੇ ਨਾਲ ਸਮਾਰਟ ਆਟੋਮੇਸ਼ਨ ਹੁੰਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਦੂਸਰੇ ਇੱਕ ਜੂਨੀਅਰ ਓਪਰੇਟਰ ਵਾਂਗ ਵਿਵਹਾਰ ਕਰਦੇ ਹਨ ਜੋ ਗਲਤੀਆਂ ਤੋਂ ਠੀਕ ਹੋ ਸਕਦਾ ਹੈ।.
ਮੈਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਪ੍ਰੋਂਪਟ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਬਜਾਏ ਇੱਕ AI ਏਜੰਟ ਕਦੋਂ ਬਣਾਉਣਾ ਚਾਹੀਦਾ ਹੈ?
ਜਦੋਂ ਕੰਮ ਬਹੁ-ਪੜਾਵੀ ਹੋਵੇ, ਵਿਚਕਾਰਲੇ ਨਤੀਜਿਆਂ ਦੇ ਆਧਾਰ 'ਤੇ ਬਦਲਦਾ ਹੋਵੇ, ਅਤੇ ਭਰੋਸੇਯੋਗ ਟੂਲ ਵਰਤੋਂ (API, ਡੇਟਾਬੇਸ, ਟਿਕਟਿੰਗ, ਕੋਡ ਐਗਜ਼ੀਕਿਊਸ਼ਨ) ਦੀ ਲੋੜ ਹੋਵੇ ਤਾਂ ਇੱਕ ਏਜੰਟ ਬਣਾਓ। ਏਜੰਟ ਉਦੋਂ ਵੀ ਲਾਭਦਾਇਕ ਹੁੰਦੇ ਹਨ ਜਦੋਂ ਤੁਸੀਂ ਗਾਰਡਰੇਲ ਅਤੇ "ਹੋ ਗਿਆ" ਦੀ ਜਾਂਚ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨਾਲ ਦੁਹਰਾਉਣ ਯੋਗ ਨਤੀਜੇ ਚਾਹੁੰਦੇ ਹੋ। ਜੇਕਰ ਇੱਕ ਸਧਾਰਨ ਪ੍ਰੋਂਪਟ-ਜਵਾਬ ਕੰਮ ਕਰਦਾ ਹੈ, ਤਾਂ ਇੱਕ ਏਜੰਟ ਆਮ ਤੌਰ 'ਤੇ ਬੇਲੋੜਾ ਓਵਰਹੈੱਡ ਅਤੇ ਵਾਧੂ ਅਸਫਲਤਾ ਮੋਡ ਹੁੰਦਾ ਹੈ।.
ਮੈਂ ਇੱਕ ਅਜਿਹਾ AI ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਵਾਂ ਜੋ ਲੂਪਸ ਵਿੱਚ ਨਾ ਫਸੇ?
ਹਾਰਡ ਸਟਾਪ ਸ਼ਰਤਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ: ਵੱਧ ਤੋਂ ਵੱਧ ਕਦਮ, ਵੱਧ ਤੋਂ ਵੱਧ ਟੂਲ ਕਾਲ, ਅਤੇ ਸਪਸ਼ਟ ਸੰਪੂਰਨਤਾ ਜਾਂਚ। ਸਟ੍ਰਕਚਰਡ ਟੂਲ ਸਕੀਮਾ, ਟਾਈਮਆਉਟ, ਅਤੇ ਰੀਟ੍ਰਾਈਜ ਸ਼ਾਮਲ ਕਰੋ ਜੋ ਹਮੇਸ਼ਾ ਲਈ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਨਹੀਂ ਕਰਨਗੇ। ਫੈਸਲਿਆਂ ਅਤੇ ਟੂਲ ਆਉਟਪੁੱਟ ਨੂੰ ਲੌਗ ਕਰੋ ਤਾਂ ਜੋ ਤੁਸੀਂ ਦੇਖ ਸਕੋ ਕਿ ਇਹ ਕਿੱਥੇ ਪਟੜੀ ਤੋਂ ਉਤਰਦਾ ਹੈ। ਇੱਕ ਆਮ ਸੁਰੱਖਿਆ ਵਾਲਵ ਐਸਕੇਲੇਸ਼ਨ ਹੈ: ਜੇਕਰ ਏਜੰਟ ਅਨਿਸ਼ਚਿਤ ਹੈ ਜਾਂ ਗਲਤੀਆਂ ਦੁਹਰਾਉਂਦਾ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਸੁਧਾਰ ਕਰਨ ਦੀ ਬਜਾਏ ਮਦਦ ਮੰਗਣੀ ਚਾਹੀਦੀ ਹੈ।.
ਏਆਈ ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ ਲਈ ਘੱਟੋ-ਘੱਟ ਆਰਕੀਟੈਕਚਰ ਕੀ ਹੈ?
ਘੱਟੋ-ਘੱਟ ਤੁਹਾਨੂੰ ਇੱਕ ਕੰਟਰੋਲਰ ਲੂਪ ਦੀ ਲੋੜ ਹੈ ਜੋ ਮਾਡਲ ਨੂੰ ਇੱਕ ਟੀਚਾ ਅਤੇ ਸੰਦਰਭ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਅਗਲੀ ਕਾਰਵਾਈ ਲਈ ਪੁੱਛਦਾ ਹੈ, ਬੇਨਤੀ ਕੀਤੇ ਜਾਣ 'ਤੇ ਇੱਕ ਟੂਲ ਨੂੰ ਲਾਗੂ ਕਰਦਾ ਹੈ, ਨਿਰੀਖਣ ਜੋੜਦਾ ਹੈ, ਅਤੇ ਦੁਹਰਾਉਂਦਾ ਹੈ। ਤੁਹਾਨੂੰ ਸਖ਼ਤ ਇਨਪੁਟ/ਆਉਟਪੁੱਟ ਆਕਾਰਾਂ ਅਤੇ "ਕੀਤਾ" ਜਾਂਚ ਵਾਲੇ ਟੂਲਸ ਦੀ ਵੀ ਲੋੜ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਸਥਿਤੀ ਨੂੰ ਸਾਫ਼ ਰੱਖਦੇ ਹੋ ਅਤੇ ਕਦਮ ਸੀਮਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰਦੇ ਹੋ ਤਾਂ ਇੱਕ ਰੋਲ-ਯੂਅਰ-ਓਨ ਲੂਪ ਵੀ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ।.
ਮੈਨੂੰ ਟੂਲ ਕਾਲਿੰਗ ਕਿਵੇਂ ਡਿਜ਼ਾਈਨ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਤਾਂ ਜੋ ਇਹ ਉਤਪਾਦਨ ਵਿੱਚ ਭਰੋਸੇਯੋਗ ਹੋਵੇ?
ਟੂਲਸ ਨੂੰ ਸੀਮਤ, ਟਾਈਪ ਕੀਤਾ, ਅਨੁਮਤੀ ਪ੍ਰਾਪਤ, ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਰੱਖੋ—ਇੱਕ ਆਮ "do_anything" ਟੂਲ ਤੋਂ ਬਚੋ। ਸਖ਼ਤ ਸਕੀਮਾਂ (ਜਿਵੇਂ ਕਿ ਢਾਂਚਾਗਤ ਆਉਟਪੁੱਟ/ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ) ਨੂੰ ਤਰਜੀਹ ਦਿਓ ਤਾਂ ਜੋ ਏਜੰਟ ਇਨਪੁਟਸ ਨੂੰ ਹੱਥ ਨਾਲ ਨਾ ਭੇਜ ਸਕੇ। ਟੂਲ ਲੇਅਰ 'ਤੇ ਅਲਾਉਲਿਸਟਸ, ਰੇਟ ਸੀਮਾਵਾਂ, ਅਤੇ ਉਪਭੋਗਤਾ/ਸੰਗਠਨ ਅਨੁਮਤੀ ਜਾਂਚਾਂ ਸ਼ਾਮਲ ਕਰੋ। ਆਈਡੈਂਪੋਟੈਂਸੀ ਪੈਟਰਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ਜਦੋਂ ਵੀ ਸੰਭਵ ਹੋਵੇ ਤਾਂ ਦੁਬਾਰਾ ਚਲਾਉਣ ਲਈ ਸੁਰੱਖਿਅਤ ਹੋਣ ਲਈ ਟੂਲ ਡਿਜ਼ਾਈਨ ਕਰੋ।.
ਏਜੰਟ ਨੂੰ ਹੋਰ ਖਰਾਬ ਕੀਤੇ ਬਿਨਾਂ ਮੈਮੋਰੀ ਜੋੜਨ ਦਾ ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕਾ ਕੀ ਹੈ?
ਮੈਮੋਰੀ ਨੂੰ ਦੋ ਹਿੱਸਿਆਂ ਵਿੱਚ ਮੰਨੋ: ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਰਨ ਸਥਿਤੀ (ਹਾਲੀਆ ਕਦਮ, ਮੌਜੂਦਾ ਯੋਜਨਾ, ਪਾਬੰਦੀਆਂ) ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਦੀ ਪ੍ਰਾਪਤੀ (ਤਰਜੀਹਾਂ, ਸਥਿਰ ਨਿਯਮ, ਸੰਬੰਧਿਤ ਦਸਤਾਵੇਜ਼)। ਥੋੜ੍ਹੇ ਸਮੇਂ ਦੀ ਸੰਖੇਪਤਾ ਨੂੰ ਚੱਲ ਰਹੇ ਸੰਖੇਪਾਂ ਨਾਲ ਰੱਖੋ, ਪੂਰੀ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟਾਂ ਨਾਲ ਨਹੀਂ। ਲੰਬੇ ਸਮੇਂ ਦੀ ਮੈਮੋਰੀ ਲਈ, ਪ੍ਰਾਪਤੀ (ਏਮਬੈਡਿੰਗ + ਵੈਕਟਰ ਸਟੋਰ/RAG ਪੈਟਰਨ) ਆਮ ਤੌਰ 'ਤੇ ਹਰ ਚੀਜ਼ ਨੂੰ ਸੰਦਰਭ ਵਿੱਚ "ਸਟਫਿੰਗ" ਕਰਨ ਅਤੇ ਮਾਡਲ ਨੂੰ ਉਲਝਾਉਣ ਤੋਂ ਬਚਾਉਂਦੀ ਹੈ।.
ਮੈਨੂੰ ਕਿਹੜਾ ਯੋਜਨਾਬੰਦੀ ਪੈਟਰਨ ਵਰਤਣਾ ਚਾਹੀਦਾ ਹੈ: ਚੈੱਕਲਿਸਟ, ਰੀਐਕਟ, ਜਾਂ ਸੁਪਰਵਾਈਜ਼ਰ-ਵਰਕਰ?
ਇੱਕ ਚੈੱਕਲਿਸਟ ਪਲੈਨਰ ਉਦੋਂ ਬਹੁਤ ਵਧੀਆ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਕੰਮ ਅਨੁਮਾਨਯੋਗ ਹੁੰਦੇ ਹਨ ਅਤੇ ਤੁਸੀਂ ਕੁਝ ਆਸਾਨ ਟੈਸਟ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹੋ। ਰੀਐਕਟ-ਸ਼ੈਲੀ ਦੇ ਲੂਪ ਉਦੋਂ ਚਮਕਦੇ ਹਨ ਜਦੋਂ ਟੂਲ ਦੇ ਨਤੀਜੇ ਤੁਹਾਡੇ ਅੱਗੇ ਕੀਤੇ ਕੰਮ ਨੂੰ ਬਦਲਦੇ ਹਨ। ਸੁਪਰਵਾਈਜ਼ਰ-ਵਰਕਰ ਪੈਟਰਨ (ਜਿਵੇਂ ਕਿ ਆਟੋਜੇਨ-ਸ਼ੈਲੀ ਰੋਲ ਸੈਪਰੇਸ਼ਨ) ਉਦੋਂ ਮਦਦ ਕਰਦੇ ਹਨ ਜਦੋਂ ਕਾਰਜਾਂ ਨੂੰ ਸਮਾਨਾਂਤਰ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ ਜਾਂ ਵੱਖ-ਵੱਖ ਭੂਮਿਕਾਵਾਂ (ਖੋਜਕਰਤਾ, ਕੋਡਰ, QA) ਤੋਂ ਲਾਭ ਪ੍ਰਾਪਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਰੀਪਲੈਨਿੰਗ ਨਾਲ ਯੋਜਨਾ ਬਣਾਓ-ਫਿਰ-ਐਗਜ਼ੀਕਿਊਟ ਕਰੋ ਜ਼ਿੱਦੀ ਮਾੜੀਆਂ ਯੋਜਨਾਵਾਂ ਤੋਂ ਬਚਣ ਲਈ ਇੱਕ ਵਿਹਾਰਕ ਵਿਚਕਾਰਲਾ ਆਧਾਰ ਹੈ।.
ਜੇਕਰ ਏਜੰਟ ਅਸਲ ਕਾਰਵਾਈਆਂ ਕਰ ਸਕਦਾ ਹੈ ਤਾਂ ਮੈਂ ਉਸਨੂੰ ਕਿਵੇਂ ਸੁਰੱਖਿਅਤ ਬਣਾਵਾਂ?
ਘੱਟੋ-ਘੱਟ-ਅਧਿਕਾਰ ਅਨੁਮਤੀਆਂ ਦੀ ਵਰਤੋਂ ਕਰੋ ਅਤੇ ਪ੍ਰਵਾਨਗੀ ਜਾਂ "ਡਰਾਈ-ਰਨ" ਮੋਡਾਂ ਦੇ ਪਿੱਛੇ ਜੋਖਮ ਭਰੇ ਟੂਲਸ ਨੂੰ ਸੀਮਤ ਕਰੋ। ਬਜਟ ਅਤੇ ਕੈਪਸ ਸ਼ਾਮਲ ਕਰੋ: ਵੱਧ ਤੋਂ ਵੱਧ ਕਦਮ, ਵੱਧ ਤੋਂ ਵੱਧ ਖਰਚ, ਅਤੇ ਪ੍ਰਤੀ-ਮਿੰਟ ਟੂਲ ਕਾਲ ਸੀਮਾਵਾਂ। ਲੌਗਿੰਗ ਤੋਂ ਪਹਿਲਾਂ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਨੂੰ ਸੋਧੋ, ਅਤੇ ਵਿਕਾਸ ਨੂੰ ਉਤਪਾਦਨ ਵਾਤਾਵਰਣ ਤੋਂ ਵੱਖ ਕਰੋ। ਜਦੋਂ ਇਨਪੁਟ ਅਸਪਸ਼ਟ ਹੋਣ ਤਾਂ ਅਨਿਸ਼ਚਿਤਤਾ ਫਲੈਗ ਜਾਂ ਸਪਸ਼ਟੀਕਰਨ ਪ੍ਰਸ਼ਨਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਇਸ ਦੀ ਬਜਾਏ ਕਿ ਵਿਸ਼ਵਾਸ ਸਬੂਤ ਦੀ ਥਾਂ ਲੈਂਦਾ ਹੈ।.
ਮੈਂ ਇੱਕ AI ਏਜੰਟ ਦੀ ਜਾਂਚ ਅਤੇ ਮੁਲਾਂਕਣ ਕਿਵੇਂ ਕਰਾਂ ਤਾਂ ਜੋ ਇਹ ਸਮੇਂ ਦੇ ਨਾਲ ਬਿਹਤਰ ਹੋ ਸਕੇ?
ਹੈਪੀ ਪਾਥ, ਐਜ ਕੇਸ, ਟੂਲ ਫੇਲ੍ਹ ਹੋਣ, ਅਸਪਸ਼ਟ ਬੇਨਤੀਆਂ, ਅਤੇ ਪ੍ਰੋਂਪਟ-ਇੰਜੈਕਸ਼ਨ ਕੋਸ਼ਿਸ਼ਾਂ (OWASP-ਸ਼ੈਲੀ) ਦੇ ਨਾਲ ਇੱਕ ਦ੍ਰਿਸ਼ ਸੂਟ ਬਣਾਓ। ਸਕੋਰ ਨਤੀਜੇ ਜਿਵੇਂ ਕਿ ਕਾਰਜ ਸਫਲਤਾ, ਸਮਾਂ-ਪੂਰਾ ਕਰਨ, ਟੂਲ ਗਲਤੀਆਂ ਤੋਂ ਰਿਕਵਰੀ, ਅਤੇ ਸਬੂਤ ਤੋਂ ਬਿਨਾਂ ਦਾਅਵਿਆਂ। ਜਦੋਂ ਵੀ ਤੁਸੀਂ ਟੂਲ ਸਕੀਮਾ, ਪ੍ਰੋਂਪਟ, ਪ੍ਰਾਪਤੀ, ਜਾਂ ਮੈਮੋਰੀ ਫਾਰਮੈਟਿੰਗ ਬਦਲਦੇ ਹੋ, ਸੂਟ ਨੂੰ ਦੁਬਾਰਾ ਚਲਾਓ। ਜੇਕਰ ਤੁਸੀਂ ਇਸਦੀ ਜਾਂਚ ਨਹੀਂ ਕਰ ਸਕਦੇ, ਤਾਂ ਤੁਸੀਂ ਇਸਨੂੰ ਭਰੋਸੇਯੋਗ ਢੰਗ ਨਾਲ ਨਹੀਂ ਭੇਜ ਸਕਦੇ।.
ਮੈਂ ਲੇਟੈਂਸੀ ਅਤੇ ਲਾਗਤਾਂ ਨੂੰ ਵਧਾਏ ਬਿਨਾਂ ਏਜੰਟ ਨੂੰ ਕਿਵੇਂ ਤੈਨਾਤ ਕਰਾਂ?
ਇੱਕ ਆਮ ਪੈਟਰਨ ਇੱਕ ਸਟੇਟਲੈੱਸ ਕੰਟਰੋਲਰ ਹੈ ਜਿਸ ਵਿੱਚ ਇੱਕ ਬਾਹਰੀ ਸਟੇਟ ਸਟੋਰ (DB/Redis), ਇਸਦੇ ਪਿੱਛੇ ਟੂਲ ਸੇਵਾਵਾਂ, ਅਤੇ ਮਜ਼ਬੂਤ ਲੌਗਿੰਗ/ਨਿਗਰਾਨੀ (ਅਕਸਰ OpenTelemetry) ਹੁੰਦੀ ਹੈ। ਪ੍ਰਾਪਤੀ ਕੈਚਿੰਗ, ਸੰਖੇਪ ਸਥਿਤੀ ਸੰਖੇਪ, ਰੂਟਿੰਗ/ਐਕਸਟਰੈਕਸ਼ਨ ਲਈ ਛੋਟੇ ਮਾਡਲ, ਅਤੇ "ਡੂੰਘੀ ਸੋਚ" ਨੂੰ ਸਭ ਤੋਂ ਔਖੇ ਕਦਮਾਂ ਤੱਕ ਸੀਮਤ ਕਰਕੇ ਲਾਗਤਾਂ ਨੂੰ ਕੰਟਰੋਲ ਕਰੋ। ਲੰਬੇ ਕੰਮਾਂ ਲਈ ਕਤਾਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ ਤਾਂ ਜੋ ਤੁਸੀਂ ਵੈੱਬ ਬੇਨਤੀਆਂ ਨੂੰ ਖੁੱਲ੍ਹਾ ਨਾ ਰੱਖ ਰਹੇ ਹੋਵੋ। ਹਮੇਸ਼ਾ ਇੱਕ ਕਿੱਲ ਸਵਿੱਚ ਸ਼ਾਮਲ ਕਰੋ।.
ਹਵਾਲੇ
-
ਨੈਸ਼ਨਲ ਇੰਸਟੀਚਿਊਟ ਆਫ਼ ਸਟੈਂਡਰਡਜ਼ ਐਂਡ ਟੈਕਨਾਲੋਜੀ (NIST) - NIST AI RMF 1.0 (ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ) - nvlpubs.nist.gov
-
ਓਪਨਏਆਈ - ਸਟ੍ਰਕਚਰਡ ਆਉਟਪੁੱਟ - platform.openai.com
-
ਓਪਨਏਆਈ - ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਗਾਈਡ - platform.openai.com
-
ਓਪਨਏਆਈ - ਦਰ ਸੀਮਾ ਗਾਈਡ - platform.openai.com
-
OpenAI - API ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ - platform.openai.com
-
ਓਪਨਏਆਈ - ਅਸਿਸਟੈਂਟ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ - platform.openai.com
-
ਲੈਂਗਚੇਨ - ਏਜੰਟ ਡੌਕਸ (ਜਾਵਾ ਸਕ੍ਰਿਪਟ) - docs.langchain.com
-
ਲੈਂਗਚੇਨ - ਟੂਲਸ ਡੌਕਸ (ਪਾਈਥਨ) - docs.langchain.com
-
ਲੈਂਗਚੇਨ - ਮੈਮੋਰੀ ਸੰਖੇਪ ਜਾਣਕਾਰੀ - docs.langchain.com
-
arXiv - ਰੀਐਕਟ ਪੇਪਰ (ਕਾਰਨ + ਐਕਟ) - arxiv.org
-
arXiv - RAG ਪੇਪਰ - arxiv.org
-
ਐਮਾਜ਼ਾਨ ਵੈੱਬ ਸਰਵਿਸਿਜ਼ (AWS) ਬਿਲਡਰਜ਼ ਲਾਇਬ੍ਰੇਰੀ - ਟਾਈਮਆਉਟ, ਰੀਟ੍ਰਾਈਸ, ਅਤੇ ਜਿਟਰ ਨਾਲ ਬੈਕਆਫ - aws.amazon.com
-
ਓਪਨਟੈਲੀਮੈਟਰੀ - ਆਬਜ਼ਰਵੇਬਿਲਟੀ ਪ੍ਰਾਈਮਰ - opentelemetry.io
-
ਸਟਰਾਈਪ - ਬੇਢੰਗੇ ਬੇਨਤੀਆਂ - docs.stripe.com
-
ਗੂਗਲ ਕਲਾਉਡ - ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕਰਨ ਦੀ ਰਣਨੀਤੀ (ਬੈਕਆਫ + ਘਬਰਾਹਟ) - docs.cloud.google.com
-
OWASP - ਵੱਡੀ ਭਾਸ਼ਾ ਮਾਡਲ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਿਖਰਲੇ 10 - owasp.org
-
OWASP - LLM01 ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ - genai.owasp.org
-
LlamaIndex - RAG ਨਾਲ ਜਾਣ-ਪਛਾਣ - developers.llamaindex.ai
-
ਮਾਈਕ੍ਰੋਸਾਫਟ - ਸਿਮੈਂਟਿਕ ਕਰਨਲ - learn.microsoft.com
-
ਮਾਈਕ੍ਰੋਸਾਫਟ ਆਟੋਜੇਨ - ਮਲਟੀ-ਏਜੰਟ ਫਰੇਮਵਰਕ (ਦਸਤਾਵੇਜ਼ੀਕਰਨ) - microsoft.github.io
-
CrewAI - ਏਜੰਟਾਂ ਦੇ ਸੰਕਲਪ - docs.crewai.com
-
ਹੇਅ ਸਟੈਕ (ਡੀਪਸੈੱਟ) - ਰੀਟ੍ਰੀਵਰ ਦਸਤਾਵੇਜ਼ - docs.haystack.deepset.ai