ಸಣ್ಣ ಉತ್ತರ: ಪ್ರಾಯೋಗಿಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ AI ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಲು, ಅದನ್ನು ನಿಯಂತ್ರಿತ ಲೂಪ್ ಎಂದು ಪರಿಗಣಿಸಿ: ಇನ್ಪುಟ್ ತೆಗೆದುಕೊಳ್ಳಿ, ಮುಂದಿನ ಕ್ರಿಯೆಯನ್ನು ನಿರ್ಧರಿಸಿ, ಕಿರಿದಾದ ವ್ಯಾಪ್ತಿಯನ್ನು ಹೊಂದಿರುವ ಪರಿಕರವನ್ನು ಕರೆ ಮಾಡಿ, ಫಲಿತಾಂಶವನ್ನು ಗಮನಿಸಿ ಮತ್ತು ಸ್ಪಷ್ಟವಾದ "ಮುಗಿದಿದೆ" ಪರಿಶೀಲನೆ ಹಾದುಹೋಗುವವರೆಗೆ ಪುನರಾವರ್ತಿಸಿ. ಕಾರ್ಯವು ಬಹು-ಹಂತ ಮತ್ತು ಪರಿಕರ-ಚಾಲಿತವಾಗಿದ್ದಾಗ ಅದು ತನ್ನ ಕೀಪ್ ಅನ್ನು ಗಳಿಸುತ್ತದೆ; ಒಂದೇ ಪ್ರಾಂಪ್ಟ್ ಅದನ್ನು ಪರಿಹರಿಸಿದರೆ, ಏಜೆಂಟ್ ಅನ್ನು ಬಿಟ್ಟುಬಿಡಿ. ಕಟ್ಟುನಿಟ್ಟಾದ ಪರಿಕರ ಸ್ಕೀಮಾಗಳು, ಹಂತದ ಮಿತಿಗಳು, ಲಾಗಿಂಗ್ ಮತ್ತು ವ್ಯಾಲಿಡೇಟರ್/ವಿಮರ್ಶಕವನ್ನು ಸೇರಿಸಿ ಇದರಿಂದ ಉಪಕರಣಗಳು ವಿಫಲವಾದಾಗ ಅಥವಾ ಇನ್ಪುಟ್ಗಳು ಅಸ್ಪಷ್ಟವಾಗಿದ್ದಾಗ, ಏಜೆಂಟ್ ಲೂಪ್ ಮಾಡುವ ಬದಲು ಎಸ್ಕಲೇಟ್ ಆಗುತ್ತದೆ.
ಪ್ರಮುಖ ಅಂಶಗಳು:
ನಿಯಂತ್ರಕ ಲೂಪ್ : ಸ್ಪಷ್ಟವಾದ ನಿಲುಗಡೆ ಪರಿಸ್ಥಿತಿಗಳು ಮತ್ತು ಗರಿಷ್ಠ ಹಂತಗಳೊಂದಿಗೆ ಇನ್ಪುಟ್→ಆಕ್ಟ್→ಪುನರಾವರ್ತನೆಯನ್ನು ಗಮನಿಸಿ ಕಾರ್ಯಗತಗೊಳಿಸಿ.
ಪರಿಕರ ವಿನ್ಯಾಸ : "do_anything" ಅವ್ಯವಸ್ಥೆಯನ್ನು ತಡೆಗಟ್ಟಲು ಪರಿಕರಗಳನ್ನು ಕಿರಿದಾಗಿ, ಟೈಪ್ ಮಾಡಿ, ಅನುಮತಿಸಿ ಮತ್ತು ಮೌಲ್ಯೀಕರಿಸಿ.
ಸ್ಮರಣಶಕ್ತಿ ನೈರ್ಮಲ್ಯ : ಸಂಕ್ಷಿಪ್ತ ಅಲ್ಪಾವಧಿಯ ಸ್ಥಿತಿ ಮತ್ತು ದೀರ್ಘಾವಧಿಯ ಮರುಪಡೆಯುವಿಕೆ ಬಳಸಿ; ಪೂರ್ಣ ಪ್ರತಿಲಿಪಿಗಳನ್ನು ಎಸೆಯುವುದನ್ನು ತಪ್ಪಿಸಿ.
ದುರುಪಯೋಗ ಪ್ರತಿರೋಧ : ಅಪಾಯಕಾರಿ ಕ್ರಿಯೆಗಳಿಗೆ ಅನುಮತಿ ಪಟ್ಟಿಗಳು, ದರ ಮಿತಿಗಳು, ಐಡಿಂಪೊಟೆನ್ಸಿ ಮತ್ತು "ಡ್ರೈ-ರನ್" ಅನ್ನು ಸೇರಿಸಿ.
ಪರೀಕ್ಷಾರ್ಥತೆ : ಸನ್ನಿವೇಶ ಸೂಟ್ ಅನ್ನು ನಿರ್ವಹಿಸಿ (ವೈಫಲ್ಯಗಳು, ಅಸ್ಪಷ್ಟತೆ, ಇಂಜೆಕ್ಷನ್ಗಳು) ಮತ್ತು ಪ್ರತಿ ಬದಲಾವಣೆಯನ್ನು ಮರುಪ್ರಸಾರ ಮಾಡಿ.

🔗 AI ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಅಳೆಯುವುದು ಹೇಗೆ
ವೇಗ, ನಿಖರತೆ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ಮಾನದಂಡವಾಗಿ ಅಳೆಯಲು ಪ್ರಾಯೋಗಿಕ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಕಲಿಯಿರಿ.
🔗 AI ಜೊತೆ ಮಾತನಾಡುವುದು ಹೇಗೆ
ಉತ್ತಮ ಉತ್ತರಗಳನ್ನು ಪಡೆಯಲು ಪ್ರಾಂಪ್ಟ್ಗಳು, ಸಂದರ್ಭ ಮತ್ತು ಅನುಸರಣೆಗಳನ್ನು ಬಳಸಿ.
🔗 AI ಮಾದರಿಗಳನ್ನು ಹೇಗೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು
ಪರೀಕ್ಷೆಗಳು, ರೂಬ್ರಿಕ್ಸ್ ಮತ್ತು ನೈಜ-ಪ್ರಪಂಚದ ಕಾರ್ಯ ಫಲಿತಾಂಶಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಮಾದರಿಗಳನ್ನು ಹೋಲಿಕೆ ಮಾಡಿ.
🔗 AI ಮಾದರಿಗಳನ್ನು ಹೇಗೆ ಅತ್ಯುತ್ತಮವಾಗಿಸುವುದು
ಶ್ರುತಿ, ಸಮರುವಿಕೆ ಮತ್ತು ಮೇಲ್ವಿಚಾರಣೆಯೊಂದಿಗೆ ಗುಣಮಟ್ಟ ಮತ್ತು ವೆಚ್ಚವನ್ನು ಸುಧಾರಿಸಿ.
1) ಸಾಮಾನ್ಯ ವ್ಯಕ್ತಿಯ ಪರಿಭಾಷೆಯಲ್ಲಿ ಹೇಳುವುದಾದರೆ AI ಏಜೆಂಟ್ ಎಂದರೇನು 🧠
AI ಏಜೆಂಟ್ ಒಂದು ಲೂಪ್ ಆಗಿದೆ. ಲ್ಯಾಂಗ್ಚೈನ್ “ಏಜೆಂಟ್ಗಳು” ದಾಖಲೆಗಳು
ಅಷ್ಟೆ. ಮಧ್ಯದಲ್ಲಿ ಮೆದುಳು ಇರುವ ಲೂಪ್.
ಇನ್ಪುಟ್ → ಯೋಚಿಸಿ → ವರ್ತಿಸಿ → ಗಮನಿಸಿ → ಪುನರಾವರ್ತಿಸಿ . ಪ್ರತಿಕ್ರಿಯಿಸುವ ಕಾಗದ (ಕಾರಣ + ವರ್ತಿಸಿ)
ಎಲ್ಲಿ:
-
ಇನ್ಪುಟ್ ಎಂದರೆ ಬಳಕೆದಾರರ ವಿನಂತಿ ಅಥವಾ ಈವೆಂಟ್ (ಹೊಸ ಇಮೇಲ್, ಬೆಂಬಲ ಟಿಕೆಟ್, ಸಂವೇದಕ ಪಿಂಗ್).
-
ಥಿಂಕ್ ಎನ್ನುವುದು ಮುಂದಿನ ಹಂತದ ಬಗ್ಗೆ ಒಂದು ಭಾಷಾ ಮಾದರಿಯ ತಾರ್ಕಿಕತೆಯಾಗಿದೆ.
-
Act ಒಂದು ಪರಿಕರವನ್ನು ಕರೆಯುತ್ತಿದೆ (ಆಂತರಿಕ ದಾಖಲೆಗಳನ್ನು ಹುಡುಕಿ, ಕೋಡ್ ಅನ್ನು ರನ್ ಮಾಡಿ, ಟಿಕೆಟ್ ರಚಿಸಿ, ಪ್ರತ್ಯುತ್ತರವನ್ನು ಡ್ರಾಫ್ಟ್ ಮಾಡಿ). OpenAI ಕಾರ್ಯ ಕರೆ ಮಾರ್ಗದರ್ಶಿ
-
ಗಮನಿಸಿ, ಉಪಕರಣದ ಔಟ್ಪುಟ್ ಅನ್ನು ಓದುತ್ತಿದೆ.
-
"ಚಟುವಟಿಕೆ"ಯ ಬದಲು "ಏಜೆಂಟಿಕ್" ಎಂದು ಭಾವಿಸುವಂತೆ ಮಾಡುವ ಭಾಗವೇ ಪುನರಾವರ್ತನೆ ಲ್ಯಾಂಗ್ಚೈನ್ "ಏಜೆಂಟ್ಸ್" ದಾಖಲೆಗಳು
ಕೆಲವು ಏಜೆಂಟ್ಗಳು ಮೂಲತಃ ಸ್ಮಾರ್ಟ್ ಮ್ಯಾಕ್ರೋಗಳಾಗಿರುತ್ತಾರೆ. ಇನ್ನು ಕೆಲವರು ಕೆಲಸಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಮತ್ತು ದೋಷಗಳಿಂದ ಚೇತರಿಸಿಕೊಳ್ಳುವ ಜೂನಿಯರ್ ಆಪರೇಟರ್ನಂತೆ ವರ್ತಿಸುತ್ತಾರೆ. ಎರಡೂ ಮುಖ್ಯ.
ಅಲ್ಲದೆ, ನಿಮಗೆ ಪೂರ್ಣ ಸ್ವಾಯತ್ತತೆಯ ಅಗತ್ಯವಿಲ್ಲ. ವಾಸ್ತವವಾಗಿ... ನೀವು ಬಹುಶಃ ಅದನ್ನು ಬಯಸುವುದಿಲ್ಲ 🙃
2) ನೀವು ಏಜೆಂಟ್ ಅನ್ನು ಯಾವಾಗ ನಿರ್ಮಿಸಬೇಕು (ಮತ್ತು ಯಾವಾಗ ಮಾಡಬಾರದು) 🚦
ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಿ:
-
ಕೆಲಸವು ಬಹು-ಹಂತವಾಗಿದ್ದು , ಮಧ್ಯದಲ್ಲಿ ಏನಾಗುತ್ತದೆ ಎಂಬುದರ ಆಧಾರದ ಮೇಲೆ ಬದಲಾಗುತ್ತದೆ.
-
ಕೆಲಸಕ್ಕೆ ಪರಿಕರಗಳ ಬಳಕೆ (ಡೇಟಾಬೇಸ್ಗಳು, CRM ಗಳು, ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆ, ಫೈಲ್ ಉತ್ಪಾದನೆ, ಬ್ರೌಸರ್ಗಳು, ಆಂತರಿಕ API ಗಳು) ಅಗತ್ಯವಿದೆ. ಲ್ಯಾಂಗ್ಚೈನ್ “ಪರಿಕರಗಳು” ದಾಖಲೆಗಳು
-
ಪುನರಾವರ್ತಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಬಯಸುತ್ತೀರಿ , ಕೇವಲ ಒಂದು ಬಾರಿಯ ಉತ್ತರಗಳಲ್ಲ.
-
ಕಂಪ್ಯೂಟರ್ ಪರಿಶೀಲಿಸಬಹುದಾದ ರೀತಿಯಲ್ಲಿ, ಸಡಿಲವಾಗಿಯೂ ಸಹ, ನೀವು "ಮುಗಿದಿದೆ" ಎಂದು ವ್ಯಾಖ್ಯಾನಿಸಬಹುದು.
ಈ ಕೆಳಗಿನ ಸಂದರ್ಭಗಳಲ್ಲಿ ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಬೇಡಿ:
-
ಒಂದು ಸರಳ ಪ್ರಾಂಪ್ಟ್ + ಪ್ರತಿಕ್ರಿಯೆ ಅದನ್ನು ಪರಿಹರಿಸುತ್ತದೆ (ಅತಿಯಾಗಿ ಎಂಜಿನಿಯರ್ ಮಾಡಬೇಡಿ, ನಂತರ ನೀವೇ ದ್ವೇಷಿಸುತ್ತೀರಿ).
-
ನಿಮಗೆ ಪರಿಪೂರ್ಣ ನಿರ್ಣಾಯಕತೆ ಬೇಕು (ಏಜೆಂಟರು ಸ್ಥಿರವಾಗಿರಬಹುದು, ಆದರೆ ರೋಬೋಟಿಕ್ ಅಲ್ಲ).
-
ಸಂಪರ್ಕಿಸಲು ನಿಮ್ಮ ಬಳಿ ಯಾವುದೇ ಪರಿಕರಗಳು ಅಥವಾ ಡೇಟಾ ಇಲ್ಲ - ಆಗ ಅದು ಹೆಚ್ಚಾಗಿ ವೈಬ್ಗಳು ಮಾತ್ರ.
ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳಬೇಕೆಂದರೆ: ಅರ್ಧದಷ್ಟು “AI ಏಜೆಂಟ್ ಯೋಜನೆಗಳು” ಕೆಲವು ಶಾಖೆಯ ನಿಯಮಗಳನ್ನು ಹೊಂದಿರುವ ಕೆಲಸದ ಹರಿವಿನಾಗಿರಬಹುದು. ಆದರೆ ಹೇ, ಕೆಲವೊಮ್ಮೆ ವೈಬ್ ಕೂಡ ಮುಖ್ಯವಾಗುತ್ತದೆ 🤷♂️
3) AI ಏಜೆಂಟ್ನ ಉತ್ತಮ ಆವೃತ್ತಿಯನ್ನು ಯಾವುದು ಮಾಡುತ್ತದೆ ✅
ನೀವು ಕೇಳಿದ "ಒಳ್ಳೆಯ ಆವೃತ್ತಿ ಯಾವುದು" ವಿಭಾಗ ಇಲ್ಲಿದೆ, ಆದರೆ ನಾನು ಸ್ವಲ್ಪ ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳುತ್ತೇನೆ:
ಒಬ್ಬ AI ಏಜೆಂಟ್ನ ಉತ್ತಮ ಆವೃತ್ತಿ ಎಂದರೆ ಹೆಚ್ಚು ಕಠಿಣವಾಗಿ ಯೋಚಿಸುವವನಲ್ಲ. ಅದು:
-
ಏನು ಮಾಡಲು ಅವಕಾಶವಿದೆ ಎಂದು ತಿಳಿದಿದೆ (ವ್ಯಾಪ್ತಿಯ ಮಿತಿಗಳು)
-
ಪರಿಕರಗಳನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಬಳಸುತ್ತದೆ (ರಚನಾತ್ಮಕ ಕರೆಗಳು, ಮರುಪ್ರಯತ್ನಗಳು, ಸಮಯ ಮೀರುವಿಕೆಗಳು) OpenAI ಕಾರ್ಯ ಕರೆ ಮಾರ್ಗದರ್ಶಿ AWS “ಸಮಯ ಮೀರುವಿಕೆಗಳು, ಮರುಪ್ರಯತ್ನಗಳು ಮತ್ತು ನಡುಕದೊಂದಿಗೆ ಬ್ಯಾಕ್ಆಫ್”
-
ಸ್ಥಿತಿಯನ್ನು ಸ್ವಚ್ಛವಾಗಿಡುತ್ತದೆ (ಕೊಳೆಯದ ಸ್ಮರಣೆ) ಲ್ಯಾಂಗ್ಚೈನ್ “ಮೆಮೊರಿ ಅವಲೋಕನ”
-
ಅದರ ಕ್ರಿಯೆಗಳನ್ನು ವಿವರಿಸುತ್ತದೆ (ಆಡಿಟ್ ಹಾದಿಗಳು, ರಹಸ್ಯ ತಾರ್ಕಿಕ ಡಂಪ್ಗಳಲ್ಲ) NIST AI RMF 1.0 (ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಪಾರದರ್ಶಕತೆ)
-
ಸೂಕ್ತವಾಗಿ ನಿಲ್ಲುತ್ತದೆ (ಪೂರ್ಣಗೊಳಿಸುವಿಕೆ ಪರಿಶೀಲನೆಗಳು, ಗರಿಷ್ಠ ಹಂತಗಳು, ಏರಿಕೆ) ಲ್ಯಾಂಗ್ಚೈನ್ “ಏಜೆಂಟ್ಗಳು” ದಾಖಲೆಗಳು
-
ಸುರಕ್ಷಿತವಾಗಿ ವಿಫಲಗೊಳ್ಳುತ್ತದೆ (ಸಹಾಯ ಕೇಳುತ್ತದೆ, ಅಧಿಕಾರವನ್ನು ಭ್ರಮಿಸುವುದಿಲ್ಲ) NIST AI RMF 1.0
-
ಪರೀಕ್ಷಿಸಬಹುದಾಗಿದೆ (ನೀವು ಅದನ್ನು ಪೂರ್ವಸಿದ್ಧ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ ಮತ್ತು ಸ್ಕೋರ್ ಫಲಿತಾಂಶಗಳಲ್ಲಿ ಚಲಾಯಿಸಬಹುದು)
ನಿಮ್ಮ ಏಜೆಂಟ್ ಅನ್ನು ಪರೀಕ್ಷಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ಅದು ಮೂಲತಃ ತುಂಬಾ ಆತ್ಮವಿಶ್ವಾಸದ ಸ್ಲಾಟ್ ಯಂತ್ರವಾಗಿರುತ್ತದೆ. ಪಾರ್ಟಿಗಳಲ್ಲಿ ಮೋಜು, ಉತ್ಪಾದನೆಯಲ್ಲಿ ಭಯಾನಕ 😬
4) ಏಜೆಂಟ್ನ ಮೂಲ ಬಿಲ್ಡಿಂಗ್ ಬ್ಲಾಕ್ಗಳು ("ಅಂಗರಚನಾಶಾಸ್ತ್ರ" 🧩)
ಹೆಚ್ಚಿನ ಘನ ಏಜೆಂಟ್ಗಳು ಈ ತುಣುಕುಗಳನ್ನು ಹೊಂದಿವೆ:
ಎ) ನಿಯಂತ್ರಕ ಲೂಪ್ 🔁
ಇವರು ಆರ್ಕೆಸ್ಟ್ರೇಟರ್:
-
ಗುರಿ ಸಾಧಿಸಿ
-
ಮುಂದಿನ ಕ್ರಮಕ್ಕಾಗಿ ಮಾದರಿಯನ್ನು ಕೇಳಿ
-
ರನ್ ಟೂಲ್
-
ವೀಕ್ಷಣೆಯನ್ನು ಸೇರಿಸಿ
-
ಲ್ಯಾಂಗ್ಚೈನ್ “ಏಜೆಂಟ್ಸ್” ಡಾಕ್ಸ್ ಮುಗಿಯುವವರೆಗೆ ಪುನರಾವರ್ತಿಸಿ
ಬಿ) ಪರಿಕರಗಳು (ಅಕಾ ಸಾಮರ್ಥ್ಯಗಳು) 🧰
ಪರಿಕರಗಳು ಏಜೆಂಟ್ ಅನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿಸುತ್ತವೆ: ಲ್ಯಾಂಗ್ಚೈನ್ “ಪರಿಕರಗಳು” ದಾಖಲೆಗಳು
-
ಡೇಟಾಬೇಸ್ ಪ್ರಶ್ನೆಗಳು
-
ಇಮೇಲ್ಗಳನ್ನು ಕಳುಹಿಸಲಾಗುತ್ತಿದೆ
-
ಫೈಲ್ಗಳನ್ನು ಎಳೆಯುವುದು
-
ಚಾಲನೆಯಲ್ಲಿರುವ ಕೋಡ್
-
ಆಂತರಿಕ API ಗಳನ್ನು ಕರೆಯಲಾಗುತ್ತಿದೆ
-
ಸ್ಪ್ರೆಡ್ಶೀಟ್ಗಳು ಅಥವಾ CRM ಗಳಿಗೆ ಬರೆಯುವುದು
ಸಿ) ಸ್ಮರಣೆ 🗃️
ಎರಡು ವಿಧಗಳು ಮುಖ್ಯ:
-
ಅಲ್ಪಾವಧಿಯ ಸ್ಮರಣೆ : ಪ್ರಸ್ತುತ ಚಾಲನೆಯಲ್ಲಿರುವ ಸಂದರ್ಭ, ಇತ್ತೀಚಿನ ಹಂತಗಳು, ಪ್ರಸ್ತುತ ಯೋಜನೆ
-
ದೀರ್ಘಕಾಲೀನ ಸ್ಮರಣೆ : ಬಳಕೆದಾರರ ಆದ್ಯತೆಗಳು, ಯೋಜನೆಯ ಸಂದರ್ಭ, ಪಡೆದ ಜ್ಞಾನ (ಸಾಮಾನ್ಯವಾಗಿ ಎಂಬೆಡಿಂಗ್ಗಳು + ವೆಕ್ಟರ್ ಅಂಗಡಿಯ ಮೂಲಕ) RAG ಪೇಪರ್
ಡಿ) ಯೋಜನೆ ಮತ್ತು ನಿರ್ಧಾರ ನೀತಿ 🧭
ನೀವು ಅದನ್ನು "ಯೋಜನೆ" ಎಂದು ಕರೆಯದಿದ್ದರೂ, ನಿಮಗೆ ಒಂದು ವಿಧಾನ ಬೇಕು:
-
ಪರಿಶೀಲನಾಪಟ್ಟಿಗಳು
-
ರಿಯಾಕ್ಟ್-ಶೈಲಿಯ “ಯೋಚಿಸಿ ನಂತರ ಸಾಧನ” ರಿಯಾಕ್ಟ್ ಪೇಪರ್
-
ಕಾರ್ಯ ಗ್ರಾಫ್ಗಳು
-
ಮೇಲ್ವಿಚಾರಕ-ಕಾರ್ಮಿಕರ ಮಾದರಿಗಳು
-
ಮೇಲ್ವಿಚಾರಕ-ಕೆಲಸಗಾರ ಮಾದರಿಗಳು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಆಟೋಜೆನ್ (ಮಲ್ಟಿ-ಏಜೆಂಟ್ ಫ್ರೇಮ್ವರ್ಕ್)
ಇ) ಗಾರ್ಡ್ರೈಲ್ಗಳು ಮತ್ತು ಮೌಲ್ಯಮಾಪನ 🧯
-
ಅನುಮತಿಗಳು
-
ಸುರಕ್ಷಿತ ಪರಿಕರ ಯೋಜನೆಗಳು OpenAI ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳು
-
ಔಟ್ಪುಟ್ ಮೌಲ್ಯೀಕರಣ
-
ಹಂತ ಮಿತಿಗಳು
-
ಲಾಗಿಂಗ್
-
NIST AI RMF 1.0 ಪರೀಕ್ಷೆಗಳು
ಹೌದು, ಇದು ಪ್ರೇರೇಪಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಎಂಜಿನಿಯರಿಂಗ್ ಆಗಿದೆ. ಅದು... ಒಂದು ರೀತಿಯ ವಿಷಯ.
5) ಹೋಲಿಕೆ ಕೋಷ್ಟಕ: ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಲು ಜನಪ್ರಿಯ ಮಾರ್ಗಗಳು 🧾
ಕೆಳಗೆ ವಾಸ್ತವಿಕ "ಹೋಲಿಕೆ ಕೋಷ್ಟಕ" ಇದೆ - ಕೆಲವು ವೈಶಿಷ್ಟ್ಯಗಳೊಂದಿಗೆ, ಏಕೆಂದರೆ ನಿಜವಾದ ತಂಡಗಳು ವಿಚಿತ್ರವಾಗಿರುತ್ತವೆ 😄
| ಪರಿಕರ / ಚೌಕಟ್ಟು | ಪ್ರೇಕ್ಷಕರು | ಬೆಲೆ | ಅದು ಏಕೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ | ಟಿಪ್ಪಣಿಗಳು (ಸಣ್ಣ ಅವ್ಯವಸ್ಥೆ) | |
|---|---|---|---|---|---|
| ಲ್ಯಾಂಗ್ಚೈನ್ | ಲೆಗೊ-ಶೈಲಿಯ ಘಟಕಗಳನ್ನು ಇಷ್ಟಪಡುವ ಬಿಲ್ಡರ್ಗಳು | ಉಚಿತ + ಮೂಲಸೌಕರ್ಯ | ಉಪಕರಣಗಳು, ಸ್ಮರಣೆ, ಸರಪಳಿಗಳಿಗಾಗಿ ದೊಡ್ಡ ಪರಿಸರ ವ್ಯವಸ್ಥೆ | ಸ್ಪಷ್ಟವಾಗಿ ಹೆಸರಿಸದಿದ್ದರೆ ಸ್ಪಾಗೆಟ್ಟಿ ಬೇಗ ಸಿಗುತ್ತದೆ | |
| ಲಾಮಾ ಸೂಚ್ಯಂಕ | RAG-ಭಾರೀ ತಂಡಗಳು | ಉಚಿತ + ಮೂಲಸೌಕರ್ಯ | ಬಲವಾದ ಮರುಪಡೆಯುವಿಕೆ ಮಾದರಿಗಳು, ಸೂಚಿಕೆ, ಕನೆಕ್ಟರ್ಗಳು | ನಿಮ್ಮ ಏಜೆಂಟ್ ಮೂಲತಃ "ಹುಡುಕಾಟ + ಕ್ರಿಯೆ" ಆಗಿದ್ದರೆ ತುಂಬಾ ಒಳ್ಳೆಯದು... ಇದು ಸಾಮಾನ್ಯ | |
| ಓಪನ್ಎಐ ಸಹಾಯಕರ ಶೈಲಿಯ ವಿಧಾನ | ವೇಗದ ಸೆಟಪ್ ಬಯಸುವ ತಂಡಗಳು | ಬಳಕೆ ಆಧಾರಿತ | ಅಂತರ್ನಿರ್ಮಿತ ಪರಿಕರ ಕರೆ ಮಾದರಿಗಳು ಮತ್ತು ರನ್ ಸ್ಥಿತಿ | ಕೆಲವು ಮೂಲೆಗಳಲ್ಲಿ ಕಡಿಮೆ ಹೊಂದಿಕೊಳ್ಳುವ, ಆದರೆ ಅನೇಕ ಅಪ್ಲಿಕೇಶನ್ಗಳಿಗೆ ಸ್ವಚ್ಛವಾಗಿದೆ | OpenAI API OpenAI ಸಹಾಯಕರ ಕಾರ್ಯ ಕರೆ ಮಾಡುವಿಕೆಯನ್ನು |
| ಲಾಕ್ಷಣಿಕ ಕರ್ನಲ್ | ರಚನಾತ್ಮಕ ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಬಯಸುವ ಡೆವಲಪರ್ಗಳು | ಸ್ವತಂತ್ರವಾದ | ಕೌಶಲ್ಯ/ಕಾರ್ಯಗಳಿಗಾಗಿ ಅಚ್ಚುಕಟ್ಟಾದ ಅಮೂರ್ತತೆ | "ಉದ್ಯಮವು ಅಚ್ಚುಕಟ್ಟಾಗಿದೆ" ಎಂದು ಅನಿಸುತ್ತದೆ - ಕೆಲವೊಮ್ಮೆ ಅದು ಮೆಚ್ಚುಗೆಯಾಗಿರುತ್ತದೆ 😉 | |
| ಆಟೋಜೆನ್ | ಬಹು-ಏಜೆಂಟ್ ಪ್ರಯೋಗಕಾರರು | ಸ್ವತಂತ್ರವಾದ | ಏಜೆಂಟ್-ಟು-ಏಜೆಂಟ್ ಸಹಯೋಗ ಮಾದರಿಗಳು | ಅತಿಯಾಗಿ ಮಾತನಾಡಬಹುದು; ಕಟ್ಟುನಿಟ್ಟಾದ ಮುಕ್ತಾಯ ನಿಯಮಗಳನ್ನು ಹೊಂದಿಸಿ | |
| ಕ್ರ್ಯೂಎಐ | "ಏಜೆಂಟರ ತಂಡಗಳು" ಅಭಿಮಾನಿಗಳು | ಸ್ವತಂತ್ರವಾದ | ಪಾತ್ರಗಳು + ಕಾರ್ಯಗಳು + ಹಸ್ತಾಂತರಗಳನ್ನು ವ್ಯಕ್ತಪಡಿಸುವುದು ಸುಲಭ | ಕೆಲಸಗಳು ಮೃದುವಾಗಿರದೆ, ಗರಿಗರಿಯಾಗಿದ್ದಾಗ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ | |
| ಹುಲ್ಲಿನ ಬಣವೆ | ಹುಡುಕಾಟ + ಪೈಪ್ಲೈನ್ ಜನರು | ಸ್ವತಂತ್ರವಾದ | ಘನ ಪೈಪ್ಲೈನ್ಗಳು, ಮರುಪಡೆಯುವಿಕೆ, ಘಟಕಗಳು | ಕಡಿಮೆ "ಏಜೆಂಟ್ ಥಿಯೇಟರ್", ಹೆಚ್ಚು "ಪ್ರಾಯೋಗಿಕ ಕಾರ್ಖಾನೆ" | |
| ರೋಲ್-ಯುವರ್-ಓನ್ (ಕಸ್ಟಮ್ ಲೂಪ್) | ನಿಯಂತ್ರಣ ವಿಲಕ್ಷಣಗಳು (ಪ್ರೀತಿಯ) | ನಿಮ್ಮ ಸಮಯ | ಕನಿಷ್ಠ ಮ್ಯಾಜಿಕ್, ಗರಿಷ್ಠ ಸ್ಪಷ್ಟತೆ | ಸಾಮಾನ್ಯವಾಗಿ ದೀರ್ಘಾವಧಿಯಲ್ಲಿ ಉತ್ತಮ... ಎಲ್ಲವನ್ನೂ ಪುನಃ ಕಂಡುಹಿಡಿಯುವವರೆಗೆ 😅 |
ಒಂದೇ ಒಂದು ವಿಜೇತ ಇಲ್ಲ. ಉತ್ತಮ ಆಯ್ಕೆಯು ನಿಮ್ಮ ಏಜೆಂಟ್ನ ಮುಖ್ಯ ಕೆಲಸ ಮರುಪಡೆಯುವಿಕೆ , ಪರಿಕರ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆ , ಬಹು-ಏಜೆಂಟ್ ಸಮನ್ವಯ ಅಥವಾ ಕೆಲಸದ ಹರಿವಿನ ಯಾಂತ್ರೀಕರಣವೇ .
6) ಹಂತ ಹಂತವಾಗಿ AI ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು (ನಿಜವಾದ ಪಾಕವಿಧಾನ) 🍳🤖
ಹೆಚ್ಚಿನ ಜನರು ಈ ಭಾಗವನ್ನು ಬಿಟ್ಟುಬಿಡುತ್ತಾರೆ, ನಂತರ ಏಜೆಂಟ್ ಪ್ಯಾಂಟ್ರಿಯಲ್ಲಿ ರಕೂನ್ನಂತೆ ಏಕೆ ವರ್ತಿಸುತ್ತಾನೆ ಎಂದು ಆಶ್ಚರ್ಯ ಪಡುತ್ತಾರೆ.
ಹಂತ 1: ಕೆಲಸವನ್ನು ಒಂದೇ ವಾಕ್ಯದಲ್ಲಿ ವಿವರಿಸಿ 🎯
ಉದಾಹರಣೆಗಳು:
-
"ನೀತಿ ಮತ್ತು ಟಿಕೆಟ್ ಸಂದರ್ಭವನ್ನು ಬಳಸಿಕೊಂಡು ಗ್ರಾಹಕರ ಪ್ರತ್ಯುತ್ತರವನ್ನು ರಚಿಸಿ, ನಂತರ ಅನುಮೋದನೆಯನ್ನು ಕೇಳಿ."
-
"ದೋಷ ವರದಿಯನ್ನು ತನಿಖೆ ಮಾಡಿ, ಅದನ್ನು ಪುನರುತ್ಪಾದಿಸಿ ಮತ್ತು ಪರಿಹಾರವನ್ನು ಪ್ರಸ್ತಾಪಿಸಿ."
-
"ಅಪೂರ್ಣ ಸಭೆ ಟಿಪ್ಪಣಿಗಳನ್ನು ಕಾರ್ಯಗಳು, ಮಾಲೀಕರು ಮತ್ತು ಗಡುವುಗಳಾಗಿ ಪರಿವರ್ತಿಸಿ."
ನೀವು ಅದನ್ನು ಸರಳವಾಗಿ ವ್ಯಾಖ್ಯಾನಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ನಿಮ್ಮ ಏಜೆಂಟರಿಗೂ ಸಾಧ್ಯವಿಲ್ಲ. ನಾನು ಹೇಳುತ್ತಿರುವುದು ಅದು ಮಾಡಬಹುದು, ಆದರೆ ಅದು ಸುಧಾರಿಸುತ್ತದೆ, ಮತ್ತು ಬಜೆಟ್ಗಳು ಸಾಯುವ ಸ್ಥಳವೆಂದರೆ ಸುಧಾರಣೆ.
ಹಂತ 2: ಸ್ವಾಯತ್ತತೆಯ ಮಟ್ಟವನ್ನು ನಿರ್ಧರಿಸಿ (ಕಡಿಮೆ, ಮಧ್ಯಮ, ಖಾರ) 🌶️
-
ಕಡಿಮೆ ಸ್ವಾಯತ್ತತೆ : ಹಂತಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ, ಮಾನವ ಕ್ಲಿಕ್ಗಳು "ಅನುಮೋದಿಸುತ್ತವೆ"
-
ಮಾಧ್ಯಮ : ಪರಿಕರಗಳನ್ನು ಚಲಾಯಿಸುತ್ತದೆ, ಔಟ್ಪುಟ್ ಅನ್ನು ಡ್ರಾಫ್ಟ್ ಮಾಡುತ್ತದೆ, ಅನಿಶ್ಚಿತತೆಯ ಮೇಲೆ ಹೆಚ್ಚಾಗುತ್ತದೆ
-
ಹೈ : ಕೊನೆಯಿಂದ ಕೊನೆಯವರೆಗೆ ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ, ವಿನಾಯಿತಿಗಳಲ್ಲಿ ಮನುಷ್ಯರಿಗೆ ಮಾತ್ರ ಪಿಂಗ್ ಮಾಡುತ್ತದೆ.
ನೀವು ಬಯಸುವುದಕ್ಕಿಂತ ಕಡಿಮೆ ಬೆಲೆಯಲ್ಲಿ ಪ್ರಾರಂಭಿಸಿ. ನೀವು ಅದನ್ನು ನಂತರ ಯಾವಾಗಲೂ ಹೆಚ್ಚಿಸಬಹುದು.
ಹಂತ 3: ನಿಮ್ಮ ಮಾದರಿ ತಂತ್ರವನ್ನು ಆರಿಸಿ 🧠
ನೀವು ಸಾಮಾನ್ಯವಾಗಿ ಆಯ್ಕೆ ಮಾಡಿಕೊಳ್ಳುತ್ತೀರಿ:
-
ಎಲ್ಲದಕ್ಕೂ ಒಂದು ಬಲವಾದ ಮಾದರಿ (ಸರಳ)
-
ಒಂದು ಬಲವಾದ ಮಾದರಿ + ಅಗ್ಗದ ಹಂತಗಳಿಗೆ ಚಿಕ್ಕ ಮಾದರಿ (ವರ್ಗೀಕರಣ, ರೂಟಿಂಗ್)
-
ಅಗತ್ಯವಿದ್ದರೆ ವಿಶೇಷ ಮಾದರಿಗಳು (ದೃಷ್ಟಿ, ಸಂಹಿತೆ, ಮಾತು)
ಇದನ್ನೂ ನಿರ್ಧರಿಸಿ:
-
ಗರಿಷ್ಠ ಟೋಕನ್ಗಳು
-
ತಾಪಮಾನ
-
ನೀವು ಆಂತರಿಕವಾಗಿ ದೀರ್ಘ ತಾರ್ಕಿಕ ಕುರುಹುಗಳನ್ನು ಅನುಮತಿಸುತ್ತೀರಾ (ನೀವು ಮಾಡಬಹುದು, ಆದರೆ ಅಂತಿಮ ಬಳಕೆದಾರರಿಗೆ ಕಚ್ಚಾ ಚಿಂತನೆಯ ಸರಪಳಿಯನ್ನು ಬಹಿರಂಗಪಡಿಸಬೇಡಿ)
ಹಂತ 4: ಕಟ್ಟುನಿಟ್ಟಾದ ಸ್ಕೀಮಾಗಳೊಂದಿಗೆ ಪರಿಕರಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಿ 🔩
ಪರಿಕರಗಳು ಹೀಗಿರಬೇಕು:
-
ಕಿರಿದಾದ
-
ಟೈಪ್ ಮಾಡಲಾಗಿದೆ
-
ಅನುಮತಿ ಪಡೆದ
-
ಮೌಲ್ಯೀಕರಿಸಿದ OpenAI ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳು
do_anything(input: string) ಎಂಬ ಉಪಕರಣದ ಬದಲಿಗೆ , ಇದನ್ನು ಮಾಡಿ:
-
search_kb(ಪ್ರಶ್ನೆ: ಸ್ಟ್ರಿಂಗ್) -> ಫಲಿತಾಂಶಗಳು[] -
create_ticket(ಶೀರ್ಷಿಕೆ: ಸ್ಟ್ರಿಂಗ್, ಬಾಡಿ: ಸ್ಟ್ರಿಂಗ್, ಆದ್ಯತೆ: enum) -> ಟಿಕೆಟ್_ಐಡಿ -
send_email(to: string, subject: string, body: string) -> ಸ್ಥಿತಿOpenAI ಕಾರ್ಯ ಕರೆ ಮಾರ್ಗದರ್ಶಿ
ನೀವು ಏಜೆಂಟರಿಗೆ ಚೈನ್ಸಾ ನೀಡಿದರೆ, ಅದು ಬೇಲಿಯನ್ನು ತೆಗೆದು ಹೆಡ್ಜ್ ಅನ್ನು ಟ್ರಿಮ್ ಮಾಡುವಾಗ ಆಘಾತಕ್ಕೊಳಗಾಗಬೇಡಿ.
ಹಂತ 5: ನಿಯಂತ್ರಕ ಲೂಪ್ ಅನ್ನು ನಿರ್ಮಿಸಿ 🔁
ಕನಿಷ್ಠ ಲೂಪ್:
-
ಗುರಿ + ಆರಂಭಿಕ ಸನ್ನಿವೇಶದೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ
-
ಮಾದರಿಯನ್ನು ಕೇಳಿ: "ಮುಂದಿನ ಕ್ರಮ?"
-
ಟೂಲ್ ಕಾಲ್ - ಎಕ್ಸಿಕ್ಯೂಟ್ ಟೂಲ್ ಆಗಿದ್ದರೆ
-
ವೀಕ್ಷಣೆಯನ್ನು ಸೇರಿಸಿ
-
ನಿಲ್ದಾಣದ ಸ್ಥಿತಿಯನ್ನು ಪರಿಶೀಲಿಸಿ
-
ಲ್ಯಾಂಗ್ಚೈನ್ “ಏಜೆಂಟ್ಸ್” ಡಾಕ್ಸ್ ಅನ್ನು ಪುನರಾವರ್ತಿಸಿ (ಗರಿಷ್ಠ ಹಂತಗಳೊಂದಿಗೆ)
ಸೇರಿಸಿ:
-
ಸಮಯ ಮೀರುವಿಕೆಗಳು
-
ಮರುಪ್ರಯತ್ನಗಳು (ಎಚ್ಚರಿಕೆಯಿಂದ - ಮರುಪ್ರಯತ್ನಗಳು ಲೂಪ್ ಆಗಬಹುದು) AWS “ಸಮಯ ಮೀರುವಿಕೆಗಳು, ಮರುಪ್ರಯತ್ನಗಳು ಮತ್ತು ನಡುಕದೊಂದಿಗೆ ಬ್ಯಾಕ್ಆಫ್”
-
ಪರಿಕರ ದೋಷ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ (ಸ್ಪಷ್ಟ, ರಚನಾತ್ಮಕ)
ಹಂತ 6: ಮೆಮೊರಿಯನ್ನು ಎಚ್ಚರಿಕೆಯಿಂದ ಸೇರಿಸಿ 🗃️
ಅಲ್ಪಾವಧಿ: ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಸಂಕ್ಷಿಪ್ತ "ಸ್ಥಿತಿ ಸಾರಾಂಶ"ವನ್ನು ನವೀಕರಿಸಿ. ಲ್ಯಾಂಗ್ಚೈನ್ "ಮೆಮೊರಿ ಅವಲೋಕನ"
ದೀರ್ಘಕಾಲೀನ: ಬಾಳಿಕೆ ಬರುವ ಸಂಗತಿಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ (ಬಳಕೆದಾರರ ಆದ್ಯತೆಗಳು, ಸಂಸ್ಥೆಯ ನಿಯಮಗಳು, ಸ್ಥಿರ ದಾಖಲೆಗಳು).
ನಿಯಮ:
-
ಅದು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತಿದ್ದರೆ - ಅದನ್ನು ಅಲ್ಪಾವಧಿಗೆ ಇರಿಸಿ
-
ಅದು ಸ್ಥಿರವಾಗಿದ್ದರೆ - ದೀರ್ಘಕಾಲ ಸಂಗ್ರಹಿಸಿ
-
ಅದು ಸೂಕ್ಷ್ಮವಾಗಿದ್ದರೆ - ಕನಿಷ್ಠವಾಗಿ ಸಂಗ್ರಹಿಸಿ (ಅಥವಾ ಇಲ್ಲವೇ ಇಲ್ಲ)
ಹಂತ 7: ದೃಢೀಕರಣ ಮತ್ತು "ವಿಮರ್ಶಕ" ಪಾಸ್ ಸೇರಿಸಿ 🧪
ಅಗ್ಗದ, ಪ್ರಾಯೋಗಿಕ ಮಾದರಿ:
-
ಏಜೆಂಟ್ ಫಲಿತಾಂಶವನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ
-
ವ್ಯಾಲಿಡೇಟರ್ ರಚನೆ ಮತ್ತು ನಿರ್ಬಂಧಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ
-
ಕಾಣೆಯಾದ ಹಂತಗಳು ಅಥವಾ ನೀತಿ ಉಲ್ಲಂಘನೆಗಳಿಗಾಗಿ ಐಚ್ಛಿಕ ವಿಮರ್ಶಕ ಮಾದರಿ ವಿಮರ್ಶೆಗಳು NIST AI RMF 1.0
ಪರಿಪೂರ್ಣವಲ್ಲ, ಆದರೆ ಇದು ಆಘಾತಕಾರಿ ಪ್ರಮಾಣದ ಅಸಂಬದ್ಧತೆಯನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತದೆ.
ಹಂತ 8: ಲಾಗಿನ್ ಆಗದೇ ಇರುವುದಕ್ಕೆ ನೀವು ವಿಷಾದಿಸುವ ಎಲ್ಲವನ್ನೂ ಲಾಗ್ ಮಾಡಿ 📜
ಲಾಗ್:
-
ಟೂಲ್ ಕರೆಗಳು + ಇನ್ಪುಟ್ಗಳು + ಔಟ್ಪುಟ್ಗಳು
-
ತೆಗೆದುಕೊಂಡ ನಿರ್ಧಾರಗಳು
-
ದೋಷಗಳು
-
ಅಂತಿಮ ಔಟ್ಪುಟ್ಗಳು
-
ಟೋಕನ್ಗಳು ಮತ್ತು ಲೇಟೆನ್ಸಿ ಓಪನ್ಟೆಲಿಮೆಟ್ರಿ ಅಬ್ಸರ್ವೇಬಿಲಿಟಿ ಪ್ರೈಮರ್
ಭವಿಷ್ಯ - ನೀವು ನಿಮಗೆ ಧನ್ಯವಾದ ಹೇಳುವಿರಿ. ವರ್ತಮಾನ - ನೀವು ಮರೆತುಬಿಡುತ್ತೀರಿ. ಅದು ಜೀವನ 😵💫
7) ನಿಮ್ಮ ಆತ್ಮವನ್ನು ಮುರಿಯದ ಟೂಲ್ ಕಾಲಿಂಗ್ 🧰😵
"AI ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು" ಎಂಬುದು ನಿಜವಾದ ಸಾಫ್ಟ್ವೇರ್ ಎಂಜಿನಿಯರಿಂಗ್ ಆಗುವ ಸ್ಥಳವೆಂದರೆ ಟೂಲ್ ಕಾಲಿಂಗ್.
ಉಪಕರಣಗಳನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿಸಿ (ಅವಲಂಬಿತವಾಗಿರುವುದು ಒಳ್ಳೆಯದು)
ವಿಶ್ವಾಸಾರ್ಹ ಉಪಕರಣಗಳು ಹೀಗಿವೆ:
-
ನಿರ್ಣಾಯಕ
-
ವ್ಯಾಪ್ತಿಯಲ್ಲಿ ಕಿರಿದು
-
ಪರೀಕ್ಷಿಸಲು ಸುಲಭ
-
ಸ್ಟ್ರೈಪ್ “ಐಡೆಂಪೊಟೆಂಟ್ ವಿನಂತಿಗಳನ್ನು” ಮರು ಚಾಲನೆ ಮಾಡುವುದು ಸುರಕ್ಷಿತವಾಗಿದೆ.
ಟೂಲ್ ಲೇಯರ್ನಲ್ಲಿ ಕೇವಲ ಪ್ರಾಂಪ್ಟ್ಗಳಲ್ಲ, ಗಾರ್ಡ್ರೈಲ್ಗಳನ್ನು ಸೇರಿಸಿ
ಪ್ರಾಂಪ್ಟ್ಗಳು ಸಭ್ಯ ಸಲಹೆಗಳಾಗಿವೆ. ಪರಿಕರ ಮೌಲ್ಯೀಕರಣವು ಮುಚ್ಚಿದ ಬಾಗಿಲು. OpenAI ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳು.
ಮಾಡಿ:
-
ಅನುಮತಿ ಪಟ್ಟಿಗಳು (ಯಾವ ಪರಿಕರಗಳು ಚಲಾಯಿಸಬಹುದು)
-
ಇನ್ಪುಟ್ ಮೌಲ್ಯೀಕರಣ
-
ದರ ಮಿತಿಗಳು OpenAI ದರ ಮಿತಿಗಳ ಮಾರ್ಗದರ್ಶಿ
-
ಪ್ರತಿ ಬಳಕೆದಾರ/ಆರ್ಗ್ ಅನುಮತಿ ಪರಿಶೀಲನೆಗಳು
-
ಅಪಾಯಕಾರಿ ಕ್ರಿಯೆಗಳಿಗೆ "ಡ್ರೈ-ರನ್ ಮೋಡ್"
ಭಾಗಶಃ ವೈಫಲ್ಯಕ್ಕೆ ವಿನ್ಯಾಸ
ಪರಿಕರಗಳು ವಿಫಲಗೊಳ್ಳುತ್ತವೆ. ನೆಟ್ವರ್ಕ್ಗಳು ಅಲುಗಾಡುತ್ತವೆ. ದೃಢೀಕರಣದ ಅವಧಿ ಮುಗಿಯುತ್ತದೆ. ಏಜೆಂಟ್ ಕಡ್ಡಾಯವಾಗಿ:
-
ದೋಷಗಳನ್ನು ಅರ್ಥೈಸಿಕೊಳ್ಳಿ
-
ಸೂಕ್ತವಾದಾಗ ಬ್ಯಾಕ್ಆಫ್ನೊಂದಿಗೆ ಮರುಪ್ರಯತ್ನಿಸಿ Google Cloud ಮರುಪ್ರಯತ್ನ ತಂತ್ರ (ಬ್ಯಾಕ್ಆಫ್ + ಜಿಟ್ಟರ್)
-
ಪರ್ಯಾಯ ಪರಿಕರಗಳನ್ನು ಆರಿಸಿ
-
ಸಿಲುಕಿಕೊಂಡಾಗ ಹೆಚ್ಚಾಗುತ್ತದೆ
ಸದ್ದಿಲ್ಲದೆ ಪರಿಣಾಮಕಾರಿಯಾದ ತಂತ್ರ: ರಚನಾತ್ಮಕ ದೋಷಗಳನ್ನು ಹಿಂತಿರುಗಿಸಿ, ಉದಾಹರಣೆಗೆ:
-
ಪ್ರಕಾರ: auth_error -
ಪ್ರಕಾರ: not_found -
type: rate_limited
ಆದ್ದರಿಂದ ಮಾದರಿಯು ಭಯಭೀತರಾಗುವ ಬದಲು ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ಪ್ರತಿಕ್ರಿಯಿಸಬಹುದು.
8) ನಿಮ್ಮನ್ನು ಕಾಡುವ ಬದಲು ಸಹಾಯ ಮಾಡುವ ನೆನಪು 👻🗂️
ಸ್ಮೃತಿ ಶಕ್ತಿ ತುಂಬಾ ಪ್ರಬಲವಾಗಿದೆ, ಆದರೆ ಅದು ಕಸದ ಡ್ರಾಯರ್ ಆಗಬಹುದು.
ಅಲ್ಪಾವಧಿಯ ಸ್ಮರಣೆ: ಅದನ್ನು ಸಾಂದ್ರವಾಗಿಡಿ
ಬಳಸಿ:
-
ಕೊನೆಯ N ಹಂತಗಳು
-
ಚಾಲನೆಯಲ್ಲಿರುವ ಸಾರಾಂಶ (ಪ್ರತಿ ಲೂಪ್ ಅನ್ನು ನವೀಕರಿಸಲಾಗಿದೆ)
-
ಪ್ರಸ್ತುತ ಯೋಜನೆ
-
ಪ್ರಸ್ತುತ ನಿರ್ಬಂಧಗಳು (ಬಜೆಟ್, ಸಮಯ, ನೀತಿಗಳು)
ನೀವು ಎಲ್ಲವನ್ನೂ ಸಂದರ್ಭಕ್ಕೆ ತಕ್ಕಂತೆ ಹಾಕಿದರೆ, ನೀವು ಪಡೆಯುತ್ತೀರಿ:
-
ಹೆಚ್ಚಿನ ವೆಚ್ಚ
-
ನಿಧಾನವಾದ ಸುಪ್ತತೆ
-
ಹೆಚ್ಚು ಗೊಂದಲ (ಹೌದು, ಆಗಲೂ ಸಹ)
ದೀರ್ಘಕಾಲೀನ ಸ್ಮರಣೆ: "ತುಂಬುವಿಕೆ" ಮೇಲೆ ಮರುಪಡೆಯುವಿಕೆ
ಹೆಚ್ಚಿನ "ದೀರ್ಘಕಾಲೀನ ಸ್ಮರಣೆ" ಈ ಕೆಳಗಿನಂತಿರುತ್ತದೆ:
-
ಎಂಬೆಡಿಂಗ್ಗಳು
-
ವೆಕ್ಟರ್ ಸ್ಟೋರ್
-
ಮರುಪಡೆಯುವಿಕೆ ವರ್ಧಿತ ಜನರೇಷನ್ (RAG) RAG ಪೇಪರ್
ಏಜೆಂಟ್ ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವುದಿಲ್ಲ. ಇದು ರನ್ಟೈಮ್ನಲ್ಲಿ ಹೆಚ್ಚು ಪ್ರಸ್ತುತವಾದ ತುಣುಕುಗಳನ್ನು ಹಿಂಪಡೆಯುತ್ತದೆ. LlamaIndex “RAG ಪರಿಚಯ”
ಪ್ರಾಯೋಗಿಕ ಸ್ಮರಣ ನಿಯಮಗಳು
-
"ಆದ್ಯತೆಗಳನ್ನು" ಸ್ಪಷ್ಟ ಸಂಗತಿಗಳಾಗಿ ಸಂಗ್ರಹಿಸಿ: "ಬಳಕೆದಾರರು ಬುಲೆಟ್ ಸಾರಾಂಶಗಳನ್ನು ಇಷ್ಟಪಡುತ್ತಾರೆ ಮತ್ತು ಎಮೋಜಿಗಳನ್ನು ದ್ವೇಷಿಸುತ್ತಾರೆ" (ಲೋಲ್, ಇಲ್ಲಿ ಅಲ್ಲ 😄)
-
"ನಿರ್ಧಾರಗಳನ್ನು" ಸಮಯ ಮುದ್ರೆಗಳು ಅಥವಾ ಆವೃತ್ತಿಗಳೊಂದಿಗೆ ಸಂಗ್ರಹಿಸಿ (ಇಲ್ಲದಿದ್ದರೆ ವಿರೋಧಾಭಾಸಗಳು ರಾಶಿಯಾಗುತ್ತವೆ)
-
ನಿಜವಾಗಿಯೂ ರಹಸ್ಯಗಳನ್ನು ಇಟ್ಟುಕೊಳ್ಳಬೇಕಾಗಿಲ್ಲದಿದ್ದರೆ ಎಂದಿಗೂ ರಹಸ್ಯಗಳನ್ನು ಇಟ್ಟುಕೊಳ್ಳಬೇಡಿ
ಮತ್ತು ನನ್ನ ಅಪೂರ್ಣ ರೂಪಕ ಇಲ್ಲಿದೆ: ನೆನಪು ರೆಫ್ರಿಜರೇಟರ್ ಇದ್ದಂತೆ. ನೀವು ಅದನ್ನು ಎಂದಿಗೂ ಸ್ವಚ್ಛಗೊಳಿಸದಿದ್ದರೆ, ಅಂತಿಮವಾಗಿ ನಿಮ್ಮ ಸ್ಯಾಂಡ್ವಿಚ್ ಈರುಳ್ಳಿ ಮತ್ತು ವಿಷಾದದ ರುಚಿಯನ್ನು ಹೊಂದಿರುತ್ತದೆ.
9) ಯೋಜನಾ ಮಾದರಿಗಳು (ಸರಳದಿಂದ ಅಲಂಕಾರಿಕವರೆಗೆ) 🧭✨
ಯೋಜನೆ ಎಂದರೆ ಕೇವಲ ನಿಯಂತ್ರಿತ ವಿಭಜನೆ. ಅದನ್ನು ಅತೀಂದ್ರಿಯವಾಗಿಸಬೇಡಿ.
ಮಾದರಿ A: ಪರಿಶೀಲನಾಪಟ್ಟಿ ಯೋಜಕ ✅
-
ಮಾದರಿಯು ಹಂತಗಳ ಪಟ್ಟಿಯನ್ನು ನೀಡುತ್ತದೆ
-
ಹಂತ ಹಂತವಾಗಿ ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ
-
ಪರಿಶೀಲನಾಪಟ್ಟಿ ಸ್ಥಿತಿಯನ್ನು ನವೀಕರಿಸುತ್ತದೆ
ಆನ್ಬೋರ್ಡಿಂಗ್ಗೆ ಉತ್ತಮ. ಸರಳ, ಪರೀಕ್ಷಿಸಬಹುದಾದ.
ಪ್ಯಾಟರ್ನ್ ಬಿ: ರೀಆಕ್ಟ್ ಲೂಪ್ (ಕಾರಣ + ಕ್ರಿಯೆ) 🧠→🧰
-
ಮಾದರಿಯು ಮುಂದಿನ ಉಪಕರಣ ಕರೆಯನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ
-
ಔಟ್ಪುಟ್ ಅನ್ನು ಗಮನಿಸುತ್ತದೆ
-
ರಿಯಾಕ್ಟ್ ಪೇಪರ್ ಅನ್ನು ಪುನರಾವರ್ತಿಸುತ್ತದೆ
ಇದು ಕ್ಲಾಸಿಕ್ ಏಜೆಂಟ್ ಭಾವನೆ.
ಪ್ಯಾಟರ್ನ್ ಸಿ: ಮೇಲ್ವಿಚಾರಕ-ಕೆಲಸಗಾರ 👥
-
ಮೇಲ್ವಿಚಾರಕರು ಗುರಿಯನ್ನು ಕಾರ್ಯಗಳಾಗಿ ವಿಭಜಿಸುತ್ತಾರೆ
-
ಕಾರ್ಮಿಕರು ವಿಶೇಷ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತಾರೆ
-
ಮೇಲ್ವಿಚಾರಕರು ಫಲಿತಾಂಶಗಳನ್ನು ವಿಲೀನಗೊಳಿಸುತ್ತಾರೆ ಮೈಕ್ರೋಸಾಫ್ಟ್ ಆಟೋಜೆನ್ (ಮಲ್ಟಿ-ಏಜೆಂಟ್ ಫ್ರೇಮ್ವರ್ಕ್)
ಕೆಲಸಗಳು ಸಮಾನಾಂತರವಾಗಿಸಬಹುದಾದಾಗ ಅಥವಾ ನೀವು ವಿಭಿನ್ನ "ಪಾತ್ರಗಳನ್ನು" ಬಯಸಿದಾಗ ಇದು ಮೌಲ್ಯಯುತವಾಗಿರುತ್ತದೆ:
-
ಸಂಶೋಧಕ
-
ಕೋಡರ್
-
ಸಂಪಾದಕ
-
QA ಪರೀಕ್ಷಕ
ಪ್ಯಾಟರ್ನ್ ಡಿ: ಪ್ಲಾನ್-ನಂತರ-ಎಕ್ಸಿಕ್ಯೂಟ್ ವಿತ್ ರಿಪ್ಲಾನಿಂಗ್ 🔄
-
ಯೋಜನೆಯನ್ನು ರಚಿಸಿ
-
ಕಾರ್ಯಗತಗೊಳಿಸಿ
-
ಉಪಕರಣದ ಫಲಿತಾಂಶಗಳು ವಾಸ್ತವವನ್ನು ಬದಲಾಯಿಸಿದರೆ, ಮರು ಯೋಜನೆ ಮಾಡಿ
ಇದು ಏಜೆಂಟ್ ಕೆಟ್ಟ ಯೋಜನೆಯನ್ನು ಮೊಂಡುತನದಿಂದ ಅನುಸರಿಸುವುದನ್ನು ತಡೆಯುತ್ತದೆ. ಮಾನವರು ಸಹ ಇದನ್ನು ಮಾಡುತ್ತಾರೆ, ಅವರು ದಣಿದಿಲ್ಲದಿದ್ದರೆ, ಈ ಸಂದರ್ಭದಲ್ಲಿ ಅವರು ಕೆಟ್ಟ ಯೋಜನೆಗಳನ್ನು ಸಹ ಅನುಸರಿಸುತ್ತಾರೆ.
10) ಸುರಕ್ಷತೆ, ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಕೆಲಸದಿಂದ ತೆಗೆದುಹಾಕದಿರುವುದು 🔐😅
ನಿಮ್ಮ ಏಜೆಂಟ್ ಕ್ರಮ ಕೈಗೊಳ್ಳಲು ಸಾಧ್ಯವಾದರೆ, ನಿಮಗೆ ಸುರಕ್ಷತಾ ವಿನ್ಯಾಸ ಬೇಕು. "ಹೊಂದಲು ಚೆನ್ನಾಗಿಲ್ಲ". ಅಗತ್ಯ. NIST AI RMF 1.0
ಕಠಿಣ ಮಿತಿಗಳು
-
ಪ್ರತಿ ಓಟಕ್ಕೆ ಗರಿಷ್ಠ ಹೆಜ್ಜೆಗಳು
-
ಪ್ರತಿ ನಿಮಿಷಕ್ಕೆ ಗರಿಷ್ಠ ಪರಿಕರ ಕರೆಗಳು
-
ಪ್ರತಿ ಸೆಷನ್ಗೆ ಗರಿಷ್ಠ ಖರ್ಚು (ಟೋಕನ್ ಬಜೆಟ್)
-
ಅನುಮೋದನೆಯ ಹಿಂದೆ ನಿರ್ಬಂಧಿತ ಪರಿಕರಗಳು
ಡೇಟಾ ನಿರ್ವಹಣೆ
-
ಲಾಗಿಂಗ್ ಮಾಡುವ ಮೊದಲು ಸೂಕ್ಷ್ಮ ಇನ್ಪುಟ್ಗಳನ್ನು ಸಂಪಾದಿಸಿ
-
ಪ್ರತ್ಯೇಕ ಪರಿಸರಗಳು (ಡೆವಲಪರ್ vs ಉತ್ಪಾದನೆ)
-
ಕನಿಷ್ಠ ಸವಲತ್ತು ಉಪಕರಣ ಅನುಮತಿಗಳು
ವರ್ತನೆಯ ನಿರ್ಬಂಧಗಳು
-
ಆಂತರಿಕ ಪುರಾವೆ ತುಣುಕುಗಳನ್ನು ಉಲ್ಲೇಖಿಸಲು ಏಜೆಂಟ್ ಅನ್ನು ಒತ್ತಾಯಿಸುವುದು (ಬಾಹ್ಯ ಲಿಂಕ್ಗಳಲ್ಲ, ಕೇವಲ ಆಂತರಿಕ ಉಲ್ಲೇಖಗಳು)
-
ಆತ್ಮವಿಶ್ವಾಸ ಕಡಿಮೆಯಾದಾಗ ಅನಿಶ್ಚಿತತೆಯ ಧ್ವಜಗಳನ್ನು ಹಾಕಬೇಕಾಗುತ್ತದೆ
-
ಇನ್ಪುಟ್ಗಳು ಅಸ್ಪಷ್ಟವಾಗಿದ್ದರೆ "ಸ್ಪಷ್ಟೀಕರಣ ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿ" ಎಂದು ಅಗತ್ಯವಿರುತ್ತದೆ
ವಿಶ್ವಾಸಾರ್ಹ ಏಜೆಂಟ್ ಎಂದರೆ ಅತ್ಯಂತ ವಿಶ್ವಾಸಾರ್ಹ ಏಜೆಂಟ್ ಅಲ್ಲ. ಅವನು ಊಹಿಸುವಾಗ ತಿಳಿದಿರುವವನು... ಮತ್ತು ಹಾಗೆ ಹೇಳುತ್ತಾನೆ.
11) ಪರೀಕ್ಷೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನ (ಎಲ್ಲರೂ ತಪ್ಪಿಸುವ ಭಾಗ) 🧪📏
ನೀವು ಅಳೆಯಲು ಸಾಧ್ಯವಾಗದ್ದನ್ನು ಸುಧಾರಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಹೌದು, ಆ ಸಾಲು ಚೀಸೀ ಆಗಿದೆ, ಆದರೆ ಅದು ಕಿರಿಕಿರಿ ಉಂಟುಮಾಡುವಷ್ಟು ಸತ್ಯ.
ಸನ್ನಿವೇಶ ಸೆಟ್ ಅನ್ನು ನಿರ್ಮಿಸಿ
30-100 ಪರೀಕ್ಷಾ ಪ್ರಕರಣಗಳನ್ನು ರಚಿಸಿ:
-
ಸಂತೋಷದ ಹಾದಿಗಳು
-
ಅಂಚಿನ ಪ್ರಕರಣಗಳು
-
"ಉಪಕರಣ ವಿಫಲ" ಪ್ರಕರಣಗಳು
-
ಅಸ್ಪಷ್ಟ ವಿನಂತಿಗಳು
-
ಪ್ರತಿಕೂಲ ಪ್ರಾಂಪ್ಟ್ಗಳು (ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಪ್ರಯತ್ನಗಳು) OWASP LLM ಅಪ್ಲಿಕೇಶನ್ಗಳಿಗಾಗಿ ಟಾಪ್ 10 OWASP LLM01 ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್
ಸ್ಕೋರ್ ಫಲಿತಾಂಶಗಳು
ಈ ರೀತಿಯ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಬಳಸಿ:
-
ಕಾರ್ಯ ಯಶಸ್ಸಿನ ಪ್ರಮಾಣ
-
ಪೂರ್ಣಗೊಳಿಸುವ ಸಮಯ
-
ಉಪಕರಣ ದೋಷ ಮರುಪಡೆಯುವಿಕೆ ದರ
-
ಭ್ರಮೆಗಳ ಪ್ರಮಾಣ (ಪುರಾವೆಗಳಿಲ್ಲದ ಹಕ್ಕುಗಳು)
-
ಮಾನವ ಅನುಮೋದನೆ ದರ (ಮೇಲ್ವಿಚಾರಣಾ ಮೋಡ್ನಲ್ಲಿದ್ದರೆ)
ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಪರಿಕರಗಳಿಗಾಗಿ ಹಿಂಜರಿತ ಪರೀಕ್ಷೆಗಳು
ನೀವು ಬದಲಾಯಿಸಿದಾಗಲೆಲ್ಲಾ:
-
ಉಪಕರಣ ಯೋಜನೆ
-
ಸಿಸ್ಟಂ ಸೂಚನೆಗಳು
-
ಮರುಪಡೆಯುವಿಕೆ ತರ್ಕ
-
ಮೆಮೊರಿ ಸ್ವರೂಪ
ಸೂಟ್ ಅನ್ನು ಮತ್ತೆ ಚಲಾಯಿಸಿ.
ಏಜೆಂಟರು ಸೂಕ್ಷ್ಮ ಜೀವಿಗಳು. ಮನೆ ಗಿಡಗಳಂತೆ, ಆದರೆ ಹೆಚ್ಚು ದುಬಾರಿ.
12) ನಿಮ್ಮ ಬಜೆಟ್ ಅನ್ನು ಕರಗಿಸದ ನಿಯೋಜನಾ ಮಾದರಿಗಳು 💸🔥
ಒಂದೇ ಸೇವೆಯೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ
-
ಏಜೆಂಟ್ ನಿಯಂತ್ರಕ API
-
ಅದರ ಹಿಂದೆ ಪರಿಕರ ಸೇವೆಗಳು
-
ಲಾಗಿಂಗ್ + ಮಾನಿಟರಿಂಗ್ ಓಪನ್ ಟೆಲಿಮೆಟ್ರಿ ವೀಕ್ಷಣಾ ಪ್ರೈಮರ್
ವೆಚ್ಚ ನಿಯಂತ್ರಣಗಳನ್ನು ಮೊದಲೇ ಸೇರಿಸಿ
-
ಕ್ಯಾಶಿಂಗ್ ಮರುಪಡೆಯುವಿಕೆ ಫಲಿತಾಂಶಗಳು
-
ಸಂವಾದ ಸ್ಥಿತಿಯನ್ನು ಸಾರಾಂಶಗಳೊಂದಿಗೆ ಸಂಕುಚಿತಗೊಳಿಸುವುದು
-
ರೂಟಿಂಗ್ ಮತ್ತು ಹೊರತೆಗೆಯುವಿಕೆಗಾಗಿ ಸಣ್ಣ ಮಾದರಿಗಳನ್ನು ಬಳಸುವುದು
-
"ಆಳವಾದ ಚಿಂತನಾ ಕ್ರಮ" ವನ್ನು ಕಠಿಣ ಹಂತಗಳಿಗೆ ಸೀಮಿತಗೊಳಿಸುವುದು
ಸಾಮಾನ್ಯ ವಾಸ್ತುಶಿಲ್ಪ ಆಯ್ಕೆ
-
ಸ್ಥಿತಿಯಿಲ್ಲದ ನಿಯಂತ್ರಕ + ಬಾಹ್ಯ ಸ್ಥಿತಿ ಸಂಗ್ರಹ (DB/redis)
-
ಸಾಧ್ಯವಾದಲ್ಲೆಲ್ಲಾ ಟೂಲ್ ಕರೆಗಳು ಐಡೆಂಪೊಟೆಂಟ್ ಆಗಿರುತ್ತವೆ ಪಟ್ಟಿ “ಐಡೆಂಪೊಟೆಂಟ್ ವಿನಂತಿಗಳು”
-
ದೀರ್ಘ ಕಾರ್ಯಗಳಿಗಾಗಿ ಸರತಿ ಸಾಲಿನಲ್ಲಿ ನಿಲ್ಲುವುದು (ಆದ್ದರಿಂದ ನೀವು ವೆಬ್ ವಿನಂತಿಯನ್ನು ಶಾಶ್ವತವಾಗಿ ತೆರೆದಿಡುವುದಿಲ್ಲ)
ಅಲ್ಲದೆ: "ಕಿಲ್ ಸ್ವಿಚ್" ಅನ್ನು ನಿರ್ಮಿಸಿ. ನಿಮಗೆ ನಿಜವಾಗಿಯೂ ಅದು ಬೇಕಾಗುವವರೆಗೆ ನಿಮಗೆ ಅದು ಬೇಕಾಗುವುದಿಲ್ಲ 😬
13) ಮುಕ್ತಾಯ ಟಿಪ್ಪಣಿಗಳು - AI ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು ಎಂಬುದರ ಕುರಿತು ಕಿರು ಆವೃತ್ತಿ 🎁🤖
ನಿಮಗೆ ಬೇರೆ ಏನೂ ನೆನಪಿಲ್ಲದಿದ್ದರೆ, ಇದನ್ನು ನೆನಪಿಡಿ:
-
AI ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು ಎಂಬುದು ಹೆಚ್ಚಾಗಿ ಮಾದರಿಯ ಸುತ್ತ ಸುರಕ್ಷಿತ ಲೂಪ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದರ ಬಗ್ಗೆ. ಲ್ಯಾಂಗ್ಚೈನ್ “ಏಜೆಂಟ್ಗಳು” ದಾಖಲೆಗಳು
-
ಸ್ಪಷ್ಟ ಗುರಿ, ಕಡಿಮೆ ಸ್ವಾಯತ್ತತೆ ಮತ್ತು ಕಟ್ಟುನಿಟ್ಟಾದ ಪರಿಕರಗಳೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ. OpenAI ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳು
-
ಅಂತ್ಯವಿಲ್ಲದ ಸಂದರ್ಭ ತುಂಬುವಿಕೆಯಲ್ಲ, ಮರುಪಡೆಯುವಿಕೆಯ ಮೂಲಕ ಸ್ಮರಣೆಯನ್ನು ಸೇರಿಸಿ. RAG ಕಾಗದ.
-
ಯೋಜನೆ ಸರಳವಾಗಿರಬಹುದು - ಪರಿಶೀಲನಾಪಟ್ಟಿಗಳು ಮತ್ತು ಮರುಯೋಜನೆ ಬಹಳ ದೂರ ಹೋಗುತ್ತದೆ.
-
ಲಾಗಿಂಗ್ ಮತ್ತು ಪರೀಕ್ಷೆಗಳು ಏಜೆಂಟ್ ಅವ್ಯವಸ್ಥೆಯನ್ನು ನೀವು ಸಾಗಿಸಬಹುದಾದ ಸಂಗತಿಯನ್ನಾಗಿ ಪರಿವರ್ತಿಸುತ್ತವೆ. ಓಪನ್ ಟೆಲಿಮೆಟ್ರಿ ವೀಕ್ಷಣಾ ಪ್ರೈಮರ್
-
ಗಾರ್ಡ್ರೈಲ್ಗಳು ಪ್ರಾಂಪ್ಟ್ಗಳಲ್ಲಿ ಮಾತ್ರವಲ್ಲ, ಕೋಡ್ನಲ್ಲಿಯೂ ಸೇರಿವೆ. LLM ಅಪ್ಲಿಕೇಶನ್ಗಳಿಗಾಗಿ OWASP ಟಾಪ್ 10
ಏಜೆಂಟ್ ಎಂದರೆ ಮ್ಯಾಜಿಕ್ ಅಲ್ಲ. ಅದು ಒಳ್ಳೆಯ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ವ್ಯವಸ್ಥೆಯಾಗಿದ್ದು, ಅದು ಮೌಲ್ಯಯುತವಾಗಿರುತ್ತದೆ... ಮತ್ತು ಹಾನಿಯನ್ನುಂಟುಮಾಡುವ ಮೊದಲು ಸೋಲನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುತ್ತದೆ. ಒಂದು ರೀತಿಯಲ್ಲಿ ಶಾಂತವಾಗಿ ಸಾಂತ್ವನ ನೀಡುತ್ತದೆ 😌
ಮತ್ತು ಹೌದು, ನೀವು ಅದನ್ನು ಸರಿಯಾಗಿ ನಿರ್ಮಿಸಿದರೆ, ಎಂದಿಗೂ ನಿದ್ರೆ ಮಾಡದ, ಸಾಂದರ್ಭಿಕವಾಗಿ ಭಯಭೀತರಾಗುವ ಮತ್ತು ಕಾಗದಪತ್ರಗಳನ್ನು ಇಷ್ಟಪಡುವ ಒಬ್ಬ ಪುಟ್ಟ ಡಿಜಿಟಲ್ ಇಂಟರ್ನ್ನನ್ನು ನೇಮಿಸಿಕೊಂಡಂತೆ ಭಾಸವಾಗುತ್ತದೆ. ಆದ್ದರಿಂದ, ಮೂಲತಃ ಇಂಟರ್ನ್.
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
ಸರಳವಾಗಿ ಹೇಳುವುದಾದರೆ, AI ಏಜೆಂಟ್ ಎಂದರೇನು?
AI ಏಜೆಂಟ್ ಮೂಲತಃ ಪುನರಾವರ್ತಿಸುವ ಒಂದು ಲೂಪ್ ಆಗಿದೆ: ಇನ್ಪುಟ್ ತೆಗೆದುಕೊಳ್ಳಿ, ಮುಂದಿನ ಹಂತವನ್ನು ನಿರ್ಧರಿಸಿ, ಉಪಕರಣವನ್ನು ಬಳಸಿ, ಫಲಿತಾಂಶವನ್ನು ಓದಿ ಮತ್ತು ಅದು ಮುಗಿಯುವವರೆಗೆ ಪುನರಾವರ್ತಿಸಿ. "ಏಜೆಂಟಿಕ್" ಭಾಗವು ಕೇವಲ ಚಾಟ್ ಮಾಡದೆ ನಟನೆ ಮತ್ತು ವೀಕ್ಷಣೆಯಿಂದ ಬರುತ್ತದೆ. ಅನೇಕ ಏಜೆಂಟ್ಗಳು ಪರಿಕರ ಪ್ರವೇಶದೊಂದಿಗೆ ಕೇವಲ ಸ್ಮಾರ್ಟ್ ಆಟೊಮೇಷನ್ ಆಗಿದ್ದರೆ, ಇತರರು ದೋಷಗಳಿಂದ ಚೇತರಿಸಿಕೊಳ್ಳಬಹುದಾದ ಜೂನಿಯರ್ ಆಪರೇಟರ್ನಂತೆ ವರ್ತಿಸುತ್ತಾರೆ.
ಕೇವಲ ಪ್ರಾಂಪ್ಟ್ ಬಳಸುವ ಬದಲು ನಾನು ಯಾವಾಗ AI ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಬೇಕು?
ಕೆಲಸವು ಬಹು-ಹಂತದ್ದಾಗಿದ್ದರೆ, ಮಧ್ಯಂತರ ಫಲಿತಾಂಶಗಳ ಆಧಾರದ ಮೇಲೆ ಬದಲಾಗುತ್ತಿರುವಾಗ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹ ಪರಿಕರ ಬಳಕೆಯ ಅಗತ್ಯವಿರುವಾಗ (API ಗಳು, ಡೇಟಾಬೇಸ್ಗಳು, ಟಿಕೆಟಿಂಗ್, ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆ) ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಿ. ಗಾರ್ಡ್ರೈಲ್ಗಳೊಂದಿಗೆ ಪುನರಾವರ್ತಿತ ಫಲಿತಾಂಶಗಳು ಮತ್ತು "ಮುಗಿದಿದೆ" ಎಂದು ಪರಿಶೀಲಿಸುವ ಮಾರ್ಗವನ್ನು ನೀವು ಬಯಸಿದಾಗ ಏಜೆಂಟ್ಗಳು ಸಹ ಉಪಯುಕ್ತವಾಗಿವೆ. ಸರಳವಾದ ಪ್ರಾಂಪ್ಟ್-ಪ್ರತಿಕ್ರಿಯೆ ಕೆಲಸ ಮಾಡಿದರೆ, ಏಜೆಂಟ್ ಸಾಮಾನ್ಯವಾಗಿ ಅನಗತ್ಯ ಓವರ್ಹೆಡ್ ಮತ್ತು ಹೆಚ್ಚುವರಿ ವೈಫಲ್ಯ ವಿಧಾನಗಳಾಗಿರುತ್ತದೆ.
ಲೂಪ್ಗಳಲ್ಲಿ ಸಿಲುಕಿಕೊಳ್ಳದ AI ಏಜೆಂಟ್ ಅನ್ನು ನಾನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು?
ಹಾರ್ಡ್ ಸ್ಟಾಪ್ ಷರತ್ತುಗಳನ್ನು ಬಳಸಿ: ಗರಿಷ್ಠ ಹಂತಗಳು, ಗರಿಷ್ಠ ಪರಿಕರ ಕರೆಗಳು ಮತ್ತು ಸ್ಪಷ್ಟ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆ ಪರಿಶೀಲನೆಗಳು. ರಚನಾತ್ಮಕ ಪರಿಕರ ಯೋಜನೆಗಳು, ಸಮಯ ಮೀರುವಿಕೆಗಳು ಮತ್ತು ಶಾಶ್ವತವಾಗಿ ಮರುಪ್ರಯತ್ನಿಸದ ಮರುಪ್ರಯತ್ನಗಳನ್ನು ಸೇರಿಸಿ. ನಿರ್ಧಾರಗಳು ಮತ್ತು ಪರಿಕರ ಔಟ್ಪುಟ್ಗಳನ್ನು ಲಾಗ್ ಮಾಡಿ ಇದರಿಂದ ಅದು ಎಲ್ಲಿ ಹಳಿತಪ್ಪುತ್ತದೆ ಎಂಬುದನ್ನು ನೀವು ನೋಡಬಹುದು. ಸಾಮಾನ್ಯ ಸುರಕ್ಷತಾ ಕವಾಟವೆಂದರೆ ಎಸ್ಕಲೇಶನ್: ಏಜೆಂಟ್ ಅನಿಶ್ಚಿತವಾಗಿದ್ದರೆ ಅಥವಾ ದೋಷಗಳನ್ನು ಪುನರಾವರ್ತಿಸಿದರೆ, ಅದು ಸುಧಾರಿಸುವ ಬದಲು ಸಹಾಯವನ್ನು ಕೇಳಬೇಕು.
AI ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು ಎಂಬುದರ ಕನಿಷ್ಠ ವಾಸ್ತುಶಿಲ್ಪ ಯಾವುದು?
ಕನಿಷ್ಠ ಪಕ್ಷ ನಿಮಗೆ ನಿಯಂತ್ರಕ ಲೂಪ್ ಅಗತ್ಯವಿದೆ, ಅದು ಮಾದರಿಗೆ ಗುರಿ ಮತ್ತು ಸಂದರ್ಭವನ್ನು ನೀಡುತ್ತದೆ, ಮುಂದಿನ ಕ್ರಿಯೆಯನ್ನು ಕೇಳುತ್ತದೆ, ವಿನಂತಿಸಿದರೆ ಉಪಕರಣವನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ, ವೀಕ್ಷಣೆಯನ್ನು ಸೇರಿಸುತ್ತದೆ ಮತ್ತು ಪುನರಾವರ್ತಿಸುತ್ತದೆ. ನಿಮಗೆ ಕಟ್ಟುನಿಟ್ಟಾದ ಇನ್ಪುಟ್/ಔಟ್ಪುಟ್ ಆಕಾರಗಳು ಮತ್ತು "ಮುಗಿದಿದೆ" ಪರಿಶೀಲನೆಯೊಂದಿಗೆ ಉಪಕರಣಗಳು ಸಹ ಬೇಕಾಗುತ್ತವೆ. ನೀವು ಸ್ಥಿತಿಯನ್ನು ಸ್ವಚ್ಛವಾಗಿಟ್ಟುಕೊಂಡರೆ ಮತ್ತು ಹಂತದ ಮಿತಿಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿದರೆ ನಿಮ್ಮ ಸ್ವಂತ ಲೂಪ್ ಅನ್ನು ರೋಲ್ ಮಾಡಬಹುದು.
ಉತ್ಪಾದನೆಯಲ್ಲಿ ವಿಶ್ವಾಸಾರ್ಹವಾಗಿರಲು ಟೂಲ್ ಕಾಲಿಂಗ್ ಅನ್ನು ನಾನು ಹೇಗೆ ವಿನ್ಯಾಸಗೊಳಿಸಬೇಕು?
ಪರಿಕರಗಳನ್ನು ಕಿರಿದಾಗಿ, ಟೈಪ್ ಮಾಡಿ, ಅನುಮತಿಸಿ ಮತ್ತು ಮೌಲ್ಯೀಕರಿಸಿ - ಸಾಮಾನ್ಯ “do_anything” ಪರಿಕರವನ್ನು ತಪ್ಪಿಸಿ. ಏಜೆಂಟ್ ಇನ್ಪುಟ್ಗಳನ್ನು ಹ್ಯಾಂಡ್-ವೇವ್ ಮಾಡಲು ಸಾಧ್ಯವಾಗದಂತೆ ಕಟ್ಟುನಿಟ್ಟಾದ ಸ್ಕೀಮಾಗಳಿಗೆ (ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳು/ಫಂಕ್ಷನ್ ಕರೆ ಮಾಡುವಿಕೆಯಂತೆ) ಆದ್ಯತೆ ನೀಡಿ. ಪರಿಕರ ಪದರದಲ್ಲಿ ಅನುಮತಿ ಪಟ್ಟಿಗಳು, ದರ ಮಿತಿಗಳು ಮತ್ತು ಬಳಕೆದಾರ/ಆರ್ಗ್ ಅನುಮತಿ ಪರಿಶೀಲನೆಗಳನ್ನು ಸೇರಿಸಿ. ಸಾಧ್ಯವಾದಾಗ ಮರು ಚಾಲನೆ ಮಾಡಲು ಸುರಕ್ಷಿತವಾಗಿರುವಂತೆ ಪರಿಕರಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿ, ಐಡೆಂಪೊಟೆನ್ಸಿ ಮಾದರಿಗಳನ್ನು ಬಳಸಿ.
ಏಜೆಂಟ್ ಅನ್ನು ಕೆಟ್ಟದಾಗಿ ಮಾಡದೆ ಮೆಮೊರಿಯನ್ನು ಸೇರಿಸಲು ಉತ್ತಮ ಮಾರ್ಗ ಯಾವುದು?
ಸ್ಮರಣೆಯನ್ನು ಎರಡು ಭಾಗಗಳಾಗಿ ಪರಿಗಣಿಸಿ: ಅಲ್ಪಾವಧಿಯ ರನ್ ಸ್ಟೇಟ್ (ಇತ್ತೀಚಿನ ಹಂತಗಳು, ಪ್ರಸ್ತುತ ಯೋಜನೆ, ನಿರ್ಬಂಧಗಳು) ಮತ್ತು ದೀರ್ಘಾವಧಿಯ ಮರುಪಡೆಯುವಿಕೆ (ಆದ್ಯತೆಗಳು, ಸ್ಥಿರ ನಿಯಮಗಳು, ಸಂಬಂಧಿತ ದಾಖಲೆಗಳು). ಪೂರ್ಣ ಪ್ರತಿಲಿಪಿಗಳಲ್ಲ, ಆದರೆ ಚಾಲನೆಯಲ್ಲಿರುವ ಸಾರಾಂಶಗಳೊಂದಿಗೆ ಅಲ್ಪಾವಧಿಯ ಸಾಂದ್ರೀಕೃತವಾಗಿ ಇರಿಸಿ. ದೀರ್ಘಕಾಲೀನ ಸ್ಮರಣೆಗಾಗಿ, ಮರುಪಡೆಯುವಿಕೆ (ಎಂಬೆಡ್ಡಿಂಗ್ಗಳು + ವೆಕ್ಟರ್ ಸ್ಟೋರ್/RAG ಮಾದರಿಗಳು) ಸಾಮಾನ್ಯವಾಗಿ ಎಲ್ಲವನ್ನೂ ಸಂದರ್ಭಕ್ಕೆ "ತುಂಬುವುದು" ಮತ್ತು ಮಾದರಿಯನ್ನು ಗೊಂದಲಗೊಳಿಸುವುದನ್ನು ಸೋಲಿಸುತ್ತದೆ.
ನಾನು ಯಾವ ಯೋಜನಾ ಮಾದರಿಯನ್ನು ಬಳಸಬೇಕು: ಪರಿಶೀಲನಾಪಟ್ಟಿ, ರಿಯಾಕ್ಟ್, ಅಥವಾ ಮೇಲ್ವಿಚಾರಕ-ಕೆಲಸಗಾರ?
ಕೆಲಸಗಳು ಊಹಿಸಬಹುದಾದದ್ದಾಗಿದ್ದರೆ ಮತ್ತು ನೀವು ಪರೀಕ್ಷಿಸಲು ಸುಲಭವಾದದ್ದನ್ನು ಬಯಸಿದಾಗ ಪರಿಶೀಲನಾಪಟ್ಟಿ ಯೋಜಕವು ಉತ್ತಮವಾಗಿರುತ್ತದೆ. ಪರಿಕರ ಫಲಿತಾಂಶಗಳು ನೀವು ಮುಂದೆ ಏನು ಮಾಡುತ್ತೀರಿ ಎಂಬುದನ್ನು ಬದಲಾಯಿಸಿದಾಗ ರೀಆಕ್ಟ್-ಶೈಲಿಯ ಲೂಪ್ಗಳು ಹೊಳೆಯುತ್ತವೆ. ಕಾರ್ಯಗಳನ್ನು ಸಮಾನಾಂತರಗೊಳಿಸಿದಾಗ ಅಥವಾ ವಿಭಿನ್ನ ಪಾತ್ರಗಳಿಂದ (ಸಂಶೋಧಕ, ಕೋಡರ್, QA) ಪ್ರಯೋಜನ ಪಡೆದಾಗ ಮೇಲ್ವಿಚಾರಕ-ಕೆಲಸಗಾರರ ಮಾದರಿಗಳು (ಆಟೋಜೆನ್-ಶೈಲಿಯ ಪಾತ್ರ ವಿಭಜನೆಯಂತೆ) ಸಹಾಯ ಮಾಡುತ್ತವೆ. ಮರುಯೋಜನೆಯೊಂದಿಗೆ ಯೋಜನೆಯನ್ನು-ನಂತರ-ಕಾರ್ಯಗತಗೊಳಿಸುವುದು ಹಠಮಾರಿ ಕೆಟ್ಟ ಯೋಜನೆಗಳನ್ನು ತಪ್ಪಿಸಲು ಪ್ರಾಯೋಗಿಕ ಮಧ್ಯಮ ನೆಲವಾಗಿದೆ.
ಒಬ್ಬ ಏಜೆಂಟ್ ನಿಜವಾದ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಸಾಧ್ಯವಾದರೆ, ನಾನು ಅವರನ್ನು ಹೇಗೆ ಸುರಕ್ಷಿತಗೊಳಿಸುವುದು?
ಕನಿಷ್ಠ ಸವಲತ್ತು ಅನುಮತಿಗಳನ್ನು ಬಳಸಿ ಮತ್ತು ಅನುಮೋದನೆ ಅಥವಾ "ಡ್ರೈ-ರನ್" ಮೋಡ್ಗಳ ಹಿಂದೆ ಅಪಾಯಕಾರಿ ಪರಿಕರಗಳನ್ನು ನಿರ್ಬಂಧಿಸಿ. ಬಜೆಟ್ಗಳು ಮತ್ತು ಮಿತಿಗಳನ್ನು ಸೇರಿಸಿ: ಗರಿಷ್ಠ ಹಂತಗಳು, ಗರಿಷ್ಠ ಖರ್ಚು ಮತ್ತು ಪ್ರತಿ-ನಿಮಿಷದ ಪರಿಕರ ಕರೆ ಮಿತಿಗಳು. ಲಾಗಿಂಗ್ ಮಾಡುವ ಮೊದಲು ಸೂಕ್ಷ್ಮ ಡೇಟಾವನ್ನು ಸಂಪಾದಿಸಿ ಮತ್ತು ಉತ್ಪಾದನಾ ಪರಿಸರಗಳಿಂದ ಡೆವಲಪ್ಮೆಂಟ್ ಅನ್ನು ಪ್ರತ್ಯೇಕಿಸಿ. ಇನ್ಪುಟ್ಗಳು ಅಸ್ಪಷ್ಟವಾಗಿರುವಾಗ, ವಿಶ್ವಾಸಾರ್ಹತೆಯು ಪುರಾವೆಗಳನ್ನು ಬದಲಾಯಿಸಲು ಅವಕಾಶ ನೀಡುವ ಬದಲು, ಅನಿಶ್ಚಿತತೆ ಫ್ಲ್ಯಾಗ್ಗಳು ಅಥವಾ ಪ್ರಶ್ನೆಗಳನ್ನು ಸ್ಪಷ್ಟಪಡಿಸುವ ಅಗತ್ಯವಿದೆ.
ಕಾಲಾನಂತರದಲ್ಲಿ ಸುಧಾರಿಸಲು AI ಏಜೆಂಟ್ ಅನ್ನು ನಾನು ಹೇಗೆ ಪರೀಕ್ಷಿಸುವುದು ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು?
ಹ್ಯಾಪಿ ಪಾತ್ಗಳು, ಎಡ್ಜ್ ಕೇಸ್ಗಳು, ಟೂಲ್ ವೈಫಲ್ಯಗಳು, ಅಸ್ಪಷ್ಟ ವಿನಂತಿಗಳು ಮತ್ತು ಪ್ರಾಂಪ್ಟ್-ಇಂಜೆಕ್ಷನ್ ಪ್ರಯತ್ನಗಳು (OWASP-ಶೈಲಿ) ಹೊಂದಿರುವ ಸನ್ನಿವೇಶ ಸೂಟ್ ಅನ್ನು ನಿರ್ಮಿಸಿ. ಕಾರ್ಯ ಯಶಸ್ಸು, ಪೂರ್ಣಗೊಳಿಸುವ ಸಮಯ, ಟೂಲ್ ದೋಷಗಳಿಂದ ಚೇತರಿಕೆ ಮತ್ತು ಪುರಾವೆಗಳಿಲ್ಲದೆ ಹಕ್ಕುಗಳಂತಹ ಫಲಿತಾಂಶಗಳನ್ನು ಸ್ಕೋರ್ ಮಾಡಿ. ನೀವು ಯಾವುದೇ ಸಮಯದಲ್ಲಿ ಟೂಲ್ ಸ್ಕೀಮಾಗಳು, ಪ್ರಾಂಪ್ಟ್ಗಳು, ಮರುಪಡೆಯುವಿಕೆ ಅಥವಾ ಮೆಮೊರಿ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಅನ್ನು ಬದಲಾಯಿಸಿದಾಗ, ಸೂಟ್ ಅನ್ನು ಮರುರನ್ ಮಾಡಿ. ನೀವು ಅದನ್ನು ಪರೀಕ್ಷಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ನೀವು ಅದನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ರವಾನಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
ವಿಳಂಬ ಮತ್ತು ವೆಚ್ಚವನ್ನು ಹೆಚ್ಚಿಸದೆ ನಾನು ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿಯೋಜಿಸುವುದು?
ಸಾಮಾನ್ಯ ಮಾದರಿಯೆಂದರೆ ಬಾಹ್ಯ ಸ್ಥಿತಿ ಅಂಗಡಿ (DB/Redis), ಅದರ ಹಿಂದೆ ಪರಿಕರ ಸೇವೆಗಳು ಮತ್ತು ಬಲವಾದ ಲಾಗಿಂಗ್/ಮೇಲ್ವಿಚಾರಣೆ (ಸಾಮಾನ್ಯವಾಗಿ ಓಪನ್ಟೆಲಿಮೆಟ್ರಿ) ಹೊಂದಿರುವ ಸ್ಥಿತಿಯಿಲ್ಲದ ನಿಯಂತ್ರಕ. ಮರುಪಡೆಯುವಿಕೆ ಕ್ಯಾಶಿಂಗ್, ಕಾಂಪ್ಯಾಕ್ಟ್ ಸ್ಥಿತಿ ಸಾರಾಂಶಗಳು, ರೂಟಿಂಗ್/ಹೊರತೆಗೆಯುವಿಕೆಗಾಗಿ ಸಣ್ಣ ಮಾದರಿಗಳು ಮತ್ತು "ಆಳವಾದ ಚಿಂತನೆ"ಯನ್ನು ಕಠಿಣ ಹಂತಗಳಿಗೆ ಸೀಮಿತಗೊಳಿಸುವ ಮೂಲಕ ವೆಚ್ಚಗಳನ್ನು ನಿಯಂತ್ರಿಸಿ. ದೀರ್ಘ ಕಾರ್ಯಗಳಿಗಾಗಿ ಸರತಿ ಸಾಲುಗಳನ್ನು ಬಳಸಿ ಇದರಿಂದ ನೀವು ವೆಬ್ ವಿನಂತಿಗಳನ್ನು ತೆರೆದಿಡುವುದಿಲ್ಲ. ಯಾವಾಗಲೂ ಕಿಲ್ ಸ್ವಿಚ್ ಅನ್ನು ಸೇರಿಸಿ.
ಉಲ್ಲೇಖಗಳು
-
ರಾಷ್ಟ್ರೀಯ ಗುಣಮಟ್ಟ ಮತ್ತು ತಂತ್ರಜ್ಞಾನ ಸಂಸ್ಥೆ (NIST) - NIST AI RMF 1.0 (ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಪಾರದರ್ಶಕತೆ) - nvlpubs.nist.gov
-
OpenAI - ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳು - platform.openai.com
-
OpenAI - ಕಾರ್ಯ ಕರೆ ಮಾರ್ಗದರ್ಶಿ - platform.openai.com
-
OpenAI - ದರ ಮಿತಿಗಳ ಮಾರ್ಗದರ್ಶಿ - platform.openai.com
-
OpenAI - ರನ್ಸ್ API - platform.openai.com
-
OpenAI - ಸಹಾಯಕರ ಕಾರ್ಯ ಕರೆ ಮಾಡುವಿಕೆ - platform.openai.com
-
ಲ್ಯಾಂಗ್ಚೈನ್ - ಏಜೆಂಟ್ಸ್ ಡಾಕ್ಸ್ (ಜಾವಾಸ್ಕ್ರಿಪ್ಟ್) - docs.langchain.com
-
ಲ್ಯಾಂಗ್ಚೈನ್ - ಪರಿಕರಗಳು ಡಾಕ್ಸ್ (ಪೈಥಾನ್) - docs.langchain.com
-
ಲ್ಯಾಂಗ್ಚೈನ್ - ಮೆಮೊರಿ ಅವಲೋಕನ - docs.langchain.com
-
arXiv - ರಿಯಾಕ್ಟ್ ಪೇಪರ್ (ಕಾರಣ + ಕ್ರಿಯೆ) - arxiv.org
-
arXiv - RAG ಪೇಪರ್ - arxiv.org
-
ಅಮೆಜಾನ್ ವೆಬ್ ಸರ್ವೀಸಸ್ (AWS) ಬಿಲ್ಡರ್ಸ್ ಲೈಬ್ರರಿ - ಸಮಯ ಮೀರುವಿಕೆಗಳು, ಮರುಪ್ರಯತ್ನಗಳು ಮತ್ತು ನಡುಕದೊಂದಿಗೆ ಬ್ಯಾಕ್ಆಫ್ - aws.amazon.com
-
ಓಪನ್ ಟೆಲಿಮೆಟ್ರಿ - ವೀಕ್ಷಣೆ ಪ್ರೈಮರ್ - opentelemetry.io
-
ಸ್ಟ್ರೈಪ್ - ಐಡೆಂಪೊಟೆಂಟ್ ವಿನಂತಿಗಳು - docs.stripe.com
-
Google Cloud - ಮರುಪ್ರಯತ್ನ ತಂತ್ರ (ಬ್ಯಾಕ್ಆಫ್ + ಜಿಟ್ಟರ್) - docs.cloud.google.com
-
OWASP - ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿ ಅನ್ವಯಿಕೆಗಳಿಗೆ ಟಾಪ್ 10 - owasp.org
-
OWASP - LLM01 ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ - genai.owasp.org
-
ಲಾಮಾಇಂಡೆಕ್ಸ್ - RAG ಪರಿಚಯ - developers.llamaindex.ai
-
ಮೈಕ್ರೋಸಾಫ್ಟ್ - ಸೆಮ್ಯಾಂಟಿಕ್ ಕರ್ನಲ್ - learn.microsoft.com
-
ಮೈಕ್ರೋಸಾಫ್ಟ್ ಆಟೋಜೆನ್ - ಮಲ್ಟಿ-ಏಜೆಂಟ್ ಫ್ರೇಮ್ವರ್ಕ್ (ಡಾಕ್ಯುಮೆಂಟೇಶನ್) - microsoft.github.io
-
ಕ್ರ್ಯೂಎಐ - ಏಜೆಂಟ್ಸ್ ಪರಿಕಲ್ಪನೆಗಳು - docs.crewai.com
-
ಹೇಸ್ಟ್ಯಾಕ್ (ಡೀಪ್ಸೆಟ್) - ರಿಟ್ರೈವರ್ಗಳ ದಸ್ತಾವೇಜೀಕರಣ - docs.haystack.deepset.ai