ಉತ್ತರ: ಸರಳ ಪಠ್ಯ ಕಾರ್ಯಕ್ಕಾಗಿ AI ಬಹಳ ಕಡಿಮೆ ವಿದ್ಯುತ್ ಅನ್ನು ಬಳಸಬಹುದು, ಆದರೆ ಪ್ರಾಂಪ್ಟ್ಗಳು ದೀರ್ಘವಾಗಿದ್ದರೆ, ಔಟ್ಪುಟ್ಗಳು ಮಲ್ಟಿಮೋಡಲ್ ಆಗಿದ್ದರೆ ಅಥವಾ ವ್ಯವಸ್ಥೆಗಳು ಬೃಹತ್ ಪ್ರಮಾಣದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿದಾಗ ಇದು ಹೆಚ್ಚು. ತರಬೇತಿಯು ಸಾಮಾನ್ಯವಾಗಿ ಪ್ರಮುಖ ಮುಂಗಡ ಶಕ್ತಿಯ ಹಿಟ್ ಆಗಿರುತ್ತದೆ, ಆದರೆ ವಿನಂತಿಗಳು ಸಂಗ್ರಹವಾಗುತ್ತಿದ್ದಂತೆ ದಿನನಿತ್ಯದ ತೀರ್ಮಾನವು ಮಹತ್ವದ್ದಾಗಿರುತ್ತದೆ.
ಪ್ರಮುಖ ಅಂಶಗಳು:
ಸಂದರ್ಭ: ಯಾವುದೇ ಶಕ್ತಿಯ ಅಂದಾಜನ್ನು ಉಲ್ಲೇಖಿಸುವ ಮೊದಲು ಕಾರ್ಯ, ಮಾದರಿ, ಯಂತ್ರಾಂಶ ಮತ್ತು ಮಾಪಕವನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಿ.
ತರಬೇತಿ: ಬಜೆಟ್ ಯೋಜಿಸುವಾಗ ಮಾದರಿ ತರಬೇತಿಯನ್ನು ಮುಖ್ಯ ಮುಂಗಡ ಇಂಧನ ಕಾರ್ಯಕ್ರಮವಾಗಿ ಪರಿಗಣಿಸಿ.
ತೀರ್ಮಾನ: ಪುನರಾವರ್ತಿತ ತೀರ್ಮಾನಗಳನ್ನು ಸೂಕ್ಷ್ಮವಾಗಿ ಗಮನಿಸಿ, ಏಕೆಂದರೆ ಪ್ರತಿ ವಿನಂತಿಯ ಸಣ್ಣ ವೆಚ್ಚಗಳು ಪ್ರಮಾಣದಲ್ಲಿ ತ್ವರಿತವಾಗಿ ಸೇರುತ್ತವೆ.
ಮೂಲಸೌಕರ್ಯ: ಯಾವುದೇ ವಾಸ್ತವಿಕ ಅಂದಾಜಿನಲ್ಲಿ ತಂಪಾಗಿಸುವಿಕೆ, ಸಂಗ್ರಹಣೆ, ನೆಟ್ವರ್ಕ್ಗಳು ಮತ್ತು ನಿಷ್ಕ್ರಿಯ ಸಾಮರ್ಥ್ಯವನ್ನು ಸೇರಿಸಿ.
ದಕ್ಷತೆ: ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಚಿಕ್ಕ ಮಾದರಿಗಳು, ಕಡಿಮೆ ಪ್ರಾಂಪ್ಟ್ಗಳು, ಕ್ಯಾಶಿಂಗ್ ಮತ್ತು ಬ್ಯಾಚಿಂಗ್ ಬಳಸಿ.
ಇದರ ನಂತರ ನೀವು ಓದಲು ಇಷ್ಟಪಡಬಹುದಾದ ಲೇಖನಗಳು:
🔗 AI ಪರಿಸರದ ಮೇಲೆ ಹೇಗೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ
AI ಯ ಇಂಗಾಲದ ಹೆಜ್ಜೆಗುರುತು, ಇಂಧನ ಬಳಕೆ ಮತ್ತು ಸುಸ್ಥಿರತೆಯ ವಹಿವಾಟುಗಳನ್ನು ವಿವರಿಸುತ್ತದೆ.
🔗 AI ಪರಿಸರಕ್ಕೆ ಹಾನಿಕಾರಕವೇ?
AI ಮಾದರಿಗಳು ಮತ್ತು ಡೇಟಾ ಕೇಂದ್ರಗಳ ಗುಪ್ತ ಪರಿಸರ ವೆಚ್ಚಗಳನ್ನು ಬಿಚ್ಚಿಡುತ್ತದೆ.
🔗 AI ಒಳ್ಳೆಯದೋ ಕೆಟ್ಟದ್ದೋ? ಸಾಧಕ-ಬಾಧಕಗಳು
AI ಪ್ರಯೋಜನಗಳು, ಅಪಾಯಗಳು, ನೀತಿಶಾಸ್ತ್ರ ಮತ್ತು ನೈಜ ಪರಿಣಾಮಗಳ ಸಮತೋಲಿತ ನೋಟ.
🔗 AI ಎಂದರೇನು? ಒಂದು ಸರಳ ಮಾರ್ಗದರ್ಶಿ
AI ಮೂಲಭೂತ ಅಂಶಗಳು, ಪ್ರಮುಖ ಪದಗಳು ಮತ್ತು ದೈನಂದಿನ ಉದಾಹರಣೆಗಳನ್ನು ನಿಮಿಷಗಳಲ್ಲಿ ಕಲಿಯಿರಿ.
ಈ ಪ್ರಶ್ನೆ ಜನರು ಯೋಚಿಸುವುದಕ್ಕಿಂತ ಏಕೆ ಹೆಚ್ಚು ಮುಖ್ಯವಾಗಿದೆ 🔍
AI ಶಕ್ತಿಯ ಬಳಕೆಯು ಕೇವಲ ಪರಿಸರದ ಬಗ್ಗೆ ಮಾತನಾಡುವ ವಿಷಯವಲ್ಲ. ಇದು ಕೆಲವು ನೈಜ ವಿಷಯಗಳನ್ನು ಮುಟ್ಟುತ್ತದೆ:
-
ವಿದ್ಯುತ್ ವೆಚ್ಚ - ವಿಶೇಷವಾಗಿ ಬಹಳಷ್ಟು AI ವಿನಂತಿಗಳನ್ನು ನಡೆಸುತ್ತಿರುವ ವ್ಯವಹಾರಗಳಿಗೆ
-
ಇಂಗಾಲದ ಪ್ರಭಾವ - ಸರ್ವರ್ಗಳ ಹಿಂದಿನ ವಿದ್ಯುತ್ ಮೂಲವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ.
-
ಹಾರ್ಡ್ವೇರ್ ಒತ್ತಡ - ಶಕ್ತಿಶಾಲಿ ಚಿಪ್ಗಳು ಗಂಭೀರವಾದ ಶಕ್ತಿಯನ್ನು ಎಳೆಯುತ್ತವೆ
-
ಸ್ಕೇಲಿಂಗ್ ನಿರ್ಧಾರಗಳು - ಒಂದು ಅಗ್ಗದ ಪ್ರಾಂಪ್ಟ್ ಲಕ್ಷಾಂತರ ದುಬಾರಿ ನಿರ್ಧಾರಗಳಾಗಿ ಬದಲಾಗಬಹುದು.
-
ಉತ್ಪನ್ನ ವಿನ್ಯಾಸ - ದಕ್ಷತೆಯು ಜನರು ಅರಿತುಕೊಳ್ಳುವುದಕ್ಕಿಂತ ಉತ್ತಮ ವೈಶಿಷ್ಟ್ಯವಾಗಿದೆ (ಗೂಗಲ್ ಕ್ಲೌಡ್, ಗ್ರೀನ್ ಎಐ)
ಬಹಳಷ್ಟು ಜನರು "AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ?" ಎಂದು ಕೇಳುತ್ತಾರೆ ಏಕೆಂದರೆ ಅವರಿಗೆ ನಾಟಕೀಯ ಸಂಖ್ಯೆ ಬೇಕು. ಏನೋ ದೊಡ್ಡದು. ಮುಖ್ಯಾಂಶಗಳಿಗೆ ಅನುಕೂಲಕರವಾದದ್ದು. ಆದರೆ ಉತ್ತಮ ಪ್ರಶ್ನೆ ಇದು: ನಾವು ಯಾವ ರೀತಿಯ AI ಬಳಕೆಯ ಬಗ್ಗೆ ಮಾತನಾಡುತ್ತಿದ್ದೇವೆ? ಏಕೆಂದರೆ ಅದು ಎಲ್ಲವನ್ನೂ ಬದಲಾಯಿಸುತ್ತದೆ. (IEA)
ಒಂದೇ ಒಂದು ಸ್ವಯಂಪೂರ್ಣತಾ ಸಲಹೆ? ತುಂಬಾ ಚಿಕ್ಕದು.
ಬೃಹತ್ ಸಮೂಹಗಳಲ್ಲಿ ಗಡಿ ಮಾದರಿಗೆ ತರಬೇತಿ ನೀಡುವುದೇ? ತುಂಬಾ, ತುಂಬಾ ದೊಡ್ಡದು.
ಲಕ್ಷಾಂತರ ಬಳಕೆದಾರರನ್ನು ಸ್ಪರ್ಶಿಸುವ ಯಾವಾಗಲೂ ಆನ್ ಆಗಿರುವ ಎಂಟರ್ಪ್ರೈಸ್ AI ವರ್ಕ್ಫ್ಲೋ? ಹೌದು, ಅದು ವೇಗವಾಗಿ ಸೇರುತ್ತದೆ... ಬಾಡಿಗೆ ಪಾವತಿಯಾಗಿ ಬದಲಾಗುವ ನಾಣ್ಯಗಳಂತೆ. (DOE, Google Cloud)
AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ? ಸಣ್ಣ ಉತ್ತರ ⚡
ಪ್ರಾಯೋಗಿಕ ಆವೃತ್ತಿ ಇಲ್ಲಿದೆ.
ಹಗುರವಾದ ಕೆಲಸಕ್ಕಾಗಿ ವ್ಯಾಟ್-ಅವರ್ನ ಒಂದು ಸಣ್ಣ ಭಾಗದಿಂದ ಹಿಡಿದು ದೊಡ್ಡ ಪ್ರಮಾಣದ ತರಬೇತಿ ಮತ್ತು ನಿಯೋಜನೆಗಾಗಿ ಅಪಾರ ಪ್ರಮಾಣದ ವಿದ್ಯುತ್ನವರೆಗೆ ಎಲ್ಲಿ ಬೇಕಾದರೂ AI ಬಳಸಬಹುದು. ಆ ಶ್ರೇಣಿಯು ವಿಶಾಲವಾಗಿರುವುದರಿಂದ ಹಾಸ್ಯಾಸ್ಪದವಾಗಿ ವಿಶಾಲವಾಗಿ ಧ್ವನಿಸುತ್ತದೆ. (ಗೂಗಲ್ ಕ್ಲೌಡ್, ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು.)
ಸರಳವಾಗಿ ಹೇಳುವುದಾದರೆ:
-
ಸರಳವಾದ ನಿರ್ಣಯ ಕಾರ್ಯಗಳು - ಸಾಮಾನ್ಯವಾಗಿ ಪ್ರತಿ-ಬಳಕೆಯ ಆಧಾರದ ಮೇಲೆ ತುಲನಾತ್ಮಕವಾಗಿ ಸಾಧಾರಣವಾಗಿರುತ್ತವೆ.
-
ದೀರ್ಘ ಸಂಭಾಷಣೆಗಳು, ದೊಡ್ಡ ಔಟ್ಪುಟ್ಗಳು, ಚಿತ್ರ ರಚನೆ, ವೀಡಿಯೊ ಉತ್ಪಾದನೆ - ಗಮನಾರ್ಹವಾಗಿ ಹೆಚ್ಚು ಶಕ್ತಿ-ತೀವ್ರ
-
ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ - ವಿದ್ಯುತ್ ಬಳಕೆಯ ಹೆವಿವೇಯ್ಟ್ ಚಾಂಪಿಯನ್
-
ದಿನವಿಡೀ AI ಅನ್ನು ಪ್ರಮಾಣದಲ್ಲಿ ನಡೆಸುವುದು - ಅಲ್ಲಿ "ಪ್ರತಿ ವಿನಂತಿಗೆ ಸಣ್ಣದು" "ದೊಡ್ಡ ಒಟ್ಟು ಬಿಲ್" ಆಗುತ್ತದೆ (ಗೂಗಲ್ ಕ್ಲೌಡ್, DOE)
ಒಳ್ಳೆಯ ನಿಯಮ ಹೀಗಿದೆ:
-
ತರಬೇತಿಯು ಒಂದು ದೈತ್ಯ ಮುಂಗಡ ಶಕ್ತಿ ಕಾರ್ಯಕ್ರಮವಾಗಿದೆ 🏭
-
ಅನುಮಾನವು ನಡೆಯುತ್ತಿರುವ ಯುಟಿಲಿಟಿ ಬಿಲ್ ಆಗಿದೆ 💡 (ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು, ಗೂಗಲ್ ಸಂಶೋಧನೆ)
ಹಾಗಾದರೆ ಯಾರಾದರೂ, AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ ಎಂದು ಕೇಳಿದಾಗ , ನೇರ ಉತ್ತರವೆಂದರೆ, "ಒಂದು ಪ್ರಮಾಣವಲ್ಲ - ಆದರೆ ದಕ್ಷತೆಯು ಮುಖ್ಯವಾಗುವಷ್ಟು ಸಾಕು, ಮತ್ತು ಪ್ರಮಾಣವು ಇಡೀ ಕಥೆಯನ್ನು ಬದಲಾಯಿಸುವಷ್ಟು ಸಾಕು." ( IEA , ಗ್ರೀನ್ AI )
ಅದು ಜನರು ಬಯಸುವಷ್ಟು ಆಕರ್ಷಕವಾಗಿಲ್ಲ, ನನಗೆ ಗೊತ್ತು. ಆದರೆ ಅದು ನಿಜ.
AI ಶಕ್ತಿಯ ಅಂದಾಜಿನ ಉತ್ತಮ ಆವೃತ್ತಿ ಯಾವುದು? 🧠
ಒಳ್ಳೆಯ ಅಂದಾಜು ಎಂದರೆ ಕೇವಲ ಗ್ರಾಫಿಕ್ನಲ್ಲಿ ಎಸೆಯಲ್ಪಟ್ಟ ನಾಟಕೀಯ ಸಂಖ್ಯೆಯಲ್ಲ. ಪ್ರಾಯೋಗಿಕ ಅಂದಾಜಿನಲ್ಲಿ ಸಂದರ್ಭವೂ ಸೇರಿದೆ. ಇಲ್ಲದಿದ್ದರೆ ಅದು ಸ್ನಾನಗೃಹದ ಮಾಪಕದಿಂದ ಮಂಜನ್ನು ತೂಗುವಂತಿದೆ. ಪ್ರಭಾವಶಾಲಿಯಾಗಿ ಧ್ವನಿಸುವಷ್ಟು ಹತ್ತಿರದಲ್ಲಿದೆ, ನಂಬುವಷ್ಟು ಹತ್ತಿರದಲ್ಲಿಲ್ಲ. (IEA, Google Cloud)
ಯೋಗ್ಯವಾದ AI ಶಕ್ತಿಯ ಅಂದಾಜಿನಲ್ಲಿ ಇವು ಸೇರಿವೆ:
-
ಕಾರ್ಯ ಪ್ರಕಾರ - ಪಠ್ಯ, ಚಿತ್ರ, ಆಡಿಯೋ, ವಿಡಿಯೋ, ತರಬೇತಿ, ಉತ್ತಮ ಶ್ರುತಿ
-
ಮಾದರಿ ಗಾತ್ರ - ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಸಾಮಾನ್ಯವಾಗಿ ಹೆಚ್ಚಿನ ಕಂಪ್ಯೂಟ್ ಅಗತ್ಯವಿರುತ್ತದೆ
-
ಬಳಸಿದ ಹಾರ್ಡ್ವೇರ್ - ಎಲ್ಲಾ ಚಿಪ್ಗಳು ಸಮಾನವಾಗಿ ಪರಿಣಾಮಕಾರಿಯಾಗಿರುವುದಿಲ್ಲ.
-
ಅವಧಿಯ ಅವಧಿ - ಸಣ್ಣ ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ದೀರ್ಘ ಬಹು-ಹಂತದ ಕೆಲಸದ ಹರಿವುಗಳು ತುಂಬಾ ವಿಭಿನ್ನವಾಗಿವೆ.
-
ಬಳಕೆ - ನಿಷ್ಕ್ರಿಯ ವ್ಯವಸ್ಥೆಗಳು ಇನ್ನೂ ವಿದ್ಯುತ್ ಬಳಸುತ್ತವೆ
-
ಕೂಲಿಂಗ್ ಮತ್ತು ಮೂಲಸೌಕರ್ಯ - ಸರ್ವರ್ ಮಾತ್ರ ಮುಖ್ಯವಲ್ಲ.
-
ಸ್ಥಳ ಮತ್ತು ಶಕ್ತಿಯ ಮಿಶ್ರಣ - ವಿದ್ಯುತ್ ಎಲ್ಲೆಡೆ ಸಮಾನವಾಗಿ ಸ್ವಚ್ಛವಾಗಿಲ್ಲ (ಗೂಗಲ್ ಕ್ಲೌಡ್, ಐಇಎ)
ಇದಕ್ಕಾಗಿಯೇ ಇಬ್ಬರು ವ್ಯಕ್ತಿಗಳು AI ವಿದ್ಯುತ್ ಬಳಕೆಯ ಬಗ್ಗೆ ವಾದಿಸಬಹುದು ಮತ್ತು ಇಬ್ಬರೂ ಸಂಪೂರ್ಣವಾಗಿ ವಿಭಿನ್ನ ವಿಷಯಗಳ ಬಗ್ಗೆ ಮಾತನಾಡುವಾಗ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಕೂಡಿರುತ್ತಾರೆ. ಒಬ್ಬ ವ್ಯಕ್ತಿ ಎಂದರೆ ಒಂದೇ ಚಾಟ್ಬಾಟ್ ಪ್ರತಿಕ್ರಿಯೆ. ಇನ್ನೊಬ್ಬರು ಎಂದರೆ ದೈತ್ಯ ತರಬೇತಿ ಓಟ. ಇಬ್ಬರೂ "AI" ಎಂದು ಹೇಳುತ್ತಾರೆ ಮತ್ತು ಇದ್ದಕ್ಕಿದ್ದಂತೆ ಸಂಭಾಷಣೆ ಹಳಿ ತಪ್ಪುತ್ತದೆ 😅
ಹೋಲಿಕೆ ಕೋಷ್ಟಕ - AI ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಅಂದಾಜು ಮಾಡಲು ಉತ್ತಮ ಮಾರ್ಗಗಳು 📊
ಈ ಪ್ರಶ್ನೆಗೆ ಪ್ರದರ್ಶನ ಕಲೆಯಾಗಿ ಪರಿವರ್ತಿಸದೆ ಉತ್ತರಿಸಲು ಪ್ರಯತ್ನಿಸುವ ಯಾರಿಗಾದರೂ ಇಲ್ಲಿ ಒಂದು ಪ್ರಾಯೋಗಿಕ ಕೋಷ್ಟಕವಿದೆ.
| ಉಪಕರಣ ಅಥವಾ ವಿಧಾನ | ಅತ್ಯುತ್ತಮ ಪ್ರೇಕ್ಷಕರು | ಬೆಲೆ | ಅದು ಏಕೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ |
|---|---|---|---|
| ಸರಳವಾದ ಅಂದಾಜು ನಿಯಮ | ಕುತೂಹಲಕಾರಿ ಓದುಗರು, ವಿದ್ಯಾರ್ಥಿಗಳು | ಉಚಿತ | ವೇಗ, ಸುಲಭ, ಸ್ವಲ್ಪ ಅಸ್ಪಷ್ಟ - ಆದರೆ ಒರಟು ಹೋಲಿಕೆಗಳಿಗೆ ಸಾಕು |
| ಸಾಧನ-ಬದಿಯ ವ್ಯಾಟ್ ಮೀಟರ್ | ಏಕವ್ಯಕ್ತಿ ನಿರ್ಮಾಣಕಾರರು, ಹವ್ಯಾಸಿಗಳು | ಕಡಿಮೆ | ನಿಜವಾದ ಯಂತ್ರದ ಎಳೆತವನ್ನು ಅಳೆಯುತ್ತದೆ, ಇದು ಉಲ್ಲಾಸಕರವಾಗಿ ಕಾಂಕ್ರೀಟ್ ಆಗಿದೆ |
| GPU ಟೆಲಿಮೆಟ್ರಿ ಡ್ಯಾಶ್ಬೋರ್ಡ್ | ಎಂಜಿನಿಯರ್ಗಳು, ಎಂಎಲ್ ತಂಡಗಳು | ಮಧ್ಯಮ | ಕಂಪ್ಯೂಟ್-ಹೆವಿ ಕಾರ್ಯಗಳ ಬಗ್ಗೆ ಉತ್ತಮ ವಿವರ, ಆದರೂ ಅದು ದೊಡ್ಡ ಸೌಲಭ್ಯದ ಓವರ್ಹೆಡ್ ಅನ್ನು ಕಳೆದುಕೊಳ್ಳಬಹುದು |
| ಕ್ಲೌಡ್ ಬಿಲ್ಲಿಂಗ್ + ಬಳಕೆಯ ದಾಖಲೆಗಳು | ಸ್ಟಾರ್ಟ್ಅಪ್ಗಳು, ಕಾರ್ಯಾಚರಣೆ ತಂಡಗಳು | ಮಧ್ಯಮದಿಂದ ಹೆಚ್ಚು | AI ಬಳಕೆಯನ್ನು ನೈಜ ಖರ್ಚಿಗೆ ಸಂಪರ್ಕಿಸುತ್ತದೆ - ಪರಿಪೂರ್ಣವಲ್ಲ, ಇನ್ನೂ ಸಾಕಷ್ಟು ಮೌಲ್ಯಯುತವಾಗಿದೆ |
| ಡೇಟಾ ಸೆಂಟರ್ ಎನರ್ಜಿ ರಿಪೋರ್ಟಿಂಗ್ | ಎಂಟರ್ಪ್ರೈಸ್ ತಂಡಗಳು | ಹೆಚ್ಚಿನ | ವಿಶಾಲವಾದ ಕಾರ್ಯಾಚರಣೆಯ ಗೋಚರತೆ, ತಂಪಾಗಿಸುವಿಕೆ ಮತ್ತು ಮೂಲಸೌಕರ್ಯಗಳು ಇಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳಲು ಪ್ರಾರಂಭಿಸುತ್ತವೆ |
| ಪೂರ್ಣ ಜೀವನಚಕ್ರ ಮೌಲ್ಯಮಾಪನ | ಸುಸ್ಥಿರತಾ ತಂಡಗಳು, ದೊಡ್ಡ ಸಂಸ್ಥೆಗಳು | ತೀವ್ರ, ಕೆಲವೊಮ್ಮೆ ನೋವಿನಿಂದ ಕೂಡಿದೆ | ಗಂಭೀರ ವಿಶ್ಲೇಷಣೆಗೆ ಇದು ಉತ್ತಮ ಏಕೆಂದರೆ ಅದು ಚಿಪ್ನ ಆಚೆಗೆ ಹೋಗುತ್ತದೆ... ಆದರೆ ಇದು ನಿಧಾನ ಮತ್ತು ಒಂದು ರೀತಿಯ ಪ್ರಾಣಿಯಂತೆ |
ಪರಿಪೂರ್ಣ ವಿಧಾನವಿಲ್ಲ. ಅದು ಸ್ವಲ್ಪ ನಿರಾಶಾದಾಯಕ ಭಾಗ. ಆದರೆ ಮೌಲ್ಯದ ಮಟ್ಟಗಳಿವೆ. ಮತ್ತು ಸಾಮಾನ್ಯವಾಗಿ, ಸೇವೆ ಸಲ್ಲಿಸಬಹುದಾದ ಏನಾದರೂ ಪರಿಪೂರ್ಣತೆಯನ್ನು ಮೀರಿಸುತ್ತದೆ. (ಗೂಗಲ್ ಕ್ಲೌಡ್)
ದೊಡ್ಡ ಅಂಶ ಮ್ಯಾಜಿಕ್ ಅಲ್ಲ - ಅದು ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಹಾರ್ಡ್ವೇರ್ 🖥️🔥
ಜನರು AI ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಊಹಿಸಿದಾಗ, ಅವರು ಸಾಮಾನ್ಯವಾಗಿ ಮಾದರಿಯೇ ವಿದ್ಯುತ್ ಅನ್ನು ಬಳಸುವ ವಸ್ತು ಎಂದು ಊಹಿಸುತ್ತಾರೆ. ಆದರೆ ಮಾದರಿಯು ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿರುವ ಸಾಫ್ಟ್ವೇರ್ ತರ್ಕವಾಗಿದೆ. ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ವಿದ್ಯುತ್ ಬಿಲ್ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತದೆ. (ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು, ಗೂಗಲ್ ಕ್ಲೌಡ್)
ದೊಡ್ಡ ಅಸ್ಥಿರಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಸೇರಿವೆ:
-
GPU ಅಥವಾ ವೇಗವರ್ಧಕ ಪ್ರಕಾರ
-
ಎಷ್ಟು ಚಿಪ್ಗಳನ್ನು ಬಳಸಲಾಗುತ್ತದೆ?
-
ಅವರು ಎಷ್ಟು ಕಾಲ ಸಕ್ರಿಯರಾಗಿರುತ್ತಾರೆ?
-
ಮೆಮೊರಿ ಲೋಡ್
-
ಬ್ಯಾಚ್ ಗಾತ್ರ ಮತ್ತು ಥ್ರೋಪುಟ್
-
ಸಿಸ್ಟಮ್ ಅನ್ನು ಚೆನ್ನಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲಾಗಿದೆಯೇ ಅಥವಾ ಎಲ್ಲವನ್ನೂ ಕ್ರೂರವಾಗಿ ಒತ್ತಾಯಿಸಲಾಗಿದೆಯೇ ( LLM ಎನರ್ಜಿ ಬಳಕೆಯಲ್ಲಿ Google ಕ್ಲೌಡ್ , ಕ್ವಾಂಟೈಸೇಶನ್, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸರ್ವಿಂಗ್ ಸ್ಟ್ರಾಟಜೀಸ್ )
ಹೆಚ್ಚು ಅತ್ಯುತ್ತಮವಾದ ವ್ಯವಸ್ಥೆಯು ಕಡಿಮೆ ಶಕ್ತಿಯೊಂದಿಗೆ ಹೆಚ್ಚಿನ ಕೆಲಸವನ್ನು ಮಾಡಬಹುದು. ಒಂದು ದೊಗಲೆ ವ್ಯವಸ್ಥೆಯು ಉಸಿರುಕಟ್ಟುವ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ವಿದ್ಯುತ್ ಅನ್ನು ವ್ಯರ್ಥ ಮಾಡಬಹುದು. ಅದು ಹೇಗೆ ಎಂದು ನಿಮಗೆ ತಿಳಿದಿದೆ - ಕೆಲವು ಸೆಟಪ್ಗಳು ರೇಸ್ ಕಾರುಗಳಾಗಿವೆ, ಕೆಲವು ರಾಕೆಟ್ಗಳಿಗೆ ಡಕ್ಟ್-ಟೇಪ್ ಅಳವಡಿಸಲಾದ ಶಾಪಿಂಗ್ ಕಾರ್ಟ್ಗಳಾಗಿವೆ 🚀🛒
ಮತ್ತು ಹೌದು, ಮಾದರಿ ಗಾತ್ರವು ಮುಖ್ಯವಾಗಿದೆ. ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಹೆಚ್ಚಿನ ಮೆಮೊರಿ ಮತ್ತು ಹೆಚ್ಚಿನ ಲೆಕ್ಕಾಚಾರದ ಅಗತ್ಯವಿರುತ್ತದೆ, ವಿಶೇಷವಾಗಿ ದೀರ್ಘ ಔಟ್ಪುಟ್ಗಳನ್ನು ಉತ್ಪಾದಿಸುವಾಗ ಅಥವಾ ಸಂಕೀರ್ಣ ತಾರ್ಕಿಕತೆಯನ್ನು ನಿರ್ವಹಿಸುವಾಗ. ಆದರೆ ದಕ್ಷತೆಯ ತಂತ್ರಗಳು ಚಿತ್ರವನ್ನು ಬದಲಾಯಿಸಬಹುದು: (ಹಸಿರು AI, ಕ್ವಾಂಟೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸೇವೆ ಮಾಡುವ ತಂತ್ರಗಳು)
-
ಕ್ವಾಂಟೀಕರಣ
-
ಉತ್ತಮ ರೂಟಿಂಗ್
-
ಸಣ್ಣ ವಿಶೇಷ ಮಾದರಿಗಳು
-
ಕ್ಯಾಶಿಂಗ್
-
ಬ್ಯಾಚಿಂಗ್
-
ಸ್ಮಾರ್ಟ್ ಹಾರ್ಡ್ವೇರ್ ಶೆಡ್ಯೂಲಿಂಗ್ (LLM ಎನರ್ಜಿ ಬಳಕೆಯಲ್ಲಿ ಪ್ರಮಾಣೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸರ್ವಿಂಗ್ ತಂತ್ರಗಳು)
ಆದ್ದರಿಂದ ಪ್ರಶ್ನೆ "ಮಾದರಿ ಎಷ್ಟು ದೊಡ್ಡದು?" ಎಂಬುದು ಮಾತ್ರವಲ್ಲ, "ಅದನ್ನು ಎಷ್ಟು ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ನಡೆಸಲಾಗುತ್ತಿದೆ?" ಕೂಡ
ತರಬೇತಿ vs ಅನುಮಾನ - ಇವು ಬೇರೆ ಬೇರೆ ಪ್ರಾಣಿಗಳು 🐘🐇
ಇದು ಬಹುತೇಕ ಎಲ್ಲರನ್ನೂ ಗೊಂದಲಗೊಳಿಸುವ ವಿಭಜನೆಯಾಗಿದೆ.
ತರಬೇತಿ
ತರಬೇತಿ ಎಂದರೆ ಒಂದು ಮಾದರಿಯು ಅಗಾಧವಾದ ಡೇಟಾಸೆಟ್ಗಳಿಂದ ಮಾದರಿಗಳನ್ನು ಕಲಿಯುವುದು. ಇದು ದೀರ್ಘಕಾಲದವರೆಗೆ ಚಾಲನೆಯಲ್ಲಿರುವ ಅನೇಕ ಚಿಪ್ಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು, ಬೃಹತ್ ಪ್ರಮಾಣದ ಡೇಟಾವನ್ನು ಅಗಿಯುವುದು. ಈ ಹಂತವು ಶಕ್ತಿ-ಹಸಿದಂತಿರುತ್ತದೆ. ಕೆಲವೊಮ್ಮೆ ಹುಚ್ಚುಚ್ಚಾಗಿ ಹಾಗೆ ಆಗುತ್ತದೆ. (ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು.)
ತರಬೇತಿಯ ಶಕ್ತಿಯು ಇದನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ:
-
ಮಾದರಿ ಗಾತ್ರ
-
ಡೇಟಾಸೆಟ್ ಗಾತ್ರ
-
ತರಬೇತಿ ರನ್ಗಳ ಸಂಖ್ಯೆ
-
ವಿಫಲ ಪ್ರಯೋಗಗಳು
-
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಪಾಸ್ಗಳು
-
ಹಾರ್ಡ್ವೇರ್ ದಕ್ಷತೆ
-
ಕೂಲಿಂಗ್ ಓವರ್ಹೆಡ್ (ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು, ಗೂಗಲ್ ಸಂಶೋಧನೆ)
ಮತ್ತು ಜನರು ಹೆಚ್ಚಾಗಿ ತಪ್ಪಿಸಿಕೊಳ್ಳುವ ಭಾಗ ಇಲ್ಲಿದೆ - ಸಾರ್ವಜನಿಕರು ಸಾಮಾನ್ಯವಾಗಿ ಒಂದು ದೊಡ್ಡ ತರಬೇತಿ ಓಟವನ್ನು ಒಮ್ಮೆ ಮಾಡಲಾಗುತ್ತದೆ, ಕಥೆಯ ಅಂತ್ಯವನ್ನು ಊಹಿಸುತ್ತಾರೆ. ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಅಭಿವೃದ್ಧಿಯು ಪುನರಾವರ್ತಿತ ಓಟಗಳು, ಶ್ರುತಿ, ಮರುತರಬೇತಿ, ಮೌಲ್ಯಮಾಪನ ಮತ್ತು ಮುಖ್ಯ ಕಾರ್ಯಕ್ರಮದ ಸುತ್ತಲಿನ ಎಲ್ಲಾ ಪ್ರಾಸಂಗಿಕ ಆದರೆ ದುಬಾರಿ ಪುನರಾವರ್ತನೆಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. (ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು, ಗ್ರೀನ್ AI)
ತೀರ್ಮಾನ
ಅನುಮಾನವು ನಿಜವಾದ ಬಳಕೆದಾರರ ವಿನಂತಿಗಳಿಗೆ ಉತ್ತರಿಸುವ ಮಾದರಿಯಾಗಿದೆ. ಒಂದು ವಿನಂತಿಯು ಹೆಚ್ಚು ಇಷ್ಟವಾಗದಿರಬಹುದು. ಆದರೆ ಅನುಮಾನವು ಮತ್ತೆ ಮತ್ತೆ ಸಂಭವಿಸುತ್ತದೆ. ಲಕ್ಷಾಂತರ ಬಾರಿ. ಕೆಲವೊಮ್ಮೆ ಶತಕೋಟಿ. (ಗೂಗಲ್ ಸಂಶೋಧನೆ, DOE)
ಅನುಮಾನ ಶಕ್ತಿಯು ಇದರೊಂದಿಗೆ ಬೆಳೆಯುತ್ತದೆ:
-
ಪ್ರಾಂಪ್ಟ್ ಉದ್ದ
-
ಔಟ್ಪುಟ್ ಉದ್ದ
-
ಬಳಕೆದಾರರ ಸಂಖ್ಯೆ
-
ವಿಳಂಬದ ಅವಶ್ಯಕತೆಗಳು
-
ಬಹುರೂಪಿ ವೈಶಿಷ್ಟ್ಯಗಳು
-
ಅಪ್ಟೈಮ್ ನಿರೀಕ್ಷೆಗಳು
-
ಸುರಕ್ಷತೆ ಮತ್ತು ನಂತರದ ಸಂಸ್ಕರಣಾ ಹಂತಗಳು ( ಎಲ್ಎಲ್ಎಂ ಶಕ್ತಿ ಬಳಕೆಯಲ್ಲಿ ಗೂಗಲ್ ಕ್ಲೌಡ್ , ಕ್ವಾಂಟೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸರ್ವಿಂಗ್ ತಂತ್ರಗಳು )
ಆದ್ದರಿಂದ ತರಬೇತಿ ಎಂದರೆ ಭೂಕಂಪ. ತೀರ್ಮಾನ ಎಂದರೆ ಉಬ್ಬರವಿಳಿತ. ಒಂದು ನಾಟಕೀಯ, ಒಂದು ನಿರಂತರ, ಮತ್ತು ಎರಡೂ ಕರಾವಳಿಯನ್ನು ಸ್ವಲ್ಪಮಟ್ಟಿಗೆ ಮರುರೂಪಿಸಬಹುದು. ಇದು ಅಸಾಮಾನ್ಯ ರೂಪಕವಾಗಿರಬಹುದು, ಆದರೆ ಅದು ಒಟ್ಟಿಗೆ ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ... ಹೆಚ್ಚು ಕಡಿಮೆ.
ಜನರು ಮರೆಯುವ ಗುಪ್ತ ಶಕ್ತಿಯ ವೆಚ್ಚಗಳು 😬
ಯಾರಾದರೂ ಚಿಪ್ ಅನ್ನು ಮಾತ್ರ ನೋಡಿ AI ಪವರ್ ಬಳಕೆಯನ್ನು ಅಂದಾಜು ಮಾಡಿದಾಗ, ಅವರು ಸಾಮಾನ್ಯವಾಗಿ ಕಡಿಮೆ ಎಣಿಸುತ್ತಿದ್ದಾರೆ. ಯಾವಾಗಲೂ ಹಾನಿಕಾರಕವಲ್ಲ, ಆದರೆ ಮುಖ್ಯವಾಗಲು ಸಾಕು. (ಗೂಗಲ್ ಕ್ಲೌಡ್, IEA)
ಗುಪ್ತ ತುಣುಕುಗಳು ಇಲ್ಲಿವೆ:
ಕೂಲಿಂಗ್ ❄️
ಸರ್ವರ್ಗಳು ಶಾಖವನ್ನು ಉತ್ಪಾದಿಸುತ್ತವೆ. ಶಕ್ತಿಯುತ AI ಹಾರ್ಡ್ವೇರ್ ಅದರಲ್ಲಿ ಹೆಚ್ಚಿನದನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ. ತಂಪಾಗಿಸುವಿಕೆಯು ಐಚ್ಛಿಕವಲ್ಲ. ಕಂಪ್ಯೂಟೇಶನ್ ಮೂಲಕ ಸೇವಿಸುವ ಪ್ರತಿ ವ್ಯಾಟ್ ತಾಪಮಾನವನ್ನು ಸರಿಯಾದ ಸ್ಥಿತಿಯಲ್ಲಿಡಲು ಹೆಚ್ಚಿನ ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಆಹ್ವಾನಿಸುತ್ತದೆ. (IEA, Google Cloud)
ಡೇಟಾ ಚಲನೆ 🌐
ಸಂಗ್ರಹಣೆ, ಮೆಮೊರಿ ಮತ್ತು ನೆಟ್ವರ್ಕ್ಗಳಾದ್ಯಂತ ಡೇಟಾವನ್ನು ಚಲಿಸುವುದು ಸಹ ಶಕ್ತಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. AI ಕೇವಲ "ಯೋಚಿಸುತ್ತಿಲ್ಲ". ಇದು ನಿರಂತರವಾಗಿ ಮಾಹಿತಿಯನ್ನು ಬದಲಾಯಿಸುತ್ತಿದೆ. (IEA)
ನಿಷ್ಕ್ರಿಯ ಸಾಮರ್ಥ್ಯ 💤
ಗರಿಷ್ಠ ಬೇಡಿಕೆಗಾಗಿ ನಿರ್ಮಿಸಲಾದ ವ್ಯವಸ್ಥೆಗಳು ಯಾವಾಗಲೂ ಗರಿಷ್ಠ ಬೇಡಿಕೆಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದಿಲ್ಲ. ನಿಷ್ಕ್ರಿಯ ಅಥವಾ ಬಳಕೆಯಾಗದ ಮೂಲಸೌಕರ್ಯಗಳು ಇನ್ನೂ ವಿದ್ಯುತ್ ಅನ್ನು ಬಳಸುತ್ತವೆ. (Google Cloud)
ಪುನರುಕ್ತಿ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆ 🧱
ಬ್ಯಾಕಪ್ಗಳು, ವಿಫಲ ವ್ಯವಸ್ಥೆಗಳು, ನಕಲಿ ಪ್ರದೇಶಗಳು, ಸುರಕ್ಷತಾ ಪದರಗಳು - ಎಲ್ಲವೂ ಮೌಲ್ಯಯುತವಾಗಿವೆ, ಎಲ್ಲವೂ ದೊಡ್ಡ ಶಕ್ತಿಯ ಚಿತ್ರದ ಭಾಗವಾಗಿದೆ. (IEA)
ಸಂಗ್ರಹಣೆ 📦
ತರಬೇತಿ ಡೇಟಾ, ಎಂಬೆಡಿಂಗ್ಗಳು, ಲಾಗ್ಗಳು, ಚೆಕ್ಪಾಯಿಂಟ್ಗಳು, ಉತ್ಪತ್ತಿಯಾದ ಔಟ್ಪುಟ್ಗಳು - ಇವೆಲ್ಲವೂ ಎಲ್ಲೋ ವಾಸಿಸುತ್ತವೆ. ಶೇಖರಣೆಯು ಕಂಪ್ಯೂಟ್ಗಿಂತ ಅಗ್ಗವಾಗಿದೆ, ಖಂಡಿತ, ಆದರೆ ಶಕ್ತಿಯ ವಿಷಯದಲ್ಲಿ ಉಚಿತವಲ್ಲ. (IEA)
ಇದಕ್ಕಾಗಿಯೇ AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ? ಎಂಬ ಪ್ರಶ್ನೆಗೆ ಒಂದೇ ಮಾನದಂಡದ ಚಾರ್ಟ್ ಅನ್ನು ನೋಡುವ ಮೂಲಕ ಸರಿಯಾಗಿ ಉತ್ತರಿಸಲಾಗುವುದಿಲ್ಲ. ಪೂರ್ಣ ಸ್ಟ್ಯಾಕ್ ಮುಖ್ಯವಾಗಿದೆ. (ಗೂಗಲ್ ಕ್ಲೌಡ್, ಐಇಎ)
ಒಂದು AI ಪ್ರಾಂಪ್ಟ್ ಏಕೆ ಚಿಕ್ಕದಾಗಿರಬಹುದು - ಮತ್ತು ಮುಂದಿನದು ದೈತ್ಯಾಕಾರದದ್ದಾಗಿರಬಹುದು 📝➡️🎬
ಎಲ್ಲಾ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಸಮಾನವಾಗಿ ರಚಿಸಲಾಗಿಲ್ಲ. ವಾಕ್ಯವನ್ನು ಪುನಃ ಬರೆಯಲು ಒಂದು ಸಣ್ಣ ವಿನಂತಿಯನ್ನು ದೀರ್ಘ ವಿಶ್ಲೇಷಣೆ, ಬಹು-ಹಂತದ ಕೋಡಿಂಗ್ ಅವಧಿ ಅಥವಾ ಹೆಚ್ಚಿನ ರೆಸಲ್ಯೂಶನ್ ಇಮೇಜ್ ಉತ್ಪಾದನೆಗಾಗಿ ಕೇಳುವುದಕ್ಕೆ ಹೋಲಿಸಲಾಗುವುದಿಲ್ಲ. (Google Cloud)
ಪ್ರತಿ ಪರಸ್ಪರ ಕ್ರಿಯೆಗೆ ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಹೆಚ್ಚಿಸುವ ವಿಷಯಗಳು:
-
ಉದ್ದವಾದ ಸಂದರ್ಭ ವಿಂಡೋಗಳು
-
ದೀರ್ಘ ಪ್ರತಿಕ್ರಿಯೆಗಳು
-
ಉಪಕರಣ ಬಳಕೆ ಮತ್ತು ಮರುಪಡೆಯುವಿಕೆ ಹಂತಗಳು
-
ತಾರ್ಕಿಕತೆ ಅಥವಾ ದೃಢೀಕರಣಕ್ಕಾಗಿ ಬಹು ಪಾಸ್ಗಳು
-
ಚಿತ್ರ, ಆಡಿಯೋ ಅಥವಾ ವಿಡಿಯೋ ಉತ್ಪಾದನೆ
-
ಹೆಚ್ಚಿನ ಸಹವರ್ತಿತ್ವ
-
ಕಡಿಮೆ ಲೇಟೆನ್ಸಿ ಗುರಿಗಳು ( LLM ಶಕ್ತಿ ಬಳಕೆಯಲ್ಲಿ Google ಕ್ಲೌಡ್ , ಕ್ವಾಂಟೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸರ್ವಿಂಗ್ ತಂತ್ರಗಳು )
ಹಗುರವಾದ ಪಠ್ಯ ಉತ್ತರವು ತುಲನಾತ್ಮಕವಾಗಿ ಅಗ್ಗವಾಗಬಹುದು. ದೈತ್ಯ ಮಲ್ಟಿಮೋಡಲ್ ಕೆಲಸದ ಹರಿವು ಅಗ್ಗವಾಗಿರಲು ಸಾಧ್ಯವಿಲ್ಲ. ಇದು ಕಾಫಿ ಆರ್ಡರ್ ಮಾಡುವ ಬದಲು ಮದುವೆಗೆ ಅಡುಗೆ ಮಾಡುವಂತಿದೆ. ತಾಂತ್ರಿಕವಾಗಿ ಎರಡೂ "ಆಹಾರ ಸೇವೆ" ಎಂದು ಪರಿಗಣಿಸಲ್ಪಡುತ್ತವೆ. ಒಂದು ಇನ್ನೊಂದರಂತಲ್ಲ ☕🎉
ಇದು ವಿಶೇಷವಾಗಿ ಉತ್ಪನ್ನ ತಂಡಗಳಿಗೆ ಮುಖ್ಯವಾಗಿದೆ. ಕಡಿಮೆ ಬಳಕೆಯಲ್ಲಿ ನಿರುಪದ್ರವಿ ಎಂದು ತೋರುವ ವೈಶಿಷ್ಟ್ಯವು ಪ್ರತಿ ಬಳಕೆದಾರ ಅವಧಿಯು ದೀರ್ಘ, ಉತ್ಕೃಷ್ಟ ಮತ್ತು ಹೆಚ್ಚು ಕಂಪ್ಯೂಟ್-ಹೆವಿ ಆಗಿದ್ದರೆ ಪ್ರಮಾಣದಲ್ಲಿ ದುಬಾರಿಯಾಗಬಹುದು. (DOE, Google Cloud)
ಗ್ರಾಹಕ AI ಮತ್ತು ಉದ್ಯಮ AI ಒಂದೇ ಅಲ್ಲ 🏢📱
AI ಬಳಸುವ ಸರಾಸರಿ ವ್ಯಕ್ತಿ ಸಾಂದರ್ಭಿಕ ಪ್ರಾಂಪ್ಟ್ಗಳು ದೊಡ್ಡ ಸಮಸ್ಯೆ ಎಂದು ಭಾವಿಸಬಹುದು. ಸಾಮಾನ್ಯವಾಗಿ, ಮುಖ್ಯ ಶಕ್ತಿಯ ಕಥೆ ಅಲ್ಲಿ ವಾಸಿಸುವುದಿಲ್ಲ. (ಗೂಗಲ್ ಕ್ಲೌಡ್)
ಎಂಟರ್ಪ್ರೈಸ್ ಬಳಕೆಯು ಗಣಿತವನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ:
-
ಸಾವಿರಾರು ಉದ್ಯೋಗಿಗಳು
-
ಯಾವಾಗಲೂ ಆನ್ ಆಗಿರುವ ಸಹ-ಪೈಲಟ್ಗಳು
-
ಸ್ವಯಂಚಾಲಿತ ದಾಖಲೆ ಸಂಸ್ಕರಣೆ
-
ಕರೆ ಸಾರಾಂಶ
-
ಚಿತ್ರ ವಿಶ್ಲೇಷಣೆ
-
ಕೋಡ್ ವಿಮರ್ಶೆ ಪರಿಕರಗಳು
-
ಹಿನ್ನೆಲೆ ಏಜೆಂಟ್ಗಳು ನಿರಂತರವಾಗಿ ಚಾಲನೆಯಲ್ಲಿವೆ
ಅಲ್ಲಿಯೇ ಒಟ್ಟು ಶಕ್ತಿಯ ಬಳಕೆಯು ಹೆಚ್ಚು ಮುಖ್ಯವಾಗಲು ಪ್ರಾರಂಭಿಸುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಕ್ರಿಯೆಯು ಅಪೋಕ್ಯಾಲಿಪ್ಟಿಕ್ ಆಗಿರುವುದರಿಂದ ಅಲ್ಲ, ಆದರೆ ಪುನರಾವರ್ತನೆಯು ಗುಣಕವಾಗಿರುವುದರಿಂದ. (DOE, IEA)
ನನ್ನದೇ ಆದ ಪರೀಕ್ಷೆ ಮತ್ತು ಕೆಲಸದ ಹರಿವಿನ ವಿಮರ್ಶೆಗಳಲ್ಲಿ, ಜನರು ಆಶ್ಚರ್ಯಚಕಿತರಾಗುವುದು ಇಲ್ಲಿಯೇ. ಅವರು ಮಾದರಿ ಹೆಸರು ಅಥವಾ ಆಕರ್ಷಕ ಡೆಮೊದ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತಾರೆ ಮತ್ತು ಪರಿಮಾಣವನ್ನು ನಿರ್ಲಕ್ಷಿಸುತ್ತಾರೆ. ಪರಿಮಾಣವು ಹೆಚ್ಚಾಗಿ ನಿಜವಾದ ಚಾಲಕ - ಅಥವಾ ಉಳಿತಾಯದ ಅನುಗ್ರಹ, ನೀವು ಗ್ರಾಹಕರಿಗೆ ಬಿಲ್ ಮಾಡುತ್ತಿದ್ದೀರಾ ಅಥವಾ ಯುಟಿಲಿಟಿ ಟ್ಯಾಬ್ ಅನ್ನು ಪಾವತಿಸುತ್ತಿದ್ದೀರಾ ಎಂಬುದರ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ 😅
ಗ್ರಾಹಕರಿಗೆ, ಇದರ ಪರಿಣಾಮ ಅಮೂರ್ತವೆನಿಸಬಹುದು. ವ್ಯವಹಾರಗಳಿಗೆ, ಇದು ಬಹಳ ಬೇಗನೆ ಕಾಂಕ್ರೀಟ್ ಆಗುತ್ತದೆ:
-
ಹೆಚ್ಚಿನ ಮೂಲಸೌಕರ್ಯ ಮಸೂದೆಗಳು
-
ಅತ್ಯುತ್ತಮವಾಗಿಸಲು ಹೆಚ್ಚಿನ ಒತ್ತಡ
-
ಸಾಧ್ಯವಾದಲ್ಲೆಲ್ಲಾ ಸಣ್ಣ ಮಾದರಿಗಳಿಗೆ ಬಲವಾದ ಅಗತ್ಯ
-
ಆಂತರಿಕ ಸುಸ್ಥಿರತೆಯ ವರದಿ
-
ಕ್ಯಾಶಿಂಗ್ ಮತ್ತು ರೂಟಿಂಗ್ಗೆ ಹೆಚ್ಚಿನ ಗಮನ (ಗೂಗಲ್ ಕ್ಲೌಡ್, ಗ್ರೀನ್ ಎಐ)
AI ಅನ್ನು ಬಿಟ್ಟುಕೊಡದೆ AI ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಹೇಗೆ 🌱
ಈ ಭಾಗವು ಮುಖ್ಯವಾಗಿದೆ ಏಕೆಂದರೆ ಗುರಿ "AI ಬಳಸುವುದನ್ನು ನಿಲ್ಲಿಸುವುದು" ಅಲ್ಲ. ಸಾಮಾನ್ಯವಾಗಿ ಅದು ವಾಸ್ತವಿಕವಲ್ಲ ಮತ್ತು ಅಗತ್ಯವಿಲ್ಲ. ಉತ್ತಮ ಬಳಕೆಯು ಬುದ್ಧಿವಂತ ಮಾರ್ಗವಾಗಿದೆ.
ಅತಿದೊಡ್ಡ ಲಿವರ್ಗಳು ಇಲ್ಲಿವೆ:
1. ಕೆಲಸ ಮುಗಿಸಲು ಸಹಾಯ ಮಾಡುವ ಚಿಕ್ಕ ಮಾದರಿಯನ್ನು ಬಳಸಿ
ಪ್ರತಿಯೊಂದು ಕೆಲಸಕ್ಕೂ ಭಾರೀ ತೂಕದ ಆಯ್ಕೆಯ ಅಗತ್ಯವಿಲ್ಲ. ವರ್ಗೀಕರಣ ಅಥವಾ ಸಾರಾಂಶಕ್ಕಾಗಿ ಹಗುರವಾದ ಮಾದರಿಯು ತ್ಯಾಜ್ಯವನ್ನು ವೇಗವಾಗಿ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. (ಗ್ರೀನ್ AI, ಗೂಗಲ್ ಕ್ಲೌಡ್)
2. ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಔಟ್ಪುಟ್ಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಿ
ವರ್ಬೋಸ್ ಇನ್, ವರ್ಬೋಸ್ ಔಟ್. ಹೆಚ್ಚುವರಿ ಟೋಕನ್ಗಳು ಹೆಚ್ಚುವರಿ ಲೆಕ್ಕಾಚಾರವನ್ನು ಅರ್ಥೈಸುತ್ತವೆ. ಕೆಲವೊಮ್ಮೆ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಟ್ರಿಮ್ ಮಾಡುವುದು ಸುಲಭವಾದ ಗೆಲುವು. (LLM ಎನರ್ಜಿ ಯೂಸ್ನಲ್ಲಿ ಕ್ವಾಂಟೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸರ್ವಿಂಗ್ ಸ್ಟ್ರಾಟಜೀಸ್, ಗೂಗಲ್ ಕ್ಲೌಡ್)
3. ಪುನರಾವರ್ತಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ
ಒಂದೇ ರೀತಿಯ ಪ್ರಶ್ನೆ ಪದೇ ಪದೇ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದರೆ, ಅದನ್ನು ಪ್ರತಿ ಬಾರಿಯೂ ಮರುಸೃಷ್ಟಿಸಬೇಡಿ. ಇದು ಬಹುತೇಕ ಆಕ್ರಮಣಕಾರಿಯಾಗಿ ಸ್ಪಷ್ಟವಾಗಿದೆ, ಆದರೂ ಅದು ತಪ್ಪಿಹೋಗುತ್ತದೆ. (ಗೂಗಲ್ ಕ್ಲೌಡ್)
4. ಸಾಧ್ಯವಾದಾಗ ಬ್ಯಾಚ್ ಕೆಲಸಗಳು
ಬ್ಯಾಚ್ಗಳಲ್ಲಿ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸುವುದರಿಂದ ಬಳಕೆಯನ್ನು ಸುಧಾರಿಸಬಹುದು ಮತ್ತು ತ್ಯಾಜ್ಯವನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದು. (LLM ಇಂಧನ ಬಳಕೆಯಲ್ಲಿ ಪ್ರಮಾಣೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸೇವೆ ಮಾಡುವ ತಂತ್ರಗಳು)
5. ಕಾರ್ಯಗಳನ್ನು ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ರೂಟ್ ಮಾಡಿ
ಆತ್ಮವಿಶ್ವಾಸ ಕಡಿಮೆಯಾದಾಗ ಅಥವಾ ಕಾರ್ಯ ಸಂಕೀರ್ಣತೆ ಹೆಚ್ಚಾದಾಗ ಮಾತ್ರ ದೊಡ್ಡ ಮಾದರಿಗಳನ್ನು ಬಳಸಿ. (ಗ್ರೀನ್ AI, ಗೂಗಲ್ ಕ್ಲೌಡ್)
6. ಮೂಲಸೌಕರ್ಯವನ್ನು ಅತ್ಯುತ್ತಮಗೊಳಿಸಿ
ಉತ್ತಮ ವೇಳಾಪಟ್ಟಿ, ಉತ್ತಮ ಹಾರ್ಡ್ವೇರ್, ಉತ್ತಮ ಕೂಲಿಂಗ್ ತಂತ್ರ - ಪ್ರಾಯೋಗಿಕ ವಿಷಯಗಳು, ದೊಡ್ಡ ಪ್ರತಿಫಲ. (ಗೂಗಲ್ ಕ್ಲೌಡ್, DOE)
7. ಊಹಿಸುವ ಮೊದಲು ಅಳತೆ ಮಾಡಿ
ಹಲವು ತಂಡಗಳು ವಿದ್ಯುತ್ ಎಲ್ಲಿಗೆ ಹೋಗುತ್ತಿದೆ ಎಂದು ತಮಗೆ ತಿಳಿದಿದೆ ಎಂದು ಭಾವಿಸುತ್ತವೆ. ನಂತರ ಅವರು ಅಳೆಯುತ್ತಾರೆ, ಮತ್ತು ಅದು ಇಲ್ಲಿದೆ - ದುಬಾರಿ ಭಾಗವು ಬೇರೆಡೆ ಇರುತ್ತದೆ. (ಗೂಗಲ್ ಕ್ಲೌಡ್)
ದಕ್ಷತೆಯ ಕೆಲಸವು ಆಕರ್ಷಕವಾಗಿಲ್ಲ. ಇದಕ್ಕೆ ವಿರಳವಾಗಿ ಚಪ್ಪಾಳೆ ಸಿಗುತ್ತದೆ. ಆದರೆ AI ಅನ್ನು ಹೆಚ್ಚು ಕೈಗೆಟುಕುವಂತೆ ಮತ್ತು ಪ್ರಮಾಣದಲ್ಲಿ ಹೆಚ್ಚು ಸಮರ್ಥನೀಯವಾಗಿಸಲು ಇದು ಅತ್ಯುತ್ತಮ ಮಾರ್ಗಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ 👍
AI ವಿದ್ಯುತ್ ಬಳಕೆಯ ಬಗ್ಗೆ ಸಾಮಾನ್ಯ ಪುರಾಣಗಳು 🚫
ಈ ವಿಷಯ ಬೇಗನೆ ಗೊಂದಲಕ್ಕೊಳಗಾಗುವುದರಿಂದ ಕೆಲವು ಪುರಾಣಗಳನ್ನು ಹೋಗಲಾಡಿಸೋಣ.
ಮಿಥ್ಯ 1 - ಪ್ರತಿಯೊಂದು AI ಪ್ರಶ್ನೆಯೂ ಬೃಹತ್ ಪ್ರಮಾಣದಲ್ಲಿ ವ್ಯರ್ಥವಾಗುತ್ತದೆ
ಅಗತ್ಯವಾಗಿ ಅಲ್ಲ. ಕೆಲವು ಸಾಧಾರಣವಾಗಿರುತ್ತವೆ. ಪ್ರಮಾಣ ಮತ್ತು ಕಾರ್ಯ ಪ್ರಕಾರವು ಬಹಳ ಮುಖ್ಯ. (Google Cloud)
ಮಿಥ್ಯ 2 - ತರಬೇತಿ ಮಾತ್ರ ಮುಖ್ಯ
ಇಲ್ಲ. ಬಳಕೆ ದೊಡ್ಡದಾಗಿದ್ದಾಗ ಕಾಲಾನಂತರದಲ್ಲಿ ಅನುಮಾನವು ಮೇಲುಗೈ ಸಾಧಿಸಬಹುದು. (ಗೂಗಲ್ ಸಂಶೋಧನೆ, DOE)
ಮಿಥ್ಯ 3 - ದೊಡ್ಡ ಮಾದರಿ ಯಾವಾಗಲೂ ಉತ್ತಮ ಫಲಿತಾಂಶ ಎಂದರ್ಥ
ಕೆಲವೊಮ್ಮೆ ಹೌದು, ಕೆಲವೊಮ್ಮೆ ಸಂಪೂರ್ಣವಾಗಿ ಅಲ್ಲ. ಸಣ್ಣ ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ ಹಲವಾರು ಕೆಲಸಗಳು ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. (ಹಸಿರು AI)
ಮಿಥ್ಯ 4 - ಶಕ್ತಿಯ ಬಳಕೆಯು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಇಂಗಾಲದ ಪ್ರಭಾವಕ್ಕೆ ಸಮನಾಗಿರುತ್ತದೆ
ನಿಖರವಾಗಿ ಅಲ್ಲ. ಇಂಗಾಲವು ಶಕ್ತಿಯ ಮೂಲವನ್ನು ಸಹ ಅವಲಂಬಿಸಿರುತ್ತದೆ. (IEA, ಸ್ಟ್ರೂಬೆಲ್ ಮತ್ತು ಇತರರು.)
ಮಿಥ್ಯ 5 - AI ಶಕ್ತಿಯ ಬಳಕೆಗೆ ನೀವು ಒಂದು ಸಾರ್ವತ್ರಿಕ ಸಂಖ್ಯೆಯನ್ನು ಪಡೆಯಬಹುದು
ಕನಿಷ್ಠ ಅರ್ಥಪೂರ್ಣವಾಗಿ ಉಳಿಯುವ ರೂಪದಲ್ಲಿ ನೀವು ಅದನ್ನು ಮಾಡಲು ಸಾಧ್ಯವಿಲ್ಲ. ಅಥವಾ ನೀವು ಮಾಡಬಹುದು, ಆದರೆ ಅದು ಎಷ್ಟು ಸರಾಸರಿಯಾಗಿತ್ತೆಂದರೆ ಅದು ಮೌಲ್ಯಯುತವಾಗಿರುವುದನ್ನು ನಿಲ್ಲಿಸುತ್ತದೆ. (IEA)
ಇದಕ್ಕಾಗಿಯೇ AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ? ಬುದ್ಧಿವಂತವಾಗಿದೆ - ಆದರೆ ನೀವು ಘೋಷಣೆಯ ಬದಲು ಬಹು-ಹಂತದ ಉತ್ತರಕ್ಕೆ ಸಿದ್ಧರಿದ್ದರೆ ಮಾತ್ರ.
ಹಾಗಾದರೆ... AI ನಿಜವಾಗಿಯೂ ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ? 🤔
ಆಧಾರವಾಗಿರುವ ತೀರ್ಮಾನ ಇಲ್ಲಿದೆ.
AI ಬಳಸುತ್ತದೆ:
-
ಸ್ವಲ್ಪ, ಕೆಲವು ಸರಳ ಕೆಲಸಗಳಿಗೆ
-
ಭಾರೀ ಮಲ್ಟಿಮೋಡಲ್ ಉತ್ಪಾದನೆಗೆ ಇನ್ನೂ ಹೆಚ್ಚಿನವು
-
ದೊಡ್ಡ ಪ್ರಮಾಣದ ಮಾದರಿ ತರಬೇತಿಗಾಗಿ ಬಹಳ ದೊಡ್ಡ ಮೊತ್ತ
-
ಕಾಲಾನಂತರದಲ್ಲಿ ಲಕ್ಷಾಂತರ ವಿನಂತಿಗಳು ಸಂಗ್ರಹವಾದಾಗ ಒಟ್ಟಾರೆಯಾಗಿ ಅಗಾಧ ಮೊತ್ತ ( ಗೂಗಲ್ ಕ್ಲೌಡ್ , DOE )
ಅದರ ಆಕಾರವೇ ಹಾಗೆ.
ಮುಖ್ಯ ವಿಷಯವೆಂದರೆ ಇಡೀ ಸಮಸ್ಯೆಯನ್ನು ಒಂದು ಭಯಾನಕ ಸಂಖ್ಯೆ ಅಥವಾ ಒಂದು ತಿರಸ್ಕರಿಸುವ ಭುಜ ಎರಚುವಿಕೆಗೆ ಸಮತಟ್ಟಾಗಿಸಬಾರದು. AI ಶಕ್ತಿಯ ಬಳಕೆ ನಿಜ. ಅದು ಮುಖ್ಯ. ಅದನ್ನು ಸುಧಾರಿಸಬಹುದು. ಮತ್ತು ಅದರ ಬಗ್ಗೆ ಮಾತನಾಡಲು ಉತ್ತಮ ಮಾರ್ಗವೆಂದರೆ ನಾಟಕೀಯತೆಯಲ್ಲ, ಸಂದರ್ಭದೊಂದಿಗೆ. (IEA, ಗ್ರೀನ್ AI)
ಸಾರ್ವಜನಿಕ ಸಂಭಾಷಣೆಯ ಬಹುಪಾಲು ವಿಪರೀತಗಳ ನಡುವೆ ಬದಲಾಗುತ್ತದೆ - ಒಂದೆಡೆ “AI ಮೂಲತಃ ಉಚಿತ”, ಮತ್ತೊಂದೆಡೆ “AI ಒಂದು ವಿದ್ಯುತ್ ಅಪೋಕ್ಯಾಲಿಪ್ಸ್”. ವಾಸ್ತವವು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿದೆ, ಇದು ಅದನ್ನು ಹೆಚ್ಚು ಮಾಹಿತಿಯುಕ್ತವಾಗಿಸುತ್ತದೆ. ಇದು ಸಿಸ್ಟಮ್ ಸಮಸ್ಯೆ. ಹಾರ್ಡ್ವೇರ್, ಸಾಫ್ಟ್ವೇರ್, ಬಳಕೆ, ಪ್ರಮಾಣ, ತಂಪಾಗಿಸುವಿಕೆ, ವಿನ್ಯಾಸ ಆಯ್ಕೆಗಳು. ಪ್ರಾಯೋಗಿಕ? ಸ್ವಲ್ಪ. ಮುಖ್ಯವೇ? ತುಂಬಾ. (IEA, Google Cloud)
ಪ್ರಮುಖ ಅಂಶಗಳು ⚡🧾
ನೀವು ಇಲ್ಲಿಗೆ ಬಂದು, "AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ?" ಎಂದು ಕೇಳುತ್ತಿದ್ದರೆ , ಇಲ್ಲಿದೆ ಪರಿಹಾರ:
-
ಎಲ್ಲರಿಗೂ ಒಂದೇ ರೀತಿಯ ಸಂಖ್ಯೆ ಇಲ್ಲ
-
ತರಬೇತಿಯು ಸಾಮಾನ್ಯವಾಗಿ ಹೆಚ್ಚಿನ ಶಕ್ತಿಯನ್ನು ಮೊದಲೇ ಬಳಸುತ್ತದೆ
-
ಪ್ರಮಾಣದಲ್ಲಿ ನಿರ್ಣಯವು ಪ್ರಮುಖ ಅಂಶವಾಗುತ್ತದೆ
-
ಮಾದರಿ ಗಾತ್ರ, ಹಾರ್ಡ್ವೇರ್, ಕೆಲಸದ ಹೊರೆ ಮತ್ತು ತಂಪಾಗಿಸುವಿಕೆ ಎಲ್ಲವೂ ಮುಖ್ಯ
-
ಸಣ್ಣ ಆಪ್ಟಿಮೈಸೇಶನ್ಗಳು ಆಶ್ಚರ್ಯಕರವಾಗಿ ದೊಡ್ಡ ವ್ಯತ್ಯಾಸವನ್ನುಂಟುಮಾಡಬಹುದು
-
ಅತ್ಯಂತ ಬುದ್ಧಿವಂತ ಪ್ರಶ್ನೆಯೆಂದರೆ “ಎಷ್ಟು” ಮಾತ್ರವಲ್ಲ, “ಯಾವ ಕಾರ್ಯಕ್ಕಾಗಿ, ಯಾವ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ, ಯಾವ ಪ್ರಮಾಣದಲ್ಲಿ?” (IEA, Google Cloud)
ಹೌದು, AI ನಿಜವಾದ ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ. ಗಮನ ಸೆಳೆಯಲು ಸಾಕು. ಉತ್ತಮ ಎಂಜಿನಿಯರಿಂಗ್ ಅನ್ನು ಸಮರ್ಥಿಸಲು ಸಾಕು. ಆದರೆ ವ್ಯಂಗ್ಯಚಿತ್ರದ ರೀತಿಯಲ್ಲಿ ಅಲ್ಲ, ಒಂದು-ಸಂಖ್ಯೆಯ ರೀತಿಯಲ್ಲಿ.
ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: AI ಬೆಂಬಲ ಸಹಾಯಕನ ಶಕ್ತಿಯ ವೆಚ್ಚವನ್ನು ಅಳೆಯುವುದು
ಸನ್ನಿವೇಶ
ಒಂದು ಸಣ್ಣ SaaS ಕಂಪನಿಯೊಂದು ಗ್ರಾಹಕ ಬೆಂಬಲ ಟಿಕೆಟ್ಗಳಿಗೆ ಪ್ರತ್ಯುತ್ತರಗಳನ್ನು ಬರೆಯಲು AI ಸಹಾಯಕನನ್ನು ಬಳಸುವುದನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ. ಇದು ಕಾಲ್ಪನಿಕ ಆದರೆ ವಾಸ್ತವಿಕ ಉದಾಹರಣೆಯಾಗಿದೆ, ಕಂಪನಿಯ ಪ್ರಕರಣ ಅಧ್ಯಯನವಲ್ಲ.
ಈ ತಂಡವು ಪ್ರತಿ ವಾರ ಸುಮಾರು 500 ಬೆಂಬಲ ಟಿಕೆಟ್ಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ. ಹೆಚ್ಚಿನವು ಸರಳವಾಗಿವೆ: ಪಾಸ್ವರ್ಡ್ ಮರುಹೊಂದಿಸುವಿಕೆ, ಬಿಲ್ಲಿಂಗ್ ಪ್ರಶ್ನೆಗಳು, ವೈಶಿಷ್ಟ್ಯ ವಿವರಣೆಗಳು ಮತ್ತು ಮೂಲಭೂತ ದೋಷನಿವಾರಣೆ. ಸಹಾಯಕರು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಪ್ರತ್ಯುತ್ತರಗಳನ್ನು ಕಳುಹಿಸುವುದನ್ನು ಕಂಪನಿಯು ಬಯಸುವುದಿಲ್ಲ. ಇದು ಮಾನವ ಬೆಂಬಲ ಏಜೆಂಟ್ ಪರಿಶೀಲಿಸಲು ಉತ್ತರಗಳನ್ನು ರಚಿಸುತ್ತದೆ.
ಇಂಧನ ಪ್ರಶ್ನೆಯು "AI ಸಾಮಾನ್ಯವಾಗಿ ಎಷ್ಟು ಬಳಸುತ್ತದೆ?" ಅಲ್ಲ, ಇದು ಹೆಚ್ಚು ಪ್ರಾಯೋಗಿಕವಾಗಿದೆ:
"ಈ ಕೆಲಸದ ಹರಿವಿಗೆ AI ಸೇರಿಸುವ ಮೂಲಕ ನಾವು ಎಷ್ಟು ಹೆಚ್ಚುವರಿ ಕಂಪ್ಯೂಟ್ ಅನ್ನು ರಚಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಗುಣಮಟ್ಟಕ್ಕೆ ಧಕ್ಕೆಯಾಗದಂತೆ ನಾವು ಅದನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದೇ?"
ಸಹಾಯಕನಿಗೆ ಏನು ಬೇಕು
ತಂಡವು ಇದರೊಂದಿಗೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ:
ಸ್ವಚ್ಛ ಸಹಾಯ ಕೇಂದ್ರದ ಜ್ಞಾನ ನೆಲೆ
ಅನುಮೋದಿತ ಮರುಪಾವತಿ, ಗೌಪ್ಯತೆ ಮತ್ತು ಎಸ್ಕಲೇಷನ್ ನಿಯಮಗಳ ಪಟ್ಟಿ
ಹಿಂದಿನ ಬಲವಾದ ಬೆಂಬಲ ಪ್ರತ್ಯುತ್ತರಗಳ 20-30 ಉದಾಹರಣೆಗಳು
ಸಹಾಯಕನು ಕರಡು ರಚಿಸಬೇಕು, ಕಳುಹಿಸಬಾರದು ಎಂಬ ಸ್ಪಷ್ಟ ಸೂಚನೆ
ಕ್ಲೌಡ್ ಬಳಕೆಯ ಲಾಗ್ಗಳು ಅಥವಾ ಮಾದರಿ API ಬಳಕೆಯ ಲಾಗ್ಗಳು
ಟಿಕೆಟ್ ಪ್ರಕಾರ, ಪ್ರಾಂಪ್ಟ್ ಉದ್ದ, ಔಟ್ಪುಟ್ ಉದ್ದ, ವಿಮರ್ಶೆ ಸಮಯ ಮತ್ತು ಉತ್ತರವನ್ನು ಸ್ವೀಕರಿಸಲಾಗಿದೆಯೇ ಎಂಬುದನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಲು ಸರಳ ಸ್ಪ್ರೆಡ್ಶೀಟ್
ಮುಖ್ಯವಾದ ಅಂಶವೆಂದರೆ ಅಳತೆ. ದಾಖಲೆಗಳಿಲ್ಲದೆ, ತಂಡವು ಕೇವಲ ಊಹಿಸುತ್ತಿದೆ.
ಉದಾಹರಣೆ ಸೂಚನೆ
ನೀವು SaaS ಉತ್ಪನ್ನಕ್ಕೆ ಬೆಂಬಲ ಕರಡು ಸಹಾಯಕರಾಗಿದ್ದೀರಿ. ಅನುಮೋದಿತ ಸಹಾಯ ಕೇಂದ್ರದ ವಿಷಯ ಮತ್ತು ಒದಗಿಸಲಾದ ನೀತಿ ಟಿಪ್ಪಣಿಗಳನ್ನು ಮಾತ್ರ ಬಳಸಿ. 180 ಪದಗಳಿಗಿಂತ ಕಡಿಮೆ ಇರುವ ಸ್ಪಷ್ಟ, ಸಭ್ಯ ಉತ್ತರವನ್ನು ರಚಿಸಿ. ಗ್ರಾಹಕರು ಮರುಪಾವತಿ, ಖಾತೆ ಅಳಿಸುವಿಕೆ, ಕಾನೂನು ಸಲಹೆ, ಭದ್ರತಾ ವಿವರಗಳು ಅಥವಾ ದಾಖಲೆಗಳಲ್ಲಿ ಒಳಗೊಂಡಿರದ ಯಾವುದನ್ನಾದರೂ ಕೇಳಿದರೆ, ನೇರವಾಗಿ ಉತ್ತರಿಸಬೇಡಿ. ಮಾನವ ಪರಿಶೀಲನೆಗಾಗಿ ಅದನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡಿ ಮತ್ತು ಯಾವ ಮಾಹಿತಿ ಕಾಣೆಯಾಗಿದೆ ಎಂಬುದನ್ನು ವಿವರಿಸಿ.
ಪ್ರತ್ಯುತ್ತರ ಬರೆಯುವ ಮೊದಲು, ಟಿಕೆಟ್ ಅನ್ನು ಹೀಗೆ ವರ್ಗೀಕರಿಸಿ: ಸರಳ, ನೀತಿ-ಸೂಕ್ಷ್ಮ, ತಾಂತ್ರಿಕ ಅಥವಾ ಏರಿಕೆ ಅಗತ್ಯವಿದೆ.
ಅದನ್ನು ಪರೀಕ್ಷಿಸುವುದು ಹೇಗೆ
ತಂಡವು ಸಹಾಯಕನನ್ನು ನೇರಪ್ರಸಾರ ಬಳಸುವ ಮೊದಲು ಹಿಂದಿನ 50 ಟಿಕೆಟ್ಗಳಲ್ಲಿ ಪರೀಕ್ಷಿಸಬಹುದು.
ಸರಳ ಪರೀಕ್ಷಾ ಸೆಟ್ ಒಳಗೊಂಡಿರಬಹುದು:
10 ಪಾಸ್ವರ್ಡ್ ಅಥವಾ ಲಾಗಿನ್ ಟಿಕೆಟ್ಗಳು
10 ಬಿಲ್ಲಿಂಗ್ ಟಿಕೆಟ್ಗಳು
10 ತಾಂತ್ರಿಕ ದೋಷನಿವಾರಣೆ ಟಿಕೆಟ್ಗಳು
10 ಅಸ್ಪಷ್ಟ ಅಥವಾ ಅಪೂರ್ಣ ಗ್ರಾಹಕ ಸಂದೇಶಗಳು
ಮರುಪಾವತಿ, ಗೌಪ್ಯತೆ ಅಥವಾ ಖಾತೆ ಮುಚ್ಚುವಿಕೆಯನ್ನು ಒಳಗೊಂಡಿರುವ 10 ನೀತಿ-ಸೂಕ್ಷ್ಮ ಟಿಕೆಟ್ಗಳು
ಪ್ರತಿ ಟಿಕೆಟ್ಗೆ, ತಂಡವು ದಾಖಲಿಸಬೇಕು:
ಕರಡು ವಾಸ್ತವವಾಗಿ ಸರಿಯಾಗಿದೆಯೇ?
ಅದು ಅನುಮೋದಿತ ಮಾಹಿತಿಯನ್ನು ಮಾತ್ರ ಬಳಸಿದೆಯೇ?
ಅದು ಪದ ಮಿತಿಯೊಳಗೆ ಉಳಿಯಿತೇ?
ಅದು ಸೂಕ್ಷ್ಮ ಪ್ರಕರಣಗಳನ್ನು ಸರಿಯಾಗಿ ಫ್ಲ್ಯಾಗ್ ಮಾಡಿದೆಯೇ?
ಮಾನವ ಏಜೆಂಟ್ ಅದನ್ನು ಸಂಪಾದಿಸಲು ಎಷ್ಟು ಸಮಯ ಕಳೆದರು?
ಕೆಲಸದ ಹರಿವು ಎಷ್ಟು ಟೋಕನ್ಗಳು ಅಥವಾ ವಿನಂತಿಗಳನ್ನು ಬಳಸಿದೆ?
ಇದು ತಂಡಕ್ಕೆ ಊಹೆಗಳನ್ನು ಅವಲಂಬಿಸುವ ಬದಲು ಹೋಲಿಸಲು ನಿರ್ದಿಷ್ಟವಾದದ್ದನ್ನು ನೀಡುತ್ತದೆ.
ಫಲಿತಾಂಶ
ವಿವರಣಾತ್ಮಕ ಫಲಿತಾಂಶ: ಕೆಲಸದ ಹರಿವನ್ನು ಬಳಸುವ ಮೊದಲು ಮತ್ತು ನಂತರದ 50 ಮಾದರಿ ಟಿಕೆಟ್ಗಳ ಸಮಯವನ್ನು ಆಧರಿಸಿ, ತಂಡವು ಸರಾಸರಿ ಮೊದಲ-ಡ್ರಾಫ್ಟ್ ಸಮಯವು ಪ್ರತಿ ಟಿಕೆಟ್ಗೆ 6 ನಿಮಿಷಗಳಿಂದ 2 ನಿಮಿಷಗಳಿಗೆ ಇಳಿಯುತ್ತದೆ ಎಂದು ಅಂದಾಜಿಸಿದೆ.
ವಾರಕ್ಕೆ 500 ಟಿಕೆಟ್ಗಳಿಗೆ, ಅದು ಸುಮಾರು 2,000 ನಿಮಿಷಗಳನ್ನು ಅಥವಾ ಸರಿಸುಮಾರು 33 ಗಂಟೆಗಳ ಡ್ರಾಫ್ಟಿಂಗ್ ಸಮಯವನ್ನು ಉಳಿಸುತ್ತದೆ.
ಆದರೆ ದಾಖಲೆಗಳು ಮೌಲ್ಯಯುತವಾದದ್ದನ್ನು ಸಹ ತೋರಿಸುತ್ತವೆ: 38% ಟಿಕೆಟ್ಗಳು ಸರಳ ಪುನರಾವರ್ತನೆಗಳಾಗಿವೆ. ಪ್ರತಿ ಡ್ರಾಫ್ಟ್ ಅನ್ನು ಮೊದಲಿನಿಂದ ಪುನರುತ್ಪಾದಿಸುವ ಬದಲು ಈ ಪುನರಾವರ್ತಿತ ಪ್ರಶ್ನೆಗಳಿಗೆ ಅನುಮೋದಿತ ಉತ್ತರಗಳನ್ನು ಸಂಗ್ರಹಿಸುವ ಮೂಲಕ, ತಂಡವು AI ವಿನಂತಿಗಳನ್ನು ವಾರಕ್ಕೆ 500 ರಿಂದ 310 ಕ್ಕೆ ಇಳಿಸುತ್ತದೆ.
AI ವೈಶಿಷ್ಟ್ಯವನ್ನು ತೆಗೆದುಹಾಕದೆಯೇ, ಈ ಕೆಲಸದ ಹರಿವಿಗಾಗಿ ಸಾಪ್ತಾಹಿಕ ನಿರ್ಣಯ ಕರೆಗಳಲ್ಲಿ 38% ಕಡಿತವಾಗಿದೆ.
ತಂಡವು ಇದನ್ನು ಹೋಲಿಸುವ ಮೂಲಕ ಪರಿಶೀಲಿಸಬಹುದು:
ಕ್ಯಾಶಿಂಗ್ ಮೊದಲು ಮತ್ತು ನಂತರ ಒಟ್ಟು ಸಾಪ್ತಾಹಿಕ AI ವಿನಂತಿಗಳು
ಸರಾಸರಿ ಪ್ರಾಂಪ್ಟ್ ಮತ್ತು ಔಟ್ಪುಟ್ ಉದ್ದ
ಮಾನವ ಸ್ವೀಕಾರ ದರ
ಏರಿಕೆಗಳ ಸಂಖ್ಯೆಯನ್ನು ಸರಿಯಾಗಿ ಗುರುತಿಸಲಾಗಿದೆ
ಗುಣಮಟ್ಟದ ಸ್ಕೋರ್ಗಳು ಅಥವಾ ಪರಿಷ್ಕರಣೆ ಎಣಿಕೆಗಳನ್ನು ಬೆಂಬಲಿಸಿ
ನಿಖರವಾದ ವಿದ್ಯುತ್ ಉಳಿತಾಯವು ಮಾದರಿ, ಹಾರ್ಡ್ವೇರ್, ಪೂರೈಕೆದಾರ ಮತ್ತು ಮೂಲಸೌಕರ್ಯವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ. ಆದರೆ ಕೆಲಸದ ಹೊರೆ ಕಡಿತವನ್ನು ಅಳೆಯಬಹುದು.
ಏನು ತಪ್ಪಾಗಬಹುದು?
ಏರಿಕೆ ನಿಯಮಗಳು ಅಸ್ಪಷ್ಟವಾಗಿದ್ದರೆ ಸಹಾಯಕನು ನೀತಿ ಪ್ರಶ್ನೆಗಳಿಗೆ ಅತಿಯಾಗಿ ಉತ್ತರಿಸಬಹುದು.
ಮರುಪಡೆಯುವಿಕೆ ಸೆಟಪ್ ಕಳಪೆಯಾಗಿ ರಚನೆಯಾಗಿದ್ದರೆ, ಸಹಾಯ ಕೇಂದ್ರದ ದೀರ್ಘ ದಾಖಲೆಗಳು ಪ್ರಾಂಪ್ಟ್ ಉದ್ದವನ್ನು ಹೆಚ್ಚಿಸಬಹುದು.
ಏಜೆಂಟರು ನಿರರ್ಗಳವಾಗಿ ಬರೆಯುವ ಡ್ರಾಫ್ಟ್ಗಳನ್ನು ಬೇಗನೆ ನಂಬಬಹುದು ಮತ್ತು ಸೂಕ್ಷ್ಮ ದೋಷಗಳನ್ನು ತಪ್ಪಿಸಿಕೊಳ್ಳಬಹುದು.
ಹಳೆಯ ಮರುಪಾವತಿ, ಬೆಲೆ ನಿಗದಿ ಅಥವಾ ಗೌಪ್ಯತಾ ನೀತಿಗಳು ಚಲಾವಣೆಯಲ್ಲಿದ್ದರೆ ಕ್ಯಾಶಿಂಗ್ ಅಪಾಯಕಾರಿಯಾಗಬಹುದು.
ತಂಡವು ಕಡಿಮೆ ಟೋಕನ್ಗಳನ್ನು ಅತ್ಯುತ್ತಮವಾಗಿಸಬಹುದು ಮತ್ತು ಆಕಸ್ಮಿಕವಾಗಿ ಕಡಿಮೆ ಸಹಾಯಕವಾದ ಪ್ರತ್ಯುತ್ತರಗಳನ್ನು ಉತ್ಪಾದಿಸಬಹುದು.
ಸುರಕ್ಷಿತ ಆವೃತ್ತಿಯು ಮನುಷ್ಯರನ್ನು ಮಾಹಿತಿಯಲ್ಲಿಡುತ್ತದೆ, ಸ್ವೀಕರಿಸಿದ ಉತ್ತರಗಳನ್ನು ಅಳೆಯುತ್ತದೆ ಮತ್ತು ನೀತಿಗಳು ಬದಲಾದಾಗಲೆಲ್ಲಾ ಕ್ಯಾಶ್ ಮಾಡಿದ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ.
ಪ್ರಾಯೋಗಿಕ ತೀರ್ಮಾನ
ಉತ್ತಮ AI ಶಕ್ತಿಯ ಅಂದಾಜು ಕಾಂಕ್ರೀಟ್ ಕೆಲಸದ ಹರಿವಿನೊಂದಿಗೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ. ವಿನಂತಿಗಳನ್ನು ಎಣಿಸಿ, ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಿ, ಪುನರಾವರ್ತಿತ ಉತ್ತರಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ ಮತ್ತು ವಿಮರ್ಶೆಯ ಗುಣಮಟ್ಟವನ್ನು ಅಳೆಯಿರಿ. ಅದು "AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ?" ಎಂಬ ಅಸ್ಪಷ್ಟ ಚರ್ಚೆಯಿಂದ ತಂಡವು ಪ್ರಾಯೋಗಿಕವಾಗಿ ಸುಧಾರಿಸಬಹುದಾದ ಸಂಖ್ಯೆಗಳೊಂದಿಗೆ ಪ್ರಾಯೋಗಿಕ ಎಂಜಿನಿಯರಿಂಗ್ ಪ್ರಶ್ನೆಯಾಗಿ ಬದಲಾಗುತ್ತದೆ.
ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು
ಒಂದೇ ಪ್ರಾಂಪ್ಟ್ಗೆ AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ?
ಒಂದೇ ಪ್ರಾಂಪ್ಟ್ಗೆ ಸಾರ್ವತ್ರಿಕ ಸಂಖ್ಯೆ ಇಲ್ಲ, ಏಕೆಂದರೆ ಶಕ್ತಿಯ ಬಳಕೆಯು ಮಾದರಿ, ಹಾರ್ಡ್ವೇರ್, ಪ್ರಾಂಪ್ಟ್ನ ಉದ್ದ, ಔಟ್ಪುಟ್ನ ಉದ್ದ ಮತ್ತು ಒಳಗೊಂಡಿರುವ ಯಾವುದೇ ಹೆಚ್ಚುವರಿ ಪರಿಕರಗಳ ಬಳಕೆಯನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ. ಒಂದು ಸಣ್ಣ ಪಠ್ಯ ಪ್ರತಿಕ್ರಿಯೆಯು ತುಲನಾತ್ಮಕವಾಗಿ ಸಾಧಾರಣವಾಗಿರಬಹುದು, ಆದರೆ ದೀರ್ಘ ಮಲ್ಟಿಮೋಡಲ್ ಕಾರ್ಯವು ಗಮನಾರ್ಹವಾಗಿ ಹೆಚ್ಚು ಬಳಸುತ್ತದೆ. ಅತ್ಯಂತ ಅರ್ಥಪೂರ್ಣ ಉತ್ತರವೆಂದರೆ ಒಂದೇ ಶೀರ್ಷಿಕೆಯ ಅಂಕಿಯಲ್ಲ, ಆದರೆ ಕಾರ್ಯವನ್ನು ಸುತ್ತುವರೆದಿರುವ ಸಂದರ್ಭ.
AI ಶಕ್ತಿಯ ಬಳಕೆಯ ಅಂದಾಜುಗಳು ಏಕೆ ಇಷ್ಟೊಂದು ಬದಲಾಗುತ್ತವೆ?
ಜನರು ಸಾಮಾನ್ಯವಾಗಿ AI ಎಂಬ ಒಂದೇ ಲೇಬಲ್ ಅಡಿಯಲ್ಲಿ ವಿಭಿನ್ನ ವಿಷಯಗಳನ್ನು ಹೋಲಿಸುವುದರಿಂದ ಅಂದಾಜುಗಳು ಬದಲಾಗುತ್ತವೆ. ಒಂದು ಅಂದಾಜು ಹಗುರವಾದ ಚಾಟ್ಬಾಟ್ ಪ್ರತ್ಯುತ್ತರವನ್ನು ವಿವರಿಸಬಹುದು, ಆದರೆ ಇನ್ನೊಂದು ಚಿತ್ರ ಉತ್ಪಾದನೆ, ವೀಡಿಯೊ ಅಥವಾ ದೊಡ್ಡ-ಪ್ರಮಾಣದ ಮಾದರಿ ತರಬೇತಿಯನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. ಅಂದಾಜು ಅರ್ಥಪೂರ್ಣವಾಗಲು, ಅದಕ್ಕೆ ಕಾರ್ಯ ಪ್ರಕಾರ, ಮಾದರಿ ಗಾತ್ರ, ಹಾರ್ಡ್ವೇರ್, ಬಳಕೆ, ತಂಪಾಗಿಸುವಿಕೆ ಮತ್ತು ಸ್ಥಳದಂತಹ ಸಂದರ್ಭದ ಅಗತ್ಯವಿದೆ.
AI ತರಬೇತಿ ನೀಡುವುದು ಅಥವಾ ದಿನನಿತ್ಯ AI ಅನ್ನು ನಡೆಸುವುದು ಹೆಚ್ಚಿನ ಶಕ್ತಿಯ ವೆಚ್ಚವೇ?
ತರಬೇತಿಯು ಸಾಮಾನ್ಯವಾಗಿ ದೊಡ್ಡ ಮುಂಗಡ ಶಕ್ತಿಯ ಘಟನೆಯಾಗಿದೆ, ಏಕೆಂದರೆ ಇದು ಅಗಾಧವಾದ ಡೇಟಾಸೆಟ್ಗಳಲ್ಲಿ ದೀರ್ಘಕಾಲದವರೆಗೆ ಚಾಲನೆಯಲ್ಲಿರುವ ಅನೇಕ ಚಿಪ್ಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. ಬಳಕೆದಾರರು ಪ್ರತಿ ಬಾರಿ ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸಿದಾಗ ಕಾಣಿಸಿಕೊಳ್ಳುವ ನಡೆಯುತ್ತಿರುವ ವೆಚ್ಚವೇ ಅನುಮಾನ, ಮತ್ತು ಪ್ರಮಾಣದಲ್ಲಿ ಅದು ತುಂಬಾ ದೊಡ್ಡದಾಗಬಹುದು. ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಎರಡೂ ಮುಖ್ಯ, ಆದರೂ ಅವು ವಿಭಿನ್ನ ರೀತಿಯಲ್ಲಿ ಮುಖ್ಯ.
ಒಂದು AI ವಿನಂತಿಯನ್ನು ಇನ್ನೊಂದಕ್ಕಿಂತ ಹೆಚ್ಚು ಶಕ್ತಿ-ತೀವ್ರವಾಗಿಸುವುದು ಯಾವುದು?
ದೀರ್ಘ ಸಂದರ್ಭ ವಿಂಡೋಗಳು, ದೀರ್ಘ ಔಟ್ಪುಟ್ಗಳು, ಪುನರಾವರ್ತಿತ ತಾರ್ಕಿಕ ಪಾಸ್ಗಳು, ಪರಿಕರ ಕರೆಗಳು, ಮರುಪಡೆಯುವಿಕೆ ಹಂತಗಳು ಮತ್ತು ಮಲ್ಟಿಮೋಡಲ್ ಉತ್ಪಾದನೆ ಎಲ್ಲವೂ ಪ್ರತಿ ಸಂವಹನಕ್ಕೂ ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ. ವೇಗದ ಪ್ರತಿಕ್ರಿಯೆ ಅಗತ್ಯತೆಗಳು ದಕ್ಷತೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುವುದರಿಂದ ವಿಳಂಬ ಗುರಿಗಳು ಸಹ ಮುಖ್ಯ. ಸಣ್ಣ ಪುನಃ ಬರೆಯುವ ವಿನಂತಿ ಮತ್ತು ದೀರ್ಘ ಕೋಡಿಂಗ್ ಅಥವಾ ಇಮೇಜ್ ವರ್ಕ್ಫ್ಲೋ ಅನ್ನು ಹೋಲಿಸಲಾಗುವುದಿಲ್ಲ.
AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ ಎಂದು ಕೇಳುವಾಗ ಜನರು ಯಾವ ಗುಪ್ತ ಇಂಧನ ವೆಚ್ಚಗಳನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತಾರೆ?
ಅನೇಕ ಜನರು ಚಿಪ್ ಮೇಲೆ ಮಾತ್ರ ಗಮನಹರಿಸುತ್ತಾರೆ, ಆದರೆ ಅದು ತಂಪಾಗಿಸುವಿಕೆ, ಡೇಟಾ ಚಲನೆ, ಸಂಗ್ರಹಣೆ, ಐಡಲ್ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಬ್ಯಾಕಪ್ಗಳು ಅಥವಾ ವಿಫಲ ಪ್ರದೇಶಗಳಂತಹ ವಿಶ್ವಾಸಾರ್ಹತೆ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಕಡೆಗಣಿಸುತ್ತದೆ. ಈ ಪೋಷಕ ಪದರಗಳು ಒಟ್ಟು ಹೆಜ್ಜೆಗುರುತನ್ನು ಭೌತಿಕವಾಗಿ ಬದಲಾಯಿಸಬಹುದು. ಅದಕ್ಕಾಗಿಯೇ ಮಾನದಂಡವು ತನ್ನದೇ ಆದ ಪೂರ್ಣ ಶಕ್ತಿಯ ಚಿತ್ರವನ್ನು ವಿರಳವಾಗಿ ಸೆರೆಹಿಡಿಯುತ್ತದೆ.
ದೊಡ್ಡ AI ಮಾದರಿ ಯಾವಾಗಲೂ ಹೆಚ್ಚಿನ ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆಯೇ?
ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಸಾಮಾನ್ಯವಾಗಿ ಹೆಚ್ಚಿನ ಕಂಪ್ಯೂಟ್ ಮತ್ತು ಮೆಮೊರಿ ಅಗತ್ಯವಿರುತ್ತದೆ, ವಿಶೇಷವಾಗಿ ದೀರ್ಘ ಅಥವಾ ಸಂಕೀರ್ಣ ಔಟ್ಪುಟ್ಗಳಿಗೆ, ಆದ್ದರಿಂದ ಅವು ಹೆಚ್ಚಾಗಿ ಹೆಚ್ಚಿನ ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತವೆ. ಆದರೆ ದೊಡ್ಡದು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಪ್ರತಿಯೊಂದು ಕೆಲಸಕ್ಕೂ ಉತ್ತಮ ಎಂದರ್ಥವಲ್ಲ, ಮತ್ತು ಆಪ್ಟಿಮೈಸೇಶನ್ ಚಿತ್ರವನ್ನು ಗಣನೀಯವಾಗಿ ಬದಲಾಯಿಸಬಹುದು. ಸಣ್ಣ ತಜ್ಞ ಮಾದರಿಗಳು, ಕ್ವಾಂಟೈಸೇಶನ್, ಬ್ಯಾಚಿಂಗ್, ಕ್ಯಾಶಿಂಗ್ ಮತ್ತು ಸ್ಮಾರ್ಟ್ ರೂಟಿಂಗ್ ಎಲ್ಲವೂ ದಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸಬಹುದು.
ಗ್ರಾಹಕ AI ಬಳಕೆಯು ಮುಖ್ಯ ಇಂಧನ ಸಮಸ್ಯೆಯೇ ಅಥವಾ ಉದ್ಯಮ AI ದೊಡ್ಡ ಸಮಸ್ಯೆಯೇ?
ಸಾಂದರ್ಭಿಕ ಗ್ರಾಹಕ ಬಳಕೆಯು ಹೆಚ್ಚಾಗಬಹುದು, ಆದರೆ ದೊಡ್ಡ ಶಕ್ತಿಯ ಕಥೆ ಹೆಚ್ಚಾಗಿ ಉದ್ಯಮ ನಿಯೋಜನೆಗಳಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತದೆ. ಯಾವಾಗಲೂ ಆನ್ ಆಗಿರುವ ಸಹಪೈಲಟ್ಗಳು, ದಾಖಲೆ ಸಂಸ್ಕರಣೆ, ಕರೆ ಸಾರಾಂಶ, ಕೋಡ್ ವಿಮರ್ಶೆ ಮತ್ತು ಹಿನ್ನೆಲೆ ಏಜೆಂಟ್ಗಳು ದೊಡ್ಡ ಬಳಕೆದಾರ ನೆಲೆಗಳಲ್ಲಿ ಪುನರಾವರ್ತಿತ ಬೇಡಿಕೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ. ಸಮಸ್ಯೆಯು ಸಾಮಾನ್ಯವಾಗಿ ಒಂದು ನಾಟಕೀಯ ಕ್ರಿಯೆಯ ಬಗ್ಗೆ ಕಡಿಮೆ ಮತ್ತು ಕಾಲಾನಂತರದಲ್ಲಿ ನಿರಂತರ ಪರಿಮಾಣದ ಬಗ್ಗೆ ಹೆಚ್ಚು.
ಡೇಟಾ ಸೆಂಟರ್ಗಳು ಮತ್ತು ಕೂಲಿಂಗ್ ಅನ್ನು ಸೇರಿಸಿದಾಗ AI ಎಷ್ಟು ಶಕ್ತಿಯನ್ನು ಬಳಸುತ್ತದೆ?
ವಿಶಾಲವಾದ ವ್ಯವಸ್ಥೆಯನ್ನು ಸೇರಿಸಿದ ನಂತರ, ಉತ್ತರವು ಹೆಚ್ಚು ವಾಸ್ತವಿಕವಾಗುತ್ತದೆ ಮತ್ತು ಸಾಮಾನ್ಯವಾಗಿ ಚಿಪ್-ಮಾತ್ರ ಅಂದಾಜುಗಳು ಸೂಚಿಸುವುದಕ್ಕಿಂತ ದೊಡ್ಡದಾಗಿರುತ್ತದೆ. ಡೇಟಾ ಕೇಂದ್ರಗಳಿಗೆ ಕಂಪ್ಯೂಟ್ಗೆ ಮಾತ್ರವಲ್ಲದೆ, ತಂಪಾಗಿಸುವಿಕೆ, ನೆಟ್ವರ್ಕಿಂಗ್, ಸಂಗ್ರಹಣೆ ಮತ್ತು ಬಿಡಿ ಸಾಮರ್ಥ್ಯವನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳಲು ಸಹ ವಿದ್ಯುತ್ ಅಗತ್ಯವಿದೆ. ಅದಕ್ಕಾಗಿಯೇ ಮೂಲಸೌಕರ್ಯ ವಿನ್ಯಾಸ ಮತ್ತು ಸೌಲಭ್ಯ ದಕ್ಷತೆಯು ಮಾದರಿ ವಿನ್ಯಾಸದಷ್ಟೇ ಮುಖ್ಯವಾಗಿದೆ.
ನಿಜವಾದ ಕೆಲಸದ ಹರಿವಿನಲ್ಲಿ AI ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಅಳೆಯಲು ಅತ್ಯಂತ ಪ್ರಾಯೋಗಿಕ ಮಾರ್ಗ ಯಾವುದು?
ಉತ್ತಮ ವಿಧಾನವು ಯಾರು ಮತ್ತು ಯಾವ ಉದ್ದೇಶಕ್ಕಾಗಿ ಅಳತೆ ಮಾಡುತ್ತಿದ್ದಾರೆ ಎಂಬುದರ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ. ಸ್ಥೂಲ ನಿಯಮವು ತ್ವರಿತ ಹೋಲಿಕೆಗಳಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ, ಆದರೆ ವ್ಯಾಟ್ ಮೀಟರ್ಗಳು, GPU ಟೆಲಿಮೆಟ್ರಿ, ಕ್ಲೌಡ್ ಬಿಲ್ಲಿಂಗ್ ಲಾಗ್ಗಳು ಮತ್ತು ಡೇಟಾ ಸೆಂಟರ್ ವರದಿ ಮಾಡುವಿಕೆಯು ಹಂತಹಂತವಾಗಿ ಬಲವಾದ ಕಾರ್ಯಾಚರಣೆಯ ಒಳನೋಟವನ್ನು ಒದಗಿಸುತ್ತದೆ. ಗಂಭೀರ ಸುಸ್ಥಿರತೆಯ ಕೆಲಸಕ್ಕಾಗಿ, ಪೂರ್ಣ ಜೀವನಚಕ್ರ ದೃಷ್ಟಿಕೋನವು ಇನ್ನೂ ಬಲವಾಗಿರುತ್ತದೆ, ಆದರೂ ಅದು ನಿಧಾನ ಮತ್ತು ಹೆಚ್ಚು ಬೇಡಿಕೆಯಿರುತ್ತದೆ.
ಉಪಯುಕ್ತ AI ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಬಿಟ್ಟುಕೊಡದೆ ತಂಡಗಳು AI ಶಕ್ತಿಯ ಬಳಕೆಯನ್ನು ಹೇಗೆ ಕಡಿಮೆ ಮಾಡಬಹುದು?
ಕೆಲಸ ಮಾಡುವ ಚಿಕ್ಕ ಮಾದರಿಯನ್ನು ಬಳಸುವುದರಿಂದ, ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಔಟ್ಪುಟ್ಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವುದರಿಂದ, ಪುನರಾವರ್ತಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಸಂಗ್ರಹಿಸುವುದರಿಂದ, ಕೆಲಸವನ್ನು ಬ್ಯಾಚಿಂಗ್ ಮಾಡುವುದರಿಂದ ಮತ್ತು ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ ಮಾತ್ರ ಕಠಿಣ ಕಾರ್ಯಗಳನ್ನು ರೂಟಿಂಗ್ ಮಾಡುವುದರಿಂದ ಸಾಮಾನ್ಯವಾಗಿ ದೊಡ್ಡ ಲಾಭಗಳು ಬರುತ್ತವೆ. ಮೂಲಸೌಕರ್ಯ ಆಪ್ಟಿಮೈಸೇಶನ್ ಸಹ ಮುಖ್ಯವಾಗಿದೆ, ವಿಶೇಷವಾಗಿ ವೇಳಾಪಟ್ಟಿ ಮತ್ತು ಹಾರ್ಡ್ವೇರ್ ದಕ್ಷತೆ. ಅನೇಕ ಪೈಪ್ಲೈನ್ಗಳಲ್ಲಿ, ಮೊದಲು ಅಳತೆ ಮಾಡುವುದರಿಂದ ತಂಡಗಳು ತಪ್ಪು ವಿಷಯವನ್ನು ಅತ್ಯುತ್ತಮವಾಗಿಸುವುದನ್ನು ತಡೆಯಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಉಲ್ಲೇಖಗಳು
-
ಅಂತರರಾಷ್ಟ್ರೀಯ ಇಂಧನ ಸಂಸ್ಥೆ (IEA) - AI ನಿಂದ ಇಂಧನ ಬೇಡಿಕೆ - iea.org
-
ಯುಎಸ್ ಇಂಧನ ಇಲಾಖೆ (DOE) - ವಿದ್ಯುತ್ ಬೇಡಿಕೆಯ ಹೆಚ್ಚಳವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ಹೊಸ ವರದಿಯನ್ನು DOE ಬಿಡುಗಡೆ ಮಾಡಿದೆ ದತ್ತಾಂಶ ಕೇಂದ್ರಗಳು - energy.gov
-
ಗೂಗಲ್ ಕ್ಲೌಡ್ - AI ನಿರ್ಣಯದ ಪರಿಸರ ಪರಿಣಾಮವನ್ನು ಅಳೆಯುವುದು - cloud.google.com
-
ಗೂಗಲ್ ಸಂಶೋಧನೆ - ಯಂತ್ರ ಕಲಿಕೆ ತರಬೇತಿಯ ಇಂಗಾಲದ ಹೆಜ್ಜೆಗುರುತು ಬಗ್ಗೆ ಒಳ್ಳೆಯ ಸುದ್ದಿ - ಸಂಶೋಧನೆ.ಗೂಗಲ್
-
ಗೂಗಲ್ ಸಂಶೋಧನೆ - ಯಂತ್ರ ಕಲಿಕೆ ತರಬೇತಿಯ ಇಂಗಾಲದ ಹೆಜ್ಜೆಗುರುತು ಮಟ್ಟ ಇಳಿಯುತ್ತದೆ ಮತ್ತು ನಂತರ ಕಡಿಮೆಯಾಗುತ್ತದೆ - ಸಂಶೋಧನೆ.ಗೂಗಲ್
-
arXiv - ಹಸಿರು AI - arxiv.org
-
arXiv - ಸ್ಟ್ರುಬೆಲ್ ಮತ್ತು ಇತರರು. - arxiv.org
-
arXiv - LLM ಇಂಧನ ಬಳಕೆಯಲ್ಲಿ ಪರಿಮಾಣೀಕರಣ, ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ಸೇವೆ ಮಾಡುವ ತಂತ್ರಗಳು - arxiv.org