AI ದೊಡ್ಡ ಸರ್ವರ್ಗಳು ಮತ್ತು ಕ್ಲೌಡ್ GPU ಗಳಲ್ಲಿ ವಾಸಿಸುತ್ತಿತ್ತು. ಈಗ ಅದು ಸೆನ್ಸರ್ಗಳ ಪಕ್ಕದಲ್ಲಿಯೇ ಕುಗ್ಗುತ್ತಿದೆ ಮತ್ತು ಜಾರುತ್ತಿದೆ. ಎಂಬೆಡೆಡ್ ಸಿಸ್ಟಮ್ಗಳಿಗೆ AI ದೂರದ ಭರವಸೆಯಲ್ಲ - ಅದು ಈಗಾಗಲೇ ಫ್ರಿಡ್ಜ್ಗಳು, ಡ್ರೋನ್ಗಳು, ಧರಿಸಬಹುದಾದ ವಸ್ತುಗಳು ... "ಸ್ಮಾರ್ಟ್" ಆಗಿ ಕಾಣದ ಸಾಧನಗಳ ಒಳಗೆಯೂ ಗುನುಗುತ್ತಿದೆ.
ಈ ಬದಲಾವಣೆ ಏಕೆ ಮುಖ್ಯ, ಅದನ್ನು ಕಠಿಣವಾಗಿಸುವುದು ಯಾವುದು ಮತ್ತು ಯಾವ ಆಯ್ಕೆಗಳು ನಿಮ್ಮ ಸಮಯಕ್ಕೆ ಯೋಗ್ಯವಾಗಿವೆ ಎಂಬುದು ಇಲ್ಲಿದೆ.
ಇದರ ನಂತರ ನೀವು ಓದಲು ಇಷ್ಟಪಡಬಹುದಾದ ಲೇಖನಗಳು:
🔗 ನೈತಿಕ ಅನುಸರಣೆ ಮತ್ತು ಪಾರದರ್ಶಕ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಖಾತ್ರಿಪಡಿಸುವ ಅತ್ಯುತ್ತಮ AI ಆಡಳಿತ ಪರಿಕರಗಳು
ನೈತಿಕ, ಅನುಸರಣೆ ಮತ್ತು ಪಾರದರ್ಶಕ AI ಅನ್ನು ನಿರ್ವಹಿಸಲು ಸಹಾಯ ಮಾಡುವ ಪರಿಕರಗಳಿಗೆ ಮಾರ್ಗದರ್ಶಿ.
🔗 AI ಗಾಗಿ ವಸ್ತು ಸಂಗ್ರಹಣೆ: ಆಯ್ಕೆಗಳು, ಆಯ್ಕೆಗಳು, ಆಯ್ಕೆಗಳು
AI ಕೆಲಸದ ಹೊರೆಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ವಸ್ತು ಸಂಗ್ರಹ ಆಯ್ಕೆಗಳ ಹೋಲಿಕೆ.
🔗 AI ಗಾಗಿ ಡೇಟಾ ಸಂಗ್ರಹಣೆ ಅವಶ್ಯಕತೆಗಳು: ನೀವು ನಿಜವಾಗಿಯೂ ತಿಳಿದುಕೊಳ್ಳಬೇಕಾದದ್ದು
AI ಡೇಟಾ ಸಂಗ್ರಹಣೆಯನ್ನು ಯೋಜಿಸುವಾಗ ಪರಿಗಣಿಸಬೇಕಾದ ಪ್ರಮುಖ ಅಂಶಗಳು.
ಎಂಬೆಡೆಡ್ ಸಿಸ್ಟಮ್ಗಳಿಗಾಗಿ AI🌱
ಎಂಬೆಡೆಡ್ ಸಾಧನಗಳು ಚಿಕ್ಕದಾಗಿರುತ್ತವೆ, ಹೆಚ್ಚಾಗಿ ಬ್ಯಾಟರಿ ಚಾಲಿತವಾಗಿರುತ್ತವೆ ಮತ್ತು ಸಂಪನ್ಮೂಲ-ನಿರ್ಬಂಧಿತವಾಗಿರುತ್ತವೆ. ಆದರೂ AI ದೊಡ್ಡ ಗೆಲುವುಗಳನ್ನು ಅನ್ಲಾಕ್ ಮಾಡುತ್ತದೆ:
-
ಕ್ಲೌಡ್ ರೌಂಡ್-ಟ್ರಿಪ್ಗಳಿಲ್ಲದೆ ನೈಜ-ಸಮಯದ ನಿರ್ಧಾರಗಳು
-
ವಿನ್ಯಾಸದ ಮೂಲಕ ಗೌಪ್ಯತೆ - ಕಚ್ಚಾ ಡೇಟಾ ಸಾಧನದಲ್ಲಿ ಉಳಿಯಬಹುದು.
-
ಮಿಲಿಸೆಕೆಂಡುಗಳು ಮುಖ್ಯವಾದಾಗ ಕಡಿಮೆ ಸುಪ್ತತೆ
-
ಎಚ್ಚರಿಕೆಯ ಮಾದರಿ + ಹಾರ್ಡ್ವೇರ್ ಆಯ್ಕೆಗಳ ಮೂಲಕ ಶಕ್ತಿ-ಅರಿವಿನ ನಿರ್ಣಯ
ಇವು ಕೈಯಿಂದ ಮಾಡುವ ಪ್ರಯೋಜನಗಳಲ್ಲ: ಕಂಪ್ಯೂಟ್ ಅನ್ನು ಅಂಚಿಗೆ ತಳ್ಳುವುದರಿಂದ ನೆಟ್ವರ್ಕ್ ಅವಲಂಬನೆ ಕಡಿಮೆಯಾಗುತ್ತದೆ ಮತ್ತು ಅನೇಕ ಬಳಕೆಯ ಸಂದರ್ಭಗಳಲ್ಲಿ ಗೌಪ್ಯತೆಯನ್ನು ಬಲಪಡಿಸುತ್ತದೆ [1].
ಈ ತಂತ್ರವು ಬಲವಂತವಲ್ಲ - ಸೀಮಿತ ಸಂಪನ್ಮೂಲಗಳೊಂದಿಗೆ ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ವರ್ತಿಸುವುದು. ಬೆನ್ನುಹೊರೆಯೊಂದಿಗೆ ಮ್ಯಾರಥಾನ್ ಓಡುವುದನ್ನು ಯೋಚಿಸಿ... ಮತ್ತು ಎಂಜಿನಿಯರ್ಗಳು ಇಟ್ಟಿಗೆಗಳನ್ನು ತೆಗೆದುಹಾಕುತ್ತಲೇ ಇರುತ್ತಾರೆ.
ಎಂಬೆಡೆಡ್ ಸಿಸ್ಟಮ್ಗಳಿಗಾಗಿ AI ನ ತ್ವರಿತ ಹೋಲಿಕೆ ಕೋಷ್ಟಕ 📝
| ಪರಿಕರ / ಚೌಕಟ್ಟು | ಆದರ್ಶ ಪ್ರೇಕ್ಷಕರು | ಬೆಲೆ (ಅಂದಾಜು) | ಅದು ಏಕೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ (ವಿಚಿತ್ರ ಟಿಪ್ಪಣಿಗಳು) |
|---|---|---|---|
| ಟೆನ್ಸರ್ಫ್ಲೋ ಲೈಟ್ | ಅಭಿವರ್ಧಕರು, ಹವ್ಯಾಸಿಗಳು | ಉಚಿತ | ಲೀನ್, ಪೋರ್ಟಬಲ್, ಉತ್ತಮ MCU → ಮೊಬೈಲ್ ಕವರೇಜ್ |
| ಎಡ್ಜ್ ಇಂಪಲ್ಸ್ | ಆರಂಭಿಕರು ಮತ್ತು ನವೋದ್ಯಮಿಗಳು | ಫ್ರೀಮಿಯಂ ಶ್ರೇಣಿಗಳು | ಡ್ರ್ಯಾಗ್-ಅಂಡ್-ಡ್ರಾಪ್ ವರ್ಕ್ಫ್ಲೋ - “AI LEGO” ನಂತೆ |
| ಎನ್ವಿಡಿಯಾ ಜೆಟ್ಸನ್ ಪ್ಲಾಟ್ಫಾರ್ಮ್ | ಎಂಜಿನಿಯರ್ಗಳಿಗೆ ವಿದ್ಯುತ್ ಬೇಕು | $$$ (ಅಗ್ಗವಾಗಿಲ್ಲ) | ಭಾರೀ ದೃಷ್ಟಿ/ಕೆಲಸದ ಹೊರೆಗಳಿಗಾಗಿ GPU + ವೇಗವರ್ಧಕಗಳು |
| ಟೈನಿಎಂಎಲ್ (ಆರ್ಡುನೊ ಮೂಲಕ) | ಶಿಕ್ಷಕರು, ಮೂಲಮಾದರಿ ತಯಾರಕರು | ಕಡಿಮೆ ವೆಚ್ಚ | ಸುಲಭವಾಗಿ ಸಂಪರ್ಕಿಸಬಹುದಾದ; ಸಮುದಾಯ ಆಧಾರಿತ ❤️ |
| ಕ್ವಾಲ್ಕಾಮ್ AI ಎಂಜಿನ್ | OEM ಗಳು, ಮೊಬೈಲ್ ತಯಾರಕರು | ಬದಲಾಗುತ್ತದೆ | ಸ್ನಾಪ್ಡ್ರಾಗನ್ನಲ್ಲಿ NPU-ವೇಗವರ್ಧಿತ - ಸ್ನೀಕಿ ಫಾಸ್ಟ್ |
| ಎಕ್ಸಿಕ್ಯೂಟಾರ್ಚ್ (ಪೈಟಾರ್ಚ್) | ಮೊಬೈಲ್ ಮತ್ತು ಅಂಚಿನ ಡೆವಲಪರ್ಗಳು | ಉಚಿತ | ಫೋನ್ಗಳು/ಧರಿಸಬಹುದಾದ ವಸ್ತುಗಳು/ಎಂಬೆಡೆಡ್ಗಳಿಗಾಗಿ ಆನ್-ಡಿವೈಸ್ ಪೈಟಾರ್ಚ್ ರನ್ಟೈಮ್ [5] |
(ಹೌದು, ಅಸಮಾನ. ವಾಸ್ತವವೂ ಹಾಗೆಯೇ.)
ಎಂಬೆಡೆಡ್ ಸಾಧನಗಳಲ್ಲಿ AI ಉದ್ಯಮಕ್ಕೆ ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ 🏭
ಕೇವಲ ಪ್ರಚಾರವಲ್ಲ: ಕಾರ್ಖಾನೆ ಮಾರ್ಗಗಳಲ್ಲಿ, ಕಾಂಪ್ಯಾಕ್ಟ್ ಮಾದರಿಗಳು ದೋಷಗಳನ್ನು ಪತ್ತೆ ಮಾಡುತ್ತವೆ; ಕೃಷಿಯಲ್ಲಿ, ಕಡಿಮೆ-ಶಕ್ತಿಯ ನೋಡ್ಗಳು ಹೊಲದಲ್ಲಿನ ಮಣ್ಣನ್ನು ವಿಶ್ಲೇಷಿಸುತ್ತವೆ; ವಾಹನಗಳಲ್ಲಿ, ಸುರಕ್ಷತಾ ವೈಶಿಷ್ಟ್ಯಗಳು ಬ್ರೇಕ್ ಮಾಡುವ ಮೊದಲು "ಮನೆಗೆ ಕರೆ ಮಾಡಲು" ಸಾಧ್ಯವಿಲ್ಲ. ವಿಳಂಬ ಮತ್ತು ಗೌಪ್ಯತೆಯು ಮಾತುಕತೆಗೆ ಒಳಪಡದಿದ್ದಾಗ, ಕಂಪ್ಯೂಟ್ ಅನ್ನು ಅಂಚಿಗೆ ಸರಿಸುವುದು ಒಂದು ಕಾರ್ಯತಂತ್ರದ ಲಿವರ್ ಆಗಿದೆ [1].
ಟೈನಿಎಂಎಲ್: ಎಂಬೆಡೆಡ್ AI ನ ಮೂಕ ನಾಯಕ 🐜
ಟೈನಿಎಂಎಲ್ ಕಿಲೋಬೈಟ್ಗಳಿಂದ ಕೆಲವು ಮೆಗಾಬೈಟ್ಗಳ RAM ಹೊಂದಿರುವ ಮೈಕ್ರೋಕಂಟ್ರೋಲರ್ಗಳಲ್ಲಿ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸುತ್ತದೆ - ಆದರೂ ಕೀವರ್ಡ್ ಸ್ಪಾಟಿಂಗ್, ಗೆಸ್ಚರ್ ಗುರುತಿಸುವಿಕೆ, ಅಸಂಗತತೆ ಪತ್ತೆ ಮತ್ತು ಇನ್ನೂ ಹೆಚ್ಚಿನದನ್ನು ಮಾಡುತ್ತದೆ. ಇದು ಮೌಸ್ ಇಟ್ಟಿಗೆ ಎತ್ತುವುದನ್ನು ನೋಡುವಂತಿದೆ. ವಿಚಿತ್ರವಾಗಿ ತೃಪ್ತಿಕರವಾಗಿದೆ.
ಒಂದು ತ್ವರಿತ ಮಾನಸಿಕ ಮಾದರಿ:
-
ಡೇಟಾ ಹೆಜ್ಜೆಗುರುತುಗಳು: ಸಣ್ಣ, ಸ್ಟ್ರೀಮಿಂಗ್ ಸೆನ್ಸರ್ ಇನ್ಪುಟ್ಗಳು.
-
ಮಾದರಿಗಳು: ಸಾಂದ್ರೀಕೃತ CNNಗಳು/RNNಗಳು, ಶಾಸ್ತ್ರೀಯ ML, ಅಥವಾ ಸ್ಪಾರ್ಸಿಫೈಡ್/ಕ್ವಾಂಟೈಸ್ಡ್ ನೆಟ್ಗಳು.
-
ಬಜೆಟ್ಗಳು: ಮಿಲಿವ್ಯಾಟ್ಗಳು, ವ್ಯಾಟ್ಗಳಲ್ಲ; KB–MB, GB ಅಲ್ಲ.
ಹಾರ್ಡ್ವೇರ್ ಆಯ್ಕೆಗಳು: ವೆಚ್ಚ vs. ಕಾರ್ಯಕ್ಷಮತೆ ⚔️
ಹಾರ್ಡ್ವೇರ್ ಆಯ್ಕೆಮಾಡುವಾಗ ಅನೇಕ ಯೋಜನೆಗಳು ಅಲುಗಾಡುತ್ತವೆ:
-
ರಾಸ್ಪ್ಬೆರಿ ಪೈ ವರ್ಗ: ಸ್ನೇಹಪರ, ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ CPU; ಮೂಲಮಾದರಿಗಳಿಗೆ ಸೂಕ್ತವಾಗಿದೆ.
-
NVIDIA ಜೆಟ್ಸನ್: ಉದ್ದೇಶಿತ-ನಿರ್ಮಿತ ಅಂಚಿನ AI ಮಾಡ್ಯೂಲ್ಗಳು (ಉದಾ, Orin) ಹತ್ತಾರು ರಿಂದ ನೂರಾರು TOPS ಅನ್ನು - ಉತ್ತಮ, ಆದರೆ ಹೆಚ್ಚು ಬೆಲೆಬಾಳುವ ಮತ್ತು ಶಕ್ತಿ-ಭಾರವಾದ [4].
-
ಗೂಗಲ್ ಕೋರಲ್ (ಎಡ್ಜ್ ಟಿಪಿಯು) : ಕ್ವಾಂಟೈಸ್ಡ್ ಮಾಡೆಲ್ಗಳಿಗೆ ಸುಮಾರು 2W (~2 TOPS/W) ನಲ್ಲಿ ~4 TOPS ಅನ್ನು ತಲುಪಿಸುವ ASIC ವೇಗವರ್ಧಕ - ನಿಮ್ಮ ಮಾದರಿ ನಿರ್ಬಂಧಗಳಿಗೆ ಹೊಂದಿಕೊಂಡಾಗ ಅದ್ಭುತವಾದ ಪರಿಪೂರ್ಣತೆ/W [3].
-
ಸ್ಮಾರ್ಟ್ಫೋನ್ SoC ಗಳು (ಸ್ನ್ಯಾಪ್ಡ್ರಾಗನ್): ಸಾಧನದಲ್ಲಿ ಮಾದರಿಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಚಲಾಯಿಸಲು NPU ಗಳು ಮತ್ತು SDK ಗಳೊಂದಿಗೆ ರವಾನಿಸಿ.
ಮುಖ್ಯ ನಿಯಮ: ವೆಚ್ಚ, ಉಷ್ಣತಾಶಾಸ್ತ್ರ ಮತ್ತು ಲೆಕ್ಕಾಚಾರವನ್ನು ಸಮತೋಲನಗೊಳಿಸಿ. "ಸಾಕಷ್ಟು ಒಳ್ಳೆಯದು, ಎಲ್ಲೆಡೆ" ಎಂಬುದು "ಅತ್ಯಾಧುನಿಕ, ಎಲ್ಲಿಯೂ ಇಲ್ಲ" ಎಂಬುದನ್ನು ಮೀರಿಸುತ್ತದೆ.
ಎಂಬೆಡೆಡ್ ಸಿಸ್ಟಮ್ಗಳಿಗೆ AI ನಲ್ಲಿ ಸಾಮಾನ್ಯ ಸವಾಲುಗಳು 🤯
ಎಂಜಿನಿಯರ್ಗಳು ನಿಯಮಿತವಾಗಿ ಇದರೊಂದಿಗೆ ಹೋರಾಡುತ್ತಾರೆ:
-
ಬಿಗಿಯಾದ ಸ್ಮರಣೆ: ಸಣ್ಣ ಸಾಧನಗಳು ದೈತ್ಯ ಮಾದರಿಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಲು ಸಾಧ್ಯವಿಲ್ಲ.
-
ಬ್ಯಾಟರಿ ಬಜೆಟ್: ಪ್ರತಿ ಮಿಲಿಯಾಂಪ್ ಮುಖ್ಯ.
-
ಮಾದರಿ ಅತ್ಯುತ್ತಮೀಕರಣ:
-
ಪ್ರಮಾಣೀಕರಣ → ಚಿಕ್ಕದಾದ, ವೇಗವಾದ int8/float16 ತೂಕಗಳು/ಸಕ್ರಿಯಗೊಳಿಸುವಿಕೆಗಳು.
-
ಸಮರುವಿಕೆ → ವಿರಳತೆಗಾಗಿ ಅತ್ಯಲ್ಪ ತೂಕವನ್ನು ತೆಗೆದುಹಾಕಿ.
-
ಕ್ಲಸ್ಟರಿಂಗ್/ತೂಕ ಹಂಚಿಕೆ → ಮತ್ತಷ್ಟು ಸಂಕುಚಿತಗೊಳಿಸಿ.
ಇವು ಸಾಧನದಲ್ಲಿನ ದಕ್ಷತೆಗೆ ಪ್ರಮಾಣಿತ ತಂತ್ರಗಳಾಗಿವೆ [2].
-
-
ಸ್ಕೇಲಿಂಗ್ ಅಪ್: ತರಗತಿಯ ಆರ್ಡುನೊ ಡೆಮೊ ≠ ಸುರಕ್ಷತೆ, ಭದ್ರತೆ ಮತ್ತು ಜೀವನಚಕ್ರ ನಿರ್ಬಂಧಗಳನ್ನು ಹೊಂದಿರುವ ಆಟೋಮೋಟಿವ್ ಉತ್ಪಾದನಾ ವ್ಯವಸ್ಥೆ.
ಡೀಬಗ್ ಮಾಡಲಾಗುತ್ತಿದೆಯೇ? ಕೈಗವಸುಗಳನ್ನು ಧರಿಸಿಕೊಂಡು ಕೀಹೋಲ್ ಮೂಲಕ ಪುಸ್ತಕವನ್ನು ಓದುತ್ತಿರುವಂತೆ ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ.
ಪ್ರಾಯೋಗಿಕ ಅನ್ವಯಿಕೆಗಳನ್ನು ನೀವು ಶೀಘ್ರದಲ್ಲೇ ನೋಡುತ್ತೀರಿ 🚀
-
ಸಾಧನದಲ್ಲಿನ ಆರೋಗ್ಯದ ಒಳನೋಟಗಳನ್ನು ಮಾಡುವ ಸ್ಮಾರ್ಟ್ ಧರಿಸಬಹುದಾದ ಸಾಧನಗಳು
-
ಕಚ್ಚಾ ದೃಶ್ಯಗಳನ್ನು ಸ್ಟ್ರೀಮಿಂಗ್ ಮಾಡದೆಯೇ IoT ಕ್ಯಾಮೆರಾಗಳು ಈವೆಂಟ್ಗಳನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡುತ್ತವೆ
-
ಹ್ಯಾಂಡ್ಸ್-ಫ್ರೀ ನಿಯಂತ್ರಣಕ್ಕಾಗಿ ಆಫ್ಲೈನ್ ಧ್ವನಿ ಸಹಾಯಕಗಳು - ಕ್ಲೌಡ್ ಅವಲಂಬನೆ ಇಲ್ಲ
-
ತಪಾಸಣೆ, ವಿತರಣೆ ಮತ್ತು ನಿಖರತೆಗಾಗಿ ಸ್ವಾಯತ್ತ ಡ್ರೋನ್ಗಳು
ಸಂಕ್ಷಿಪ್ತವಾಗಿ ಹೇಳುವುದಾದರೆ: AI ಅಕ್ಷರಶಃ ಹತ್ತಿರವಾಗುತ್ತಿದೆ - ನಮ್ಮ ಮಣಿಕಟ್ಟುಗಳಿಗೆ, ನಮ್ಮ ಅಡುಗೆಮನೆಗಳಿಗೆ ಮತ್ತು ನಮ್ಮ ಮೂಲಸೌಕರ್ಯಗಳಾದ್ಯಂತ.
ಡೆವಲಪರ್ಗಳು ಹೇಗೆ ಪ್ರಾರಂಭಿಸಬಹುದು 🛠️
-
ವಿಶಾಲ ಪರಿಕರ ಮತ್ತು MCU→ಮೊಬೈಲ್ ಕವರೇಜ್ಗಾಗಿ ಟೆನ್ಸರ್ಫ್ಲೋ ಲೈಟ್ನೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ ; ಕ್ವಾಂಟೈಸೇಶನ್/ಪ್ರೂನಿಂಗ್ ಅನ್ನು ಮೊದಲೇ ಅನ್ವಯಿಸಿ [2]
-
ನೀವು PyTorch ಭೂಮಿಯಲ್ಲಿ ವಾಸಿಸುತ್ತಿದ್ದರೆ ಮತ್ತು ಮೊಬೈಲ್ನಲ್ಲಿ ಸರಳವಾದ ಆನ್-ಡಿವೈಸ್ ರನ್ಟೈಮ್ ಅಗತ್ಯವಿದ್ದರೆ ಮತ್ತು ಎಂಬೆಡೆಡ್ [5] ಆಗಿದ್ದರೆ ExecuTorch ಅನ್ನು ಅನ್ವೇಷಿಸಿ
-
ವೇಗವಾದ, ಸಂತೋಷಕರವಾದ ಮೂಲಮಾದರಿ ತಯಾರಿಕೆಗಾಗಿ Arduino + TinyML ಕಿಟ್ಗಳನ್ನು ಪ್ರಯತ್ನಿಸಿ
-
ದೃಶ್ಯ ಪೈಪ್ಲೈನ್ಗಳಿಗೆ ಆದ್ಯತೆ ನೀಡುತ್ತೀರಾ? ಎಡ್ಜ್ ಇಂಪಲ್ಸ್ ತಡೆಗೋಡೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
-
ಹಾರ್ಡ್ವೇರ್ ಅನ್ನು ಪ್ರಥಮ ದರ್ಜೆ ನಾಗರಿಕನಂತೆ ಪರಿಗಣಿಸಿ - CPU ಗಳಲ್ಲಿ ಮೂಲಮಾದರಿ, ನಂತರ ಲೇಟೆನ್ಸಿ, ಥರ್ಮಲ್ಗಳು ಮತ್ತು ನಿಖರತೆಯ ಡೆಲ್ಟಾಗಳನ್ನು ಖಚಿತಪಡಿಸಲು ನಿಮ್ಮ ಗುರಿ ವೇಗವರ್ಧಕದಲ್ಲಿ (ಎಡ್ಜ್ TPU, ಜೆಟ್ಸನ್, NPU) ಮೌಲ್ಯೀಕರಿಸಿ.
ಮಿನಿ-ವಿನೆಟ್: ಒಂದು ತಂಡವು ನಾಣ್ಯ-ಕೋಶ ಸಂವೇದಕದಲ್ಲಿ ಕಂಪನ-ಅಸಂಗತತೆ ಪತ್ತೆಕಾರಕವನ್ನು ರವಾನಿಸುತ್ತದೆ. ಫ್ಲೋಟ್32 ಮಾದರಿಯು ವಿದ್ಯುತ್ ಬಜೆಟ್ ಅನ್ನು ತಪ್ಪಿಸುತ್ತದೆ; int8 ಕ್ವಾಂಟೈಸೇಶನ್ ಪ್ರತಿ ಅನುಮಾನಕ್ಕೆ ಶಕ್ತಿಯನ್ನು ಕಡಿತಗೊಳಿಸುತ್ತದೆ, ಮೆಮೊರಿಯನ್ನು ಕತ್ತರಿಸುತ್ತದೆ ಮತ್ತು MCU ಅನ್ನು ಡ್ಯೂಟಿ-ಸೈಕ್ಲಿಂಗ್ ಮಾಡುವುದರಿಂದ ಕೆಲಸವನ್ನು ಪೂರ್ಣಗೊಳಿಸುತ್ತದೆ - ಯಾವುದೇ ನೆಟ್ವರ್ಕ್ ಅಗತ್ಯವಿಲ್ಲ [2,3].
ಎಂಬೆಡೆಡ್ ಸಿಸ್ಟಮ್ಗಳಿಗಾಗಿ AI ನ ಶಾಂತ ಕ್ರಾಂತಿ 🌍
ಸಣ್ಣ, ಅಗ್ಗದ ಪ್ರೊಸೆಸರ್ಗಳು ಸ್ಥಳೀಯವಾಗಿ ಗ್ರಹಿಸಲು → ಯೋಚಿಸಲು → ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಕಲಿಯುತ್ತಿವೆ . ಬ್ಯಾಟರಿ ಬಾಳಿಕೆ ಯಾವಾಗಲೂ ನಮ್ಮನ್ನು ಕಾಡುತ್ತದೆ, ಆದರೆ ಪಥವು ಸ್ಪಷ್ಟವಾಗಿದೆ: ಬಿಗಿಯಾದ ಮಾದರಿಗಳು, ಉತ್ತಮ ಕಂಪೈಲರ್ಗಳು, ಚುರುಕಾದ ವೇಗವರ್ಧಕಗಳು. ಫಲಿತಾಂಶ? ಹೆಚ್ಚು ವೈಯಕ್ತಿಕ ಮತ್ತು ಸ್ಪಂದಿಸುವ ತಂತ್ರಜ್ಞಾನ ಏಕೆಂದರೆ ಅದು ಸಂಪರ್ಕಗೊಂಡಿಲ್ಲ - ಅದು ಗಮನ ಹರಿಸುತ್ತಿದೆ.
ಉಲ್ಲೇಖಗಳು
[1] ETSI (ಮಲ್ಟಿ-ಆಕ್ಸೆಸ್ ಎಡ್ಜ್ ಕಂಪ್ಯೂಟಿಂಗ್) - ಸುಪ್ತತೆ/ಗೌಪ್ಯತೆ ಪ್ರಯೋಜನಗಳು ಮತ್ತು ಉದ್ಯಮದ ಸಂದರ್ಭ.
ETSI MEC: ಹೊಸ ಶ್ವೇತಪತ್ರದ ಅವಲೋಕನ
[2] Google TensorFlow ಮಾದರಿ ಆಪ್ಟಿಮೈಸೇಶನ್ ಟೂಲ್ಕಿಟ್ - ಸಾಧನದಲ್ಲಿನ ದಕ್ಷತೆಗಾಗಿ ಕ್ವಾಂಟೀಕರಣ, ಪ್ರೂನಿಂಗ್, ಕ್ಲಸ್ಟರಿಂಗ್.
TensorFlow ಮಾದರಿ ಆಪ್ಟಿಮೈಸೇಶನ್ ಮಾರ್ಗದರ್ಶಿ
[3] ಗೂಗಲ್ ಕೋರಲ್ ಎಡ್ಜ್ TPU - ಅಂಚಿನ ವೇಗವರ್ಧನೆಗಾಗಿ ಪರ್ಫ್/ಡಬ್ಲ್ಯೂ ಮಾನದಂಡಗಳು.
ಎಡ್ಜ್ TPU ಮಾನದಂಡಗಳು
[4] NVIDIA ಜೆಟ್ಸನ್ ಒರಿನ್ (ಅಧಿಕೃತ) - ಎಡ್ಜ್ AI ಮಾಡ್ಯೂಲ್ಗಳು ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯ ಲಕೋಟೆಗಳು.
ಜೆಟ್ಸನ್ ಒರಿನ್ ಮಾಡ್ಯೂಲ್ಗಳ ಅವಲೋಕನ
[5] ಪೈಟಾರ್ಚ್ ಎಕ್ಸಿಕ್ಯೂಟಾರ್ಚ್ (ಅಧಿಕೃತ ದಾಖಲೆಗಳು) - ಮೊಬೈಲ್ ಮತ್ತು ಅಂಚಿನಲ್ಲಿ ಆನ್-ಡಿವೈಸ್ ಪೈಟಾರ್ಚ್ ರನ್ಟೈಮ್.
ಎಕ್ಸಿಕ್ಯೂಟಾರ್ಚ್ ಅವಲೋಕನ