ಎಡ್ಜ್ AI ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಡೇಟಾ ಹುಟ್ಟುವ ಸ್ಥಳಗಳಿಗೆ ತಳ್ಳುತ್ತದೆ. ಇದು ಸುಂದರವಾಗಿ ತೋರುತ್ತದೆ, ಆದರೆ ಮೂಲ ಕಲ್ಪನೆ ಸರಳವಾಗಿದೆ: ಫಲಿತಾಂಶಗಳು ಈಗಲೇ ಗೋಚರಿಸುವಂತೆ ಸಂವೇದಕದ ಪಕ್ಕದಲ್ಲಿಯೇ ಯೋಚಿಸಿ, ನಂತರ ಅಲ್ಲ. ಪ್ರತಿಯೊಂದು ನಿರ್ಧಾರವನ್ನು ಕ್ಲೌಡ್ ನೋಡಿಕೊಳ್ಳದೆ ನೀವು ವೇಗ, ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಯೋಗ್ಯವಾದ ಗೌಪ್ಯತಾ ಕಥೆಯನ್ನು ಪಡೆಯುತ್ತೀರಿ. ಅದನ್ನು ಅನ್ಪ್ಯಾಕ್ ಮಾಡೋಣ - ಶಾರ್ಟ್ಕಟ್ಗಳು ಮತ್ತು ಸೈಡ್ ಕ್ವೆಸ್ಟ್ಗಳು ಸೇರಿವೆ. 😅
ಇದರ ನಂತರ ನೀವು ಓದಲು ಇಷ್ಟಪಡಬಹುದಾದ ಲೇಖನಗಳು:
🔗 ಉತ್ಪಾದಕ AI ಎಂದರೇನು?
ಉತ್ಪಾದಕ AI, ಅದು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರಾಯೋಗಿಕ ಉಪಯೋಗಗಳ ಸ್ಪಷ್ಟ ವಿವರಣೆ.
🔗 ಏಜೆಂಟ್ AI ಎಂದರೇನು?
ಏಜೆಂಟ್ AI, ಸ್ವಾಯತ್ತ ನಡವಳಿಕೆಗಳು ಮತ್ತು ನೈಜ-ಪ್ರಪಂಚದ ಅನ್ವಯಿಕ ಮಾದರಿಗಳ ಅವಲೋಕನ.
🔗 AI ಸ್ಕೇಲೆಬಿಲಿಟಿ ಎಂದರೇನು?
AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ, ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಮತ್ತು ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಅಳೆಯುವುದು ಹೇಗೆ ಎಂದು ತಿಳಿಯಿರಿ.
🔗 AI ಗಾಗಿ ಸಾಫ್ಟ್ವೇರ್ ಫ್ರೇಮ್ವರ್ಕ್ ಎಂದರೇನು?
AI ಸಾಫ್ಟ್ವೇರ್ ಚೌಕಟ್ಟುಗಳು, ವಾಸ್ತುಶಿಲ್ಪದ ಪ್ರಯೋಜನಗಳು ಮತ್ತು ಅನುಷ್ಠಾನದ ಮೂಲಭೂತ ಅಂಶಗಳ ವಿಭಜನೆ.
ಎಡ್ಜ್ AI ಎಂದರೇನು? ತ್ವರಿತ ವ್ಯಾಖ್ಯಾನ 🧭
ಎಡ್ಜ್ AI ಎಂದರೆ ತರಬೇತಿ ಪಡೆದ ಯಂತ್ರ ಕಲಿಕೆ ಮಾದರಿಗಳನ್ನು ನೇರವಾಗಿ ಡೇಟಾ ಸಂಗ್ರಹಿಸುವ ಸಾಧನಗಳ ಮೇಲೆ ಅಥವಾ ಹತ್ತಿರದಲ್ಲಿ ಚಲಾಯಿಸುವ ಅಭ್ಯಾಸ - ಫೋನ್ಗಳು, ಕ್ಯಾಮೆರಾಗಳು, ರೋಬೋಟ್ಗಳು, ಕಾರುಗಳು, ಧರಿಸಬಹುದಾದ ವಸ್ತುಗಳು, ಕೈಗಾರಿಕಾ ನಿಯಂತ್ರಕಗಳು, ನೀವು ಅದನ್ನು ಹೆಸರಿಸುತ್ತೀರಿ. ವಿಶ್ಲೇಷಣೆಗಾಗಿ ದೂರದ ಸರ್ವರ್ಗಳಿಗೆ ಕಚ್ಚಾ ಡೇಟಾವನ್ನು ರವಾನಿಸುವ ಬದಲು, ಸಾಧನವು ಸ್ಥಳೀಯವಾಗಿ ಇನ್ಪುಟ್ಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಸಾರಾಂಶಗಳನ್ನು ಮಾತ್ರ ಕಳುಹಿಸುತ್ತದೆ ಅಥವಾ ಏನನ್ನೂ ಕಳುಹಿಸುವುದಿಲ್ಲ. ಕಡಿಮೆ ಸುತ್ತಿನ ಪ್ರವಾಸಗಳು, ಕಡಿಮೆ ವಿಳಂಬ, ಹೆಚ್ಚಿನ ನಿಯಂತ್ರಣ. ನೀವು ಶುದ್ಧ, ಮಾರಾಟಗಾರ-ತಟಸ್ಥ ವಿವರಣೆಯನ್ನು ಬಯಸಿದರೆ, ಇಲ್ಲಿಂದ ಪ್ರಾರಂಭಿಸಿ. [1]
ಎಡ್ಜ್ AI ನಿಜವಾಗಿಯೂ ಉಪಯುಕ್ತವಾಗಲು ಕಾರಣವೇನು? 🌟
-
ಕಡಿಮೆ ವಿಳಂಬ - ನಿರ್ಧಾರಗಳು ಸಾಧನದಲ್ಲಿಯೇ ನಡೆಯುತ್ತವೆ, ಆದ್ದರಿಂದ ವಸ್ತು ಪತ್ತೆ, ವೇಕ್-ವರ್ಡ್ ಸ್ಪಾಟಿಂಗ್ ಅಥವಾ ಅಸಂಗತ ಎಚ್ಚರಿಕೆಗಳಂತಹ ಗ್ರಹಿಕೆ ಕಾರ್ಯಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯೆಗಳು ತಕ್ಷಣವೇ ಭಾಸವಾಗುತ್ತವೆ. [1]
-
ಸ್ಥಳೀಯವಾಗಿ ಗೌಪ್ಯತೆ - ಸೂಕ್ಷ್ಮ ಡೇಟಾ ಸಾಧನದಲ್ಲಿ ಉಳಿಯಬಹುದು, ಮಾನ್ಯತೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ ಮತ್ತು ಡೇಟಾ-ಕಡಿಮೆಗೊಳಿಸುವಿಕೆಯ ಚರ್ಚೆಗಳಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ. [1]
-
ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಉಳಿತಾಯ - ಕಚ್ಚಾ ಸ್ಟ್ರೀಮ್ಗಳ ಬದಲಿಗೆ ವೈಶಿಷ್ಟ್ಯಗಳು ಅಥವಾ ಈವೆಂಟ್ಗಳನ್ನು ಕಳುಹಿಸಿ. [1]
-
ಸ್ಥಿತಿಸ್ಥಾಪಕತ್ವ - ಸ್ಕೆಚಿ ಸಂಪರ್ಕದ ಸಮಯದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.
-
ವೆಚ್ಚ ನಿಯಂತ್ರಣ - ಕಡಿಮೆ ಕ್ಲೌಡ್ ಕಂಪ್ಯೂಟ್ ಚಕ್ರಗಳು ಮತ್ತು ಕಡಿಮೆ ನಿರ್ಗಮನ.
-
ಸಂದರ್ಭ ಅರಿವು - ಸಾಧನವು ಪರಿಸರವನ್ನು "ಅನುಭವಿಸುತ್ತದೆ" ಮತ್ತು ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ.
ತ್ವರಿತ ಉಪಾಖ್ಯಾನ: ಚಿಲ್ಲರೆ ಪೈಲಟ್ ಸಾಧನದಲ್ಲಿನ ವ್ಯಕ್ತಿ-ವಿರುದ್ಧ-ವಸ್ತು ವರ್ಗೀಕರಣಕ್ಕಾಗಿ ಸ್ಥಿರ ಕ್ಯಾಮೆರಾ ಅಪ್ಲೋಡ್ಗಳನ್ನು ಬದಲಾಯಿಸಿದರು ಮತ್ತು ಗಂಟೆಯ ಎಣಿಕೆಗಳು ಮತ್ತು ವಿನಾಯಿತಿ ಕ್ಲಿಪ್ಗಳನ್ನು ಮಾತ್ರ ತಳ್ಳಿದರು. ಫಲಿತಾಂಶ: ಶೆಲ್ಫ್ ಅಂಚಿನಲ್ಲಿ 200 ms ಗಿಂತ ಕಡಿಮೆ ಎಚ್ಚರಿಕೆಗಳು ಮತ್ತು ಅಂಗಡಿ WAN ಒಪ್ಪಂದಗಳನ್ನು ಬದಲಾಯಿಸದೆ ಅಪ್ಲಿಂಕ್ ಟ್ರಾಫಿಕ್ನಲ್ಲಿ ~90% ಕುಸಿತ. (ವಿಧಾನ: ಸ್ಥಳೀಯ ನಿರ್ಣಯ, ಈವೆಂಟ್ ಬ್ಯಾಚಿಂಗ್, ವೈಪರೀತ್ಯಗಳು ಮಾತ್ರ.)
ಎಡ್ಜ್ AI vs ಕ್ಲೌಡ್ AI - ತ್ವರಿತ ಕಾಂಟ್ರಾಸ್ಟ್ 🥊
-
ಕಂಪ್ಯೂಟ್ ಎಲ್ಲಿ ನಡೆಯುತ್ತದೆ : ಎಡ್ಜ್ = ಆನ್-ಡಿವೈಸ್/ನಿಯರ್-ಡಿವೈಸ್; ಕ್ಲೌಡ್ = ರಿಮೋಟ್ ಡೇಟಾ ಸೆಂಟರ್ಗಳು.
-
ಸುಪ್ತತೆ : ಅಂಚು ≈ ನೈಜ-ಸಮಯ; ಮೋಡವು ಸುತ್ತು ಪ್ರವಾಸಗಳನ್ನು ಹೊಂದಿದೆ.
-
ಡೇಟಾ ಚಲನೆ : ಅಂಚಿನ ಫಿಲ್ಟರ್ಗಳು/ಸಂಕುಚಿತಗೊಳಿಸುವಿಕೆ ಮೊದಲು; ಕ್ಲೌಡ್ ಪೂರ್ಣ-ನಿಷ್ಠೆಯ ಅಪ್ಲೋಡ್ಗಳನ್ನು ಇಷ್ಟಪಡುತ್ತದೆ.
-
ವಿಶ್ವಾಸಾರ್ಹತೆ : ಎಡ್ಜ್ ಆಫ್ಲೈನ್ನಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿದೆ; ಕ್ಲೌಡ್ಗೆ ಸಂಪರ್ಕದ ಅಗತ್ಯವಿದೆ.
-
ಆಡಳಿತ : ಎಡ್ಜ್ ಡೇಟಾ ಕಡಿಮೆಗೊಳಿಸುವಿಕೆಯನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ; ಕ್ಲೌಡ್ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ. [1]
ಇದು ಎರಡೂ ಅಲ್ಲ-ಅಥವಾ ಅಲ್ಲ. ಸ್ಮಾರ್ಟ್ ವ್ಯವಸ್ಥೆಗಳು ಎರಡನ್ನೂ ಮಿಶ್ರಣ ಮಾಡುತ್ತವೆ: ಸ್ಥಳೀಯವಾಗಿ ವೇಗದ ನಿರ್ಧಾರಗಳು, ಆಳವಾದ ವಿಶ್ಲೇಷಣೆ ಮತ್ತು ಕೇಂದ್ರೀಯವಾಗಿ ಫ್ಲೀಟ್ ಕಲಿಕೆ. ಹೈಬ್ರಿಡ್ ಉತ್ತರವು ನೀರಸ ಮತ್ತು ಸರಿಯಾಗಿದೆ.
ಎಡ್ಜ್ AI ವಾಸ್ತವವಾಗಿ ಹುಡ್ ಅಡಿಯಲ್ಲಿ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ 🧩
-
ಸಂವೇದಕಗಳು ಕಚ್ಚಾ ಸಂಕೇತಗಳನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತವೆ - ಆಡಿಯೋ ಫ್ರೇಮ್ಗಳು, ಕ್ಯಾಮೆರಾ ಪಿಕ್ಸೆಲ್ಗಳು, IMU ಟ್ಯಾಪ್ಗಳು, ಕಂಪನ ಕುರುಹುಗಳು.
-
ಪೂರ್ವ-ಸಂಸ್ಕರಣೆಯು ಆ ಸಂಕೇತಗಳನ್ನು ಮಾದರಿ-ಸ್ನೇಹಿ ವೈಶಿಷ್ಟ್ಯಗಳಾಗಿ ಮರುರೂಪಿಸುತ್ತದೆ.
-
ಲಭ್ಯವಿದ್ದಾಗ ವೇಗವರ್ಧಕಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಸಾಧನದಲ್ಲಿ ಸಾಂದ್ರೀಕೃತ ಮಾದರಿಯನ್ನು ನಿರ್ಣಯ ರನ್ಟೈಮ್
-
ಪೋಸ್ಟ್ಪ್ರೊಸೆಸಿಂಗ್ ಔಟ್ಪುಟ್ಗಳನ್ನು ಈವೆಂಟ್ಗಳು, ಲೇಬಲ್ಗಳು ಅಥವಾ ನಿಯಂತ್ರಣ ಕ್ರಿಯೆಗಳಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ.
-
ಟೆಲಿಮೆಟ್ರಿ ಉಪಯುಕ್ತವಾದದ್ದನ್ನು ಮಾತ್ರ ಅಪ್ಲೋಡ್ ಮಾಡುತ್ತದೆ: ಸಾರಾಂಶಗಳು, ವೈಪರೀತ್ಯಗಳು ಅಥವಾ ಆವರ್ತಕ ಪ್ರತಿಕ್ರಿಯೆ.
ನೀವು ವೈಲ್ಡ್ನಲ್ಲಿ ನೋಡುವ ಆನ್-ಡಿವೈಸ್ ರನ್ಟೈಮ್ಗಳಲ್ಲಿ Google ನ LiteRT (ಹಿಂದೆ TensorFlow Lite), ONNX ರನ್ಟೈಮ್ ಮತ್ತು ಇಂಟೆಲ್ನ OpenVINO . ಈ ಟೂಲ್ಚೈನ್ಗಳು ಕ್ವಾಂಟೈಸೇಶನ್ ಮತ್ತು ಆಪರೇಟರ್ ಸಮ್ಮಿಳನದಂತಹ ತಂತ್ರಗಳೊಂದಿಗೆ ಬಿಗಿಯಾದ ಪವರ್/ಮೆಮೊರಿ ಬಜೆಟ್ಗಳಿಂದ ಥ್ರೋಪುಟ್ ಅನ್ನು ಹಿಂಡುತ್ತವೆ. ನೀವು ನಟ್ಸ್ ಮತ್ತು ಬೋಲ್ಟ್ಗಳನ್ನು ಇಷ್ಟಪಟ್ಟರೆ, ಅವುಗಳ ಡಾಕ್ಯುಮೆಂಟ್ಗಳು ಘನವಾಗಿರುತ್ತವೆ. [3][4]
ಅದು ಎಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತದೆ - ನೀವು 🧯🚗🏭 ನಲ್ಲಿ ತೋರಿಸಬಹುದಾದ ನೈಜ ಬಳಕೆಯ ಸಂದರ್ಭಗಳು
-
ಅಂಚಿನಲ್ಲಿರುವ ದೃಷ್ಟಿ : ಡೋರ್ಬೆಲ್ ಕ್ಯಾಮ್ಗಳು (ಜನರು vs ಸಾಕುಪ್ರಾಣಿಗಳು), ಚಿಲ್ಲರೆ ವ್ಯಾಪಾರದಲ್ಲಿ ಶೆಲ್ಫ್-ಸ್ಕ್ಯಾನಿಂಗ್, ದೋಷಗಳನ್ನು ಗುರುತಿಸುವ ಡ್ರೋನ್ಗಳು.
-
ಸಾಧನದಲ್ಲಿನ ಆಡಿಯೋ : ಸಸ್ಯಗಳಲ್ಲಿ ಎಚ್ಚರಗೊಳಿಸುವ ಪದಗಳು, ಡಿಕ್ಟೇಷನ್, ಸೋರಿಕೆ ಪತ್ತೆ.
-
ಕೈಗಾರಿಕಾ ಐಒಟಿ : ವೈಫಲ್ಯದ ಮೊದಲು ಕಂಪನ ವೈಪರೀತ್ಯಗಳಿಗಾಗಿ ಮೋಟಾರ್ಗಳು ಮತ್ತು ಪಂಪ್ಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಲಾಗುತ್ತದೆ.
-
ಆಟೋಮೋಟಿವ್ : ಚಾಲಕ ಮೇಲ್ವಿಚಾರಣೆ, ಲೇನ್ ಪತ್ತೆ, ಪಾರ್ಕಿಂಗ್ ಸಹಾಯಗಳು-ಉಪ-ಸೆಕೆಂಡ್ ಅಥವಾ ಬಸ್ಟ್.
-
ಆರೋಗ್ಯ ರಕ್ಷಣೆ : ಧರಿಸಬಹುದಾದ ಸಾಧನಗಳು ಸ್ಥಳೀಯವಾಗಿ ಆರ್ಹೆತ್ಮಿಯಾಗಳನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡುತ್ತವೆ; ನಂತರ ಸಾರಾಂಶಗಳನ್ನು ಸಿಂಕ್ ಮಾಡಿ.
-
ಸ್ಮಾರ್ಟ್ಫೋನ್ಗಳು : ಫೋಟೋ ವರ್ಧನೆ, ಸ್ಪ್ಯಾಮ್-ಕರೆ ಪತ್ತೆ, “ನನ್ನ ಫೋನ್ ಆಫ್ಲೈನ್ನಲ್ಲಿ ಹೇಗೆ ಮಾಡಿತು” ಕ್ಷಣಗಳು.
ಔಪಚಾರಿಕ ವ್ಯಾಖ್ಯಾನಗಳಿಗಾಗಿ (ಮತ್ತು “ಮಂಜು vs ಅಂಚು” ಸೋದರಸಂಬಂಧಿ ಚರ್ಚೆ), NIST ಪರಿಕಲ್ಪನಾ ಮಾದರಿಯನ್ನು ನೋಡಿ. [2]
ಅದನ್ನು ಚುರುಕಾಗಿ ಮಾಡುವ ಹಾರ್ಡ್ವೇರ್ 🔌
ಕೆಲವು ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಹೆಚ್ಚಾಗಿ ಹೆಸರು ಪರಿಶೀಲನೆಗೆ ಒಳಗಾಗುತ್ತವೆ:
-
NVIDIA ಜೆಟ್ಸನ್ - ಎಂಬೆಡೆಡ್ AI ಗಾಗಿ ರೋಬೋಟ್ಗಳು/ಕ್ಯಾಮೆರಾಗಳು-ಸ್ವಿಸ್-ಆರ್ಮಿ-ನೈಫ್ ವೈಬ್ಗಳಿಗಾಗಿ GPU-ಚಾಲಿತ ಮಾಡ್ಯೂಲ್ಗಳು.
-
ಗೂಗಲ್ ಎಡ್ಜ್ ಟಿಪಿಯು + ಲೈಟ್ಆರ್ಟಿ - ಅತ್ಯಂತ ಕಡಿಮೆ-ಶಕ್ತಿಯ ಯೋಜನೆಗಳಿಗೆ ಪರಿಣಾಮಕಾರಿ ಪೂರ್ಣಾಂಕ ನಿರ್ಣಯ ಮತ್ತು ಸುವ್ಯವಸ್ಥಿತ ರನ್ಟೈಮ್. [3]
-
ಆಪಲ್ ನ್ಯೂರಲ್ ಎಂಜಿನ್ (ANE) - ಐಫೋನ್, ಐಪ್ಯಾಡ್ ಮತ್ತು ಮ್ಯಾಕ್ಗಾಗಿ ಬಿಗಿಯಾದ ಆನ್-ಡಿವೈಸ್ ML; ಆಪಲ್ ANE ನಲ್ಲಿ ಟ್ರಾನ್ಸ್ಫಾರ್ಮರ್ಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ನಿಯೋಜಿಸುವ ಪ್ರಾಯೋಗಿಕ ಕೆಲಸವನ್ನು ಪ್ರಕಟಿಸಿದೆ. [5]
-
ಓಪನ್ವಿನೊ ಜೊತೆ ಇಂಟೆಲ್ ಸಿಪಿಯುಗಳು/ಐಜಿಪಿಯುಗಳು/ಎನ್ಪಿಯುಗಳು - ಇಂಟೆಲ್ ಹಾರ್ಡ್ವೇರ್ನಾದ್ಯಂತ “ಒಮ್ಮೆ ಬರೆಯಿರಿ, ಎಲ್ಲಿಯಾದರೂ ನಿಯೋಜಿಸಿ”; ಉಪಯುಕ್ತ ಆಪ್ಟಿಮೈಸೇಶನ್ ಪಾಸ್ಗಳು.
-
ಎಲ್ಲೆಡೆ ONNX ರನ್ಟೈಮ್ - ಫೋನ್ಗಳು, PC ಗಳು ಮತ್ತು ಗೇಟ್ವೇಗಳಲ್ಲಿ ಪ್ಲಗ್ ಮಾಡಬಹುದಾದ ಎಕ್ಸಿಕ್ಯೂಶನ್ ಪೂರೈಕೆದಾರರೊಂದಿಗೆ ತಟಸ್ಥ ರನ್ಟೈಮ್. [4]
ನಿಮಗೆ ಅವೆಲ್ಲವೂ ಬೇಕೇ? ನಿಜವಾಗಿಯೂ ಅಲ್ಲ. ನಿಮ್ಮ ಫ್ಲೀಟ್ಗೆ ಸರಿಹೊಂದುವ ಒಂದು ಬಲವಾದ ಮಾರ್ಗವನ್ನು ಆರಿಸಿ ಮತ್ತು ಅದರೊಂದಿಗೆ ಅಂಟಿಕೊಳ್ಳಿ - ಎಂಬೆಡೆಡ್ ತಂಡಗಳ ಶತ್ರು ಮಂಥನ.
ಸಾಫ್ಟ್ವೇರ್ ಸ್ಟ್ಯಾಕ್ - ಸಣ್ಣ ಪ್ರವಾಸ 🧰
-
ಮಾದರಿ ಸಂಕೋಚನ : ಪರಿಮಾಣೀಕರಣ (ಸಾಮಾನ್ಯವಾಗಿ int8 ಗೆ), ಸಮರುವಿಕೆ, ಬಟ್ಟಿ ಇಳಿಸುವಿಕೆ.
-
ಆಪರೇಟರ್-ಮಟ್ಟದ ವೇಗವರ್ಧನೆ : ನಿಮ್ಮ ಸಿಲಿಕಾನ್ಗೆ ಟ್ಯೂನ್ ಮಾಡಲಾದ ಕರ್ನಲ್ಗಳು.
-
ರನ್ಟೈಮ್ಗಳು : LiteRT, ONNX ರನ್ಟೈಮ್, OpenVINO. [3][4]
-
ನಿಯೋಜನಾ ಹೊದಿಕೆಗಳು : ಕಂಟೇನರ್ಗಳು/ಅಪ್ಲಿಕೇಶನ್ ಬಂಡಲ್ಗಳು; ಕೆಲವೊಮ್ಮೆ ಗೇಟ್ವೇಗಳಲ್ಲಿ ಸೂಕ್ಷ್ಮ ಸೇವೆಗಳು.
-
ಅಂಚಿಗೆ MLOps : OTA ಮಾದರಿ ನವೀಕರಣಗಳು, A/B ರೋಲ್ಔಟ್, ಟೆಲಿಮೆಟ್ರಿ ಲೂಪ್ಗಳು.
-
ಗೌಪ್ಯತೆ ಮತ್ತು ಭದ್ರತಾ ನಿಯಂತ್ರಣಗಳು : ಸಾಧನದಲ್ಲಿನ ಎನ್ಕ್ರಿಪ್ಶನ್, ಸುರಕ್ಷಿತ ಬೂಟ್, ದೃಢೀಕರಣ, ಎನ್ಕ್ಲೇವ್ಗಳು.
ಮಿನಿ-ಕೇಸ್: ತಪಾಸಣೆ ಡ್ರೋನ್ ತಂಡವು ಹೆವಿವೇಯ್ಟ್ ಡಿಟೆಕ್ಟರ್ ಅನ್ನು LiteRT ಗಾಗಿ ಕ್ವಾಂಟೈಸ್ಡ್ ವಿದ್ಯಾರ್ಥಿ ಮಾದರಿಗೆ ಬಟ್ಟಿ ಇಳಿಸಿತು, ನಂತರ NMS ಅನ್ನು ಆನ್-ಡಿವೈಸ್ನಲ್ಲಿ ಬೆಸೆಯಿತು. ಕಡಿಮೆ ಕಂಪ್ಯೂಟ್ ಡ್ರಾದಿಂದಾಗಿ ಹಾರಾಟದ ಸಮಯ ~15% ಸುಧಾರಿಸಿತು; ಅಪ್ಲೋಡ್ ವಾಲ್ಯೂಮ್ ಎಕ್ಸೆಪ್ಶನ್ ಫ್ರೇಮ್ಗಳಿಗೆ ಕುಗ್ಗಿತು. (ವಿಧಾನ: ಸೈಟ್ನಲ್ಲಿ ಡೇಟಾಸೆಟ್ ಸೆರೆಹಿಡಿಯುವಿಕೆ, ಪೋಸ್ಟ್-ಕ್ವಾಂಟ್ ಮಾಪನಾಂಕ ನಿರ್ಣಯ, ಪೂರ್ಣ ರೋಲ್ಔಟ್ಗೆ ಮೊದಲು ನೆರಳು-ಮೋಡ್ A/B.)
ಹೋಲಿಕೆ ಕೋಷ್ಟಕ - ಜನಪ್ರಿಯ ಎಡ್ಜ್ AI ಆಯ್ಕೆಗಳು 🧪
ನಿಜವಾದ ಮಾತು: ಈ ಟೇಬಲ್ ಅಭಿಪ್ರಾಯಗಳಿಂದ ಕೂಡಿದ್ದು ಸ್ವಲ್ಪ ಗೊಂದಲಮಯವಾಗಿದೆ - ನಿಜವಾದ ಜಗತ್ತಿನಂತೆಯೇ.
| ಪರಿಕರ / ವೇದಿಕೆ | ಅತ್ಯುತ್ತಮ ಪ್ರೇಕ್ಷಕರು | ಬೆಲೆ ಬಾಲ್ ಪಾರ್ಕ್ | ಅದು ಅಂಚಿನಲ್ಲಿ ಏಕೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ |
|---|---|---|---|
| LiteRT (ಮಾಜಿ-TFLite) | ಆಂಡ್ರಾಯ್ಡ್, ತಯಾರಕರು, ಎಂಬೆಡೆಡ್ | $ ನಿಂದ $$ ಗೆ | ಲೀನ್ ರನ್ಟೈಮ್, ಬಲವಾದ ಡಾಕ್ಸ್, ಮೊಬೈಲ್-ಮೊದಲ ಕಾರ್ಯಾಚರಣೆಗಳು. ಆಫ್ಲೈನ್ನಲ್ಲಿ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. [3] |
| ONNX ರನ್ಟೈಮ್ | ಕ್ರಾಸ್-ಪ್ಲಾಟ್ಫಾರ್ಮ್ ತಂಡಗಳು | $ | ತಟಸ್ಥ ಸ್ವರೂಪ, ಪ್ಲಗ್ ಮಾಡಬಹುದಾದ ಹಾರ್ಡ್ವೇರ್ ಬ್ಯಾಕೆಂಡ್ಗಳು-ಭವಿಷ್ಯ ಸ್ನೇಹಿ. [4] |
| ಓಪನ್ವಿನೊ | ಇಂಟೆಲ್-ಕೇಂದ್ರಿತ ನಿಯೋಜನೆಗಳು | $ | ಒಂದು ಟೂಲ್ಕಿಟ್, ಹಲವು ಇಂಟೆಲ್ ಗುರಿಗಳು; ಸೂಕ್ತ ಆಪ್ಟಿಮೈಸೇಶನ್ ಪಾಸ್ಗಳು. |
| NVIDIA ಜೆಟ್ಸನ್ | ದೃಷ್ಟಿ-ಭಾರವಾದ ರೊಬೊಟಿಕ್ಸ್ | $$ ನಿಂದ $$$ ಗೆ | ಊಟದ ಡಬ್ಬಿಯಲ್ಲಿ GPU ವೇಗವರ್ಧನೆ; ವಿಶಾಲ ಪರಿಸರ ವ್ಯವಸ್ಥೆ. |
| ಆಪಲ್ ಎಎನ್ಇ | iOS/iPadOS/macOS ಅಪ್ಲಿಕೇಶನ್ಗಳು | ಸಾಧನದ ಬೆಲೆ | ಬಿಗಿಯಾದ HW/SW ಏಕೀಕರಣ; ಉತ್ತಮವಾಗಿ ದಾಖಲಿಸಲಾದ ANE ಟ್ರಾನ್ಸ್ಫಾರ್ಮರ್ ಕೆಲಸ. [5] |
| ಎಡ್ಜ್ ಟಿಪಿಯು + ಲೈಟ್ಆರ್ಟಿ | ಅತಿ ಕಡಿಮೆ ವಿದ್ಯುತ್ ಯೋಜನೆಗಳು | $ | ಅಂಚಿನಲ್ಲಿ ಪರಿಣಾಮಕಾರಿ int8 ನಿರ್ಣಯ; ಚಿಕ್ಕದಾದರೂ ಸಮರ್ಥ. [3] |
ಎಡ್ಜ್ AI ಮಾರ್ಗವನ್ನು ಹೇಗೆ ಆರಿಸುವುದು - ಒಂದು ಸಣ್ಣ ನಿರ್ಧಾರ ವೃಕ್ಷ 🌳
-
ನಿಜ ಜೀವನದಲ್ಲಿ ಕಷ್ಟಪಡುತ್ತೀರಾ? ವೇಗವರ್ಧಕಗಳು + ಕ್ವಾಂಟೈಸ್ಡ್ ಮಾದರಿಗಳೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ.
-
ಹಲವು ರೀತಿಯ ಸಾಧನಗಳಿವೆಯೇ? ಪೋರ್ಟಬಿಲಿಟಿಗಾಗಿ ONNX ರನ್ಟೈಮ್ ಅಥವಾ ಓಪನ್ವಿನೊವನ್ನು ಆರಿಸಿ. [4]
-
ಮೊಬೈಲ್ ಅಪ್ಲಿಕೇಶನ್ ಅನ್ನು ರವಾನಿಸುತ್ತಿದ್ದೀರಾ? LiteRT ಕನಿಷ್ಠ ಪ್ರತಿರೋಧದ ಮಾರ್ಗವಾಗಿದೆ. [3]
-
ರೊಬೊಟಿಕ್ಸ್ ಅಥವಾ ಕ್ಯಾಮೆರಾ ವಿಶ್ಲೇಷಣೆ? ಜೆಟ್ಸನ್ನ GPU-ಸ್ನೇಹಿ ಕಾರ್ಯಾಚರಣೆಗಳು ಸಮಯವನ್ನು ಉಳಿಸುತ್ತವೆ.
-
ಗೌಪ್ಯತೆಯ ನಿಲುವು ಕಟ್ಟುನಿಟ್ಟಾಗಿದೆಯೇ? ಡೇಟಾವನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಇರಿಸಿ, ಉಳಿದ ಸಮಯದಲ್ಲಿ ಎನ್ಕ್ರಿಪ್ಟ್ ಮಾಡಿ, ಲಾಗ್ ಒಟ್ಟುಗೂಡಿಸುವಿಕೆಯನ್ನು ಕಚ್ಚಾ ಫ್ರೇಮ್ಗಳಲ್ಲ.
-
ಚಿಕ್ಕ ತಂಡವೇ? ವಿಲಕ್ಷಣ ಪರಿಕರ ಸರಪಳಿಗಳನ್ನು ತಪ್ಪಿಸಿ - ನೀರಸವು ಸುಂದರವಾಗಿರುತ್ತದೆ.
-
ಮಾದರಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆಯೇ? ಮೊದಲ ದಿನದಿಂದಲೇ OTA ಮತ್ತು ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ಯೋಜಿಸಿ.
ಅಪಾಯಗಳು, ಮಿತಿಗಳು ಮತ್ತು ನೀರಸ ಆದರೆ ಮುಖ್ಯವಾದ ಅಂಶಗಳು 🧯
-
ಮಾದರಿ ಡ್ರಿಫ್ಟ್ - ಪರಿಸರ ಬದಲಾವಣೆ; ವಿತರಣೆಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ, ನೆರಳು ಮೋಡ್ಗಳನ್ನು ಚಲಾಯಿಸಿ, ನಿಯತಕಾಲಿಕವಾಗಿ ಮರುತರಬೇತಿ ನೀಡಿ.
-
ಕಂಪ್ಯೂಟ್ ಸೀಲಿಂಗ್ಗಳು - ಬಿಗಿಯಾದ ಮೆಮೊರಿ/ಪವರ್ ಫೋರ್ಸ್ ಸಣ್ಣ ಮಾದರಿಗಳು ಅಥವಾ ಸಡಿಲವಾದ ನಿಖರತೆ.
-
ಭದ್ರತೆ - ಭೌತಿಕ ಪ್ರವೇಶವನ್ನು ಊಹಿಸಿ; ಸುರಕ್ಷಿತ ಬೂಟ್, ಸಹಿ ಮಾಡಿದ ಕಲಾಕೃತಿಗಳು, ದೃಢೀಕರಣ, ಕನಿಷ್ಠ ಸವಲತ್ತು ಸೇವೆಗಳನ್ನು ಬಳಸಿ.
-
ಡೇಟಾ ಆಡಳಿತ - ಸ್ಥಳೀಯ ಸಂಸ್ಕರಣೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ, ಆದರೆ ನಿಮಗೆ ಇನ್ನೂ ಒಪ್ಪಿಗೆ, ಧಾರಣ ಮತ್ತು ಸ್ಕೋಪ್ಡ್ ಟೆಲಿಮೆಟ್ರಿ ಅಗತ್ಯವಿದೆ.
-
ಫ್ಲೀಟ್ ಕಾರ್ಯಾಚರಣೆಗಳು - ಸಾಧನಗಳು ಕೆಟ್ಟ ಸಮಯದಲ್ಲಿ ಆಫ್ಲೈನ್ಗೆ ಹೋಗುತ್ತವೆ; ವಿನ್ಯಾಸ ಮುಂದೂಡಲ್ಪಟ್ಟ ನವೀಕರಣಗಳು ಮತ್ತು ಪುನರಾರಂಭಿಸಬಹುದಾದ ಅಪ್ಲೋಡ್ಗಳು.
-
ಪ್ರತಿಭಾ ಮಿಶ್ರಣ - ಎಂಬೆಡೆಡ್ + ML + DevOps ಒಂದು ವೈವಿಧ್ಯಮಯ ತಂಡ; ಬೇಗನೆ ಕ್ರಾಸ್-ಟ್ರೈನ್ ಮಾಡಿ.
ಉಪಯುಕ್ತವಾದದ್ದನ್ನು ಸಾಗಿಸಲು ಪ್ರಾಯೋಗಿಕ ಮಾರ್ಗಸೂಚಿ 🗺️
-
ಲೈನ್ 3 ರಲ್ಲಿ ಅಳೆಯಬಹುದಾದ ಮೌಲ್ಯ-ದೋಷ ಪತ್ತೆ, ಸ್ಮಾರ್ಟ್ ಸ್ಪೀಕರ್ನಲ್ಲಿ ವೇಕ್ ವರ್ಡ್ ಇತ್ಯಾದಿಗಳೊಂದಿಗೆ ಒಂದು ಬಳಕೆಯ ಸಂದರ್ಭವನ್ನು ಆರಿಸಿ.
-
ಅಚ್ಚುಕಟ್ಟಾದ ಡೇಟಾಸೆಟ್ ಅನ್ನು ಸಂಗ್ರಹಿಸಿ ; ವಾಸ್ತವಕ್ಕೆ ಹೊಂದಿಕೆಯಾಗುವಂತೆ ಶಬ್ದವನ್ನು ಸೇರಿಸಿ.
-
ಉತ್ಪಾದನಾ ಯಂತ್ರಾಂಶಕ್ಕೆ ಹತ್ತಿರವಿರುವ ಡೆವ್ ಕಿಟ್ನಲ್ಲಿ ಮೂಲಮಾದರಿ
-
ಕ್ವಾಂಟೀಕರಣ/ಸಮರುವಿಕೆಯೊಂದಿಗೆ ಮಾದರಿಯನ್ನು ಸಂಕುಚಿತಗೊಳಿಸಿ
-
ಕ್ಲೀನ್ API ನಲ್ಲಿ ನಿರ್ಣಯವನ್ನು ಸುತ್ತಿ - ಏಕೆಂದರೆ ಸಾಧನಗಳು ಬೆಳಿಗ್ಗೆ 2 ಗಂಟೆಗೆ ಸ್ಥಗಿತಗೊಳ್ಳುತ್ತವೆ.
-
ಗೌಪ್ಯತೆಯನ್ನು ಗೌರವಿಸುವ ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿ
-
ಗಟ್ಟಿಗೊಳಿಸಿದ ಭದ್ರತೆ : ಸಹಿ ಮಾಡಿದ ಬೈನರಿಗಳು, ಸುರಕ್ಷಿತ ಬೂಟ್, ಕನಿಷ್ಠ ಸೇವೆಗಳು ತೆರೆದಿರುತ್ತವೆ.
-
ಯೋಜನೆ OTA : ಅಸ್ಥಿರವಾದ ರೋಲ್ಔಟ್ಗಳು, ಕ್ಯಾನರಿಗಳು, ತ್ವರಿತ ರೋಲ್ಬ್ಯಾಕ್.
-
ಒಂದು ಗ್ನಾರ್ಲಿ ಕಾರ್ನರ್ ಕೇಸ್ನಲ್ಲಿ ಪೈಲಟ್ ಮಾಡಿ - ಅದು ಅಲ್ಲಿ ಬದುಕುಳಿದರೆ, ಅದು ಎಲ್ಲಿ ಬೇಕಾದರೂ ಬದುಕುಳಿಯುತ್ತದೆ.
-
ಪ್ಲೇಬುಕ್ನೊಂದಿಗೆ ಸ್ಕೇಲ್ ಮಾಡಿ : ನೀವು ಮಾದರಿಗಳನ್ನು ಹೇಗೆ ಸೇರಿಸುತ್ತೀರಿ, ಕೀಗಳನ್ನು ತಿರುಗಿಸುತ್ತೀರಿ, ಡೇಟಾವನ್ನು ಆರ್ಕೈವ್ ಮಾಡುತ್ತೀರಿ - ಆದ್ದರಿಂದ ಯೋಜನೆ #2 ಗೊಂದಲಮಯವಲ್ಲ.
ಕುತೂಹಲಗಳು ಎಂದರೇನು ಎಂಬುದಕ್ಕೆ ಸಣ್ಣ ಉತ್ತರಗಳು
ಎಡ್ಜ್ AI ಒಂದು ಸಣ್ಣ ಕಂಪ್ಯೂಟರ್ನಲ್ಲಿ ಸಣ್ಣ ಮಾದರಿಯನ್ನು ಮಾತ್ರ ಚಲಾಯಿಸುತ್ತಿದೆಯೇ?
ಹೆಚ್ಚಾಗಿ, ಹೌದು-ಆದರೆ ಗಾತ್ರವು ಇಡೀ ಕಥೆಯಲ್ಲ. ಇದು ಲೇಟೆನ್ಸಿ ಬಜೆಟ್ಗಳು, ಗೌಪ್ಯತಾ ಭರವಸೆಗಳು ಮತ್ತು ಸ್ಥಳೀಯವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಮತ್ತು ಜಾಗತಿಕವಾಗಿ ಕಲಿಯುವ ಅನೇಕ ಸಾಧನಗಳನ್ನು ಸಂಘಟಿಸುವುದರ ಬಗ್ಗೆಯೂ ಆಗಿದೆ. [1]
ನಾನು ಕೂಡ ತುದಿಯಲ್ಲಿ ತರಬೇತಿ ನೀಡಬಹುದೇ?
ಹಗುರವಾದ ಆನ್-ಡಿವೈಸ್ ತರಬೇತಿ/ವೈಯಕ್ತೀಕರಣ ಅಸ್ತಿತ್ವದಲ್ಲಿದೆ; ಭಾರವಾದ ತರಬೇತಿ ಇನ್ನೂ ಕೇಂದ್ರೀಯವಾಗಿ ಚಲಿಸುತ್ತದೆ. ನೀವು ಸಾಹಸಮಯರಾಗಿದ್ದರೆ ONNX ರನ್ಟೈಮ್ ಆನ್-ಡಿವೈಸ್ ತರಬೇತಿ ಆಯ್ಕೆಗಳನ್ನು ದಾಖಲಿಸುತ್ತದೆ. [4]
ಎಡ್ಜ್ AI vs ಫಾಗ್ ಕಂಪ್ಯೂಟಿಂಗ್ ಎಂದರೇನು?
ಫಾಗ್ ಮತ್ತು ಎಡ್ಜ್ ಸೋದರಸಂಬಂಧಿಗಳು. ಎರಡೂ ಕಂಪ್ಯೂಟ್ ಅನ್ನು ಡೇಟಾ ಮೂಲಗಳಿಗೆ ಹತ್ತಿರ ತರುತ್ತವೆ, ಕೆಲವೊಮ್ಮೆ ಹತ್ತಿರದ ಗೇಟ್ವೇಗಳ ಮೂಲಕ. ಔಪಚಾರಿಕ ವ್ಯಾಖ್ಯಾನಗಳು ಮತ್ತು ಸಂದರ್ಭಕ್ಕಾಗಿ, NIST ನೋಡಿ. [2]
ಎಡ್ಜ್ AI ಯಾವಾಗಲೂ ಗೌಪ್ಯತೆಯನ್ನು ಸುಧಾರಿಸುತ್ತದೆಯೇ?
ಇದು ಸಹಾಯ ಮಾಡುತ್ತದೆ - ಆದರೆ ಇದು ಮ್ಯಾಜಿಕ್ ಅಲ್ಲ. ನಿಮಗೆ ಇನ್ನೂ ಕನಿಷ್ಠೀಕರಣ, ಸುರಕ್ಷಿತ ನವೀಕರಣ ಮಾರ್ಗಗಳು ಮತ್ತು ಎಚ್ಚರಿಕೆಯಿಂದ ಲಾಗಿಂಗ್ ಅಗತ್ಯವಿದೆ. ಗೌಪ್ಯತೆಯನ್ನು ಚೆಕ್ಬಾಕ್ಸ್ನಂತೆ ಅಲ್ಲ, ಅಭ್ಯಾಸವಾಗಿ ಪರಿಗಣಿಸಿ.
ನೀವು ನಿಜವಾಗಿಯೂ ಓದಬಹುದಾದ ಆಳವಾದ ಅಧ್ಯಯನಗಳು 📚
1) ನಿಖರತೆಯನ್ನು ಹಾಳು ಮಾಡದ ಮಾದರಿ ಆಪ್ಟಿಮೈಸೇಶನ್
ಕ್ವಾಂಟೀಕರಣವು ಮೆಮೊರಿಯನ್ನು ಕಡಿತಗೊಳಿಸಬಹುದು ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ವೇಗಗೊಳಿಸಬಹುದು, ಆದರೆ ಪ್ರತಿನಿಧಿ ದತ್ತಾಂಶದೊಂದಿಗೆ ಮಾಪನಾಂಕ ನಿರ್ಣಯಿಸಬಹುದು ಅಥವಾ ಮಾದರಿಯು ಸಂಚಾರ ಕೋನ್ಗಳಿರುವಲ್ಲಿ ಅಳಿಲುಗಳನ್ನು ಭ್ರಮಿಸಬಹುದು. ಬಟ್ಟಿ ಇಳಿಸುವಿಕೆ - ಶಿಕ್ಷಕನು ಚಿಕ್ಕ ವಿದ್ಯಾರ್ಥಿಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡುತ್ತಾನೆ - ಸಾಮಾನ್ಯವಾಗಿ ಶಬ್ದಾರ್ಥವನ್ನು ಸಂರಕ್ಷಿಸುತ್ತಾನೆ. [3]
2) ಪ್ರಾಯೋಗಿಕವಾಗಿ ಎಡ್ಜ್ ನಿರ್ಣಯ ರನ್ಟೈಮ್ಗಳು
LiteRT ಯ ಇಂಟರ್ಪ್ರಿಟರ್ ರನ್ಟೈಮ್ನಲ್ಲಿ ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಸ್ಥಿರ-ಕಡಿಮೆ ಮೆಮೊರಿ ಚರ್ನ್ ಆಗಿದೆ. ONNX ರನ್ಟೈಮ್ ಎಕ್ಸಿಕ್ಯೂಶನ್ ಪ್ರೊವೈಡರ್ಗಳ ಮೂಲಕ ವಿಭಿನ್ನ ವೇಗವರ್ಧಕಗಳಿಗೆ ಪ್ಲಗ್ ಮಾಡುತ್ತದೆ. ಎರಡೂ ಬೆಳ್ಳಿ ಬುಲೆಟ್ ಅಲ್ಲ; ಎರಡೂ ಘನ ಸುತ್ತಿಗೆಗಳು. [3][4]
3) ಕಾಡಿನಲ್ಲಿ ದೃಢತೆ
ಶಾಖ, ಧೂಳು, ಫ್ಲೇಕಿ ಪವರ್, ಸ್ಲ್ಯಾಪ್ಡ್ಯಾಶ್ ವೈ-ಫೈ: ಪೈಪ್ಲೈನ್ಗಳನ್ನು ಮರುಪ್ರಾರಂಭಿಸುವ, ನಿರ್ಧಾರಗಳನ್ನು ಸಂಗ್ರಹಿಸುವ ಮತ್ತು ನೆಟ್ವರ್ಕ್ ಮರಳಿದಾಗ ಸಮನ್ವಯಗೊಳಿಸುವ ಕಾವಲುಗಾರರನ್ನು ನಿರ್ಮಿಸಿ. ಗಮನ ಸೆಳೆಯುವುದಕ್ಕಿಂತ ಕಡಿಮೆ ಆಕರ್ಷಕ - ಆದರೆ ಹೆಚ್ಚು ಮುಖ್ಯ.
ಸಭೆಗಳಲ್ಲಿ ನೀವು ಪುನರಾವರ್ತಿಸುವ ನುಡಿಗಟ್ಟು - ಎಡ್ಜ್ AI ಎಂದರೇನು 🗣️
ಎಡ್ಜ್ AI, ಗುಪ್ತಚರವನ್ನು ದತ್ತಾಂಶಕ್ಕೆ ಹತ್ತಿರಕ್ಕೆ ಸರಿಸುತ್ತದೆ, ಇದರಿಂದಾಗಿ ವಿಳಂಬ, ಗೌಪ್ಯತೆ, ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹತೆಯ ಪ್ರಾಯೋಗಿಕ ನಿರ್ಬಂಧಗಳನ್ನು ಪೂರೈಸುತ್ತದೆ. ಮ್ಯಾಜಿಕ್ ಒಂದು ಚಿಪ್ ಅಥವಾ ಚೌಕಟ್ಟಿನಲ್ಲ - ಅದು ಎಲ್ಲಿ ಏನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಬೇಕೆಂದು ಬುದ್ಧಿವಂತಿಕೆಯಿಂದ ಆರಿಸಿಕೊಳ್ಳುತ್ತದೆ.
ಅಂತಿಮ ಟಿಪ್ಪಣಿಗಳು - ತುಂಬಾ ಉದ್ದವಾಗಿದೆ, ನಾನು ಅದನ್ನು ಓದಿಲ್ಲ 🧵
ಎಡ್ಜ್ AI ಮಾದರಿಗಳನ್ನು ಡೇಟಾ ಬಳಿ ರನ್ ಮಾಡುತ್ತದೆ ಇದರಿಂದ ಉತ್ಪನ್ನಗಳು ವೇಗವಾಗಿ, ಖಾಸಗಿಯಾಗಿ ಮತ್ತು ದೃಢವಾಗಿ ಕಾಣುತ್ತವೆ. ನೀವು ಎರಡೂ ಪ್ರಪಂಚಗಳಲ್ಲಿ ಅತ್ಯುತ್ತಮವಾಗಿ ಸ್ಥಳೀಯ ನಿರ್ಣಯವನ್ನು ಕ್ಲೌಡ್ ಮೇಲ್ವಿಚಾರಣೆಯೊಂದಿಗೆ ಸಂಯೋಜಿಸುತ್ತೀರಿ. ನಿಮ್ಮ ಸಾಧನಗಳಿಗೆ ಹೊಂದಿಕೆಯಾಗುವ ರನ್ಟೈಮ್ ಅನ್ನು ಆರಿಸಿ, ನಿಮಗೆ ಸಾಧ್ಯವಾದಾಗ ವೇಗವರ್ಧಕಗಳನ್ನು ಅವಲಂಬಿಸಿ, ಕಂಪ್ರೆಷನ್ನೊಂದಿಗೆ ಮಾದರಿಗಳನ್ನು ಅಚ್ಚುಕಟ್ಟಾಗಿ ಇರಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಕೆಲಸವು ಅದರ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವಂತೆ ಫ್ಲೀಟ್ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿ - ಏಕೆಂದರೆ, ಅದು ಇರಬಹುದು. ಯಾರಾದರೂ ಎಡ್ಜ್ AI ಎಂದರೇನು ಎಂದು , ಹೇಳಿ: ಸ್ಮಾರ್ಟ್ ನಿರ್ಧಾರಗಳು, ಸ್ಥಳೀಯವಾಗಿ, ಸಮಯಕ್ಕೆ ಸರಿಯಾಗಿ ತೆಗೆದುಕೊಳ್ಳಲಾಗುತ್ತದೆ. ನಂತರ ನಗುತ್ತಾ ವಿಷಯವನ್ನು ಬ್ಯಾಟರಿಗಳಿಗೆ ಬದಲಾಯಿಸಿ. 🔋🙂
ಉಲ್ಲೇಖಗಳು
-
IBM - ಎಡ್ಜ್ AI ಎಂದರೇನು? (ವ್ಯಾಖ್ಯಾನ, ಪ್ರಯೋಜನಗಳು).
https://www.ibm.com/think/topics/edge-ai -
NIST - SP 500-325: ಫಾಗ್ ಕಂಪ್ಯೂಟಿಂಗ್ ಪರಿಕಲ್ಪನಾ ಮಾದರಿ (ಫಾಗ್/ಎಡ್ಜ್ಗೆ ಔಪಚಾರಿಕ ಸಂದರ್ಭ).
https://csrc.nist.gov/pubs/sp/500/325/final -
ಗೂಗಲ್ ಎಐ ಎಡ್ಜ್ - ಲೈಟ್ಆರ್ಟಿ (ಹಿಂದೆ ಟೆನ್ಸರ್ಫ್ಲೋ ಲೈಟ್) (ರನ್ಟೈಮ್, ಕ್ವಾಂಟೈಸೇಶನ್, ವಲಸೆ).
https://ai.google.dev/edge/littert -
ONNX ರನ್ಟೈಮ್ - ಆನ್-ಡಿವೈಸ್ ತರಬೇತಿ (ಪೋರ್ಟಬಲ್ ರನ್ಟೈಮ್ + ಎಡ್ಜ್ ಸಾಧನಗಳಲ್ಲಿ ತರಬೇತಿ).
https://onnxruntime.ai/docs/get-started/training-on-device.html -
ಆಪಲ್ ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ರಿಸರ್ಚ್ - ಆಪಲ್ ನ್ಯೂರಲ್ ಎಂಜಿನ್ನಲ್ಲಿ ಟ್ರಾನ್ಸ್ಫಾರ್ಮರ್ಗಳನ್ನು ನಿಯೋಜಿಸುವುದು (ANE ದಕ್ಷತೆಯ ಟಿಪ್ಪಣಿಗಳು).
https://machinelearning.apple.com/research/neural-engine-transformers