ಐದು ವರ್ಷಗಳಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಿಂದ ದೊಡ್ಡ ಅನಾಹುತ; ಗೂಗಲ್ ಡೀಪ್‌ಮೈಂಡ್ ಭದ್ರತಾ ಸಂಶೋಧಕ ರಾಜೀನಾಮೆ

0
276

ಸನ್ಮಾರ್ಗ ವಾರ್ತೆ

ನ್ಯೂಯಾರ್ಕ್: ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (ಎಐ) ಕ್ಷೇತ್ರದಲ್ಲಿ ಭದ್ರತಾ ಕಳವಳಗಳು ಹೆಚ್ಚುತ್ತಿರುವ ಹಿನ್ನೆಲೆಯಲ್ಲಿ, ಗೂಗಲ್ ಡೀಪ್‌ಮೈಂಡ್‌ನ ಎಜಿಐ (ಕೃತಕ ಸಾಮಾನ್ಯ ಬುದ್ಧಿಮತ್ತೆ) ಭದ್ರತಾ ತಂಡದಲ್ಲಿ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದ ಜೋಶ್ ಎಂಜೆಲ್ಸ್ ಕಂಪನಿಗೆ ರಾಜೀನಾಮೆ ನೀಡಿದ್ದಾರೆ. ಆಂಥ್ರೋಪಿಕ್ ಮತ್ತು ಒಪನ್‌ಎಐ ಮುಂತಾದ ಅಗ್ರಗಣ್ಯ ಕಂಪನಿಗಳ ಆಫರ್‌ಗಳನ್ನು ತಿರಸ್ಕರಿಸಿ ಅವರು ಡೀಪ್‌ಮೈಂಡ್‌ ತೊರೆದಿದ್ದಾರೆ. ಬಳಿಕ ಅವರು ಎಐ ಮೌಲ್ಯಮಾಪನ ಸಂಸ್ಥೆಯಾದ ಎಂಇಟಿಆರ್‌ನಲ್ಲಿ ಹೊಸ ಜವಾಬ್ದಾರಿಯನ್ನು ವಹಿಸಿಕೊಂಡಿದ್ದಾರೆ.

ಮುಂದಿನ ಐದು ವರ್ಷಗಳಲ್ಲಿ ಎಐ ವ್ಯವಸ್ಥೆಗಳು ಮಾನವ ಕುಲಕ್ಕೆ ಗಂಭೀರ ಹಾನಿಯನ್ನುಂಟುಮಾಡುವ ಭಯಾನಕ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿವೆ ಎಂದು ಅವರು ಎಕ್ಸ್‌ (X) ನಲ್ಲಿ ಹಂಚಿಕೊಂಡಿದ್ದಾರೆ. ಪ್ರಪಂಚದಲ್ಲಿ ಎಐ ಸುರಕ್ಷತೆಯೇ ಅತ್ಯಂತ ಮುಖ್ಯವಾದ ವಿಷಯ ಎಂಬ ನಂಬಿಕೆಯಿಂದಾಗಿ ಈ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಂಡಿರುವುದಾಗಿ ಅವರು ಹೇಳಿದ್ದಾರೆ. ಎಐ ಸಂಶೋಧಕರು ‘ಪುನರಾವರ್ತಿತ ಸ್ವಯಂ-ಸುಧಾರಣೆ’ ಎಂದು ಕರೆಯುವ ವಿದ್ಯಮಾನವನ್ನು ಪ್ರಮುಖ ಕಳವಳವಾಗಿ ಬೆಟ್ಟು ಮಾಡಿದ್ದಾರೆ.

ಒಂದು ಎಐ ವ್ಯವಸ್ಥೆಯು ಮತ್ತೊಂದು ಎಐ ವ್ಯವಸ್ಥೆಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುವ ಅಥವಾ ಸುಧಾರಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತದೆ. ಈ ಹೊಸ ವ್ಯವಸ್ಥೆಯು ಹೆಚ್ಚು ಬುದ್ಧಿವಂತವಾಗುತ್ತದೆ ಮತ್ತು ಮತ್ತೊಮ್ಮೆ ಎಐ ಅನ್ನು ಸುಧಾರಿಸುತ್ತದೆ, ಇದು ಒಂದು ಪ್ರತಿಕ್ರಿಯೆ ಲೂಪ್ ಅನ್ನು ರೂಪಿಸುತ್ತದೆ. ಇಂತಹ ವ್ಯವಸ್ಥೆಗಳು ಮಾನವ ಗುರಿಗಳೊಂದಿಗೆ ಹೊಂದಿಕೆಯಾಗದಿದ್ದರೆ, ಫಲಿತಾಂಶಗಳು ವಿನಾಶಕಾರಿಯಾಗಬಹುದು. ಮಾನವರಿಗಿಂತ ಉತ್ತಮವಾಗಿ ವಿವಿಧ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಬಲ್ಲ ‘ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್’ ನಿರ್ಮಿಸಲು ಅಗ್ರ ಎಐ ಕಂಪನಿಗಳು ಸ್ಪರ್ಧಿಸುತ್ತಿವೆ ಎಂದು ಎಂಜೆಲ್ಸ್ ಹೇಳುತ್ತಾರೆ. ಆದರೆ, ಅಂತಹ ವ್ಯವಸ್ಥೆಗಳು ತಮ್ಮನ್ನು ತಾವೇ ಸುಧಾರಿಸಿಕೊಳ್ಳಲು ಅನುಮತಿ ನೀಡುವ ಮೊದಲು ಅವುಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಸುರಕ್ಷಿತವಾಗಿರಿಸುವುದು ಹೇಗೆ ಎಂಬುದು ಸಂಶೋಧಕರಿಗೆ ಇನ್ನೂ ಸಂಪೂರ್ಣವಾಗಿ ತಿಳಿದಿಲ್ಲದಿರುವುದು ಮುಖ್ಯ ಸವಾಲಾಗಿದೆ.

ಈ ಮಧ್ಯೆ, ಎಐ ವ್ಯವಸ್ಥೆಗಳಿಂದ ಕೆಲವು ಆತಂಕಕಾರಿ ಘಟನೆಗಳು ನಡೆಯುತ್ತಿವೆ ಎಂದು ಅವರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ. ಇವುಗಳಲ್ಲಿ ಕೆಲವು ಮಾದರಿಗಳು ಪರಸ್ಪರ ರಹಸ್ಯ ಒಪ್ಪಂದಗಳನ್ನು ಮಾಡಿಕೊಳ್ಳುವುದು, ಕಂಪನಿಗಳ ಭದ್ರತಾ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹ್ಯಾಕ್ ಮಾಡಲು ಪ್ರಯತ್ನಿಸುವುದು, ತಮ್ಮ ಚಟುವಟಿಕೆಗಳನ್ನು ರಹಸ್ಯವಾಗಿಡುವುದು ಮತ್ತು ಮಾನವರ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರಲು ಅಥವಾ ವಂಚಿಸಲು ಪ್ರಯತ್ನಿಸುವುದನ್ನು ಒಳಗೊಂಡಿವೆ. ಕಾಲಾನಂತರದಲ್ಲಿ ಪ್ರಸ್ತುತ ಎಐ ಮಾದರಿಗಳು ಹೆಚ್ಚು ಸುರಕ್ಷಿತವಾಗುವ ಬದಲು ಭದ್ರತಾ ಮಾನದಂಡಗಳಿಂದ ವಿಚಲಿತಗೊಳ್ಳುವ ಪ್ರವೃತ್ತಿಯನ್ನು ಹೊಂದಿವೆ ಮತ್ತು ಸ್ವಯಂ-ಸುಧಾರಿಸುವ ಎಐನ ಮುಂದಿನ ಹಂತಕ್ಕೆ ತೆರಳುವ ಮೊದಲು ಇದನ್ನು ದೊಡ್ಡ ಎಚ್ಚರಿಕೆಯಾಗಿ ಕಾಣಬೇಕು ಎಂದು ಅವರು ಹೇಳಿದರು.

ಎಐ ಅಭಿವೃದ್ಧಿಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿಲ್ಲಿಸಬೇಕೆಂದು ತಾನು ಪ್ರತಿಪಾದಿಸುತ್ತಿಲ್ಲ, ಬದಲಿಗೆ ಭದ್ರತಾ ಸಂಶೋಧನೆಯು ಅದರೊಂದಿಗೆ ಸರಿಹೊಂದುವವರೆಗೆ ಅಭಿವೃದ್ಧಿಯ ವೇಗವನ್ನು ನಿಧಾನಗೊಳಿಸಬೇಕೆಂದು ಎಂಜೆಲ್ಸ್ ಹೇಳಿದರು. ಮಾದರಿಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಮಾಪನ ಮಾಡುವ ನಮ್ಮ ಸಾಮರ್ಥ್ಯಕ್ಕಿಂತ ಎಐ ನ ಸಾಮರ್ಥ್ಯಗಳು ವೇಗವಾಗಿ ಬೆಳೆಯಲು ಬಿಡಬಾರದು ಎಂದು ಅವರು ತಿಳಿಸಿದರು.

ಪುನರಾವರ್ತಿತ ಎಚ್ಚರಿಕೆಗಳು

ಕಳೆದ ವಾರ, ಆಂಥ್ರೋಪಿಕ್‌ನ ಮಾಜಿ ಸಂಶೋಧಕ ಜೇಕಬ್ ಕಾಕ್ಸನ್ ಇದೇ ರೀತಿಯ ಎಚ್ಚರಿಕೆಯನ್ನು ನೀಡಿದ್ದರು. ಈ ದಶಕದ ಅಂತ್ಯದ ವೇಳೆಗೆ ಎಐ ಇಡೀ ಮಾನವ ಕುಲವನ್ನೇ ನಾಶಪಡಿಸಬಹುದು ಎಂದು ಅವರು ಎಚ್ಚರಿಸಿದ್ದರು. ಮುಂದಿನ ಹತ್ತು ವರ್ಷಗಳಲ್ಲಿ ಎಐ ಮಾನವ ಕುಲವನ್ನು ನಾಶಮಾಡುವ ಶೇಕಡಾ 10 ಕ್ಕಿಂತ ಹೆಚ್ಚು ಅವಕಾಶವಿದೆ ಎಂದು ಆಂಥ್ರೋಪಿಕ್‌ನ ಜೋಡಣೆ ವಿಜ್ಞಾನ ಮುಖ್ಯಸ್ಥ ಇವಾನ್ ಹಬಿಂಗರ್ ಈ ಅವಲೋಕನವನ್ನು ಪ್ರತಿಧ್ವನಿಸಿದ್ದಾರೆ.