AI ಸುಳ್ಳುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವುದು: ಅವುಗಳ ಸತ್ಯಾಸತ್ಯತೆಯನ್ನು ನಿರ್ಣಯಿಸಲು ಒಂದು ಹೊಸ ವಿಧಾನ

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನಿಜವಾದ ಹುಡುಕಾಟವು ನಿತ್ಯ ಚಿಂತನಗಳ ಕೇಂದ್ರದಲ್ಲಿ ಪ್ರಮುಖ ವಿಚಾರವಾಗಿದೆ. ಈ ಕ್ರಮವು ಈ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಕ್ಷೇತ್ರಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ನಂಬಿಕೆ ಮತ್ತು ಉಲ್ಲೇಖಿತ ಮಾಹಿತಿಯ ವೈ légitimité. ಐಎ ಸೃಷ್ಟಿಸುವ ವಿವರಗಳಲ್ಲಿ ಇತ್ತೀಚಿನ ಮುನ್ನುಡುವಿಕೆಗಳು ಇವುಗಳ ಪ್ರಾಮುಖ್ಯತೆಯ ಉಲ್ಲೇಖ ಮಾಡಲು ಸಂಘಟಿತ ಶ್ರೇಣಿಯ ಅಗತ್ಯವನ್ನು ಒತ್ತಿಸುತ್ತವೆ. ಸಂಶೋಧಕರಿಂದ ಅಭಿವೃದ್ಧಿಪಡಿಸಿರುವ ನೂತನ ವಿಧಾನವು *ಕ್ಲೇಮ್‌ಗಳ ಯಥಾರ್ಥತೆಗೆ* ವಿಶ್ಲೇಶಣೆ ಮಾಡಲು ಉದ್ದೇಶಿಸುತ್ತದೆ. ಈ ಪ್ರಶ್ನೆಯು ಇಂಪ್ಲಿಸಿಟ್ ಕುಂದುಗಳನ್ನು ಗುರುತಿಸುವ ಶಕ್ತಿಯು ಮತ್ತು ಆಲ್ಗೋಸ್ನ ತೀರ್ಮಾನಗಳಲ್ಲಿ *ಪೂರ್ಣವಿವರವನ್ನು* ಖಾತ್ರಿ ಮಾಡುವುದರ ಸುತ್ತ ಸುಸಿದ್ಧವಾಗಿದೆ.

ಭಾಷಾ ಮಾದರಿಗಳ ಅಭಿವೃದ್ಧಿ ಮತ್ತು ಯಥಾರ್ಥತೆಗಾಗಿ ಅಗತ್ಯ

ಭಾಷಾ ಮಾದರಿಗಳು, ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳು (LLMs) ಎಂದು ಹೆಸರುಗೊಂಡವು, ಇತ್ತೀಚೆಗೆ ಮಾನವರ ಸರಿತಾಯಿಯಂತೆ ವಿವರಣೆಯನ್ನು ರಚಿಸುವ ಕಾರಣದಿಂದ ಮಹತ್ತರ ಆಸಕ್ತಿಯನ್ನು ಹುಟ್ಟು ಹಾಕಿವೆ. ಈ ಮಾದರಿಗಳಿಂದ ಒದಗಿಸಲಾದ ಉತ್ತರಗಳ ಯಥಾರ್ಥತೆಯ ಕುರಿತೊಂದಿಗೆ ಏಕಕಾಲದಲ್ಲಿ ಚಿಂತನ ಪ್ರಗತಿಯಿಂದಾಗಿ ಏಕಾಗ್ರಿತ ವಿಚಾರವಾಗಿದೆ. ಈ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿರುವ ವಿವರಣೆಗಳು ತಮ್ಮ ಅಂತರ್ಮುಖ ಸಂಖ್ಯಾರ್ಥದ ನಿಷ್ಠೆ ಯಾರು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಬಹುದು?

ಮೈಕ್ರೋಸಾಫ್ಟ್ ಮತ್ತು ಎಂಐಟಿಯ ಸಂಶೋಧನಾ ಪ್ರಸ್ತಾಪ

ಮೈಕ್ರೋಸಾಫ್ಟ್ ಮತ್ತು ಎಂಐಟಿ CSAIL ಸಂಶೋಧಕರ ತಂಡದಿಂದ ನಡೆದ ಇತ್ತೀಚಿನ ಅಧ್ಯಯನವು ಈ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರ ನೀಡುತ್ತದೆ. ಅವರು LLMs ಮೂಲಕ ಉತ್ಪಾದಿತ ವಿವರಣೆಗಳ ನಿಷ್ಪಕ್ಷಣತೆವನ್ನು ಮೌಲ್ಯಮಾಪನಿಸಲು ಹೊಸ ವಿಧಾನವನ್ನು ಪರಿಚಯಿಸುತ್ತಾರೆ. ನಿಷ್ಪಕ್ಷಣತೆ ಎಂದರೆ ಮೋಡ್ ಮೂಲಕ ಕೊಟ್ಟ ಉತ್ತರದ ಮೇಲೆ ಅಂತರ್ಕಥನವನ್ನು ತೋರಿಸುವ ಅರ್ಥವು ಸರಿಯಾದರೀತಿಯಂತೆ ಉಲ್ಲೇಖಿತವಾಗಿರುವ ಶ್ರೇಣಿಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಓಟವಾಗುತ್ತದೆ.

ಈ ಅಧ್ಯಯನದ ಮುಖ್ಯ ಲೇಖಕ ಮತ್ತು ಟೆಕ್ನಿಕಲ್ ಸ್ಟುಡೆಂಟ್ ಕೇಟಿ ಮಾಟ್ ಟಾನ್ ಅವರು ವಿವರಣೆಗಳ ನಿಷ್ಪಕ್ಷಣತೆ ಮಹತ್ತರ ವಿಷಯ ಎಂದು ಒತ್ತಿಸಿದ್ದಾರೆ. ಈ ಮಾದರಿಗಳು ಕನ್ಸ್ ನಡೆಸಿದದರಲ್ಲಿ ಸತ್ಯನಿಷ್ಠ ಆದರೆ ತಪ್ಪುಮಾಡುವ ವಿವರಣೆಗಳನ್ನು ಒದಗಿಸುವಾಗ, ಇದು ಬಳಕೆದಾರರನ್ನು ಮೋಸಗೊಳಿಸುತ್ತದೆ, ಅವರಿಗೆ ಉತ್ತರಗಳ ನಂಬಿಕೆಯನ್ನು ತಪ್ಪಿತಸ್ಥಿಸಿದ ಪರಿಣಾಮಗಳುಂಟು ಮಾಡುತ್ತದೆ. ಈ ಪರಿಸ್ಥಿತಿ, ಆರೋಗ್ಯ ಅಥವಾ ಕಾನೂನಿನಂತಹ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ, ಗಂಭೀರವಾಗಿದೆ.

ತಪ್ಪು ವಿವರಣೆಗಳ ಪರಿಣಾಮಗಳು

ಅನ್ವೇಷಣೀಯ ವಿವರಣೆಗಳಿಂದ ಉಂಟಾಗುವ ಉಲ್ಲೇಖಿತ ಸಾದ್ಯತೆಯು ಅಪಘಾತಗಳಿಂದ ಕೂಡಿರುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ಒಂದು ಅಧ್ಯಯನವು GPT-3.5 ಫೀಲಿಯ ಮಹಿಳಾ ಅಭ್ಯರ್ಥಿಗಳಿಗೆ ಪುರುಷ ಸಮಕಾಲಕ ಸಂಬಂಧಿತ ಲೆಕ್ಕವ್ಯವಸ್ಥೆಯ ಮೇಲೆ ಉತ್ತಮ ಅಂಕಗಳನ್ನು ನೀಡಿದ ಹಾಗೂ ವಯಸ್ಸು ಅಥವಾ ಕೌಶಲ್ಯಗಳಂತಹ ತತ್ವಗಳನ್ನು ಬಳಸಿ ಸುಸ್ಥಿತಿಯಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ಹೊರಹಾಕಿಸುತ್ತದೆ. ಹೀಗಾಗಿ, ಈ ದುಶ್ಚತನವು ಖಂಡನೆ ಮತ್ತು ವ್ಯತ್ಯಾಸ ಬೆಳೆಯುವ ಹಕ್ಕಿದೊಡ್ಡಿ.

ನವೋದಿತ ವಿಧಾನಶಾಸ್ತ್ರ: ಪರಿಭಾಷಾ ನಿಷ್ಪಕ್ಷಣತೆ.

ಈ ನಿಷ್ಪಕ್ಷಣೆಯನ್ನು ಅಳೆಯಲು, ಸಂಶೋಧಕರು ಪರಿಭಾಷಾ ನಿಷ್ಪಕ್ಷಣತೆ ಎಂಬ ಧಾರಣೆಯನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ್ದಾರೆ. ಇದು LLM ನ ವಿವರಣೆಗಳು ಯಾವ ಕೋಟ್‌ನ ಆಟದ ಪ್ರಭಾವವನ್ನು ನೀಡಿವೆ ಎಂಬುದನ್ನು ಬ್ಲಾಕ್ ಮಾಡಲು ಅತ್ಯುತ್ ರೂಪಾಂತರವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ. ಈ ರೀತಿಯಾಗಿ, ಅದೇಳು ಕಷ್ಟವನ್ನು ಗುರುತಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, LLM ನ ವಿವರಣೆಗಳು ಲಿಂಗವನ್ನು ಉಲ್ಲೇಖಿಸುವಾಗ ಬಾಯಿಯಲ್ಲಿ ಅಡ್ಡಿರಬಹುದು.

ಕೀ ವೈಶಿಷ್ಟ್ಯಗಳ ಪರಿಣಾಮಗಳನ್ನು ಘೋಷಿಸುವುದು

ಈ ಮೌಲ್ಯಮಾಪನವನ್ನು ಮಾಡುವಕ್ಕಾಗಿ, ಸಂಶೋಧಕರು ಮೊದಲಿಗೆ LLM ಆತ್ಸಟ್ಟನಲ್ಲಿ ಮಹತ್ವದ ಪಾಲಕಗಳನ್ನು ಗುರುತಿಸಲು ಜಾಗೃತ LLM ಅನ್ನು ಬಳಸಿದರು. ನಂತರ, LLM ನ ಬೈಟ್ ಅನ್ನು ಪರಿ ಮಾಡಿದಾಗ, ಇದೀಗ ಏಕದಿನಾರ್ಥವಾಗಿ ಅಚ್ಚಿಗೆ ಬರುವ ಫ್ಯಾಕ್ಡಿಲ್ಲಿರುವ ಪ್ರತಿಫಲನವನ್ನು ಓದುತ್ತಾರೆ, ಉದಾಹರಣೆಗೆ, ಒಂದು ಅಭ್ಯರ್ಥಿಯ ಲಿಂಗವನ್ನು ಬದಲಾಯಿಸ ಅಥವಾ ಸಸ್ಯಕ್ಕೂ ಒಂದು ನಿರ್ದಿಷ್ಟ ವೈದ್ಯಕೀಯ ಮಾಹಿತಿಯನ್ನು ತೆಗೆದು ಹಾಕು.

ಅನುಷ್ಠಾನ ಪರೀಕ್ಷೆಗಳು ಮತ್ತು ಪ್ರಮುಖ ಕೊಡುವಿಕೆಗಳು

ಪರೀಕ್ಷೆಗಳಲ್ಲ, ತಂಡವು GPT-3.5, GPT-4o ಮತ್ತು Claude-3.5-Sonnet ಅನ್ನು ಪರಿಕಲ್ಪಿತ ಕೂಟಗಳ ವಿತರಣೆಯಲ್ಲಿ ಹೋಲಿಸಲಾಯಿತು. ಈ ಅಧ್ಯಯನದಿಂದ ಮೂಡಿದ ಎರಡು ಪ್ರಮುಖ ವರದಿಗಳು. ಸಾಮಾಜಿಕ ಹಕ್ಕಿನ್ ಪರೀಕ್ಷಿಸುವ ಪ್ರಕ್ರಿಯೆಗಳಲ್ಲಿ, LLM ಗಳು ತಮ್ಮ ಸಾಮಾಜಿಕ ಮಾದರಿಯ ಹೊಸ ಮಾಹಿತಿ, ಉದಾಹರಣೆಗೆ, ವರ್ಗ ಅಥವಾ ಲಿಂಗ ಕಳೆಯುವಲ್ಲಿ ನನ್ನತನವನ್ನು ತೋರಿಸುತ್ತವೆ.

ಅದರಲ್ಲದೆ, ಮಾಧ್ಯಮ 爵士್ತ್ರಗಳಲ್ಲಿನาคาร่า, ಈ ವಿಧಾನವು ನಿರ್ಧಾರವನ್ನು ಡೆಬಿಡುವಾಗ ಪ್ರಮುಖ ಸುಳಿವನ್ನು ಸುರೇಶಕಾತಿ ತಮ್ಮ ಸಮಾನವನ್ನು ತೆಗೆದು ಹಾಕುತ್ತದೆ, ಇದು ಯಾವುದಾದರೂ ಕನಿಷ್ಠ ಕಷ್ಟವು ಆರೋಗ್ಯಗಳಿಂದಗಿಂತ ಹೆಚ್ಚು ಪರಕಟ್ಟಿರುತ್ತದೆ.

ಮಿತಿ ಮತ್ತು ಭವಿಷ್ಯದ ದೃಷ್ಟಿಕೋನ

ಅವರು ತಮ್ಮ ವಿಧಾನದಲ್ಲಿ ಕೆಲವು ಮಿತಿಗಳನ್ನು ಒಪ್ಪಿದ್ದಾರೆ, ಉದಾಹರಣೆ LLM ಆತ್ತರ ಪಾಠವು ಕೆಲವೆ ಬಾರಿ ತಪ್ಪಿಸುತ್ತಿದೆ. ಮೋಲೆಗಳು ಖಂಡಿತಿತಗೊಂಡ ಧಾರಣೆಯು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುತ್ತದೆ. ಪ್ರಯೋಜನಾನುಡಿ ಹಕ್ಕುಗಳನ್ನು ಸುಧಾರಣೆಯಾಗುತ್ತದೆ.

ತಪ್ಪು ವಿವರಣೆಗಳಲ್ಲಿ ಅಂತಹ ವಿಶಿಷ್ಟ ನಿರ್ದೇಶನಗಳನ್ನು ಗ್ರಾಸಿಸುವು, ಈ ವಿಧಾನವು ತಪ್ಪು ನಿರ್ಧಾರಗಳಿಗೆ ಗಮನವು ಇಲ್ಲಾದಷ್ಟು ಉತ್ತಮ ಪ್ರಮಾಣವನ್ನು ಹೊಂದುತ್ತದೆ. ಲಿಂಗದ ಬಾಯಿಯು LLM ಬಾಯಿಗಳಲ್ಲಿ ನೋಡಲಾಗುತ್ತದೆ, ತನ್ನ ಸಮಾನರರಿಗೆ ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ. ಕ್ಷನ್ನು-ಪುಸ್ತಕದವರಿಂದ ಯಾರಾದರೂ ಬುಟಾ ಇದ್ದಂತೆ ಹೆಚ್ಚಿಸಲಬಹುದು.

ಈ ಸಂಶೋಧನೆಯ ಶ್ರೇಣಿಗಳನ್ನು ವಿವಿಧ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ವ್ಯವಹಾರಿಸುತ್ತಾರೆ. ಉದಾಹರಣೆಗೆ, ವೈದ್ಯಕೀಯ ಸಲಹೆಗಳಲ್ಲಿ ಪರಿಷ್ಕಾರಗಳು ದೊಡ್ಡ ಆಸಕ್ತಿಯನ್ನು ಒದಗಿಸುತ್ತವೆ. ಅಂತಹ ನಿರ್ದಿಷ್ಟತೆಗೆ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯು ಏಳನೇ ಬುದ್ಧಿವಂತಿಕೆಯನ್ನು ಹೊಂದಿರುವದ್ದಕ್ಕೂ ನಿಲುಕಿಸಲು ಶ್ರೇಣಿಗಳನ್ನು ಹೆಚ್ಚು ಒದಗಿಸುತ್ತದೆ.

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಲ್ಲಿ ಸುಳ್ಳನ್ನು ಪಾದಿಸುತ್ತಿರುವ ಪ್ರಶ್ನೆಗಳು

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ನೀಡುವ ವಿವರಗಳ ಯಥಾರ್ಥತೆಯನ್ನು ಹೇಗೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು?
ನಾವು ವಿವರಣೆಗಳ ನಿಷ್ಠೆ ವಿಶ್ಲೇಶಿಸಲು ಮುಖ್ಯವಾಗುತ್ತದೆ, ಅಂದರೆ AI ಯ ಕಾರ್ಯಕ್ಕೆ ನಿಖರವಾದ ಬ್ರಾಹ್ಮಣವನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ. ‘ಸ್ರಾವ ಶ್ರೇಣಾಪರೀಯವಾಗಿ’ ಎಂದು ಉಲ್ಲೇಖಿಸಿರುವಂತಹ ವಿಧಾನಗಳು ಏಕೈಕ ಬೋಧನೆಗೆ ಇರುವ ಪರೀಕ್ಷೆಗಳು ಸಮಾಲೋಚಕಂತೆ ಮಾಡಲು ಅನುಕೂಲವನ್ನು ನೀಡುತ್ತದೆ.

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ನೀಡುವ ವಿವರಣೆಗಳು ತಪ್ಪಿದರೆ ಯಾವ ಪರಿಣಾಮಗಳು ಉಂಟಾಗುತ್ತವೆ?
ತಪ್ಪು ವಿವರಣೆಗಳಿಂದ ಬಳಕೆದಾರರಲ್ಲಿ ತಪ್ಪು ವಿಶ್ವಾಸವನ್ನು ಉಂಟುಮಾಡಬಹುದು, ಅವರಿಗೆ ತಪ್ಪು ಮಾಹಿತಿಯ ಆಧಾರದಲ್ಲಿ ಸಾಗಣೆಯ ನಿರ್ಧಾರಗಳನ್ನು ಕೈಗೊಳ್ಳಲು ಕಾರಣವಾಗುತ್ತದೆ, ಆರೋಗ್ಯ ಅಥವಾ ಕಾನೂನುಂತಹ ಸೂಕ್ಷ್ಮ ವಿಷಯಗಳಲ್ಲಿ.

ನಿಷ್ಪಕ್ಷಣೆಯ ಅಳತೆಯ ವಿಧಾನವು ಬಳಕೆದಾರರಿಗೆ ಹೇಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ?
ಈ ವಿಧಾನವು AI ಯ ಉತ್ತರಗಳಲ್ಲಿ ಬಾಯಿದು ಸಾತ್ರದಲ್ಲಾಗುತ್ತದೆ, ಇಲ್ಲಿಂದ ಬಳಕೆದಾರರು ಕಣ್ತುಂಬು ಅನಿತಃ ನೆನೆಸಲು ಮೆತ್ತೆಯನ್ನು ಸಾಧಿಸುತ್ತವೆ.

ನಿಷ್ಪಕ್ಷಣೆಯ ವಿಮರ್ಶೆಯಲ್ಲಿ ಸಹಾಯಕ ಮಾದರಿಗಳ ಪಾತ್ರವೇನು?
ನಿಷ್ಪಕ್ಷಣೆಯ ವಿಮರ್ಶೆ ಮಾಡಲು ಪ್ರಶ್ನೆಗಳನ್ನು ಸಲುವಾಗಿ ಉಪಯೋಗಿಸಿದ್ದಾರೆ, ಆದ್ದರಿಂದ AI ಯ ತಿಳಿವಳಿಕೆಗಳಿಗೆ ಕುರಿತ ಹಕ್ಕುಗಳನ್ನು ಎಳೆಯಬಹುದು.

AI ನಿರ್ಧಾರಗಳಲ್ಲಿ ಸಾಮಾಜಿಕ ಡಿಸ್ಟ್ರಿಷನ್ ಉತ್ತರಿಸುತ್ತಾ ಬಾಯಿಯ.functions?
ಎಲ್ಲಾದರೂ ವಿಷಯವಾಗಿ ನಿರಿಸು, ಎಳೆಯುವ ತಂತ್ರಗಳನ್ನು ಏಳುವ ಆಯ್ಕೆ ಮಾಡಬಹುದು.

ತಪ್ಪು ಶ್ಲೇಷಣೆಗಳನ್ನು ಅಳೆಯುವುದರಲ್ಲಿ ಇತರ ಮಾದರಿಗಳು ಸಹಾಯವಾಗುತ್ತವೆ?
ಈಗಾಗಲೆ, ಮಾತ್ರಿಸುತ್ತದೆ ಶ್ರೇಣಿಯು ಕಾಂಚಿಯನ್ನಾಗಿ ಆವರಿಸಬೇಕಾದರೆ, ಮುಂದೆ ಶ್ರೇಣಿಗಳನ್ನು ತ್ವರಿತವಾಗಿ ಸೇರಿದಂತೆ, ಸ್ಪಷ್ಟವಾದವನು ಮಾಡಿದೆಯೇ?

AI ಯ ವಿವರಣೆಗಳ ಯಶಸ್ಸೊಡನೆ ಸಮಾಜ ಕಾಯ್ದುಕೊಳ್ಳಲು ಶ್ರೇಣಿಯಲ್ಲಿರುವ ತಂತ್ರಗಳು ಏನೆಂದರೆ?
ಧೃಡಣೆ ಮಾಡುವ ಪ್ರಿಯ ಪಲೆಗಳು ಮತ್ತು ಸುಧಾರಿತ ಕಲ್ಪಿಸೋಣ, ಓದಲು ಮೇಲೂ ಸದೃಶತೆಗಳನ್ನು ಬಳಸನೀ ಹಕ್ಕುಗಳಿಗೆ ಇದು ಗುಡ್ ಆಗುತ್ತದೆ.

ಯಾವುದೇ ಸಮಾನಾತ್ಮಕತೆ ಇರುವ AI ಸಾಮಾನ್ಯವಾಗಿಲ್ಲ ಜರುಗಿದರೆ?
ಸಾಧಾರಣವಾಗಿಲ್ಲ, ತಪ್ಪು ವಿವರಣೆಗಳು plausibly ಶಾಸ್ತ್ರೀಯವಾದರೂ, ವಾಸ್ತವಿಕತೆಯಂತೆ ನಿಖರವಾಗಿಲ್ಲ. ಯಾರನ್ನು ಪ್ರವರಿಸುವುದು, ತಮ್ಮ ಸ್ಥಳವನ್ನು ಖಚಿತಪಡಿಸುವ provoca capiitário.