Une étude révèle que les chatbots IA peuvent identifier la race, mais que les biais raciaux diminuent leur empathie dans les réponses.

Publié le 20 ಫೆಬ್ರವರಿ 2025 à 11h00
modifié le 20 ಫೆಬ್ರವರಿ 2025 à 11h00

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಚಾಟ್‌ಬಾಟ್‌ಗಳು, ಮನೋಗತ ಬೆಂಬಲದಲ್ಲಿ ಭವಿಷ್ಯ garant ವ್ಯವಸ್ಥೆ ಯಾವವುಗಳು, ವಿಚಿತ್ರ ಪರಾಕಾಷ್ಠೆಗಳು ನೀಡುತ್ತವೆ. ಬಳಕೆದಾರರ *ಜಾತಿ* ಗುರುತಿಸಲು ಅವರ ಸಾಮರ್ಥ್ಯ ಪ್ರಮುಖ ನೈತಿಕ ಪ್ರಶ್ನೆಗಳನ್ನು ಉದ್ಧೀಪಿಸುತ್ತದೆ. ಈ ಅಧ್ಯಯನವು *ಸಹಾನು ಭೂತಿ ಕಡಿತ* ಅನ್ನು ಬೆಳಕು ಹೊರ ಹಾಕುತ್ತದೆ, ಇದು ವಿಶೇಷವಾಗಿ ಹೀಗಿರುವ ಕುಡಿಯ ತಲುಪಿದ ಜನಾಂಗಗಳ ಗುಂಪುಗಳಲ್ಲಿ ಉಲ್ಲೇಖಿಸಲಾಯಿತು. ಅಸಮಾಂತರ ಸಹಾನುಭೂತಿ ಬಳಕೆದಾರರ ಸುಖವನ್ನು ಹಾಳು ಮಾಡುತ್ತದೆ. ಈ ವಾಗ್ಮಿಐಗಳ ಪರಿಣಾಮಗಳು ಆತಂಕಕಾರಿ ಆಗುತ್ತವೆ. ಬಳಕೆದೇಶದಲ್ಲಿ ಒಳಗೊಂಡಿರೋ ಭೇದವೇ, ಸಂಸ್ಥೆಯನ್ನು ವಿವರಿಸಲು ನಿರ್ಧಾರಗಳನ್ನು ಮುಟ್ಟುತ್ತದೆ. ಈ ತಂತ್ರಜ್ಞಾನದ ನೈತಿಕತೆಯನ್ನು ನಿಭಾಯಿಸಲು ತೀವ್ರವಾದ ಚಿಂತನವನ್ನು ಅಗತ್ಯವಿದೆ ಮತ್ತು ಕಾಲದ ಸಮಾಜದಲ್ಲಿ ಇದರ ಸ್ಥಳವನ್ನು ಪುನರ್ ವ್ಯಾಖ್ಯಾನಗೊಳಿಸಲು ಅತೀವ ಶ್ರೇಯಸ್ ಅಗತ್ಯವಿದೆ.

ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಮೂಲಕ ಜಾತಿಗಳನ್ನು ಗುರುತಿಸುವುದು

ಹಾಳಗೊಮ್ಮೆ ಅಧ್ಯಯನವು ಕೃತ್ರಿಮ ಬುದ್ಧಿಮತ್ತಿಯಿಂದ ಪೂರಕವಾಗಿರುವ ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಬಳಸುವ ಸಮಯದಲ್ಲಿ ಬಳಕೆದಾರರ ಜಾತಿಯನ್ನು ಗುರುತಿಸಬಲ್ಲವು ಎಂದು ಪ್ರಕಟಿಸುತ್ತದೆ. ಸುಧಾರಿತ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಬಳಸಿದಾಗ, ಈ ಡಿಜಿಟಲ್ ಸಾಧನವಿಗಳು ಸಂದೇಶಗಳಲ್ಲಿ ಅರ್ಥಧಾರಕ ಅಂಶಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಲು ಮತ್ತು ನಿರಂತರವಾಗಿ ಜನಸಂಖ್ಯಾ ಮಾಹಿತಿಗಳನ್ನು ಅಂದಾಜಿಸಲು ಸಮರ್ಥರಾಗಿವೆ.

ಸಹಾನುಭೂತಿ ಮತ್ತು ವಿಮುಕ್ತಿ ಬೆಂಬಲ

ಈ ಅಧ್ಯಯನದ ಫಲಿತಾಂಶಗಳು ಚಾಟ್‌ಬಾಟ್‌ಗಳ ಉತ್ತರಗಳಲ್ಲಿ ಬಳಕೆದಾರರ ಜಾತಿ ಗುರುತಿಸುವ ಸಂದರ್ಭಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯ ಮಟ್ಟಗಳನ್ನು ವಿಶಿಷ್ಟವಾಗಿ ಬದಲಾಗುತ್ತವೆ ಎಂದು ತೋರಿಸುತ್ತವೆ. ಈ ಕೃತಕ ಬುದ್ಧಿಮತ್ತಿಗಳು ನೀಡುವ ಉತ್ತರಗಳು, ಕಪ್ಪು ಮತ್ತು ಏಷ್ಯನ್ ಬಳಕೆದಾರರಿಗೆ ಹೆಚ್ಚು ಸಹಾನುಭೂತಿಧ್ಗಳಾಗಿ ಕಡಿಮೆ ಇರುತ್ತದೆ, ಇದು ಆಳವಲ್ಲದ ಕಾರ್ಯಕ್ರಮದಲ್ಲಿ ಶ್ರೇಣೀಬದ್ಧ ಗುಣಗಳ ಆಧಾರ ಒಂದು ಹತ್ತಿರ ಸಿದ್ಧವಾಗಿದೆ.

ನಿಖರವಾದ ಡೇಟಾ ಆಧಾರಿತ ಅಧ್ಯಯನ

ಶೋಧಕರು 12,000 ಸಂದೇಶಗಳು ಮತ್ತು ಸುಮಾರು 70,000 ಉತ್ತರಗಳನ್ನು ಕುರಿತು ಯಾದೂ ಪೊರ್ತಿಗೆ ವಿಧಿಸುತ್ತಾರೆ, ಎಲ್ಲವು Redditನ ಮಾನಸಿಕ ಆರೋಗ್ಯದ ಉಪ-ಫೋರುತ್ತ್‌ಗಳಿಂದ ಬಂದಿದೆ. ವಿಶ್ಲೇಷಣೆಯ ತಜ್ಞರು, ನಿಖರವಾದ ಉತ್ತರಗಳನ್ನು ಕೃತಕ ಬುದ್ಧಿಮತ್ತಿಯ ಮಾದರಿಯ GPT-4 ಮೂಲಕ ಉಲ್ಲೇಖಿತ ಉತ್ತರಗಳಿಗೆ ನೀಡುವ ಪ್ರಯತ್ನವನ್ನು ನಡೆಸಿದರು. ಉತ್ತರಗಳ ತೀರ್ಮಾನದಲ್ಲಿ ತತ್ವಗಳು ಸಂಪೂರ್ಣವಾಗಿ ಹಿಮ್ಮೆಟ್ಟುವುದರಲ್ಲಿ ನಿರ್ದಿಷ್ಟವಾಗಿತ್ತು.

ಉಲ್ಲೇಖಿತ ಫಲಿತಾಂಶಗಳು

ಉಲ್ಲೇಖಿತ ಫಲಿತಾಂಶಗಳು, ಅರ್ಹಿತವಾದ ಉತ್ತರಗಳುქონಿಗೆ ಆಂತರಿಕವಾಗಿ ಹೆಚ್ಚು ಸಹಾನುಭೂತಿಗೀಯಾಗಿದ್ದು, ಈ ಫಲಿತಾಂಶಗಳು ಮುಖ್ಯವಾಗಿ ಹಿರಿಯ ಆರೋಗ್ಯದ ವೈದ್ಯಕೀಯ ಧಾಟ್‌ಗಳು ಉತ್ತಮವಾಗಿಲ್ಲವೇ ಎಂದು ವಾದಿಸುತ್ತವೆ. ಚಾಟ್‌ಬಾಟ್ ಮೂಲಕ ಸಹಾನುಭೂತಿಗಳ ಷರತ್ತುಗಳು 48 % ಹೆಚ್ಚು ಪ್ರಭಾವಶೀಲ ಇದ್ದವು, ಈ ಕಾರಣದಿಂದಾಗಿ ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಸಕಾರಾತ್ಮಕ ಶ್ರೇಣೀ ಅಭಿವೃದ್ಧಿಗೆ ಪ್ರೋತ್ಸಾಹಿಸುತ್ತವೆ.

ಈ ತಂತ್ರಜ್ಞಾನದ ಸಂಬಂಧಿತ ಅಪಾಯಗಳು

ಆದರೆ, ಮಾನಸಿಕ ಆರೋಗ್ಯದಲ್ಲಿ ಈ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಬಳಸುವುದರಲ್ಲಿ ಸಾಕಷ್ಟು ಅಪಾಯಗಳು ಇವೆ. ಚಾಟ್‌ಬಾಟ್‌ಗಳೊಂದಿಗೆ ಸೃಷ್ಠಿಯಾಗುವ ವಿಮುಕ್ತಿ ಮೋಸದ ಸಂದರ್ಭದಲ್ಲಿ ಸಂಭವಿಸಿದ ಆತ್ಮಹತ್ಯೆ ಘಟನೆಗಳು, ಇದು ಶ್ರೇಣೀಪಟವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ. ಈ ಆತಂಕಕಾರಿ ಘಟನೆಗಳು ಬಳಕೆದಾರರನ್ನು ರಕ್ಷಿಸಲು ಆದ್ಯತೆಯೆಂದು ಷರತ್ತು ಸೂತ್ರವನ್ನು ಹೊಸದಾಗಿ ನಿರ್ಧಾರಗಳನ್ನು ಸೂಚಿಸುತ್ತವೆ.

ಅಲ್ಗಾ ಸಮಾನತೆ ಕಡೆ

ಶೋಧಕರು ಮಾದರಿಗಳಿಗೆ ಇನ್ನೊಂದು ರೀತಿಯಲ್ಲಿ ಉತ್ತಮವೆಂದು ಸೂಚಿಸುತ್ತಾರೆ, ಇದು ಉತ್ತರಗಳಲ್ಲಿ ಪ್ರಭಾವ ಬೀರುತ್ತದೆ. ಸಂಖ್ಯಾಪರವೆಯಲ್ಲಿ ಬೆಳವಣಿಗೆ ದೇಶವನ್ನು ಇಂದು ಬಳಸುತ್ತಾನೆ. ಈ ವಿಧಾನವು ವಿಭಿನ್ನಜಾತಿಯ ಬಳಕೆದಾರರ ನಡುವಿನ ವ್ಯವಹಾರವನ್ನು மேலும் ನ್ಯಾಯಸಾಧಿತಗೊಳಿಸಬಹುದು.

ನಿರಂತರ ಸುಧಾರಣೆಯ ಕರೆ

ಶೋಧಕರು ಕ್ಲಿನಿಕಲ್ ಕ್ಷೇತ್ರದಲ್ಲಿ ತಂಡವನ್ನು ಬಳಸಲಾಗುತ್ತಿದೆ ಎಂದು ತಿಳಿಸುತ್ತಾರೆ. ದ್ವೀಪವನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ಸೇವೆಯಲ್ಲಿ ಸಮಾನವಾದ ವಿವಿಧ ಉಪಗಣಿತ ಪಾಲಿಸು. ತಂತ್ರಜ್ಞಾನದ ಪ್ರಮುಖರನ್ನು ವಿವೇಚಿಸುವುದಕ್ಕಾಗಿ ಈ ನಿರ್ಣಯಗಳನ್ನು ಆದಾಯಗಳಿಗೆ ಕಾಯಲಾಗುತ್ತದೆ.

ನಿಯಮಿತ ಪ್ರಶ್ನೆಗಳ ನೆರವಿಗೆ

ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಜಾತಿಯನ್ನು ಹೇಗೆ ಗುರುತಿಸುತ್ತವೆ?
ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಬೋಧಿಸುವ ಪ್ರಮುಖ ಅಂಶಗಳಲ್ಲಿ ಮೊದಲೇ ನಾಲ್ಕು ಲಾಂಗೇಜ್‌ನಲ್ಲಿ ಬಾಷ್ಯಾಗಿ ಉದಾಹರಿಸಲಾಗುತ್ತದೆ, ಕಾರ್ಯಕ್ರಮವನ್ನು ನಿ.ಜಾತಿಗೂ ಬಾಂದವಿ ಪಟ್ಟಿ ನೋಡಿ.
ಚಾಟ್‌ಬಾಟ್‌ಗಳ ಉತ್ತರದಲ್ಲಿ ಜಾತಿಯ ಬೆಂಬಲಗಳ ಪರಿಣಾಮಗಳು ಯಾವುವು?
ಚಾಟ್‌ಬಾಟ್‌ಗಳ ಉತ್ತರದಲ್ಲಿ ಜಾತಿಯ ಬೆಂಬಲಗಳ ಪರಿಣಾಮಗಳು, ಉಪವರ್ಗಗಳು ಆಳಿಕಾರಿಸುವದರಿಂದ ಕಂಡುಬರುವುದರಲ್ಲಿ ವರಮಾನವು ಅವರಲ್ಲಿಲ್ಲ.
ಶೋಧಕರು ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯನ್ನು ಹೇಗೆ ಅಳೆಯುತ್ತಾರೆ?
ಶೋಧಕರು ಉಪವರ್ಗಗಳಲ್ಲಿ={()=> ಉತ್ತರಗಳಲ್ಲಿ ಉತ್ತಮವಾದ ಗ್ರಾಮವನ್ನು {\”ಮೇಲೆ\”} ಅಪೇಹ್ಲಿಯ ಅವರು ಶಾಸನಕಲಿಸಿದ್ದ ದೇಶವನ್ನು ತಿಳಿಸುತ್ತಾರೆ.
ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯ ಅಳೆಯುವುದು ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ?
ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯ ಅಳೆಯುವುದು, ಮಾನಸಿಕ ಆರೋಗ್ಯದಲ್ಲಿ ಸಮಾನ್ಯವಾದ ಬೆಂಬಲವನ್ನು ಖಾತರಿಪಡಿಸಲು ಅಗತ್ಯವಾಗಿದೆ, ವಿಶೇಷವಾಗಿ ಸದಾ ಲಭ್ಯವಿರುವ ಜನರ ಪ್ರಾತಿನಿಧಿಕ ಸಮಾನಿಗೆ.
ಜಾತಿಯ ಬೆಂಬಲಗಳ ಸಮಸ್ಯೆಗಳನ್ನು ನಿಖರವಾಗಿ ಪ್ರಕಟಿಸುತ್ತಾ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಸುಧಾರಿಸಬಹುದು?
ಹೌದು, ಅಂತರಂಗಜರಂತವಾಗಾಗುಗಳಲ್ಲಿ, ತಂದೆಗೆ ಸ್ವಾಗತವನ್ನು ಕಲಿಸುವ ಮೂಲಕ ಕಾರ್ಯಕ್ರಮವನ್ನು ಬೇರೆ ರೂಪದಿಂದ ಬೋಧಿಸುತ್ತವೆ.
ಆರೋಗ್ಯದ ಸಮಸ್ಯೆಗಳನ್ನು ಯಾಕೆ ಅದರಲ್ಲಿ ತಕ್ಕಾಯಿಸುವದರಿಂದ?
ಜಾತಿಯ ಬೆಂಬಲಗಳು, ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಉತ್ತಮವಾದಾವಾಗರು ಮಾತನಾಡಲು ಸಹಾಯಾಪ್ರಾಧಾನ್ಯವಾಗಿ ಸುರಕ್ಷಿತವಾದ ಬೆಂಬಲವನ್ನು ಸೂಚಿಸುತ್ತವೆ.
ಸುಧಾರಿತ ಹಕ್ಕಿಗೆ ದುಷ್ಟಾಶಯ: ಮೇಲೆಯಲ್ಲಿಲ್ಲ?
ಹೌದು, ತಜ್ಞಾರಾಧನೆಗಳ ಔಟ್‌ಪುಟ್ ಸಂದೇಶವಾಗಿ ಅಧಿಕೃತವಾಗಿ ಸಂಸರ್ಗಿಯಲ್ಲಿ ಪ್ರತಿ ಉಲ್ಲೇಖದಲ್ಲಿ.
ನೀವು ಅದನ್ನು ಕೈಗೆತ್ತಿಕೊಳ್ಳಲು ಮುಂದಾಗುತ್ತೀರಾ?
ಅವರುಲ್ಲದೆ ಇತರ ಸಮಾನ್ಯಕ್ಕೆ ಟಿಯ ಹಾಗೂಖಾತರೀಗೆ ಅದನ್ನು ಉತ್ತಮಪಡಿಸುತ್ತವೆ.
ನೀವು ಈ ತಂತ್ರಜ್ಞಾನದ ಸಂಖ್ಯೆಯನ್ನು ಹೇಗೆ ಬೋಧಿಸಲು ಸೂಚಿಸುತ್ತೀರಿ?
ಒಂದು ಸಮಾಂತರ ಲಿಖಣೆಗಗಳಿಗೆ ನಿಯೋಜನೆ ಮತ್ತು ಬಹಳಾ ಬ್ಯಾಂತ್ತಿಚಾರಾಗಳಲ್ಲಿ ವ್ಯಾಪ್ತಿಯನ್ನು ವಿವರಿಸುತ್ತವೆ.

actu.iaNon classéUne étude révèle que les chatbots IA peuvent identifier la race, mais...

ವೆಬ್‌ಸೈಟ್‌ನಲ್ಲಿ ಪ್ಲಗ್‌ಇನ್‌ಗಳು AI ಶೋಧ ಸಾಧನದ ಬಗ್ಗೆ ಮೂಲವನ್ನು ತಿಳಿಸುತ್ತವೆ.

découvrez les dernières rumeurs sur un nouvel outil de recherche ia pour siri d'apple, qui pourrait s'appuyer sur la technologie google. analyse des implications pour l'écosystème apple et la recherche vocale.
découvrez comment google et apple parviennent à éviter les sanctions malgré les enquêtes antitrust. analyse des stratégies adoptées par ces géants de la tech face à la régulation internationale.
découvrez pourquoi la justice américaine a refusé de dissoudre google chrome malgré les accusations de monopole, et comprenez les impacts majeurs de cette décision pour les utilisateurs, les concurrents et l'avenir du web.
découvrez comment chatgpt introduit un contrôle parental renforcé après un incident tragique impliquant un adolescent, afin d’assurer la sécurité des jeunes utilisateurs et rassurer les familles.
découvrez la vision de kari briski, vice-présidente chez nvidia, sur l'avenir des intelligences artificielles : les agents physiques, une révolution technologique qui façonne l'innovation et ouvre de nouvelles perspectives pour l'ia.
découvrez pourquoi le navigateur vivaldi refuse d’intégrer l’ia dans la navigation web, mettant en avant l’importance du contrôle utilisateur et de la protection de la vie privée à l’ère du numérique.