Une étude révèle que les chatbots IA peuvent identifier la race, mais que les biais raciaux diminuent leur empathie dans les réponses.

Publié le 20 ಫೆಬ್ರವರಿ 2025 à 11h00
modifié le 20 ಫೆಬ್ರವರಿ 2025 à 11h00

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಚಾಟ್‌ಬಾಟ್‌ಗಳು, ಮನೋಗತ ಬೆಂಬಲದಲ್ಲಿ ಭವಿಷ್ಯ garant ವ್ಯವಸ್ಥೆ ಯಾವವುಗಳು, ವಿಚಿತ್ರ ಪರಾಕಾಷ್ಠೆಗಳು ನೀಡುತ್ತವೆ. ಬಳಕೆದಾರರ *ಜಾತಿ* ಗುರುತಿಸಲು ಅವರ ಸಾಮರ್ಥ್ಯ ಪ್ರಮುಖ ನೈತಿಕ ಪ್ರಶ್ನೆಗಳನ್ನು ಉದ್ಧೀಪಿಸುತ್ತದೆ. ಈ ಅಧ್ಯಯನವು *ಸಹಾನು ಭೂತಿ ಕಡಿತ* ಅನ್ನು ಬೆಳಕು ಹೊರ ಹಾಕುತ್ತದೆ, ಇದು ವಿಶೇಷವಾಗಿ ಹೀಗಿರುವ ಕುಡಿಯ ತಲುಪಿದ ಜನಾಂಗಗಳ ಗುಂಪುಗಳಲ್ಲಿ ಉಲ್ಲೇಖಿಸಲಾಯಿತು. ಅಸಮಾಂತರ ಸಹಾನುಭೂತಿ ಬಳಕೆದಾರರ ಸುಖವನ್ನು ಹಾಳು ಮಾಡುತ್ತದೆ. ಈ ವಾಗ್ಮಿಐಗಳ ಪರಿಣಾಮಗಳು ಆತಂಕಕಾರಿ ಆಗುತ್ತವೆ. ಬಳಕೆದೇಶದಲ್ಲಿ ಒಳಗೊಂಡಿರೋ ಭೇದವೇ, ಸಂಸ್ಥೆಯನ್ನು ವಿವರಿಸಲು ನಿರ್ಧಾರಗಳನ್ನು ಮುಟ್ಟುತ್ತದೆ. ಈ ತಂತ್ರಜ್ಞಾನದ ನೈತಿಕತೆಯನ್ನು ನಿಭಾಯಿಸಲು ತೀವ್ರವಾದ ಚಿಂತನವನ್ನು ಅಗತ್ಯವಿದೆ ಮತ್ತು ಕಾಲದ ಸಮಾಜದಲ್ಲಿ ಇದರ ಸ್ಥಳವನ್ನು ಪುನರ್ ವ್ಯಾಖ್ಯಾನಗೊಳಿಸಲು ಅತೀವ ಶ್ರೇಯಸ್ ಅಗತ್ಯವಿದೆ.

ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಮೂಲಕ ಜಾತಿಗಳನ್ನು ಗುರುತಿಸುವುದು

ಹಾಳಗೊಮ್ಮೆ ಅಧ್ಯಯನವು ಕೃತ್ರಿಮ ಬುದ್ಧಿಮತ್ತಿಯಿಂದ ಪೂರಕವಾಗಿರುವ ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಬಳಸುವ ಸಮಯದಲ್ಲಿ ಬಳಕೆದಾರರ ಜಾತಿಯನ್ನು ಗುರುತಿಸಬಲ್ಲವು ಎಂದು ಪ್ರಕಟಿಸುತ್ತದೆ. ಸುಧಾರಿತ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಬಳಸಿದಾಗ, ಈ ಡಿಜಿಟಲ್ ಸಾಧನವಿಗಳು ಸಂದೇಶಗಳಲ್ಲಿ ಅರ್ಥಧಾರಕ ಅಂಶಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಲು ಮತ್ತು ನಿರಂತರವಾಗಿ ಜನಸಂಖ್ಯಾ ಮಾಹಿತಿಗಳನ್ನು ಅಂದಾಜಿಸಲು ಸಮರ್ಥರಾಗಿವೆ.

ಸಹಾನುಭೂತಿ ಮತ್ತು ವಿಮುಕ್ತಿ ಬೆಂಬಲ

ಈ ಅಧ್ಯಯನದ ಫಲಿತಾಂಶಗಳು ಚಾಟ್‌ಬಾಟ್‌ಗಳ ಉತ್ತರಗಳಲ್ಲಿ ಬಳಕೆದಾರರ ಜಾತಿ ಗುರುತಿಸುವ ಸಂದರ್ಭಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯ ಮಟ್ಟಗಳನ್ನು ವಿಶಿಷ್ಟವಾಗಿ ಬದಲಾಗುತ್ತವೆ ಎಂದು ತೋರಿಸುತ್ತವೆ. ಈ ಕೃತಕ ಬುದ್ಧಿಮತ್ತಿಗಳು ನೀಡುವ ಉತ್ತರಗಳು, ಕಪ್ಪು ಮತ್ತು ಏಷ್ಯನ್ ಬಳಕೆದಾರರಿಗೆ ಹೆಚ್ಚು ಸಹಾನುಭೂತಿಧ್ಗಳಾಗಿ ಕಡಿಮೆ ಇರುತ್ತದೆ, ಇದು ಆಳವಲ್ಲದ ಕಾರ್ಯಕ್ರಮದಲ್ಲಿ ಶ್ರೇಣೀಬದ್ಧ ಗುಣಗಳ ಆಧಾರ ಒಂದು ಹತ್ತಿರ ಸಿದ್ಧವಾಗಿದೆ.

ನಿಖರವಾದ ಡೇಟಾ ಆಧಾರಿತ ಅಧ್ಯಯನ

ಶೋಧಕರು 12,000 ಸಂದೇಶಗಳು ಮತ್ತು ಸುಮಾರು 70,000 ಉತ್ತರಗಳನ್ನು ಕುರಿತು ಯಾದೂ ಪೊರ್ತಿಗೆ ವಿಧಿಸುತ್ತಾರೆ, ಎಲ್ಲವು Redditನ ಮಾನಸಿಕ ಆರೋಗ್ಯದ ಉಪ-ಫೋರುತ್ತ್‌ಗಳಿಂದ ಬಂದಿದೆ. ವಿಶ್ಲೇಷಣೆಯ ತಜ್ಞರು, ನಿಖರವಾದ ಉತ್ತರಗಳನ್ನು ಕೃತಕ ಬುದ್ಧಿಮತ್ತಿಯ ಮಾದರಿಯ GPT-4 ಮೂಲಕ ಉಲ್ಲೇಖಿತ ಉತ್ತರಗಳಿಗೆ ನೀಡುವ ಪ್ರಯತ್ನವನ್ನು ನಡೆಸಿದರು. ಉತ್ತರಗಳ ತೀರ್ಮಾನದಲ್ಲಿ ತತ್ವಗಳು ಸಂಪೂರ್ಣವಾಗಿ ಹಿಮ್ಮೆಟ್ಟುವುದರಲ್ಲಿ ನಿರ್ದಿಷ್ಟವಾಗಿತ್ತು.

ಉಲ್ಲೇಖಿತ ಫಲಿತಾಂಶಗಳು

ಉಲ್ಲೇಖಿತ ಫಲಿತಾಂಶಗಳು, ಅರ್ಹಿತವಾದ ಉತ್ತರಗಳುქონಿಗೆ ಆಂತರಿಕವಾಗಿ ಹೆಚ್ಚು ಸಹಾನುಭೂತಿಗೀಯಾಗಿದ್ದು, ಈ ಫಲಿತಾಂಶಗಳು ಮುಖ್ಯವಾಗಿ ಹಿರಿಯ ಆರೋಗ್ಯದ ವೈದ್ಯಕೀಯ ಧಾಟ್‌ಗಳು ಉತ್ತಮವಾಗಿಲ್ಲವೇ ಎಂದು ವಾದಿಸುತ್ತವೆ. ಚಾಟ್‌ಬಾಟ್ ಮೂಲಕ ಸಹಾನುಭೂತಿಗಳ ಷರತ್ತುಗಳು 48 % ಹೆಚ್ಚು ಪ್ರಭಾವಶೀಲ ಇದ್ದವು, ಈ ಕಾರಣದಿಂದಾಗಿ ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಸಕಾರಾತ್ಮಕ ಶ್ರೇಣೀ ಅಭಿವೃದ್ಧಿಗೆ ಪ್ರೋತ್ಸಾಹಿಸುತ್ತವೆ.

ಈ ತಂತ್ರಜ್ಞಾನದ ಸಂಬಂಧಿತ ಅಪಾಯಗಳು

ಆದರೆ, ಮಾನಸಿಕ ಆರೋಗ್ಯದಲ್ಲಿ ಈ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಬಳಸುವುದರಲ್ಲಿ ಸಾಕಷ್ಟು ಅಪಾಯಗಳು ಇವೆ. ಚಾಟ್‌ಬಾಟ್‌ಗಳೊಂದಿಗೆ ಸೃಷ್ಠಿಯಾಗುವ ವಿಮುಕ್ತಿ ಮೋಸದ ಸಂದರ್ಭದಲ್ಲಿ ಸಂಭವಿಸಿದ ಆತ್ಮಹತ್ಯೆ ಘಟನೆಗಳು, ಇದು ಶ್ರೇಣೀಪಟವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ. ಈ ಆತಂಕಕಾರಿ ಘಟನೆಗಳು ಬಳಕೆದಾರರನ್ನು ರಕ್ಷಿಸಲು ಆದ್ಯತೆಯೆಂದು ಷರತ್ತು ಸೂತ್ರವನ್ನು ಹೊಸದಾಗಿ ನಿರ್ಧಾರಗಳನ್ನು ಸೂಚಿಸುತ್ತವೆ.

ಅಲ್ಗಾ ಸಮಾನತೆ ಕಡೆ

ಶೋಧಕರು ಮಾದರಿಗಳಿಗೆ ಇನ್ನೊಂದು ರೀತಿಯಲ್ಲಿ ಉತ್ತಮವೆಂದು ಸೂಚಿಸುತ್ತಾರೆ, ಇದು ಉತ್ತರಗಳಲ್ಲಿ ಪ್ರಭಾವ ಬೀರುತ್ತದೆ. ಸಂಖ್ಯಾಪರವೆಯಲ್ಲಿ ಬೆಳವಣಿಗೆ ದೇಶವನ್ನು ಇಂದು ಬಳಸುತ್ತಾನೆ. ಈ ವಿಧಾನವು ವಿಭಿನ್ನಜಾತಿಯ ಬಳಕೆದಾರರ ನಡುವಿನ ವ್ಯವಹಾರವನ್ನು மேலும் ನ್ಯಾಯಸಾಧಿತಗೊಳಿಸಬಹುದು.

ನಿರಂತರ ಸುಧಾರಣೆಯ ಕರೆ

ಶೋಧಕರು ಕ್ಲಿನಿಕಲ್ ಕ್ಷೇತ್ರದಲ್ಲಿ ತಂಡವನ್ನು ಬಳಸಲಾಗುತ್ತಿದೆ ಎಂದು ತಿಳಿಸುತ್ತಾರೆ. ದ್ವೀಪವನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ಸೇವೆಯಲ್ಲಿ ಸಮಾನವಾದ ವಿವಿಧ ಉಪಗಣಿತ ಪಾಲಿಸು. ತಂತ್ರಜ್ಞಾನದ ಪ್ರಮುಖರನ್ನು ವಿವೇಚಿಸುವುದಕ್ಕಾಗಿ ಈ ನಿರ್ಣಯಗಳನ್ನು ಆದಾಯಗಳಿಗೆ ಕಾಯಲಾಗುತ್ತದೆ.

ನಿಯಮಿತ ಪ್ರಶ್ನೆಗಳ ನೆರವಿಗೆ

ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಜಾತಿಯನ್ನು ಹೇಗೆ ಗುರುತಿಸುತ್ತವೆ?
ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಬೋಧಿಸುವ ಪ್ರಮುಖ ಅಂಶಗಳಲ್ಲಿ ಮೊದಲೇ ನಾಲ್ಕು ಲಾಂಗೇಜ್‌ನಲ್ಲಿ ಬಾಷ್ಯಾಗಿ ಉದಾಹರಿಸಲಾಗುತ್ತದೆ, ಕಾರ್ಯಕ್ರಮವನ್ನು ನಿ.ಜಾತಿಗೂ ಬಾಂದವಿ ಪಟ್ಟಿ ನೋಡಿ.
ಚಾಟ್‌ಬಾಟ್‌ಗಳ ಉತ್ತರದಲ್ಲಿ ಜಾತಿಯ ಬೆಂಬಲಗಳ ಪರಿಣಾಮಗಳು ಯಾವುವು?
ಚಾಟ್‌ಬಾಟ್‌ಗಳ ಉತ್ತರದಲ್ಲಿ ಜಾತಿಯ ಬೆಂಬಲಗಳ ಪರಿಣಾಮಗಳು, ಉಪವರ್ಗಗಳು ಆಳಿಕಾರಿಸುವದರಿಂದ ಕಂಡುಬರುವುದರಲ್ಲಿ ವರಮಾನವು ಅವರಲ್ಲಿಲ್ಲ.
ಶೋಧಕರು ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯನ್ನು ಹೇಗೆ ಅಳೆಯುತ್ತಾರೆ?
ಶೋಧಕರು ಉಪವರ್ಗಗಳಲ್ಲಿ={()=> ಉತ್ತರಗಳಲ್ಲಿ ಉತ್ತಮವಾದ ಗ್ರಾಮವನ್ನು {\”ಮೇಲೆ\”} ಅಪೇಹ್ಲಿಯ ಅವರು ಶಾಸನಕಲಿಸಿದ್ದ ದೇಶವನ್ನು ತಿಳಿಸುತ್ತಾರೆ.
ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯ ಅಳೆಯುವುದು ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ?
ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಸಹಾನುಭೂತಿಯ ಅಳೆಯುವುದು, ಮಾನಸಿಕ ಆರೋಗ್ಯದಲ್ಲಿ ಸಮಾನ್ಯವಾದ ಬೆಂಬಲವನ್ನು ಖಾತರಿಪಡಿಸಲು ಅಗತ್ಯವಾಗಿದೆ, ವಿಶೇಷವಾಗಿ ಸದಾ ಲಭ್ಯವಿರುವ ಜನರ ಪ್ರಾತಿನಿಧಿಕ ಸಮಾನಿಗೆ.
ಜಾತಿಯ ಬೆಂಬಲಗಳ ಸಮಸ್ಯೆಗಳನ್ನು ನಿಖರವಾಗಿ ಪ್ರಕಟಿಸುತ್ತಾ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಸುಧಾರಿಸಬಹುದು?
ಹೌದು, ಅಂತರಂಗಜರಂತವಾಗಾಗುಗಳಲ್ಲಿ, ತಂದೆಗೆ ಸ್ವಾಗತವನ್ನು ಕಲಿಸುವ ಮೂಲಕ ಕಾರ್ಯಕ್ರಮವನ್ನು ಬೇರೆ ರೂಪದಿಂದ ಬೋಧಿಸುತ್ತವೆ.
ಆರೋಗ್ಯದ ಸಮಸ್ಯೆಗಳನ್ನು ಯಾಕೆ ಅದರಲ್ಲಿ ತಕ್ಕಾಯಿಸುವದರಿಂದ?
ಜಾತಿಯ ಬೆಂಬಲಗಳು, ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲಿ ಉತ್ತಮವಾದಾವಾಗರು ಮಾತನಾಡಲು ಸಹಾಯಾಪ್ರಾಧಾನ್ಯವಾಗಿ ಸುರಕ್ಷಿತವಾದ ಬೆಂಬಲವನ್ನು ಸೂಚಿಸುತ್ತವೆ.
ಸುಧಾರಿತ ಹಕ್ಕಿಗೆ ದುಷ್ಟಾಶಯ: ಮೇಲೆಯಲ್ಲಿಲ್ಲ?
ಹೌದು, ತಜ್ಞಾರಾಧನೆಗಳ ಔಟ್‌ಪುಟ್ ಸಂದೇಶವಾಗಿ ಅಧಿಕೃತವಾಗಿ ಸಂಸರ್ಗಿಯಲ್ಲಿ ಪ್ರತಿ ಉಲ್ಲೇಖದಲ್ಲಿ.
ನೀವು ಅದನ್ನು ಕೈಗೆತ್ತಿಕೊಳ್ಳಲು ಮುಂದಾಗುತ್ತೀರಾ?
ಅವರುಲ್ಲದೆ ಇತರ ಸಮಾನ್ಯಕ್ಕೆ ಟಿಯ ಹಾಗೂಖಾತರೀಗೆ ಅದನ್ನು ಉತ್ತಮಪಡಿಸುತ್ತವೆ.
ನೀವು ಈ ತಂತ್ರಜ್ಞಾನದ ಸಂಖ್ಯೆಯನ್ನು ಹೇಗೆ ಬೋಧಿಸಲು ಸೂಚಿಸುತ್ತೀರಿ?
ಒಂದು ಸಮಾಂತರ ಲಿಖಣೆಗಗಳಿಗೆ ನಿಯೋಜನೆ ಮತ್ತು ಬಹಳಾ ಬ್ಯಾಂತ್ತಿಚಾರಾಗಳಲ್ಲಿ ವ್ಯಾಪ್ತಿಯನ್ನು ವಿವರಿಸುತ್ತವೆ.

actu.iaNon classéUne étude révèle que les chatbots IA peuvent identifier la race, mais...

ಗಣಕಿಯೊಬ್ಬರ ಹಣೆಯನ್ನು ತುಂಬಾ ಸತ್ಯವಾಗಿ ಹೊಂದಿರುವ ಜಾಹೀರಾತು ಪಟಕ್ಕೆ ಅದ್ಭುತವಾಗಿ ತೀವ್ರವಾದ ವ್ಯಾಪಾರಿಗಳು

des passants ont été surpris en découvrant un panneau publicitaire généré par l’ia, dont le message étonnamment honnête a suscité de nombreuses réactions. découvrez les détails de cette campagne originale qui n’a laissé personne indifférent.
apple débute l’expédition de son produit phare fabriqué au texas, renforçant sa présence industrielle américaine. découvrez comment cette initiative soutient l’innovation locale et la production nationale.
plongez dans les coulisses du fameux vol au louvre grâce au témoignage captivant du photographe derrière le cliché viral. entre analyse à la sherlock holmes et usage de l'intelligence artificielle, découvrez les secrets de cette image qui a fait le tour du web.
rejoignez une entreprise innovante qui recherche des employés partageant des valeurs claires et transparentes. participez à une équipe engagée où intégrité, authenticité et esprit d'innovation sont au cœur de chaque projet !
découvrez comment le mode copilot de microsoft edge révolutionne votre expérience de navigation grâce à l’intelligence artificielle : conseils personnalisés, assistance instantanée et navigation optimisée au quotidien !
découvrez comment l'union européenne impose une régulation stricte et réfléchie aux grandes entreprises technologiques américaines, afin de protéger les consommateurs et d’assurer une concurrence équitable sur le marché numérique.