ಟೆಂಸೆಂಟ್ ಪ್ಲ್ಯಾಟ್‌ಫಾರ್ಮ್‌ಗಳಿಗೆ ಖುಣ್ಯಾನ್ ಮಾದರಿಗಳನ್ನು ಬಹಿರಂಗ ಮೂಲಗಳಿಗೆ ಬಿಡುಗಡೆ ಮಾಡುತ್ತದೆ

ಟೆನ್ಸೆಂಟ್ ಹೊಸ ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳ ಸರಣಿಯನ್ನು ಹೊಂದಿದೆ

ಟೆನ್ಸೆಂಟ್ ತಮ್ಮ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳ ಸಂಕಲೆವನ್ನು ವಿಸ್ತರಿಸಿದೆ, ಇದು ವಿರಾಧುದೋನಗೆ ಮತ್ತು ವ್ಯಾಪಕ ಅನ್ವಯಗಳಿಗೆ ವಿಶಿಷ್ಟವಾಗಿ ಪರಿಣಮಿಸುತ್ತದೆ. ಈ ಹೊಸ ಮಾದರಿಗಳು, ಒದಗಿಸಲು ಶಕ್ತಿ ಹೊಂದಿಸು ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಪುಟ್ಟ ಪಜನಿಕಗಳಲ್ಲಿ ಅಥವಾ ಬಹು-ಊರ್ಜಿ ಉತ್ಪಾದನಾ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ.

ಪೂರ್ವ-ಶಿಕ್ಷಣಾದ ಮಾದರಿಯ ಸಂಕಲೆ

ಈ ಘೋಷಣೆಯು ನಿಯಮಿತದ ಸ್ಥಿತಿಯಿಂದ ಓದು ಮತ್ತು ಶಿಕ್ಷಣಕ್ಕೆ ಸಮರ್ಪಿತ ಪೂರ್ವ-ಶಿಕ್ಷಿತ ಮತ್ತು ಸುಧಾರಿತ ಮಾದರಿಯ ಸಂಕಲನವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ, ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಅಭಿವೃದ್ಧಿ ವೇದಿಕೆಯಲ್ಲಿ ಲಭ್ಯವಿದೆ. ಮಾದರಿಗಳು 0.5B ರಿಂದ 7B ವರೆಗೆ ಬಾಹ್ಯಗೋಚಿಗ ಗೋಚಿ ಹೊಂದಿದ್ದು, ಅಭಿವೃದ್ಧ್ಪಡ ಮತ್ತು ಉದ್ಯಮಗಳಿಗೆ ಹೊಂದಾಣಿಕೆಯನ್ನು ನೀಡುತ್ತದೆ. ಟೆನ್ಸೆಂಟ್ ಈ ಮಾದರಿಗಳನ್ನು ಹುನ್ಯುಾನ್-ಎ13ಬಿ ಮೋದಿ ಸಮಸ್ಯೆಯಂತೆ ತರಬೇತಿ ನೀಡುವ ಸಮಾನ ತಂತ್ರಗಳೊಂದಿಗೆ ಅಭಿವೃದ್ಧಿ ಮಾಡಲಾಗಿದೆ, ಇದರ ಮೂಲಕ ನಿಖರವಾದ ಪ್ರದರ್ಶನ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಕಾತ್ಯವಾಗಿ ಹೊಂದಿಸುತ್ತವೆ.

ಅತೀ-ನೀಡುವ ಆಟದ ‌ನೆಂಟು

ಹುನ್ಯುಾನ್ ಸರಣಿಯಲ್ಲಿನ ಗಮನಾರ್ಹ ವೈಶಿಷ್ಟ್ಯಗಳಲ್ಲಿ, 256K ಕಾನ್ಟೆಕ್ಸ್ಟ್ ವಿಂಡೋಗೆ ನೈಸರ್ಗಿಕ ಬೆಂಬಲವಿದೆ. ಈ ಶಕ್ತಿಯು ಮಾದರಿಗಳಿಗೆ ಉದ್ದದ ಆಕೃತಿಯಲ್ಲಿ ಅಕ್ಷರಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಸಮರ್ಥ ತಂತ್ರದಲ್ಲಿ ಬರುವಂತೆ ಇದು ಪ್ರಯೋಜನಕಾರಿ, ಸಂಕೀರ್ಣ ಡಾಕ್ಯುಮೆಂಟ್‌ ಉದ್ಯೋಗಗಳನ್ನು ವಿಶಿಗೆಯಾಗಿ ಮತ್ತು ಸಂಪೂರ್ಣ ವಿಷಯವನ್ನು ನಿರ್ಪಾದಿಸಲು ಪ್ರಸ್ತಾಪಿಸುತ್ತದೆ. ವಾತೆಕ್ಷಣೆಯು ಟೆನ್ಸೆಂಟ್‌ ಎರಡು ಆಯ್ಕೆಗಳ ಯೋಚನೆಯೊಳಗೆ ಬಳಕೆದಾರರಿಗೆ ಸಂಪೂರ್ಣ ಕಾಲಮಾನದ ಅಳವಡಿಸಿರು ಸ್ಫೂರ್ತಿಯನ್ನು ಒದಗಿಸುತ್ತದೆ ಎಂಬುದಾಗಿ ಹೇಳುತ್ತದೆ.

ಏಜಂಟ್ ಕಾರ್ಯಗಳಿಗೆ ನಿರ್ವಹಣಾ ವ್ಯವಹಾರ

ಟೆನ್ಸೆಂಟ್ ಮಾದರಿಗಳ ಏಜಂಟ್ ಸಾಮರ್ಥ್ಯಗಳ ಮೇಲೆ ಒತ್ತಿಸುತ್ತಿದೆ, ಇದು ಸಮರ್ಥ ಕಾರ್ಯಗಳಿಗೆ ಮತ್ತು ಅಡಾಪ್ಟಿವ್ ಕಾರ್ಯಗಳಿಗೆ ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಎಲ್ಲಾ ಹೆಸರಾಂಶ ವರದಿಗಳನ್ನು ಪಟ್ಟಣದ ಹಿನ್ನೆಲೆಯಲ್ಲಿ, BFCL-v3 ಮತ್ತು C3-Bench ಎಂಬ ಪರಿಕಲ್ಪನೆಗಳಲ್ಲಿ ಮೊದಲ ಸ್ಥಾನವನ್ನು ಪಡೆದಿದ್ದಾರೆ, ಹಂತದಿಂದ ಹಂತದ ಸಮಸ್ಯೆಗಳನ್ನು ತ್ವರಿತವಾಗಿ ಪರಿಹರಿಸಲು ಅನೇಕ ಶಕ್ತಿಯಿಲ್ಲದ ಇತರ ವಿಮರ್ಶೆಗಳಂತೆ. ಹುನ್ಯುಾನ್-7B-ಶಿಕ್ಷಣ ಮಾದರಿಯು C3-Bench ನಲ್ಲಿ 68.5 ತಲುಪಿದ್ದು, ಹುನ್ಯುಾನ್-4B-ಶಿಕ್ಷಣ ಮಹತ್ವವು 64.3 ವರೆಗೆ ಹೊಡೆದಿದೆ.

ಆಗೋಚಿಯ ಚಾಲನೆ ಮತ್ತು ಪ್ರಮಾಣೀಕರಣ ತಂತ್ರಗಳು

ಹುನ್ಯುಾನ್ ಮಾದರಿಯ ಸಾಧನೆ ಚಿತ್ತಾಕರ್ಷಕ ಪ್ರಮಾಣೀಕರಣ ಮೇಲೆ ಕೇಂದ್ರಿತವಾಗಿದೆ. ಈ ಮಾದರಿಗಳು ಸಮೂಹಕಾಲಾತೀತ ತಂತ್ರಜ್ಞಾನದ ಶ್ರೇಣಿಯಲ್ಲಿರುವ GQA ಆತನವನ್ನು ಬಳಸುತ್ತವೆ, ಇದು ಪ್ರಕ್ರಿಯೆಯನ್ನು ಶ್ರದ್ಧागೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಲೆಕ್ಕವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಕೆಲಸ ಪಾಯೋಜನಕ್ಕೆ ಸಂಬಂಧ ಕಾರ್ಯವನ್ನು, ಪ್ರಮಾಣೀಕರಣದ ಸರಳ ಪರಿಕರ ಮಧ್ಯೆ ಹೊಸ ಆವೃತ್ತಿಯಿಂದ ಮೋದಲು ಮಾಡಿದ ಬೆಂಬಲದಿಂದ ವೃದ್ಧಿಸಲು ಹುನ್ಯುಾನ್ ಆನ್‌ಶೇವನ್ನು ಅನುಕೂಲವಾಗಿ ಮಾಡಿದ್ದಾರೆ.

AngleSlim ಸ压缩工具

ಮಾದರಿಯ 압축ವನ್ನು ಸುಧಾರಿಸಲು, ಟೆನ್ಸೆಂಟ್ AngleSlim ಎಂಬ ಹೆಸರು ನೀಡಿರುವ ಪರಿಕರಗಳ ಸಂಕಲನವನ್ನು ರೂಪಿಸುತ್ತಾರೆ. ಇದು ಹುನ್ಯುಾನ್ ಸರಣಿಯ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಹೆಚ್ಚಿನ ಪ್ರಯೋಜನಾವಾದದ ಗ್ರಂಥಿ ವಿದ್ಯಮಾನಗಳು ಹೊಂದಿವೆ. ಮೊದಲನೆಯದು, ಸ್ಟಾಟ್ ಸಂಪರ್ಕಿಕೆಯ ಪ್ರವರ್ತಕ FP8, 8 ಬೀಟ್ಸ್ ಸಹೀತ ಕಷ್ಟಗಳಲ್ಲಿ ಮತ್ತು ಡೇಟಾ ಇದೆಯಾದ ಸಂಗತಿ. ಹನ್ನೊಂದನೆಯಾಗ ಇದು, ಶ್ರೇಣಾಮಾನಗಳನ್ನು ಎಲ್ಲಾ ಪರಿಕಳನೆಯ ತಂತ್ರಜ್ಞಾನದ ಅಪರಾಧದಿಂದ ಸಮಯದ ವಿನ್ಯಾಸ ತಮ್ಮ ಧರಿಸಲಿದೆ.

ಸಾಧನೆಯ ಶ್ರೇಣಾ ವೆಂಬ ಗಣಕೋಳವ ಹೇಗಿದೆ

ದಕ್ಷತೆಯ ಶ್ರೇಣಾ ಶ್ರೇಣೆ ಶ್ರೇಣಾ ಶ್ರೇಣೆಯಲ್ಲಿರುವ ಹುನ್ಯುಾನ್ ಮಾದರಿಯ ಶಕ್ತಿಯನ್ನು ಹಂಚಿಲ್ಲ. ಉದಾಹರಣೆಗೆ, ಪೂರ್ವ-ಶಿಕ್ಷಿತ ಹುನ್ಯುಾನ್-7B ಮಾದರಿ MMLU ನಲ್ಲಿ 79.82, GSM8K ನಲ್ಲಿ 88.25 ಮತ್ತು MATH ನಲ್ಲಿ 74.85 ಜೆನ್ನು ತಲುಪುತ್ತದೆ. ನಿಷ್ಕರ್ಷಿತ ಶ್ರೇಣೆ ಎಂದರೆ, 81.1 ಪ್ರಾಣಿಯಲ್ಲಿ AIME 2024 ಮತ್ತು 76.5 OlympiadBench ವಿಜ್ಞಾನದಲ್ಲಿ ಇದೆ.

ಸ್ಥಾಪನೆ ಮತ್ತು ವ್ಯಕ್ತಿತ್ವ

ಟೆನ್ಸೆಂಟ್ ಹುನ್ಯುಾನ್ ಮಾದರಿಯ ಹೊರಗಾಣಲು ಸ್ಥಾಪಿತವಾದ ತಂತ್ರಜ್ಞಾನಗಳನ್ನು ಪ್ರಸಕ್ತ ಪ್ರಮಾಣೀಕರಣಕ್ಕಾಗಿ TensorRT-LLM ಅಥವಾ vLLM ಬಳಸಲು ಶಿಫಾರಸು ಮಾಡುತ್ತಾರೆ. ಈ ತಂತ್ರಜ್ಞಾನವು OpenAI ಗೆ ಸ್ಪಷ್ಟವಾದ ಏರ್ಪಡಿಸಿದ ಇವೆಈ ಬಳಕೆಯ ಪರಿಸರದಲ್ಲಿ ನಿರಂತರ ಮತ್ತು ಸಲ್ಲಿಸಲು ಪಡೆದ ವೈದ್ಯದೊಳ್ಳುಗಳನ್ನು ವಿಧಾನಗಳು ಕ್ರಿಯಾತ್ಮಕವಾಗಿ ಅನುಕರಿಸುತ್ತದೆ. ಅನುಭವಕ್ಕಾಗಿ, ಪ್ರಧಾನವಾಗಿ ಉತ್ಕೃಷ್ಟತೆ ಮತ್ತು ವೇಗವು ಹುನ್ಯುಾನ್ ಸರಣಿಗೆ ದೃಷ್ಟಿ ಮುಡಿಯು ಸೃಷ್ಟಿಸುತ್ತವೆ.

ಬಳಕೆ ಮತ್ತು ಹೆಚ್ಚುವರಿ ಮಾಹಿತಿ

ಈ ವಿಷಯಗಳ ಮೇಲೆ ಹೆಚ್ಚಿನ ಮಾಹಿತಿಗಾಗಿ, ವಿವಿಧ ಲೇಖನಗಳು ಇಂದು ಹೊತ್ತಿರುವ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಆಧಾಯಗಳ ಬಗ್ಗೆ ಮೈಲೈಟ್‌ನಲ್ಲಿ ಒದಗಿಸುತ್ತವೆ. ಈ ಐಟಂಗಳಲ್ಲಿ, ಬಂಡವಾಳದ ಮೇಲಿನ ಉದ್ಯಮಗಳ ಪ್ರಭಾವವು, ರಾಜಕೀಯ ವ್ಯಕ್ತಿಗಳನ್ನು ಸಂಬಂಧಿಸಿದ ಕಾರಣದಿಂದಾಗಿ ಉಲ್ಲೇಖಾದ ಅತಿ ಮಹತ್ವದ ಯೋಜನೆಗಳಾಗಿ, ಮತ್ತು ಮಾಹಿತಿಯ ಸುರಕ್ಷತಾ ಸಮಸ್ಯೆಗಳಿಗೆ.

• AAPL ನ ಮಾರುಕಟ್ಟೆಯ ಅಭಿವೃದ್ಧಿ
• IA ನಿಂದ ಪ್ರಭಾವಿತ ಸಾಮಾಜಿಕ ಶ್ರೇಣಿಗಳು
• IA ಯ ರಾಜಕೀಯ ಬಳಕೆ
• ಮಾಹಿತಿಯ ಸುರಕ್ಷತೆಯು ಮತ್ತು IA
• ಜಕ್ಕರ್‌ ಬುದ್ಧಿಯಾಗಳ ಶೋಧಣೆ

ಪ್ರಶ್ನೆಗಳು ಮತ್ತು ಉತ್ತರಗಳು

ಟೆನ್ಸೆಂಟ್‌ನ ಹುನ್ಯುಾನ್ ಐ ಮಾದರಿಗಳ ಶ್ರೇಣಿಗಳು ಯಾವುದು?
ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು, ಶ್ರೇಣವಾದ ಶ್ರೇಣೆಗಳನ್ನು ಬಗೆಹರಿಸಲು, ಎಲ್ಲ ಸ್ಥಳಗಳಲ್ಲಿ ಕಾರ್ಯಕ್ಷಮವಾಗಿ ಪ್ರತಿಷ್ಠೆ ಹೊಂದಿರುವ ಶಕ್ತಿಯನ್ನು ಒದಗಿಸುತ್ತವೆ. ನಿರ್ಧಿಷ್ಟ ಸಿಂಪ್ಲೆಂಟುಗಳೊಂದಿಗೆ.

ಹುನ್ಯುಾನ್ ಸರಣಿಯಲ್ಲಿನ ಮಾದರಿಯ ಸರಣಿಯ ಅವಕಾಶವನ್ನು ತೊಡಗಿಸಲು?
ಹುನ್ಯುಾನ್ ಸರಣಿಯೊಳಗೆ, 0.5B ರಿಂದ 7B ವರೆಗೆ ನಿಯಂತ್ರಣಗಳಿಗೆ ಅವಕಾಶವಿರುವ ಸಂಖ್ಯಾವಳಿಯ ಒಂದು ಸಂಖ್ಯೆಯ ಉತ್ತಮ ಶ್ರೇಣಿಗೆ, ಪ್ರತಿಯೊಬ್ಬ ನಾಲ್ಕು ಫ್ಯಾಕ್ಟರ್ಗಳನ್ನು ನಿಖರವಾಗಿ ಬೊಮ್ಮಿ ಸ್ಟಾಕ್ ಹೊತ್ತನೆ.

ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು, ಉದ್ದವಾಗಿ ವಿಷಯವನ್ನು ಒಳಗೊಂಡಂತೆ ಯಾವ ಮೆಟ್ಟಿಗೆ?
ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು 256K ಗೆ ನೈಸರ್ಗಿಕ ಬೆಂಬಲವನ್ನು ಹೊಂದಿದ್ದು, ಅಗಾಧ ವೈವಿಧ್ಯಗಳಿಂದ ಸಂಕೀರ್ಣ ವಿಷಯಗಳನ್ನು ಖಚಿತಪಡಿಸಲು ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿವೆ.

ಟೆನ್ಸೆಂಟ್‌ ಹೇಗೆ ತಮ್ಮ ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳ ಪ್ರಮಾಣೀಕರಣಕ್ಕಾಗಿ ಯಾವ ವಿಧಾನಗಳನ್ನು ಬಳಸುತ್ತದೆ?
ಟೆನ್ಸೆಂಟ್‌ ಮುಖ್ಯವಾಗಿ ಎರಡು ಮೆತೀಕಣಾ ವಿಧಾನಗಳನ್ನು ಬಳಸುತ್ತಾರೆ: ಸ್ಥಿರ ಪ್ರಮಾಣೀಕರಣ FP8 ಅನ್ನು, ಇದು ಸಂತುಲಿತತೆಯ ಹೊಂದಿರುವ ಶ್ರದ್ಧಾಂಕದಲ್ಲಿ ಪ್ರಕ್ರಿ ವ್ಹೆಗೆ ಪ್ರಯೋಜನ; ಮತ್ತು ಪುರಾಣ ಪ್ರವರ್ತಕ INT4, ಇದು ಅಪರಾಧಗಳನ್ನು ಕಡಿಮೆಮಾಡುತ್ತದೆ.

ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು, ಕಡಿಮೆ ಶಕ್ತಿ ಹೊಂದಿದ ಕಂಪ್ಯೂಟರ್‌ಗಳಿಗೆ ಅನುವು?
ಹೌದು, ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು ಶಕ್ತಿ ವಿಷಯಗಳನ್ನು, ಸಾಮಾನ್ಯವಾಗಿ ಸ್ತ್ರೀದರಿಕೆ, ಶಕ್ತಿಯಲ್ಲಿರುವ ನಮ್ಮವರು, ಅವರ ದೈಹಿಕ ಬುದ್ಧಿಮಾತೆಗೆ ತಲುಪζουν.

ಹುನ್ಯುಾನ್ ಮಾದರಿಯ ಸಾಧನೆ, ಹೆಸರಾಂದ ಶ್ರೇಣಿಯಲ್ಲಿ ಹೇಗಿದೆ?
ಹುನ್ಯುಾನ್ ಮಾದರಿಯ, 79.82 ರ MMLU ಮತ್ತು 88.25 ರ GSM8K ವರ್ಣ ಹಂಗುದುಗಿನಿಂದ ಹೆಚ್ಚು ಶ್ರೇಣಿಯ ಪರಿಚಯಿತ್ತವಾ.

ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು ಯಾವ ನಿರ್ದಿಷ್ಟ ಕಾರಣಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಮುಂಚಿನಿಂದ ಪರಿಣತ ವ್ಯವಸ್ಥೆಯನ್ನು ಹೊಂದುತ್ತುವೆ?
ಹುನ್ಯುಾನ್ ಆಯ್ಕೆಗಳನ್ನು չեն ನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಬಿಡಿ, ಆದಾಯವು ತೀವ್ರ ಪರಿಹಾರವನ್ನು ಮುಂದುಹೋಗುತ್ತದೆ.

ಇಷ್ಟಪಟ್ಟು ನಾನು ನನ್ನ ಶ್ರೇಣಿಬ ಮಾತ್ರಿಕ ಅನುಭವಗಳಿಗೆ ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳನ್ನು ಉತ್ಪಾದನಾ ಕ್ಷೇತ್ರದಲ್ಲಿ ಬಳಸೆ?
ಹುನ್ಯುಾನ್ ಮಾದರಿಗಳು, ಡೆವೆಲಪ್ ಮಾಡಿದ ಮಾರುಕಟ್ಟೆಗಳಲ್ಲಿ ವಿಷಯಿತ ತಂತ್ರಜ್ಞಾನ, ಅಥವಾ IP ಬಾಹ್ಯ ಕಂಪನಿಯ ಯೋಜನೆಗಳನ್ನು ಹೊಂದಿವೆ.