File size: 1,145 Bytes
62ddeeb | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 | ╔══════════════════════════╗
║ _______ ║
║ /\ |_ _| ║
║ __ __ / \ | | ║
║ \ \/ / / /\ \ | | ║
║ > < / ____ \ _| |_ ║
║ /_/\_\/_/ \_\_____| ║
║ ║
║ Understand the Universe ║
╚══════════════════════════╝
╔═══════════════════╗
║ xAI Grok-1 (314B) ║
╚═══════════════════╝
╔═════════════════════════════════════════╗
║ 314B parameter Mixture of Experts model ║
║ - Base model (not finetuned) ║
║ - 8 experts (2 active) ║
║ - 86B active parameters ║
╚═════════════════════════════════════════╝
|