"उच्च स्कोअरिंग पण कमी क्षमता" असूनही, Grok2 कडे X (Twitter) प्लॅटफॉर्मवरून वापरास समर्थन देण्यासाठी मोठ्या प्रमाणात उच्च-गुणवत्तेचा प्रथम-पक्ष डेटा होता. तथापि, Grok3 च्या प्रशिक्षणात, xAI ला स्वाभाविकच OpenAI सध्या ज्या "सीलिंग" ला तोंड देत आहे त्याचा सामना करावा लागला - प्रीमियम प्रशिक्षण डेटाचा अभाव मॉडेलच्या क्षमतांची किरकोळ उपयुक्तता वेगाने उघड करतो.

ग्रोक३ आणि मस्कचे डेव्हलपर्स कदाचित या तथ्यांना सर्वात आधी समजून घेतील आणि त्यांची सखोल ओळख पटवतील, म्हणूनच मस्कने सोशल मीडियावर सतत नमूद केले आहे की वापरकर्ते सध्या अनुभवत असलेले व्हर्जन "अजूनही फक्त बीटा" आहे आणि "येत्या काही महिन्यांत पूर्ण व्हर्जन रिलीज होईल." मस्कने ग्रोक३ च्या उत्पादन व्यवस्थापकाची भूमिका स्वीकारली आहे, वापरकर्त्यांना टिप्पण्या विभागात येणाऱ्या विविध समस्यांवर अभिप्राय देण्यास सुचवले आहे. तो कदाचित पृथ्वीवरील सर्वात जास्त फॉलो केलेला उत्पादन व्यवस्थापक असेल.

तरीही, एका दिवसात, Grok3 च्या कामगिरीने निःसंशयपणे मजबूत मोठ्या मॉडेल्सना प्रशिक्षित करण्यासाठी "मोठ्या संगणकीय स्नायू" वर अवलंबून राहण्याची आशा बाळगणाऱ्यांसाठी धोक्याची घंटा निर्माण केली: सार्वजनिकरित्या उपलब्ध असलेल्या मायक्रोसॉफ्ट माहितीवर आधारित, OpenAI च्या GPT-4 चा पॅरामीटर आकार 1.8 ट्रिलियन पॅरामीटर्स आहे, जो GPT-3 च्या दहा पट जास्त आहे. अफवा सूचित करतात की GPT-4.5 चा पॅरामीटर आकार आणखी मोठा असू शकतो.

मॉडेल पॅरामीटर आकार वाढत असताना, प्रशिक्षण खर्च देखील गगनाला भिडत आहे. Grok3 च्या उपस्थितीमुळे, GPT-4.5 सारख्या स्पर्धकांनी आणि पॅरामीटर आकाराद्वारे चांगले मॉडेल कामगिरी साध्य करण्यासाठी "पैसे जाळणे" सुरू ठेवू इच्छिणाऱ्या इतरांनी आता स्पष्टपणे दिसणारी कमाल मर्यादा विचारात घेतली पाहिजे आणि त्यावर मात कशी करावी याचा विचार केला पाहिजे. या क्षणी, OpenAI चे माजी मुख्य शास्त्रज्ञ इल्या सुत्स्केव्हर यांनी गेल्या डिसेंबरमध्ये पूर्वी म्हटले होते की, "आम्हाला परिचित असलेले पूर्व-प्रशिक्षण संपेल," जे चर्चेत पुन्हा समोर आले आहे, ज्यामुळे मोठ्या मॉडेल्सना प्रशिक्षण देण्यासाठी खरा मार्ग शोधण्याचे प्रयत्न सुरू झाले आहेत.