प्रौढ सामग्री व्युत्पन्न करण्यासाठी एआय वापरणे नवीन नाही-जीपीटी -3.5 ने 2023 मध्ये एआय मुख्य प्रवाहात आणले, प्रत्येक नवीन एआय मॉडेलच्या रिलीझमध्ये टेक पुनरावलोकनकर्ते आणि ऑनलाइन उत्साही दोघांकडून गर्दी झाली आहे-ग्रोक 3 चे प्रकरण विशेषतः अत्यंत वाईट आहे. एआय समुदाय प्रौढ सामग्रीसाठी नवीन मॉडेल्सचा नेहमीच द्रुतगतीने होतो आणि ग्रोक 3 त्याला अपवाद नाही. रेडडिट आणि आर्क्सिव सारख्या प्लॅटफॉर्मवर निर्बंधांना कसे बायपास करावे आणि स्पष्ट सामग्री कशी तयार करावी यावरील मार्गदर्शकांसह गोंधळ आहे.

मोठ्या एआय कंपन्या अशा गैरवापर रोखण्यासाठी कठोर नैतिक पुनरावलोकने अंमलात आणण्यासाठी प्रयत्न करीत आहेत. उदाहरणार्थ, मिडजॉर्नी, एक अग्रगण्य एआय प्रतिमा निर्मिती व्यासपीठ आहे, एनएसएफडब्ल्यू (कामासाठी सुरक्षित नाही) हिंसक, नग्न किंवा लैंगिक प्रतिमांसह सामग्रीवर कठोर धोरणे आहेत. उल्लंघन केल्यामुळे खात्यावर बंदी येऊ शकते. तथापि, हे उपाय बर्‍याचदा कमी पडतात कारण वापरकर्त्यांना निर्बंध दूर करण्याचे सर्जनशील मार्ग सापडतात, ही एक सराव "जेलब्रेकिंग" म्हणून ओळखली जाते.

प्रौढ सामग्रीची मागणी ही एक जागतिक आणि शाश्वत घटना आहे आणि एआयने फक्त एक नवीन आउटलेट प्रदान केले आहे. अलीकडेच, ओपनएआयनेसुद्धा त्याच्या काही सामग्रीवरील निर्बंध वाढविण्याच्या दबावांनुसार शिथिल केले आहेत, अल्पवयीन मुलांसह सामग्री वगळता, जे काटेकोरपणे प्रतिबंधित आहे. रेडडिटवरील उत्साही प्रतिक्रियांचा पुरावा म्हणून या शिफ्टने एआयशी अधिक मानवी-सारखे आणि आकर्षक संवाद साधला आहे.