सिविटई मास्टरकार्ड और वीजा के दबाव के बीच डीपफेक नियमों को मजबूत करता है
CivitAI, इंटरनेट पर सबसे प्रमुख AI मॉडल रिपॉजिटरी में से एक, ने हाल ही में NSFW सामग्री पर अपनी नीतियों में महत्वपूर्ण बदलाव किए हैं, विशेष रूप से सेलिब्रिटी LoRAs के संबंध में। ये बदलाव MasterCard और Visa जैसे भुगतान सुविधा प्रदाताओं के दबाव के कारण हुए। सेलिब्रिटी LoRAs, जो उपयोगकर्ता-जनरेटेड मॉडल हैं और जो प्रसिद्ध व्यक्तियों की AI-जनरेटेड छवियां बनाने की अनुमति देते हैं, साइट पर एक लोकप्रिय विशेषता रहे हैं, जिसमें सैकड़ों या हजारों ऐसे मॉडल उपलब्ध हैं, जिनमें मुख्य रूप से महिला विषय शामिल हैं।
**प्ले करने के लिए क्लिक करें।** *हालांकि CivitAI सटीक संख्या जारी नहीं करता, और अक्सर गलत लेबलिंग या गलत वर्गीकरण होता है, सेलिब्रिटी AI मॉडल, विशेष रूप से LoRAs की भारी मात्रा निर्विवाद है और मुख्य रूप से महिला सेलिब्रिटीज पर केंद्रित है।* स्रोत: civitai.com
Twitch लाइव-स्ट्रीम में, CivitAI के सामुदायिक सहभागिता प्रबंधक, Alasdair Nicoll, जो SFW मॉडल के निर्माता भी हैं, ने इन नीति परिवर्तनों के कारणों पर चर्चा की। Nicoll ने बताया कि वयस्क सामग्री और वास्तविक लोगों के चित्रण के बारे में भुगतान प्रोसेसरों की चिंताओं के कारण साइट को अनुपालन करने के लिए मजबूर होना पड़ा। उन्होंने संकेत दिया कि Visa और MasterCard भविष्य में और सख्त उपायों की मांग कर सकते हैं:
**‘ये वो बदलाव नहीं हैं जो हम करना चाहते थे। यह सब नई और आगामी कानूनों के बारे में है। डीपफेक कानून और AI पोर्न कानून हैं जो भुगतान प्रोसेसरों, विशेष रूप से Visa और MasterCard को संभावित मुकदमों के बारे में चिंतित करते हैं, जो इन बदलावों को प्रेरित कर रहे हैं।’**
**‘हमें अन्य विकल्प दिए गए थे, जैसे सभी गैर-कार्य-सुरक्षित सामग्री को हटाना, या x और ट्रिपल-x सामग्री को पूरी तरह से नए प्लेटफॉर्म पर स्थानांतरित करना, जिसमें जियो-ब्लॉकिंग हो, क्योंकि अमेरिका के आधे से अधिक राज्यों, साथ ही कई एशियाई देशों और यूके में नियम हैं...**
**‘एक अन्य विकल्प क्रिप्टो-केवल भुगतान पर स्विच करना था, लेकिन हमारे लिए कोई अच्छा विकल्प नहीं था।’**
पिछले कुछ दिनों में, इन बदलावों को लागू करने के दौरान CivitAI डोमेन में रुक-रुक कर डाउनटाइम का सामना करना पड़ा। पहले, साइट ने सेलिब्रिटी LoRA चित्रणों में NSFW थीम्स पर प्रतिबंध लगा दिया था, लेकिन अब सेलिब्रिटी LoRAs को सामान्य NSFW मॉडल के साथ ब्राउज़ करना और देखना असंभव है, जो परिपक्व सामग्री के लिए डिज़ाइन किए गए हैं।
आधिकारिक घोषणा स्पष्ट करती है:
**‘वास्तविक व्यक्ति के नामों (जैसे “Tom Cruise”) के साथ टैग की गई सामग्री या POI (वास्तविक व्यक्ति) संसाधनों के रूप में चिह्नित सामग्री को फीड्स से छिपाया जाएगा।’**
Twitch सत्र में, Nicoll ने प्रसिद्ध व्यक्तियों और वास्तविक लोगों की सुरक्षा के लिए अतिरिक्त उपायों पर विस्तार से बताया। जबकि CivitAI ने हमेशा व्यक्तियों को उनके चित्रण करने वाले AI मॉडल को हटाने का अनुरोध करने की अनुमति दी है, Nicoll ने एक नए सिस्टम का उल्लेख किया जो ऐसी छवियों को फिर से अपलोड होने से रोकने के लिए डिज़ाइन किया गया है, भले ही सिस्टम ने उन्हें पहले न देखा हो। इसे प्राप्त करने के लिए, साइट Clavata AI मॉडरेशन सिस्टम के साथ साझेदारी कर रही है, हालांकि Clavata की भागीदारी का पूरा दायरा अस्पष्ट है।
Nicoll ने विशिष्ट उदाहरण साझा किए:
**‘उदाहरण के लिए, Tom Hanks ने हमसे अपनी समानता का दावा किया है। कई वयस्क अभिनेत्रियों और A-लिस्ट अभिनेताओं ने भी ऐसा ही किया है...**
**‘ऐसा करने वाली पहली व्यक्ति Barbara Eden थीं, या बल्कि उनकी संपत्ति – जो मजेदार है क्योंकि वह काफी बुजुर्ग हैं।’**
डिफ़ॉल्ट रूप से संरक्षित?
पिछले कुछ वर्षों में, AI VFX कंपनी Metaphysic ने एक सिस्टम बनाने का प्रयास किया जिससे व्यक्ति अपनी समानता को पंजीकृत कर सकें, मुख्य रूप से हॉलीवुड सितारों के लिए जो AI-आधारित पहचान चोरी के बारे में चिंतित हैं। Anne Hathaway, Octavia Spencer, और Tom Hanks जैसे अभिनेताओं, जिन्होंने फिल्म **Here** (2024) में Metaphysic के साथ काम किया, ने इस पहल का समर्थन किया। हालांकि, डीपफेक कानूनों और संभावित सामान्य कानून संरक्षणों की तेजी से वृद्धि के साथ, Metaphysic की प्रस्तावित सब्सक्रिप्शन-आधारित सेवा अनावश्यक हो सकती है। यह अस्पष्ट है कि क्या Metaphysic का Pro ऑफर Double Negative VFX को हस्तांतरित होगा, जिसने पिछले साल Metaphysic की संपत्तियों को अधिग्रहित किया था। वैश्विक कानून और बाजार दबाव तेजी से अधिक मजबूत संरक्षण और उपाय प्रदान करने के लिए तैयार दिखाई देते हैं, जो वाणिज्यिक समाधानों से अधिक हैं।
धीरे-धीरे उबालना
404 Media की 2023 की रिपोर्ट ने CivitAI पर सेलिब्रिटी और पोर्न AI मॉडल की प्रचलन को उजागर किया, हालांकि साइट के संस्थापक, Justin Maier ने इन मॉडल और उनके अश्लील सामग्री उत्पन्न करने में उपयोग के बीच संबंध को कम करके आंका। Nicoll ने स्पष्ट किया कि Visa और MasterCard के लिए प्राथमिक चिंता सामग्री उत्पन्न करना नहीं है, बल्कि इन मॉडल की होस्टिंग है:
**‘कुछ लोग मानते हैं कि हम इस स्थिति में हैं क्योंकि हम उत्पन्न करने की अनुमति देते हैं। ऐसा नहीं है। इन मॉडल और सामग्री को होस्ट करना ही पर्याप्त है ताकि जांच हो।’**
समुदाय की चर्चाओं में लंबे समय से आश्चर्य व्यक्त किया गया है कि CivitAI को सेलिब्रिटी समानताओं को होस्ट करने की अनुमति थी। प्रतिबंध की आशंका में, LoRAs को संरक्षित करने के लिए कई पहल उभरी हैं, जिसमें subreddit r/CivitaiArchives शामिल है। जबकि कुछ लोग टॉरेंट-आधारित समाधान का सुझाव देते हैं, अभी तक कोई प्रमुख डोमेन उभरा नहीं है, जिसके परिणामस्वरूप प्रतिबंधित सामग्री इंटरनेट के किनारों, जिसमें डार्क नेट भी शामिल है, की ओर धकेली जा रही है, क्योंकि Reddit और Discord जैसे प्लेटफॉर्म भी ऐसी सामग्री पर प्रतिबंध लगाने की संभावना है।
वर्तमान में, CivitAI पर सेलिब्रिटी LoRAs अभी भी दिखाई दे रहे हैं लेकिन प्रतिबंधों के साथ, और अधिकांश उत्पन्न सामग्री को आकस्मिक खोज को रोकने के लिए डी-लिस्ट किया गया है। Twitch सत्र में एक टिप्पणीकार ने सुझाव दिया कि दबाव बढ़ सकता है, संभवतः अपलोड किए गए मॉडल या चित्रणों में वास्तविक लोगों की सभी समानताओं पर प्रतिबंध लग सकता है। Nicoll ने सहमति जताई:
**‘वे यहीं नहीं रुकेंगे; वे और अधिक मांग करते रहेंगे – बिल्कुल! एकमात्र आशा यह है कि हम इतने बड़े हो जाएं कि हमें जो निर्देशित किया जाता है उसमें हमारी अधिक राय हो...**
**‘कोई भी CivitAI जनरेटर का उपयोग करने के लिए Bitcoin नहीं खरीदने वाला। हमने इन बदलावों को यथासंभव स्वीकार्य बनाने की कोशिश की है, लेकिन हमारे पास यही है। मुझे खेद है अगर यह कुछ लोगों के लिए असहनीय है, लेकिन यही है। हमने जितना संभव हो उतना प्रतिरोध किया, लेकिन अंततः हमें बताया गया कि यही है – इसे करें या खत्म हो जाए...**
**‘ये वित्तीय संस्थान नहीं समझते कि लोग यहाँ क्या कर रहे हैं। हमने समझाने की कोशिश की, लेकिन हम NSFW सामग्री के लिए व्यावहारिक रूप से अंतिम गढ़ हैं।’**
Nicoll ने उल्लेख किया कि CivitAI ने कई भुगतान प्रोसेसरों से संपर्क किया, यहाँ तक कि उनसे जो आमतौर पर अश्लील प्लेटफॉर्म जैसे उच्च-जोखिम वाले साइटों को सेवा देते हैं, लेकिन सभी AI सामग्री के प्रति सतर्क हैं:
**‘यहाँ तक कि उच्च-जोखिम वाले भुगतान प्रोसेसर भी AI सामग्री के प्रति सतर्क हैं। अगर हम एक पारंपरिक अश्लील साइट होते, तो हम ठीक होते, लेकिन AI सामग्री ही वह है जो उन्हें डराती है।’**
आगे क्या?
इस घोषणा से पहले, CivitAI ने पहले ही कुछ अपलोड्स को हटाना शुरू कर दिया था। Wan 2.1 LoRAs के लिए एक ‘आपातकालीन रिपॉजिटरी’ Hugging Face वेबसाइट पर स्थापित की गई है, जिसमें अब प्रतिबंधित ‘undress’ श्रेणी में आने वाले मॉडल शामिल हैं। इस बीच, Donald Trump के प्रशासन के दौरान अमेरिकी सरकार के साहित्य को संरक्षित करने के लिए जाना जाने वाला subreddit r/datahoarders ने CivitAI सामग्री को बचाने में बहुत कम रुचि दिखाई है।
हालांकि CivitAI की NSFW AI जनरेशन की सुविधा को शैक्षणिक साहित्य में नोट किया गया है, जैसे कि 2024 के पेपर **Exploring the Use of Abusive Generative AI Models on Civitai**, भुगतान प्रोसेसरों का ध्यान CivitAI पर क्या उत्पादित होता है, इस पर नहीं है, बल्कि इन मॉडल का उपयोग कम-नियंत्रित समुदायों में कैसे किया जाता है, इस पर है।
Mr. Deepfakes वेबसाइट, जो कभी ऑटोएन्कोडर-आधारित NSFW डीपफेकिंग का पर्याय थी, अब Hunyuan Video और Wan 2.1 जैसे नए टेक्स्ट-टू-वीडियो और इमेज-टू-वीडियो जनरेटरों का उपयोग करके सेलिब्रिटी-आधारित अश्लील वीडियो प्रदर्शित करती है, जो लोकप्रियता हासिल कर रहे हैं और जैसे-जैसे उनके उपयोगकर्ता आधार बढ़ रहे हैं, विवाद उत्पन्न करने की संभावना है।
अनिवार्य मेटाडेटा
Nicoll के अनुसार, भुगतान प्रोसेसरों द्वारा मांगा गया एक और बदलाव साइट पर सभी छवियों में मेटाडेटा शामिल करना है। ComfyUI जैसे प्लेटफॉर्म का उपयोग करने वाले सामान्य वर्कफ़्लो में, उत्पन्न छवियों में मॉडल और विभिन्न सेटिंग्स का विवरण देने वाला मेटाडेटा शामिल होता है। यह मेटाडेटा उपयोगकर्ताओं को जनरेशन प्रक्रिया को फिर से बनाने और किसी भी लापता निर्भरताओं को संबोधित करने की अनुमति देता है। CivitAI ने घोषणा की है कि इस डेटा के बिना कोई भी छवि या वीडियो तीस दिनों के भीतर हटा दिया जाएगा, हालांकि उपयोगकर्ता CivitAI वेबसाइट के माध्यम से इसे मैन्युअल रूप से जोड़ सकते हैं। मेटाडेटा के साक्ष्य मूल्य के बावजूद, यह आवश्यकता कुछ हद तक व्यर्थ लगती है, क्योंकि मेटाडेटा को आसानी से कॉपी या जालसाजी किया जा सकता है।
CivitAI पर हजारों छवियों वाले उपयोगकर्ताओं को अब प्रत्येक को मैन्युअल रूप से एनोटेट करने या उन्हें हटाने और मेटाडेटा के साथ फिर से अपलोड करने का कठिन कार्य सामना करना पड़ रहा है, जिससे ‘likes’ या ‘buzz’ जैसे किसी भी सहभागिता मेट्रिक्स रीसेट हो जाएंगे।
नए नियम
- वास्तविक व्यक्तियों के नामों के साथ टैग की गई सामग्री या वास्तविक व्यक्ति संसाधनों के रूप में पहचानी गई सामग्री अब सार्वजनिक फीड्स में दिखाई नहीं देगी।
- बाल/नाबालिग थीम्स वाली सामग्री को फीड्स से फ़िल्टर किया जाएगा।
- X और XXX रेटेड सामग्री जिसमें जनरेशन मेटाडेटा की कमी है, सार्वजनिक दृश्य से छिपाई जाएगी और चेतावनी के साथ चिह्नित की जाएगी, जिससे अपलोडर को लापता विवरण जोड़ने की अनुमति मिलेगी। ऐसी सामग्री इसके निर्माता के लिए तब तक दिखाई देगी जब तक इसे अपडेट नहीं किया जाता।
- Bring Your Own Image (BYOI) सुविधा का उपयोग करके बनाई गई छवियों को अब जनरेशन के दौरान कम से कम 50% शोर परिवर्तन लागू करना होगा ताकि लगभग सटीक प्रतिकृतियों का निर्माण रोका जा सके। यह नियम CivitAI पर पूरी तरह से बनाई गई या अन्य CivitAI सामग्री से रीमिक्स की गई छवियों पर लागू नहीं होता, जो किसी भी डिनॉइज़ स्तर का उपयोग कर सकती हैं।
- X या XXX सामग्री सक्षम होने पर ब्राउज़ करते समय, सेलिब्रिटी नामों की खोज कोई परिणाम नहीं देगी। सेलिब्रिटी नामों को परिपक्व सामग्री के साथ संयोजित करना निषिद्ध रहता है।
- वास्तविक व्यक्तियों की समानता को दोहराने के लिए डिज़ाइन की गई छवियों या संसाधनों पर विज्ञापन दिखाई नहीं देंगे।
- वास्तविक व्यक्तियों को चित्रित करने वाली छवियों या संसाधनों के लिए टिपिंग (Buzz) अक्षम कर दिया जाएगा।
- वास्तविक लोगों की समानता को दोहराने के लिए डिज़ाइन किए गए मॉडल Early Access के लिए पात्र नहीं होंगे, जिससे सेलिब्रिटी या वास्तविक व्यक्ति की समानता का मुद्रीकरण सीमित हो जाएगा।
- 2257 अनुपालन कथन जोड़ा गया है ताकि यह पुष्टि की जा सके कि प्लेटफॉर्म पर सभी स्पष्ट सामग्री सिंथेटिक है और वास्तविक फोटोग्राफी या वीडियो पर आधारित नहीं है।
- एक नई सामग्री हटाने की अनुरोध पेज किसी को भी बिना लॉग इन किए दुर्व्यवहार या अवैध सामग्री की रिपोर्ट करने की अनुमति देता है। पंजीकृत उपयोगकर्ताओं को प्रत्येक पोस्ट पर अंतर्निहित रिपोर्टिंग टूल का उपयोग करना चाहिए। यह प्लेटफॉर्म से अपनी समानता हटाने के अनुरोध के लिए मौजूदा फॉर्म से अलग है।
- CivitAI ने Clavata के साथ साझेदारी के माध्यम से एक नया मॉडरेशन सिस्टम पेश किया है, जिसके छवि विश्लेषण उपकरण Amazon Rekognition और Hive जैसे पिछले समाधानों से बेहतर प्रदर्शन करते हैं।
*Barbara Eden की ‘संपत्ति’ का उल्लेख होने के बावजूद, I Dream of Jeannie अभिनेत्री अभी भी जीवित हैं, वर्तमान में 93 वर्ष की हैं।*
†*संग्रहीत: https://archive.ph/tsMb0*
*पहली बार गुरुवार, 24 अप्रैल, 2025 को प्रकाशित। गुरुवार, 24 अप्रैल, 2025 14:32:28 को संशोधित: तारीखें ठीक की गईं।*
संबंधित लेख
Google संदिग्ध धोखाधड़ी के लिए 39 मिलियन से अधिक विज्ञापन खातों को निलंबित करने के लिए AI का उपयोग करता है
Google ने बुधवार को घोषणा की कि उसने 2024 में अपने प्लेटफ़ॉर्म पर 39.2 मिलियन विज्ञापनदाता खातों को निलंबित करके विज्ञापन धोखाधड़ी से लड़ने में एक बड़ा कदम उठाया था। यह संख्या पिछले वर्ष की रिपोर्ट की गई थी।
Openai स्ट्राइक्स बैक: एआई प्रतियोगी को कम करने के लिए कथित प्रयासों के लिए एलोन मस्क ने कहा
Openai ने अपने सह-संस्थापक, एलोन मस्क और उनकी प्रतिस्पर्धी AI कंपनी, XAI के खिलाफ एक भयंकर कानूनी पलटवार लॉन्च किया है। अपने चल रहे झगड़े के एक नाटकीय वृद्धि में, ओपनई ने कस्तूरी पर आरोप लगाया कि वह उस कंपनी को कम करने में मदद करने के लिए एक "अथक" और "दुर्भावनापूर्ण" अभियान को छेड़ने का आरोप लगाता है। अदालत के अनुसार डी
अप्रैल 2025 के लिए शीर्ष 9 एआई कानूनी सहायकों ने खुलासा किया
आज की तेज़-तर्रार कानूनी दुनिया में, मामलों का प्रबंधन करना, अनुसंधान का संचालन करना, और ग्राहकों को लूप में रखना एक बाजीगरी कार्य की तरह महसूस कर सकता है। शुक्र है, आर्टिफिशियल इंटेलिजेंस एआई-संचालित कानूनी सहायक उपकरणों के साथ बचाव में आया है। ये निफ्टी गैजेट सभी वकीलों के लिए जीवन को आसान बनाने के बारे में हैं, बो
सूचना (1)
0/200
![FrankKing]()
FrankKing
28 जुलाई 2025 6:48:39 पूर्वाह्न IST
It's wild how payment giants like Mastercard and Visa can push a platform like CivitAI to tighten its deepfake rules. Makes you wonder how much control these companies have over tech. 😕 Curious to see if this actually curbs misuse or just shifts it elsewhere.
0
CivitAI, इंटरनेट पर सबसे प्रमुख AI मॉडल रिपॉजिटरी में से एक, ने हाल ही में NSFW सामग्री पर अपनी नीतियों में महत्वपूर्ण बदलाव किए हैं, विशेष रूप से सेलिब्रिटी LoRAs के संबंध में। ये बदलाव MasterCard और Visa जैसे भुगतान सुविधा प्रदाताओं के दबाव के कारण हुए। सेलिब्रिटी LoRAs, जो उपयोगकर्ता-जनरेटेड मॉडल हैं और जो प्रसिद्ध व्यक्तियों की AI-जनरेटेड छवियां बनाने की अनुमति देते हैं, साइट पर एक लोकप्रिय विशेषता रहे हैं, जिसमें सैकड़ों या हजारों ऐसे मॉडल उपलब्ध हैं, जिनमें मुख्य रूप से महिला विषय शामिल हैं।
**प्ले करने के लिए क्लिक करें।** *हालांकि CivitAI सटीक संख्या जारी नहीं करता, और अक्सर गलत लेबलिंग या गलत वर्गीकरण होता है, सेलिब्रिटी AI मॉडल, विशेष रूप से LoRAs की भारी मात्रा निर्विवाद है और मुख्य रूप से महिला सेलिब्रिटीज पर केंद्रित है।* स्रोत: civitai.comTwitch लाइव-स्ट्रीम में, CivitAI के सामुदायिक सहभागिता प्रबंधक, Alasdair Nicoll, जो SFW मॉडल के निर्माता भी हैं, ने इन नीति परिवर्तनों के कारणों पर चर्चा की। Nicoll ने बताया कि वयस्क सामग्री और वास्तविक लोगों के चित्रण के बारे में भुगतान प्रोसेसरों की चिंताओं के कारण साइट को अनुपालन करने के लिए मजबूर होना पड़ा। उन्होंने संकेत दिया कि Visa और MasterCard भविष्य में और सख्त उपायों की मांग कर सकते हैं:
**‘ये वो बदलाव नहीं हैं जो हम करना चाहते थे। यह सब नई और आगामी कानूनों के बारे में है। डीपफेक कानून और AI पोर्न कानून हैं जो भुगतान प्रोसेसरों, विशेष रूप से Visa और MasterCard को संभावित मुकदमों के बारे में चिंतित करते हैं, जो इन बदलावों को प्रेरित कर रहे हैं।’**
**‘हमें अन्य विकल्प दिए गए थे, जैसे सभी गैर-कार्य-सुरक्षित सामग्री को हटाना, या x और ट्रिपल-x सामग्री को पूरी तरह से नए प्लेटफॉर्म पर स्थानांतरित करना, जिसमें जियो-ब्लॉकिंग हो, क्योंकि अमेरिका के आधे से अधिक राज्यों, साथ ही कई एशियाई देशों और यूके में नियम हैं...**
**‘एक अन्य विकल्प क्रिप्टो-केवल भुगतान पर स्विच करना था, लेकिन हमारे लिए कोई अच्छा विकल्प नहीं था।’**
पिछले कुछ दिनों में, इन बदलावों को लागू करने के दौरान CivitAI डोमेन में रुक-रुक कर डाउनटाइम का सामना करना पड़ा। पहले, साइट ने सेलिब्रिटी LoRA चित्रणों में NSFW थीम्स पर प्रतिबंध लगा दिया था, लेकिन अब सेलिब्रिटी LoRAs को सामान्य NSFW मॉडल के साथ ब्राउज़ करना और देखना असंभव है, जो परिपक्व सामग्री के लिए डिज़ाइन किए गए हैं।
आधिकारिक घोषणा स्पष्ट करती है:
**‘वास्तविक व्यक्ति के नामों (जैसे “Tom Cruise”) के साथ टैग की गई सामग्री या POI (वास्तविक व्यक्ति) संसाधनों के रूप में चिह्नित सामग्री को फीड्स से छिपाया जाएगा।’**
Twitch सत्र में, Nicoll ने प्रसिद्ध व्यक्तियों और वास्तविक लोगों की सुरक्षा के लिए अतिरिक्त उपायों पर विस्तार से बताया। जबकि CivitAI ने हमेशा व्यक्तियों को उनके चित्रण करने वाले AI मॉडल को हटाने का अनुरोध करने की अनुमति दी है, Nicoll ने एक नए सिस्टम का उल्लेख किया जो ऐसी छवियों को फिर से अपलोड होने से रोकने के लिए डिज़ाइन किया गया है, भले ही सिस्टम ने उन्हें पहले न देखा हो। इसे प्राप्त करने के लिए, साइट Clavata AI मॉडरेशन सिस्टम के साथ साझेदारी कर रही है, हालांकि Clavata की भागीदारी का पूरा दायरा अस्पष्ट है।
Nicoll ने विशिष्ट उदाहरण साझा किए:
**‘उदाहरण के लिए, Tom Hanks ने हमसे अपनी समानता का दावा किया है। कई वयस्क अभिनेत्रियों और A-लिस्ट अभिनेताओं ने भी ऐसा ही किया है...**
**‘ऐसा करने वाली पहली व्यक्ति Barbara Eden थीं, या बल्कि उनकी संपत्ति – जो मजेदार है क्योंकि वह काफी बुजुर्ग हैं।’**
डिफ़ॉल्ट रूप से संरक्षित?
पिछले कुछ वर्षों में, AI VFX कंपनी Metaphysic ने एक सिस्टम बनाने का प्रयास किया जिससे व्यक्ति अपनी समानता को पंजीकृत कर सकें, मुख्य रूप से हॉलीवुड सितारों के लिए जो AI-आधारित पहचान चोरी के बारे में चिंतित हैं। Anne Hathaway, Octavia Spencer, और Tom Hanks जैसे अभिनेताओं, जिन्होंने फिल्म **Here** (2024) में Metaphysic के साथ काम किया, ने इस पहल का समर्थन किया। हालांकि, डीपफेक कानूनों और संभावित सामान्य कानून संरक्षणों की तेजी से वृद्धि के साथ, Metaphysic की प्रस्तावित सब्सक्रिप्शन-आधारित सेवा अनावश्यक हो सकती है। यह अस्पष्ट है कि क्या Metaphysic का Pro ऑफर Double Negative VFX को हस्तांतरित होगा, जिसने पिछले साल Metaphysic की संपत्तियों को अधिग्रहित किया था। वैश्विक कानून और बाजार दबाव तेजी से अधिक मजबूत संरक्षण और उपाय प्रदान करने के लिए तैयार दिखाई देते हैं, जो वाणिज्यिक समाधानों से अधिक हैं।
धीरे-धीरे उबालना
404 Media की 2023 की रिपोर्ट ने CivitAI पर सेलिब्रिटी और पोर्न AI मॉडल की प्रचलन को उजागर किया, हालांकि साइट के संस्थापक, Justin Maier ने इन मॉडल और उनके अश्लील सामग्री उत्पन्न करने में उपयोग के बीच संबंध को कम करके आंका। Nicoll ने स्पष्ट किया कि Visa और MasterCard के लिए प्राथमिक चिंता सामग्री उत्पन्न करना नहीं है, बल्कि इन मॉडल की होस्टिंग है:
**‘कुछ लोग मानते हैं कि हम इस स्थिति में हैं क्योंकि हम उत्पन्न करने की अनुमति देते हैं। ऐसा नहीं है। इन मॉडल और सामग्री को होस्ट करना ही पर्याप्त है ताकि जांच हो।’**
समुदाय की चर्चाओं में लंबे समय से आश्चर्य व्यक्त किया गया है कि CivitAI को सेलिब्रिटी समानताओं को होस्ट करने की अनुमति थी। प्रतिबंध की आशंका में, LoRAs को संरक्षित करने के लिए कई पहल उभरी हैं, जिसमें subreddit r/CivitaiArchives शामिल है। जबकि कुछ लोग टॉरेंट-आधारित समाधान का सुझाव देते हैं, अभी तक कोई प्रमुख डोमेन उभरा नहीं है, जिसके परिणामस्वरूप प्रतिबंधित सामग्री इंटरनेट के किनारों, जिसमें डार्क नेट भी शामिल है, की ओर धकेली जा रही है, क्योंकि Reddit और Discord जैसे प्लेटफॉर्म भी ऐसी सामग्री पर प्रतिबंध लगाने की संभावना है।
वर्तमान में, CivitAI पर सेलिब्रिटी LoRAs अभी भी दिखाई दे रहे हैं लेकिन प्रतिबंधों के साथ, और अधिकांश उत्पन्न सामग्री को आकस्मिक खोज को रोकने के लिए डी-लिस्ट किया गया है। Twitch सत्र में एक टिप्पणीकार ने सुझाव दिया कि दबाव बढ़ सकता है, संभवतः अपलोड किए गए मॉडल या चित्रणों में वास्तविक लोगों की सभी समानताओं पर प्रतिबंध लग सकता है। Nicoll ने सहमति जताई:
**‘वे यहीं नहीं रुकेंगे; वे और अधिक मांग करते रहेंगे – बिल्कुल! एकमात्र आशा यह है कि हम इतने बड़े हो जाएं कि हमें जो निर्देशित किया जाता है उसमें हमारी अधिक राय हो...**
**‘कोई भी CivitAI जनरेटर का उपयोग करने के लिए Bitcoin नहीं खरीदने वाला। हमने इन बदलावों को यथासंभव स्वीकार्य बनाने की कोशिश की है, लेकिन हमारे पास यही है। मुझे खेद है अगर यह कुछ लोगों के लिए असहनीय है, लेकिन यही है। हमने जितना संभव हो उतना प्रतिरोध किया, लेकिन अंततः हमें बताया गया कि यही है – इसे करें या खत्म हो जाए...**
**‘ये वित्तीय संस्थान नहीं समझते कि लोग यहाँ क्या कर रहे हैं। हमने समझाने की कोशिश की, लेकिन हम NSFW सामग्री के लिए व्यावहारिक रूप से अंतिम गढ़ हैं।’**
Nicoll ने उल्लेख किया कि CivitAI ने कई भुगतान प्रोसेसरों से संपर्क किया, यहाँ तक कि उनसे जो आमतौर पर अश्लील प्लेटफॉर्म जैसे उच्च-जोखिम वाले साइटों को सेवा देते हैं, लेकिन सभी AI सामग्री के प्रति सतर्क हैं:
**‘यहाँ तक कि उच्च-जोखिम वाले भुगतान प्रोसेसर भी AI सामग्री के प्रति सतर्क हैं। अगर हम एक पारंपरिक अश्लील साइट होते, तो हम ठीक होते, लेकिन AI सामग्री ही वह है जो उन्हें डराती है।’**
आगे क्या?
इस घोषणा से पहले, CivitAI ने पहले ही कुछ अपलोड्स को हटाना शुरू कर दिया था। Wan 2.1 LoRAs के लिए एक ‘आपातकालीन रिपॉजिटरी’ Hugging Face वेबसाइट पर स्थापित की गई है, जिसमें अब प्रतिबंधित ‘undress’ श्रेणी में आने वाले मॉडल शामिल हैं। इस बीच, Donald Trump के प्रशासन के दौरान अमेरिकी सरकार के साहित्य को संरक्षित करने के लिए जाना जाने वाला subreddit r/datahoarders ने CivitAI सामग्री को बचाने में बहुत कम रुचि दिखाई है।
हालांकि CivitAI की NSFW AI जनरेशन की सुविधा को शैक्षणिक साहित्य में नोट किया गया है, जैसे कि 2024 के पेपर **Exploring the Use of Abusive Generative AI Models on Civitai**, भुगतान प्रोसेसरों का ध्यान CivitAI पर क्या उत्पादित होता है, इस पर नहीं है, बल्कि इन मॉडल का उपयोग कम-नियंत्रित समुदायों में कैसे किया जाता है, इस पर है।
Mr. Deepfakes वेबसाइट, जो कभी ऑटोएन्कोडर-आधारित NSFW डीपफेकिंग का पर्याय थी, अब Hunyuan Video और Wan 2.1 जैसे नए टेक्स्ट-टू-वीडियो और इमेज-टू-वीडियो जनरेटरों का उपयोग करके सेलिब्रिटी-आधारित अश्लील वीडियो प्रदर्शित करती है, जो लोकप्रियता हासिल कर रहे हैं और जैसे-जैसे उनके उपयोगकर्ता आधार बढ़ रहे हैं, विवाद उत्पन्न करने की संभावना है।
अनिवार्य मेटाडेटा
Nicoll के अनुसार, भुगतान प्रोसेसरों द्वारा मांगा गया एक और बदलाव साइट पर सभी छवियों में मेटाडेटा शामिल करना है। ComfyUI जैसे प्लेटफॉर्म का उपयोग करने वाले सामान्य वर्कफ़्लो में, उत्पन्न छवियों में मॉडल और विभिन्न सेटिंग्स का विवरण देने वाला मेटाडेटा शामिल होता है। यह मेटाडेटा उपयोगकर्ताओं को जनरेशन प्रक्रिया को फिर से बनाने और किसी भी लापता निर्भरताओं को संबोधित करने की अनुमति देता है। CivitAI ने घोषणा की है कि इस डेटा के बिना कोई भी छवि या वीडियो तीस दिनों के भीतर हटा दिया जाएगा, हालांकि उपयोगकर्ता CivitAI वेबसाइट के माध्यम से इसे मैन्युअल रूप से जोड़ सकते हैं। मेटाडेटा के साक्ष्य मूल्य के बावजूद, यह आवश्यकता कुछ हद तक व्यर्थ लगती है, क्योंकि मेटाडेटा को आसानी से कॉपी या जालसाजी किया जा सकता है।
CivitAI पर हजारों छवियों वाले उपयोगकर्ताओं को अब प्रत्येक को मैन्युअल रूप से एनोटेट करने या उन्हें हटाने और मेटाडेटा के साथ फिर से अपलोड करने का कठिन कार्य सामना करना पड़ रहा है, जिससे ‘likes’ या ‘buzz’ जैसे किसी भी सहभागिता मेट्रिक्स रीसेट हो जाएंगे।
नए नियम
- वास्तविक व्यक्तियों के नामों के साथ टैग की गई सामग्री या वास्तविक व्यक्ति संसाधनों के रूप में पहचानी गई सामग्री अब सार्वजनिक फीड्स में दिखाई नहीं देगी।
- बाल/नाबालिग थीम्स वाली सामग्री को फीड्स से फ़िल्टर किया जाएगा।
- X और XXX रेटेड सामग्री जिसमें जनरेशन मेटाडेटा की कमी है, सार्वजनिक दृश्य से छिपाई जाएगी और चेतावनी के साथ चिह्नित की जाएगी, जिससे अपलोडर को लापता विवरण जोड़ने की अनुमति मिलेगी। ऐसी सामग्री इसके निर्माता के लिए तब तक दिखाई देगी जब तक इसे अपडेट नहीं किया जाता।
- Bring Your Own Image (BYOI) सुविधा का उपयोग करके बनाई गई छवियों को अब जनरेशन के दौरान कम से कम 50% शोर परिवर्तन लागू करना होगा ताकि लगभग सटीक प्रतिकृतियों का निर्माण रोका जा सके। यह नियम CivitAI पर पूरी तरह से बनाई गई या अन्य CivitAI सामग्री से रीमिक्स की गई छवियों पर लागू नहीं होता, जो किसी भी डिनॉइज़ स्तर का उपयोग कर सकती हैं।
- X या XXX सामग्री सक्षम होने पर ब्राउज़ करते समय, सेलिब्रिटी नामों की खोज कोई परिणाम नहीं देगी। सेलिब्रिटी नामों को परिपक्व सामग्री के साथ संयोजित करना निषिद्ध रहता है।
- वास्तविक व्यक्तियों की समानता को दोहराने के लिए डिज़ाइन की गई छवियों या संसाधनों पर विज्ञापन दिखाई नहीं देंगे।
- वास्तविक व्यक्तियों को चित्रित करने वाली छवियों या संसाधनों के लिए टिपिंग (Buzz) अक्षम कर दिया जाएगा।
- वास्तविक लोगों की समानता को दोहराने के लिए डिज़ाइन किए गए मॉडल Early Access के लिए पात्र नहीं होंगे, जिससे सेलिब्रिटी या वास्तविक व्यक्ति की समानता का मुद्रीकरण सीमित हो जाएगा।
- 2257 अनुपालन कथन जोड़ा गया है ताकि यह पुष्टि की जा सके कि प्लेटफॉर्म पर सभी स्पष्ट सामग्री सिंथेटिक है और वास्तविक फोटोग्राफी या वीडियो पर आधारित नहीं है।
- एक नई सामग्री हटाने की अनुरोध पेज किसी को भी बिना लॉग इन किए दुर्व्यवहार या अवैध सामग्री की रिपोर्ट करने की अनुमति देता है। पंजीकृत उपयोगकर्ताओं को प्रत्येक पोस्ट पर अंतर्निहित रिपोर्टिंग टूल का उपयोग करना चाहिए। यह प्लेटफॉर्म से अपनी समानता हटाने के अनुरोध के लिए मौजूदा फॉर्म से अलग है।
- CivitAI ने Clavata के साथ साझेदारी के माध्यम से एक नया मॉडरेशन सिस्टम पेश किया है, जिसके छवि विश्लेषण उपकरण Amazon Rekognition और Hive जैसे पिछले समाधानों से बेहतर प्रदर्शन करते हैं।
*Barbara Eden की ‘संपत्ति’ का उल्लेख होने के बावजूद, I Dream of Jeannie अभिनेत्री अभी भी जीवित हैं, वर्तमान में 93 वर्ष की हैं।*
†*संग्रहीत: https://archive.ph/tsMb0*
*पहली बार गुरुवार, 24 अप्रैल, 2025 को प्रकाशित। गुरुवार, 24 अप्रैल, 2025 14:32:28 को संशोधित: तारीखें ठीक की गईं।*
Google संदिग्ध धोखाधड़ी के लिए 39 मिलियन से अधिक विज्ञापन खातों को निलंबित करने के लिए AI का उपयोग करता है
Google ने बुधवार को घोषणा की कि उसने 2024 में अपने प्लेटफ़ॉर्म पर 39.2 मिलियन विज्ञापनदाता खातों को निलंबित करके विज्ञापन धोखाधड़ी से लड़ने में एक बड़ा कदम उठाया था। यह संख्या पिछले वर्ष की रिपोर्ट की गई थी।
Openai स्ट्राइक्स बैक: एआई प्रतियोगी को कम करने के लिए कथित प्रयासों के लिए एलोन मस्क ने कहा
Openai ने अपने सह-संस्थापक, एलोन मस्क और उनकी प्रतिस्पर्धी AI कंपनी, XAI के खिलाफ एक भयंकर कानूनी पलटवार लॉन्च किया है। अपने चल रहे झगड़े के एक नाटकीय वृद्धि में, ओपनई ने कस्तूरी पर आरोप लगाया कि वह उस कंपनी को कम करने में मदद करने के लिए एक "अथक" और "दुर्भावनापूर्ण" अभियान को छेड़ने का आरोप लगाता है। अदालत के अनुसार डी
अप्रैल 2025 के लिए शीर्ष 9 एआई कानूनी सहायकों ने खुलासा किया
आज की तेज़-तर्रार कानूनी दुनिया में, मामलों का प्रबंधन करना, अनुसंधान का संचालन करना, और ग्राहकों को लूप में रखना एक बाजीगरी कार्य की तरह महसूस कर सकता है। शुक्र है, आर्टिफिशियल इंटेलिजेंस एआई-संचालित कानूनी सहायक उपकरणों के साथ बचाव में आया है। ये निफ्टी गैजेट सभी वकीलों के लिए जीवन को आसान बनाने के बारे में हैं, बो
28 जुलाई 2025 6:48:39 पूर्वाह्न IST
It's wild how payment giants like Mastercard and Visa can push a platform like CivitAI to tighten its deepfake rules. Makes you wonder how much control these companies have over tech. 😕 Curious to see if this actually curbs misuse or just shifts it elsewhere.
0
