आप आउट-ऑफ-कंट्रोल एआई जैसी समस्या का समाधान कैसे करते हैं?
Google की घोषणा एक बहुत बड़ी बात है। अरबों लोगों को अब टेक्स्ट जनरेट करने से लेकर सवालों के जवाब देने से लेकर लिखने और डिबगिंग कोड तक हर तरह के काम करने में मदद करने के लिए शक्तिशाली, अत्याधुनिक एआई मॉडल तक पहुंच प्राप्त होगी। जैसा कि एमआईटी टेक्नोलॉजी रिव्यू के प्रधान संपादक, मैट होनान ने I/O के अपने विश्लेषण में लिखा है, यह स्पष्ट है कि AI अब Google का मुख्य उत्पाद है।
Google का दृष्टिकोण इन नए कार्यों को अपने उत्पादों में पेश करना हैधीरे-धीरे.लेकिन सबसे अधिक संभावना है कि यह कुछ समय पहले की बात होगी जब चीजें खराब होने लगेंगी। कंपनी ने इन एआई मॉडलों के साथ किसी भी सामान्य समस्या का समाधान नहीं किया है। वे अभी भी सामान बनाते हैं। वे अपने स्वयं के नियमों को तोड़ने के लिए हेरफेर करना अभी भी आसान हैं। वे अभी भी हमलों के प्रति संवेदनशील हैं। उन्हें दुष्प्रचार, घोटालों और स्पैम के उपकरण के रूप में उपयोग किए जाने से बहुत कम रोका जा सकता है।
क्योंकि इस प्रकार के एआई उपकरण अपेक्षाकृत नए हैं, वे अभी भी काफी हद तक विनियमन-मुक्त क्षेत्र में काम करते हैं। लेकिन वह टिकाऊ नहीं लगता। विनियमन के लिए कॉल जोर से बढ़ रहे हैं क्योंकि चैट-जीपीटी के बाद का उत्साह कम हो रहा है, और नियामक प्रौद्योगिकी के बारे में कठिन सवाल पूछने लगे हैं।
अमेरिकी नियामक शक्तिशाली एआई टूल्स को नियंत्रित करने का तरीका खोजने की कोशिश कर रहे हैं।इस सप्ताह, OpenAI के सीईओ सैम ऑल्टमैन अमेरिकी सीनेट में गवाही देंगे (एकआरामदायक “शैक्षिक” रात्रिभोजराजनेताओं के साथ रात पहले)। सुनवाई पिछले सप्ताह उपराष्ट्रपति कमला हैरिस और अल्फाबेट, माइक्रोसॉफ्ट, ओपनएआई और एंथ्रोपिक के सीईओ के बीच एक बैठक के बाद हुई।
एक बयान में, हैरिस ने कहा कि कंपनियों के पास यह सुनिश्चित करने के लिए “नैतिक, नैतिक और कानूनी जिम्मेदारी” है कि उनके उत्पाद सुरक्षित हैं। बहुमत के नेता न्यूयॉर्क के सीनेटर चक शूमर के पास हैप्रस्तावित कानूनएआई को विनियमित करने के लिए, जिसमें नियमों को लागू करने के लिए एक नई एजेंसी शामिल हो सकती है।
“हर कोई कुछ करते हुए दिखना चाहता है। स्टैनफोर्ड इंस्टीट्यूट फॉर ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस में गोपनीयता और डेटा नीति के साथी जेनिफर किंग कहते हैं, “यह सब कहां जा रहा है, इसके बारे में बहुत सारी सामाजिक चिंता है।”
नए एआई बिल के लिए द्विदलीय समर्थन प्राप्त करना मुश्किल होगा, राजा कहते हैं: “यह किस हद तक निर्भर करेगा [generative AI] एक वास्तविक, सामाजिक-स्तर के खतरे के रूप में देखा जा रहा है। लेकिन संघीय व्यापार आयोग की अध्यक्ष, लीना खान, “बंदूकें धधकती हुई” निकली हैं, वह आगे कहती हैं। इस महीने की शुरुआत में, खान ने एक लिखा थाop-edअतीत में तकनीकी क्षेत्र के साथ बहुत अधिक ढीली होने से उत्पन्न होने वाली त्रुटियों को रोकने के लिए अब एआई विनियमन की मांग की जा रही है। उसने संकेत दिया कि अमेरिका में, नियामक एआई को विनियमित करने के लिए अपने टूल किट में पहले से मौजूद मौजूदा कानूनों का उपयोग करने की अधिक संभावना रखते हैं, जैसे कि अविश्वास और वाणिज्यिक प्रथाओं के कानून।
इस बीच, यूरोप में कानून निर्माता एआई अधिनियम पर अंतिम समझौते के करीब पहुंच रहे हैं।पिछले सप्ताह यूरोपीय संसद के सदस्यों ने एक पर हस्ताक्षर किएमसौदा विनियमनइसने सार्वजनिक स्थानों पर चेहरे की पहचान तकनीक पर प्रतिबंध लगाने का आह्वान किया। यह भविष्यवाणिय पुलिसिंग, भावना पहचान, और बायोमेट्रिक डेटा ऑनलाइन के अंधाधुंध स्क्रैपिंग पर भी प्रतिबंध लगाता है।
यूरोपीय संघ जनरेटिव एआई को भी बाधित करने के लिए और अधिक नियम बनाने के लिए तैयार है, और संसद चाहती है कि बड़े एआई मॉडल बनाने वाली कंपनियां अधिक पारदर्शी हों। इन उपायों में एआई-जेनरेट की गई सामग्री को लेबल करना, मॉडल को प्रशिक्षित करने के लिए उपयोग किए गए कॉपीराइट डेटा का सारांश प्रकाशित करना और ऐसे सुरक्षा उपाय स्थापित करना शामिल है जो मॉडल को अवैध सामग्री उत्पन्न करने से रोकेंगे।
लेकिन यहाँ पकड़ है: यूरोपीय संघ अभी भी जनरेटिव एआई पर नियमों को लागू करने से बहुत दूर है, और एआई अधिनियम के बहुत सारे प्रस्तावित तत्व इसे अंतिम संस्करण तक नहीं ले जा रहे हैं। संसद, यूरोपीय आयोग और यूरोपीय संघ के सदस्य देशों के बीच अभी भी कठिन बातचीत बाकी है। जब तक हम एआई अधिनियम को लागू नहीं देखेंगे, तब तक यह वर्ष होंगे।
जबकि नियामक अपने कार्य को एक साथ लाने के लिए संघर्ष कर रहे हैं, टेक में प्रमुख आवाजें ओवरटन विंडो को आगे बढ़ाने लगी हैं।पिछले सप्ताह एक कार्यक्रम में बोलते हुए, माइक्रोसॉफ्ट के मुख्य अर्थशास्त्री, माइकल श्वार्ज ने कहा कि हमें एआई को विनियमित करने से पहले “सार्थक नुकसान” देखने तक इंतजार करना चाहिए। उन्होंने इसकी तुलना ड्राइवर के लाइसेंस से की, जो कई दर्जनों लोगों के दुर्घटनाओं में मारे जाने के बाद पेश किए गए थे। श्वार्ज़ ने कहा, “कम से कम थोड़ा नुकसान होना चाहिए ताकि हम देख सकें कि असली समस्या क्या है।”
यह बयान निंदनीय है। एआई से होने वाले नुकसान को वर्षों से अच्छी तरह से प्रलेखित किया गया है। पक्षपात और भेदभाव किया गया है,एआई-जेनरेट की गई फर्जी खबरेंऔरघोटालों।अन्य एआई प्रणालियों ने निर्दोष लोगों को गिरफ्तार किया है, लोग गरीबी में फंसे हैं, और हजारों लोगों को फंसाया गया हैफ्राउ का गलत आरोप लगायाडी। ये नुकसान तेजी से बढ़ने की संभावना है क्योंकि जेनेरेटिव एआई हमारे समाज में गहराई से एकीकृत है, Google जैसी घोषणाओं के लिए धन्यवाद।
हमें खुद से यह सवाल पूछना चाहिए: हम कितना नुकसान देखने को तैयार हैं? मैं कहूंगा कि हमने काफी देखा है।
गहन शिक्षा
बिग टेक के हैंडआउट्स पर ओपन-सोर्स एआई बूम बनाया गया है। कितने दिन चलेगा?
नए ओपन-सोर्स बड़े भाषा मॉडल- Google के बार्ड या ओपनएआई के चैटजीपीटी के विकल्प हैं जो शोधकर्ता और ऐप डेवलपर अध्ययन कर सकते हैं, निर्माण कर सकते हैं और संशोधित कर सकते हैं- पिनाटा से कैंडी की तरह गिर रहे हैं। ये बड़ी फर्मों द्वारा बनाए गए सर्वश्रेष्ठ-इन-क्लास एआई मॉडल के छोटे, सस्ते संस्करण हैं जो (लगभग) प्रदर्शन में उनसे मेल खाते हैं – और वे मुफ्त में साझा किए जाते हैं।
एआई कैसे बनाया और इस्तेमाल किया जाता है इसका भविष्य एक चौराहे पर है. एक ओर, इन मॉडलों तक अधिक पहुंच ने नवाचार को चलाने में मदद की है। यह उनकी खामियों को पकड़ने में भी मदद कर सकता है। लेकिन यह ओपन-सोर्स बूम अनिश्चित है। अधिकांश ओपन-सोर्स रिलीज़ अभी भी बड़ी फर्मों द्वारा गहरी जेब के साथ रखे गए विशाल मॉडल के कंधों पर खड़े हैं। यदि OpenAI और मेटा तय करते हैं कि वे दुकान बंद कर रहे हैं, तो बूमटाउन बैकवाटर बन सकता है। विल डगलस हेवन से और पढ़ें।
बिट्स और बाइट्स
Amazon ChatGPT जैसी सुविधाओं के साथ एक गुप्त होम रोबोट पर काम कर रहा है
लीक हुए दस्तावेज़ एस्ट्रो रोबोट के एक अद्यतन संस्करण की योजना दिखाते हैं जो यह याद रख सकता है कि उसने क्या देखा और समझा है, जिससे लोग उससे प्रश्न पूछ सकते हैं और उसे आदेश दे सकते हैं। लेकिन इन मॉडलों को बड़े पैमाने पर लोगों के घरों के अंदर तैनात करने के लिए सुरक्षित होने से पहले अमेज़न को बहुत सारी समस्याओं का समाधान करना होगा। (अंदरूनी सूत्र)
स्थिरता एआई ने टेक्स्ट-टू-एनीमेशन मॉडल जारी किया है
ओपन-सोर्स टेक्स्ट-टू-इमेज मॉडल स्टेबल डिफ्यूजन बनाने वाली कंपनी ने एक और टूल लॉन्च किया है जो लोगों को टेक्स्ट, इमेज और वीडियो प्रॉम्प्ट का उपयोग करके एनिमेशन बनाने की सुविधा देता है। कॉपीराइट समस्याओं के अलावा, ये टूल क्रिएटिव के लिए शक्तिशाली टूल बन सकते हैं, और यह तथ्य कि वे खुले स्रोत हैं, उन्हें अधिक लोगों तक पहुँचाने योग्य बनाता है। यह अपरिहार्य अगले चरण, ओपन-सोर्स टेक्स्ट-टू-वीडियो से पहले एक स्टॉपगैप भी है। (स्थिरता एआई)
एआई संस्कृति युद्धों में चूसा जा रहा है – हॉलीवुड लेखकों की हड़ताल देखें
निम्न में से एकविवादोंराइटर्स गिल्ड ऑफ अमेरिका और हॉलीवुड स्टूडियो के बीच यह विवाद है कि क्या लोगों को फिल्म और टेलीविजन स्क्रिप्ट लिखने के लिए एआई का उपयोग करने की अनुमति दी जानी चाहिए। कमजोर भविष्यवाणी के साथ, अमेरिकी संस्कृति-युद्ध ब्रिगेड ने मैदान में कदम रखा है। ऑनलाइन ट्रोल उल्लासपूर्वक हड़ताली लेखकों को बता रहे हैं कि एआई उनकी जगह ले लेगा। (न्यूयॉर्क पत्रिका)
देखें: एआई-जेनरेट किया गया ट्रेलरअंगूठियों का मालिक… लेकिन इसे वेस एंडरसन बनाओ
यह प्यारा था।
