माता-पिता का मार्गदर्शन: 'कृत्रिम बुद्धिमत्ता' अपने सोशल मीडिया इतिहास के आधार पर बेबीसिटर्स को रेट करती थी

सामग्री:

जब जेसी बैटलग्लिया ने अपने एक वर्षीय बेटे के लिए एक नई दाई की तलाश शुरू की, तो वह एक आपराधिक पृष्ठभूमि की जांच, माता-पिता की टिप्पणियों और आमने-सामने के साक्षात्कार से अधिक जानकारी चाहती थी।

इसलिए उसने प्रिडिक्टिम की ओर रुख किया, जो एक ऑनलाइन सेवा है, जो एक दाई के व्यक्तित्व का आकलन करने के लिए "उन्नत कृत्रिम बुद्धिमत्ता" का उपयोग करती है, और एक उम्मीदवार के हजारों फेसबुक, ट्विटर और इंस्टाग्राम पोस्ट पर अपने स्कैनर का उद्देश्य रखती है।

आश्चर्य है कि नींद की कमी यातना की तरह क्यों महसूस होती है? ऐसा इसलिए है क्योंकि यह है

'डेट नाइट ’वास्तविकता: इसे वास्तव में कैसे बनाया जाए

प्रणाली ने 24 वर्षीय उम्मीदवार की स्वचालित "जोखिम रेटिंग" की पेशकश करते हुए कहा कि वह ड्रग एबसर होने के "बहुत कम जोखिम" पर थी। लेकिन इसने थोड़ा अधिक जोखिम मूल्यांकन दिया - पांच में से दो - बदमाशी, उत्पीड़न के लिए, "अपमानजनक" होने और "खराब रवैया" होने के लिए।

प्रणाली ने यह नहीं बताया कि उसने यह निर्णय क्यों लिया। लेकिन बैटरग्लिया, जो सिट्टर को भरोसेमंद मानता था, को अचानक शक का अहसास हुआ।

"सोशल मीडिया एक व्यक्ति के चरित्र को दिखाता है, " 29 वर्षीय बैटलग्लिया ने कहा, जो लॉस एंजिल्स के पास रहता है। "तो वह एक दो में क्यों आया और एक नहीं?"

प्रिडिक्टिम माता-पिता को उसी प्लेबुक की पेशकश कर रहा है जो दुनिया भर के नियोक्ताओं को दर्जनों बेच रही है: कृत्रिम-खुफिया प्रणालियां जो किसी व्यक्ति के भाषण, चेहरे के भाव और ऑनलाइन इतिहास का विश्लेषण करती हैं, जिसमें उनके निजी जीवन के छिपे पहलुओं का खुलासा करने का वादा किया गया है।

प्रौद्योगिकी फिर से आकार ले रही है कि कैसे कुछ कंपनियां श्रमिकों की भर्ती, भर्ती और समीक्षा कर रही हैं, नियोक्ताओं को आक्रामक मनोवैज्ञानिक मूल्यांकन और निगरानी की एक नई लहर के माध्यम से नौकरी के उम्मीदवारों के लिए एक बेजोड़ रूप दे रही हैं।

टेक फर्म फामा का कहना है कि यह एआई का उपयोग पुलिसकर्मियों के सोशल मीडिया पर "विषाक्त व्यवहार" के लिए करता है और अपने आकाओं को सचेत करता है। और रिक्रूटमेंट-टेक्नॉलॉजी फर्म HireVue, जो कि Geico, Hilton और Unilever जैसी कंपनियों के साथ काम करती है, एक ऐसी प्रणाली प्रदान करती है जो नौकरी के दौरान अपने कौशल और प्रदर्शन का अनुमान लगाने के लिए वीडियो साक्षात्कार के दौरान आवेदकों के स्वर, शब्द विकल्प और चेहरे की गतिविधियों का स्वचालित रूप से विश्लेषण करती है। (उम्मीदवारों को सर्वोत्तम परिणामों के लिए मुस्कुराने के लिए प्रोत्साहित किया जाता है।)

लेकिन आलोचकों का कहना है कि प्रिडिक्टिम और इसी तरह की प्रणालियाँ स्वचालित रूप से और संभवतः जीवन-परिवर्तनकारी निर्णयों को अनियंत्रित करके अपने स्वयं के खतरे पेश करती हैं।

सिस्टम ब्लैक-बॉक्स एल्गोरिदम पर निर्भर करते हैं जो इस बात के बारे में बहुत कम विवरण देते हैं कि उन्होंने किसी व्यक्ति के आंतरिक जीवन की जटिलताओं को पुण्य या नुकसान की गणना में कैसे कम किया। और जैसा कि प्रेडिक्टिम की तकनीक माता-पिता की सोच को प्रभावित करती है, यह पूरी तरह से अप्रभावित रहता है, बड़े पैमाने पर अस्पष्ट पक्षपातपूर्ण और संवेदनशील पक्षपात पर कि कैसे एक उपयुक्त दाई को साझा करना चाहिए, देखना चाहिए और बोलना चाहिए।

सेंटर फॉर डिजिटल डेमोक्रेसी, एक तकनीकी वकालत समूह के कार्यकारी निदेशक जेफ चेस्टर ने कहा, "एआई की शक्ति को जब्त करने के लिए सभी प्रकार के निर्णय लेने के लिए मानव के लिए जवाबदेह है, यह सुनिश्चित करने के लिए पागल भीड़ है।" "यह ऐसा है जैसे लोगों ने डिजिटल कूल-एड को पिया है और सोचते हैं कि यह हमारे जीवन को नियंत्रित करने का एक उचित तरीका है।"

प्रेडिक्टिम के स्कैन में एक दाई के सोशल मीडिया के पूरे इतिहास का विश्लेषण किया गया है, जो कि कई सबसे कम उम्र के साथियों के लिए, उनके अधिकांश जीवन को कवर कर सकता है। और sitters कहा जाता है कि वे प्रतिस्पर्धी नौकरियों के लिए एक बड़ा नुकसान होगा अगर वे मना करते हैं।

प्रेडिक्टिम के प्रमुख और सह-संस्थापक सल परसा ने कहा कि कंपनी ने पिछले महीने बर्कले के स्काईडेक टेक इनक्यूबेटर में कैलिफोर्निया विश्वविद्यालय के हिस्से के रूप में लॉन्च किया, तकनीक के इसके उपयोग के बारे में नैतिक प्रश्नों को गंभीरता से लेता है। माता-पिता, उन्होंने कहा, रेटिंग को एक साथी के रूप में देखना चाहिए कि "सितार की वास्तविक विशेषताओं को प्रतिबिंबित कर सकता है या नहीं।"

लेकिन, एक समस्याग्रस्त या हिंसक दाई को काम पर रखने का खतरा, उन्होंने जोड़ा, एआई किसी भी माता-पिता के लिए अपने बच्चे को सुरक्षित रखने के लिए एक आवश्यक उपकरण बनाता है।

"यदि आप Google पर अपमानजनक बेबीसिटर्स खोजते हैं, तो आपको अभी सैकड़ों परिणाम दिखाई देंगे, " उन्होंने कहा। "वहाँ ऐसे लोग हैं, जिन्हें या तो मानसिक बीमारी है या वे केवल बुरे पैदा हुए हैं। हमारा लक्ष्य कुछ भी है जिसे हम उन्हें रोक सकते हैं।"

एक प्रेडिक्टिम स्कैन $ 24.99 से शुरू होता है और उसे अपने सोशल मीडिया खातों में व्यापक पहुंच साझा करने के लिए एक दाई का नाम और ईमेल पता और उसकी सहमति की आवश्यकता होती है। दाई मना कर सकती है, लेकिन एक माता-पिता को उसके मना करने की सूचना दी जाती है, और एक ईमेल में दाई को बताया जाता है "जब तक आप इस अनुरोध को पूरा नहीं करेंगे, तब तक इच्छुक माता-पिता आपको नौकरी नहीं दे पाएंगे।"

प्रिडिक्टिम के अधिकारियों का कहना है कि वे अपने ऑफ़लाइन जीवन के बारे में सुराग के लिए बेबीसिटर्स के फेसबुक, ट्विटर और इंस्टाग्राम पोस्ट का आकलन करने के लिए भाषा-प्रसंस्करण एल्गोरिदम और "कंप्यूटर विज़न" नामक एक छवि-मान्यता सॉफ़्टवेयर का उपयोग करते हैं। माता-पिता को विशेष रूप से रिपोर्ट प्रदान की जाती है और उन्हें साइटर को परिणाम नहीं बताना होता है।

माता-पिता, संभवतः, अपने साथियों के सार्वजनिक सोशल मीडिया खातों को स्वयं देख सकते हैं। लेकिन कंप्यूटर द्वारा तैयार की गई रिपोर्ट में ऑनलाइन गतिविधि के वर्षों के गहन निरीक्षण का वादा किया गया है, जो एक अंक में उबला हुआ है: एक अव्यवहारिक कार्य के लिए एक सरल समाधान।

जोखिम रेटिंग को कई श्रेणियों में विभाजित किया गया है, जिसमें स्पष्ट सामग्री और नशीली दवाओं का दुरुपयोग शामिल है। स्टार्ट-अप ने यह भी विज्ञापन दिया है कि इसकी प्रणाली अन्य व्यक्तित्व लक्षणों, जैसे कि राजनीति, दूसरों के साथ काम करने की क्षमता और "सकारात्मकता" पर बेबीसिटर्स का मूल्यांकन कर सकती है।

कंपनी उम्मीद करती है कि मल्टीबीलियन-डॉलर के "पैतृक आउटसोर्सिंग" उद्योग को बढ़ावा मिलेगा और उसने पेरेंटिंग और "मम्मी" ब्लॉगों के भुगतान वाले प्रायोजकों के माध्यम से विज्ञापन शुरू किया है। कंपनी के विपणन में छिपे रहस्यों को उजागर करने और "हर माता-पिता के दुःस्वप्न" को रोकने की क्षमता पर भारी ध्यान केंद्रित किया गया है, जिसमें इस साल की शुरुआत में एक केंटकी दाई सहित आपराधिक मामलों का हवाला देते हुए आठ महीने की बच्ची को गंभीर रूप से घायल करने का आरोप लगाया गया था।

कंपनी के एक दस्तावेज में कहा गया है, "इस दाई द्वारा घायल की गई छोटी बच्ची के माता-पिता को उनकी पशुचिकित्सा प्रक्रिया के हिस्से के रूप में प्रिडिक्टिम का उपयोग करने में सक्षम होना पड़ता है, " वे उसे अपने अनमोल बच्चे के साथ कभी नहीं छोड़ते थे।

लेकिन तकनीकी विशेषज्ञों का कहना है कि प्रणाली अपने स्वयं के लाल झंडे उठाती है, जिसमें चिंता भी शामिल है कि यह माता-पिता के डर से अप्रमाणित सटीकता के व्यक्तित्व स्कैन को बेचने के लिए आशंका है।

वे यह भी सवाल करते हैं कि सिस्टम को कैसे प्रशिक्षित किया जा रहा है और यह कितना कमजोर है कि वे सोटर के सोशल मीडिया के उपयोग के धुंधले अर्थों को गलत समझ सकते हैं। सभी के लिए लेकिन उच्चतम जोखिम वाले स्कैन के लिए, माता-पिता को केवल संदिग्ध व्यवहार का सुझाव दिया जाता है और अपने स्वयं के आकलन के लिए कोई विशिष्ट वाक्यांश, लिंक या विवरण नहीं दिया जाता है।

जब एक दाई के लिए संभव धमकाने वाले व्यवहार के लिए स्कैन किया गया था, तो यह अनुरोध करने वाली अयोग्य मां ने कहा कि वह यह नहीं बता सकती थी कि सॉफ्टवेयर ने वास्तविक बदमाशी भाषा के विपरीत एक पुरानी फिल्म उद्धरण, गीत गीत या अन्य वाक्यांश को देखा था या नहीं।

लेकिन प्रिडिक्टिम का कहना है कि यह देशव्यापी विस्तार के लिए तैयार है। लाखों अभिभावकों द्वारा दौरा किए गए एक ऑनलाइन बेबीसिटर मार्केटप्लेस सिटरसिटी के अधिकारियों ने कहा कि वे अगले साल की शुरुआत में एक पायलट कार्यक्रम शुरू कर रहे हैं, जो साइटकी स्क्रीनिंग और बैकग्राउंड चेक के वर्तमान सरणी में प्रिडिक्टिम की स्वचालित रेटिंग में बदल जाएगा।

सैंड्रेटसिटी के उत्पाद की प्रमुख सैंड्रा डाइनोरा ने कहा, "सितार ढूंढना बहुत अनिश्चितता के साथ आ सकता है, जो मानते हैं कि इस तरह के उपकरण जल्द ही देखभाल करने वालों को खोजने के लिए" मानक मुद्रा "बन सकते हैं। "माता-पिता हमेशा सबसे अच्छा समाधान, सबसे अधिक शोध, सर्वश्रेष्ठ तथ्यों की तलाश कर रहे हैं।"

द वाशिंगटन पोस्ट