हम एआई को एक सरल काम देते हैं: Didit को तोड़ने की कोशिश करें

Didit में, एआई रेड टीमिंग का अर्थ है स्टेजिंग वातावरण में हमारी पहचान सत्यापन प्रवाह को चुनौती देने के लिए कृत्रिम बुद्धिमत्ता (एआई) एजेंटों का उपयोग करना। हम कमजोरियों को खोजने, सत्यापन करने वाले बॉट का पता लगाने में मदद करने और यह समझने के लिए प्रयासों और उनके परिणामों का अध्ययन करते हैं कि वास्तविक उपयोगकर्ताओं को कहाँ कठिनाई होती है।

हम एजेंटों को अपने स्रोत कोड तक पहुंच प्रदान करते हैं और उनसे स्टेजिंग में जांच के माध्यम से एक रास्ता खोजने के लिए कहते हैं। वे जाली दस्तावेजों, इंजेक्ट किए गए कैमरा फीड और वास्तविक वर्कफ़्लो के माध्यम से स्वचालित यात्राओं का प्रयास करते हैं। हम देखते हैं कि क्या होता है, परिणामों की जांच करते हैं और सिस्टम को बेहतर बनाने के लिए जो सीखते हैं उसका उपयोग करते हैं।

हम इस काम का उपयोग सत्यापन करने वाले बॉट का पता लगाने और उपयोगकर्ता व्यवहार को समझने में भी करते हैं। यह देखना कि स्वचालन एक प्रवाह के माध्यम से कैसे चलता है, हमें धोखाधड़ी और स्क्रीन के दूसरी तरफ व्यक्ति के अनुभव दोनों के बारे में बेहतर प्रश्न पूछने में मदद करता है।

मुख्य बातें

पूरी यात्रा का परीक्षण करें। जाली दस्तावेज़, कृत्रिम कैमरा फ़ीड और स्वचालित क्रियाएं सत्यापन प्रवाह के विभिन्न हिस्सों को चुनौती देती हैं।

जांच करें कि क्या हुआ। एक बाईपास का दावा करने वाले एजेंट को प्रतिलिपि प्रस्तुत करने योग्य साक्ष्य के खिलाफ जांचने की आवश्यकता है।

व्यवहार से सीखें। समय और पुनः प्रयास स्वचालन के बारे में संदर्भ जोड़ सकते हैं, जबकि यह भी प्रकट करते हैं कि वैध उपयोगकर्ताओं को कहाँ मदद की आवश्यकता है।

निष्कर्षों को उपयोगी बनाएं। काम जांच, सुधार और वास्तविक लोगों पर प्रभाव की जांच के माध्यम से जारी रहता है।

स्क्रीन के पीछे की जिम्मेदारी

टेकक्रंच ने एक सत्यापन प्रदाता में संदिग्ध उल्लंघन की सूचना दी।

हमारे लिए, जिम्मेदारी इस बात से शुरू होती है कि लोग एक सत्यापन कंपनी को क्या सौंपते हैं। एक पासपोर्ट स्कैन में आपका नाम, फोटो और अन्य पहचान संबंधी जानकारी होती है। एक सेल्फी आपके चेहरे का रिकॉर्ड है। आप लीक होने के बाद पासवर्ड रीसेट कर सकते हैं। आप अपना चेहरा रीसेट नहीं कर सकते।

वह जिम्मेदारी यह तय करने से परे है कि कोई दस्तावेज़ वास्तविक दिखता है या कोई व्यक्ति मौजूद है। इसमें अनुरोध को संसाधित करने वाली सेवाएं, डेटा के आसपास की अनुमतियां और सिस्टम को संचालित करने वाले लोग शामिल हैं। यात्रा के सामने एक मजबूत जांच कहीं और की कमजोरी की भरपाई नहीं कर सकती है।

यही कारण है कि हम अपनी धारणाओं को चुनौती देना चाहते हैं जबकि हमारे पास अभी भी जो मिलता है उस पर कार्रवाई करने का मौका है।

हम वास्तव में एजेंटों से क्या करने के लिए कहते हैं

एक सामान्य परीक्षण एक अपेक्षित परिणाम के साथ शुरू होता है। एक विरोधी परीक्षण एक ऐसे लक्ष्य के साथ शुरू होता है जिसे सिस्टम को रोकना चाहिए।

पहचान सत्यापन के लिए, इसका मतलब एक जाली दस्तावेज़ को स्वीकार करना या एक रिकॉर्ड किए गए चेहरे को एक ऐसे व्यक्ति के रूप में पास करने की कोशिश करना हो सकता है जो मौजूद है। इसका मतलब यह जांचना हो सकता है कि सिस्टम कैसे प्रतिक्रिया करता है जब एक स्वचालित क्लाइंट अप्रत्याशित तरीके से एक प्रवाह के माध्यम से चलता है।

एजेंट कोड का निरीक्षण कर सकता है, वर्कफ़्लो के साथ बातचीत कर सकता है और प्रतिक्रिया के आधार पर अपने अगले प्रयास को समायोजित कर सकता है। यह हमें उन धारणाओं का पता लगाने का एक उपयोगी तरीका देता है जिन्हें परीक्षण मामलों का एक निश्चित सेट याद कर सकता है।

साथ में दिए गए फुटेज में, एजेंट नमूना दस्तावेज़ अपलोड करते हैं, कृत्रिम कैमरा फ़ीड प्रदान करते हैं और स्टेजिंग में सत्यापन चरणों के माध्यम से काम करते हैं। कैमरा एक स्क्रीन से उन रिकॉर्डिंग की दीवार तक पीछे हटता है ताकि आप गतिविधि की सीमा देख सकें।

हेरफेर किए गए मीडिया की पृष्ठभूमि के लिए, हमारे डीपफेक हमलों और पहचान के लिए गाइडदेखें।

दीवार काम का एक दृश्य है। प्रत्येक परिणाम को अभी भी अंतर्निहित साक्ष्य के खिलाफ जांचने की आवश्यकता है। एक एजेंट का यह कहना कि उसे बाईपास मिल गया है, उसे बाईपास नहीं बनाता है।

हमारे दृष्टिकोण में सीमांत मॉडल और कम प्रतिबंधों वाले खुले मॉडल शामिल हैं जो वे प्रयास करेंगे। हम विरोधी व्यवहार का उपयोगी कवरेज चाहते हैं, जिसमें ऐसे प्रयास भी शामिल हैं जिन्हें एक मॉडल अन्यथा तलाशने से मना कर सकता है। एक हमले की कोशिश करने की मॉडल की इच्छा इस बारे में कुछ नहीं कहती कि वह हमला सफल हुआ या नहीं। यह एक इंजीनियरिंग प्रश्न है जिसे हमें सत्यापित करना होगा।

यह काम हमें बॉट को समझने में कैसे मदद करता है

एक दस्तावेज़ और एक सेल्फी हमें कहानी का एक हिस्सा बताती है। सत्यापन का तरीका संदर्भ जोड़ सकता है।

हम इन अभ्यासों का उपयोग सत्यापन करने वाले बॉट का पता लगाने और बॉटिंग व्यवहार के बारे में अधिक जानने में मदद करने के लिए करते हैं। स्वयं स्वचालन चलाने से हमें ऐसे उदाहरण मिलते हैं जिनका हम अध्ययन, तुलना और चुनौती दे सकते हैं क्योंकि स्वचालन बदलता है।

हम जांच कर सकते हैं कि एक स्वचालित प्रयास कहाँ रुकता है, त्रुटि के बाद वह क्या दोहराता है और क्या वह हर बार उसी क्रम का पालन करता है। हम यह भी विचार कर सकते हैं कि क्या वह व्यवहार डिवाइस और सत्र संदर्भ में फिट बैठता है। ये तुलनाएं जांच को अधिक विशिष्ट बनाने में मदद करती हैं।

ये जांच करने के लिए प्रश्न हैं, न कि ऐसे नियम जो अपने आप में धोखाधड़ी स्थापित करते हैं। एक त्वरित उपयोगकर्ता को बस पता हो सकता है कि क्या करना है। एक व्यक्ति जो कई बार पुनः प्रयास करता है, उसे खराब रोशनी या अविश्वसनीय कनेक्शन हो सकता है। सहायक तकनीक का उपयोग करने वाला कोई व्यक्ति उस पैटर्न से अलग तरीके से बातचीत कर सकता है जिसकी एक डिजाइनर ने उम्मीद की थी।

उपयोगी बॉट पहचान को उस भिन्नता का हिसाब देना होगा। समय, दोहराव और डिवाइस संदर्भ को सत्यापन साक्ष्य के साथ विचार करने की आवश्यकता है। एक असामान्य कार्रवाई को दुरुपयोग के प्रमाण के रूप में मानना वास्तविक लोगों के लिए अनुभव को खराब कर देगा।

वही काम हमें सिखाता है कि लोगों को कहाँ कठिनाई होती है

व्यवहार का अध्ययन करने से हमें बेहतर उत्पाद प्रश्न पूछने में भी मदद मिलती है। एक पुनः प्रयास एक हमले की ओर इशारा कर सकता है, लेकिन यह एक ऐसे निर्देश की ओर भी इशारा कर सकता है जिसे समझना मुश्किल था। एक परित्यक्त कैमरा चरण का मतलब यह हो सकता है कि उपयोगकर्ता अनुमति नहीं दे सका। एक असफल कैप्चर चमक, एक क्षतिग्रस्त दस्तावेज़ या एक ऐसे डिवाइस को प्रतिबिंबित कर सकता है जिसे एक अलग दृष्टिकोण की आवश्यकता है।

स्वचालित परीक्षण हमें यह पता लगाने देता है कि प्रवाह इन स्थितियों पर कैसे प्रतिक्रिया करता है। वास्तविक लोगों को क्या अनुभव होता है, इसे समझने के लिए उपयोगकर्ता व्यवहार को भी देखना होगा। एक दूसरे का स्थान नहीं ले सकता।

साथ में, वे हमें एक ऐसे नियंत्रण को अलग करने में मदद करते हैं जो उपयोगी काम कर रहा है, उस घर्षण से जिसे जांच की आवश्यकता है। लक्ष्य दुरुपयोग को कठिन बनाना है, जबकि वैध उपयोगकर्ताओं को स्पष्ट निर्देशों और कुछ गलत होने पर ठीक होने के लिए एक समझदार मार्ग के साथ सत्यापन पूरा करने में मदद करना है।

एक खोज को कुछ बदलना होगा

एक अभ्यास का मूल्य वह है जो प्रयास के बाद होता है।

एक संदिग्ध कमजोरी को एक प्रतिलिपि प्रस्तुत करने योग्य मामले की आवश्यकता होती है। एक इंजीनियर को यह समझने की आवश्यकता होती है कि कौन सा नियंत्रण शामिल था और क्या साक्ष्य दावे का समर्थन करता है। यदि एक सुधार की आवश्यकता है, तो मूल प्रयास को परिवर्तन के खिलाफ फिर से चलाने की आवश्यकता है।

हमें यह भी जांचने की आवश्यकता है कि वह परिवर्तन वैध उपयोगकर्ताओं के लिए क्या करता है। एक नियंत्रण जो अधिक लोगों को अस्वीकार करके अधिक हमलों को अस्वीकार करता है, उसने हल करने के लिए एक और समस्या पैदा की है।

यह वह अनुशासन है जिसे हम इस काम का समर्थन करना चाहते हैं: प्रयास करें, निरीक्षण करें, जांच करें, सुधार करें और फिर से परीक्षण करें। एनिमेशन प्रयासों को दर्शाता है। उनके पीछे का काम ही मायने रखता है।

हमें भी हैक किया जा सकता है

किसी को भी हैक किया जा सकता है, जिसमें हम भी शामिल हैं। निरंतर परीक्षण उस संभावना को दूर नहीं करता है। यह हमें एक कमजोरी खोजने और उसके बारे में कुछ करने के अधिक अवसर देता है।

हम पहचान और धोखाधड़ी के लिए बुनियादी ढांचा बनाते हैं क्योंकि हमारा मानना है कि लोगों को आत्मविश्वास के साथ ऑनलाइन यह साबित करने में सक्षम होना चाहिए कि वे कौन हैं। एआई के युग में इंटरनेट को मानवीय बनाने की हमारी दृष्टि व्यवहार में उस आत्मविश्वास को अर्जित करने पर निर्भर करती है।

इसका मतलब है कि हमलावर कैसे व्यवहार करते हैं, यह समझना, इस बात पर ध्यान देना कि वास्तविक उपयोगकर्ताओं को कहाँ कठिनाई होती है और इस बारे में ईमानदार रहना कि हमारे साक्ष्य हमें क्या बता सकते हैं।

हमारे उद्योग के तकनीकी नेताओं के लिए एक आह्वान

पहचान सत्यापन में साइबर जोखिम प्रणालीगत है। हम जुड़े हुए सेवाओं, एकीकरणों और लोगों पर निर्भर करते हैं, और दांव पर लगा विश्वास किसी एक प्रदाता से परे है। एक कंपनी में विफलता व्यक्तियों को नुकसान पहुंचा सकती है और पूरे उद्योग में विश्वास को कमजोर कर सकती है।

यदि आप इस उद्योग में एक मुख्य प्रौद्योगिकी अधिकारी, एक इंजीनियरिंग नेता या एक सुरक्षा नेता हैं, तो हम आपको उस जिम्मेदारी को बहुत गंभीरता से लेने के लिए प्रोत्साहित करते हैं। सुरक्षा कार्य को स्पष्ट मालिक, समय और बजट दें। सत्यापन प्रवाह, पहचान डेटा को संभालने वाले सिस्टम, लोगों के पास पहुंच और आपकी टीम एक घटना पर क्या प्रतिक्रिया देगी, उसे चुनौती दें। जैसे जैसे तकनीक और हमले बदलते हैं, उन धारणाओं पर फिर से विचार करें।

पिछले सप्ताह की रिपोर्टिंग तैयारी के लिए एक वेक अप कॉल होनी चाहिए। हमें इसका उपयोग अपनी रक्षा को मजबूत करने, उपयोगी रक्षात्मक सबक को जिम्मेदारी से साझा करने और सत्यापित कमजोरियों पर कार्रवाई करने के लिए करना चाहिए। अपनी कंपनी के प्रभावित होने तक इंतजार करना उस काम को बहुत देर कर देता है।

हम उस जिम्मेदारी में खुद को शामिल करते हैं। हमें भी हैक किया जा सकता है, और हमें लोगों के हम पर रखे गए विश्वास को अर्जित करते रहना होगा।

हमारे उद्योग को आगे बढ़ने की जरूरत है। लोग अपनी पहचान के साथ हम पर भरोसा कर रहे हैं। हम उन्हें काम के हकदार हैं।

अक्सर पूछे जाने वाले प्रश्न

Didit में एआई रेड टीमिंग में क्या शामिल है?

हम एआई एजेंटों को अपने स्रोत कोड और एक स्टेजिंग वातावरण तक पहुंच प्रदान करते हैं, फिर उनसे सत्यापन जांच को चुनौती देने के लिए कहते हैं। इस लेख में दिए गए उदाहरणों में जाली नमूना दस्तावेज़, कृत्रिम कैमरा फ़ीड और स्वचालित यात्राएं शामिल हैं। इंजीनियरों को अभी भी प्रत्येक संदिग्ध कमजोरी के परिणाम को सत्यापित करने की आवश्यकता है।

यह सत्यापन करने वाले बॉट का पता लगाने में कैसे मदद करता है?

स्वयं स्वचालन चलाने से अध्ययन के लिए बॉट व्यवहार के उदाहरण बनते हैं। यह हमें सत्यापन साक्ष्य के साथ साथ अनुक्रमों, पुनः प्रयासों और संदर्भ की जांच करने में मदद करता है। एकल व्यवहार संकेत यह स्थापित नहीं करता है कि उपयोगकर्ता एक बॉट है या धोखाधड़ी हुई है।

क्या एनिमेशन यह साबित करता है कि Didit हर हमले को रोकता है?

नहीं। एनिमेशन दोहराई गई स्क्रीन के साथ स्टेजिंग रिकॉर्डिंग का एक समग्र है। यह परीक्षण प्रक्रिया को दर्शाता है, न कि पहचान बेंचमार्क या यह वादा कि हर हमला विफल हो जाएगा।

क्या यह काम वास्तविक उपयोगकर्ताओं के लिए अनुभव को बेहतर बना सकता है?

हाँ, यह हमें यह जांचने में मदद कर सकता है कि सत्यापन प्रवाह कहाँ मुश्किल हो जाता है। हमें अभी भी स्वचालित परीक्षण के साथ साथ वास्तविक उपयोगकर्ता व्यवहार पर विचार करने की आवश्यकता है, ताकि हम उपयोगी सुरक्षा नियंत्रणों को अस्पष्ट निर्देशों या कठिन कैमरा पहुंच जैसी समस्याओं से अलग कर सकें।

यदि आप एक सत्यापन यात्रा बना रहे हैं, तो Didit के उपयोगकर्ता सत्यापन का अन्वेषण करें और जीवंतता दस्तावेज़पढ़ें। आप मूल्य निर्धारण भी देख सकते हैं या मुफ्त में शुरू कर सकते हैं।