Tunampa AI Kazi Rahisi: Kujaribu Kuvunja Didit

Katika Didit, upimaji wa usalama wa AI (AI red teaming) unamaanisha kutumia mawakala wa akili bandia (AI) kupinga mifumo yetu ya uthibitishaji wa utambulisho katika mazingira ya majaribio. Tunasoma majaribio na matokeo yake ili kupata udhaifu, kusaidia kugundua roboti zinazofanya uthibitishaji na kuelewa ambapo watumiaji halisi hukwama.

Tunawapa mawakala ufikiaji wa msimbo wetu wa chanzo na kuwauliza wapate njia kupitia ukaguzi katika hatua za majaribio. Wanajaribu nyaraka bandia, milisho ya kamera iliyoingizwa na safari za kiotomatiki kupitia mifumo halisi ya kazi. Tunaangalia kinachotokea, tunachunguza matokeo na kutumia kile tunachojifunza kuboresha mfumo.

Pia tunatumia kazi hii kusaidia kugundua roboti zinazofanya uthibitishaji na kuelewa tabia ya mtumiaji. Kuona jinsi otomatiki inavyopitia mtiririko hutusaidia kuuliza maswali bora kuhusu udanganyifu na uzoefu wa mtu aliye upande mwingine wa skrini.

Mambo Muhimu

Jaribu safari nzima. Nyaraka bandia, milisho ya kamera bandia na vitendo vya kiotomatiki vinapinga sehemu tofauti za mtiririko wa uthibitishaji.

Chunguza kilichotokea. Wakala anayedai kupita anahitaji kuangaliwa dhidi ya ushahidi unaoweza kuzalishwa tena.

Jifunze kutoka kwa tabia. Muda na majaribio ya kurudia yanaweza kuongeza muktadha kuhusu otomatiki, huku pia yakifichua ambapo watumiaji halali wanahitaji msaada.

Fanya matokeo yawe muhimu. Kazi inaendelea kupitia uchunguzi, marekebisho na ukaguzi wa athari kwa watu halisi.

Wajibu Nyuma ya Skrini

TechCrunch iliripoti uvunjaji unaoshukiwa katika mtoa huduma mkuu wa uthibitishaji wa kadi za kitambulisho.

Kwetu sisi, jukumu linaanzia na kile ambacho watu wanakabidhi kwa kampuni ya uthibitishaji. Scan ya pasipoti hubeba jina lako, picha na taarifa nyingine za utambulisho. Selfie ni rekodi ya uso wako. Unaweza kuweka upya nenosiri baada ya kuvuja. Huwezi kuweka upya uso wako.

Jukumu hilo linafika mbali zaidi ya kuamua kama hati inaonekana halisi au mtu yupo. Inajumuisha huduma zinazochakata ombi, ruhusa zinazohusu data na watu wanaoendesha mfumo. Ukaguzi thabiti mwanzoni mwa safari hauwezi kufidia udhaifu mahali pengine.

Hii ndiyo sababu tunataka kupinga mawazo yetu wakati bado tuna nafasi ya kutenda juu ya kile tunachopata.

Tunachowauliza Mawakala Kufanya

Jaribio la kawaida huanza na matokeo yanayotarajiwa. Jaribio la uhasama huanza na lengo ambalo mfumo unapaswa kuzuia.

Kwa uthibitishaji wa utambulisho, hiyo inaweza kumaanisha kukubali hati bandia au kujaribu kufanya uso uliorekodiwa upite kama mtu aliyepo. Inaweza kumaanisha kuchunguza jinsi mfumo unavyojibu wakati mteja wa kiotomatiki anapitia mtiririko kwa njia isiyotarajiwa.

Wakala anaweza kukagua msimbo, kuingiliana na mtiririko wa kazi na kurekebisha jaribio lake linalofuata kulingana na jibu. Hiyo inatupa njia muhimu ya kuchunguza mawazo ambayo seti isiyobadilika ya kesi za majaribio inaweza kukosa.

Katika picha inayoambatana, mawakala wanapakia nyaraka za sampuli, wanatoa milisho ya kamera bandia na kupitia hatua za uthibitishaji katika hatua za majaribio. Kamera inarudi nyuma kutoka skrini moja hadi ukuta wa rekodi hizo ili uweze kuona anuwai ya shughuli.

Kwa maelezo ya nyuma kuhusu media iliyodanganywa, angalia mwongozo wetu wa mashambulizi na utambuzi wa deepfake.

Ukuta ni taswira ya kazi. Kila matokeo bado yanahitaji kuangaliwa dhidi ya ushahidi wa msingi. Wakala anayesema amepata njia ya kupita haifanyi iwe hivyo.

Mbinu yetu inajumuisha mifumo ya kisasa na mifumo huria yenye vikwazo vichache kwenye kazi watakazojaribu. Tunataka chanjo muhimu ya tabia ya uhasama, ikiwa ni pamoja na majaribio ambayo mfumo unaweza kukataa kuchunguza. Utayari wa mfumo kujaribu shambulio hausimulii chochote kuhusu kama shambulio hilo lilifanikiwa. Hilo ni swali la uhandisi tunalopaswa kuthibitisha.

Jinsi Kazi Inavyotusaidia Kuelewa Roboti

Hati na selfie hutueleza sehemu ya hadithi. Njia ambayo uthibitishaji unatokea inaweza kuongeza muktadha.

Tunatumia mazoezi haya kusaidia kugundua roboti zinazofanya uthibitishaji na kujifunza zaidi kuhusu tabia ya roboti. Kuendesha otomatiki sisi wenyewe hutupa mifano tunayoweza kusoma, kulinganisha na kupinga kadri otomatiki inavyobadilika.

Tunaweza kuchunguza ambapo jaribio la kiotomatiki linasimama, nini linarudia baada ya kosa na kama linafuata mlolongo sawa kila wakati. Tunaweza pia kuzingatia kama tabia hiyo inafaa kifaa na muktadha wa kikao. Ulinganisho huu husaidia kufanya uchunguzi kuwa maalum zaidi.

Haya ni maswali ya kuchunguza, sio sheria zinazoanzisha udanganyifu peke yao. Mtumiaji wa haraka anaweza tu kujua nini cha kufanya. Mtu anayerudia mara kadhaa anaweza kuwa na mwanga hafifu au muunganisho usioaminika. Mtu anayetumia teknolojia saidizi anaweza kuingiliana tofauti na muundo ambao mbuni alitarajia.

Utambuzi muhimu wa roboti unapaswa kuzingatia tofauti hiyo. Muda, marudio na muktadha wa kifaa vinahitaji kuzingatiwa pamoja na ushahidi wa uthibitishaji. Kuchukulia kitendo kimoja kisicho cha kawaida kama ushahidi wa matumizi mabaya kungefanya uzoefu kuwa mbaya zaidi kwa watu halisi.

Kazi Hiyo Hiyo Hutufundisha Ambapo Watu Hukwama

Kusoma tabia pia hutusaidia kuuliza maswali bora ya bidhaa. Jaribio la kurudia linaweza kuashiria shambulio, lakini pia linaweza kuashiria maagizo ambayo yalikuwa magumu kuelewa. Hatua ya kamera iliyoachwa inaweza kumaanisha mtumiaji hakuweza kutoa ruhusa. Kukamata kushindwa kunaweza kuonyesha mwangaza, hati iliyoharibika au kifaa kinachohitaji mbinu tofauti.

Upimaji wa kiotomatiki huturuhusu kuchunguza jinsi mtiririko unavyojibu hali hizi. Kuelewa kile ambacho watu halisi wanapitia kunahitaji kuangalia tabia ya mtumiaji pia. Moja haiwezi kuchukua nafasi ya nyingine.

Pamoja, hutusaidia kutenganisha udhibiti unaofanya kazi muhimu kutoka kwa msuguano unaostahili kuchunguzwa. Lengo ni kufanya matumizi mabaya kuwa magumu zaidi huku tukiwasaidia watumiaji halali kukamilisha uthibitishaji kwa maagizo wazi na njia nzuri ya kurejesha wakati kitu kinapoenda vibaya.

Matokeo Yanapaswa Kubadilisha Kitu

Thamani ya zoezi ni kile kinachotokea baada ya jaribio.

Udhaifu unaoshukiwa unahitaji kesi inayoweza kuzalishwa tena. Mhandisi anahitaji kuelewa ni udhibiti gani ulihusika na kama ushahidi unaunga mkono dai hilo. Ikiwa marekebisho yanahitajika, jaribio la asili linahitaji kuendeshwa tena dhidi ya mabadiliko.

Pia tunahitaji kuangalia nini mabadiliko hayo yanafanya kwa watumiaji halali. Udhibiti unaokataa mashambulizi zaidi kwa kukataa watu zaidi umeunda tatizo jingine la kutatua.

Hiyo ndiyo nidhamu tunayotaka kazi hii iunge mkono: jaribu, angalia, chunguza, boresha na ujaribu tena. Uhuishaji unaonyesha majaribio. Kazi iliyo nyuma yao ndiyo muhimu.

Sisi Pia Tunaweza Kuvamiwa

Mtu yeyote anaweza kuvamiwa, ikiwemo sisi. Upimaji endelevu hauondoi uwezekano huo. Hutupa fursa zaidi za kugundua udhaifu na kufanya kitu juu yake.

Tunajenga miundombinu ya uthibitishaji wa utambulisho na kuzuia udanganyifu kwa sababu tunaamini watu wanapaswa kuweza kuthibitisha wao ni nani mtandaoni kwa ujasiri. Maono yetu ya kuufanya mtandao kuwa wa kibinadamu katika enzi ya AI yanategemea kupata ujasiri huo kwa vitendo.

Hiyo inamaanisha kuelewa jinsi washambuliaji wanavyofanya, kuzingatia ambapo watumiaji halisi hukwama na kuwa waaminifu kuhusu kile ambacho ushahidi wetu unaweza kutuambia.

Wito kwa Viongozi wa Kiufundi Katika Tasnia Yetu

Hatari ya mtandaoni ni ya kimfumo katika uthibitishaji wa utambulisho. Tunategemea huduma zilizounganishwa, miunganisho na watu, na uaminifu ulio hatarini unafika mbali zaidi ya mtoa huduma yeyote mmoja. Kushindwa katika kampuni moja kunaweza kuwadhuru watu binafsi na kudhoofisha ujasiri katika tasnia nzima.

Ikiwa wewe ni afisa mkuu wa teknolojia, kiongozi wa uhandisi au kiongozi wa usalama katika tasnia hii, tunakuhimiza kuchukua jukumu hilo kwa umakini mkubwa. Toa kazi ya usalama wamiliki wazi, muda na bajeti. Pinga mtiririko wa uthibitishaji, mifumo inayoshughulikia data ya utambulisho, ufikiaji ambao watu wanayo na jibu ambalo timu yako ingetoa kwa tukio. Angalia tena mawazo hayo kadri teknolojia na mashambulizi yanavyobadilika.

Ripoti ya wiki iliyopita inapaswa kuwa wito wa kuamka kujiandaa. Tunapaswa kuitumia kuimarisha ulinzi wetu wenyewe, kushiriki masomo muhimu ya kujihami kwa uwajibikaji na kutenda juu ya udhaifu uliothibitishwa. Kusubiri hadi kampuni yetu wenyewe iathirike kunaacha kazi hiyo kuchelewa sana.

Tunajumuisha sisi wenyewe katika jukumu hilo. Tunaweza kuvamiwa pia, na tunahitaji kuendelea kupata uaminifu ambao watu wanatuwekea.

Tasnia yetu inahitaji kuongeza juhudi. Watu wanatuamini na utambulisho wao. Tunawadai kazi hiyo.

Maswali yanayoulizwa mara kwa mara

AI red teaming inahusisha nini katika Didit?

Tunawapa mawakala wa AI ufikiaji wa msimbo wetu wa chanzo na mazingira ya majaribio, kisha tunawauliza wapinge ukaguzi wa uthibitishaji. Mifano katika makala hii inajumuisha nyaraka bandia za sampuli, milisho ya kamera bandia na safari za kiotomatiki. Wahandisi bado wanahitaji kuthibitisha matokeo ya kila udhaifu unaoshukiwa.

Je, hii inasaidiaje kugundua roboti zinazofanya uthibitishaji?

Kuendesha otomatiki sisi wenyewe huunda mifano ya tabia ya roboti ya kusoma. Hutusaidia kuchunguza mlolongo, majaribio ya kurudia na muktadha pamoja na ushahidi wa uthibitishaji. Ishara moja ya tabia haithibitishi kuwa mtumiaji ni roboti au kwamba udanganyifu umetokea.

Je, uhuishaji unathibitisha kuwa Didit inazuia kila shambulio?

Hapana. Uhuishaji ni mchanganyiko wa rekodi za majaribio na skrini zinazorudiwa. Unaonyesha mchakato wa upimaji, sio kigezo cha kugundua au ahadi kwamba kila shambulio litashindwa.

Je, kazi hii inaweza kuboresha uzoefu kwa watumiaji halisi?

Ndio, inaweza kutusaidia kuchunguza ambapo mtiririko wa uthibitishaji unakuwa mgumu. Bado tunahitaji kuzingatia tabia halisi ya mtumiaji pamoja na upimaji wa kiotomatiki, ili tuweze kutofautisha udhibiti muhimu wa usalama kutoka kwa matatizo kama vile maagizo yasiyoeleweka au ufikiaji mgumu wa kamera.

Ikiwa unajenga safari ya uthibitishaji, chunguza Uthibitishaji wa Mtumiaji wa Didit na usome nyaraka kuhusu kuthibitisha uwepo wa mtu halisi. Unaweza pia kuona bei au kuanza bure.