Ջորջիայի և Բեն Գուրիոնի համալսարանների հետազոտողները RSA Conference 2021-ի ընթացքում պատմել են ավտոմեքենաների ավտոպիլոտների վրա «ֆանտոմային գրոհների» հնարավորության մասին, երբ դրանց ցույց են տալիս մի պատկեր, որին ծրագրավորված է արձագանքել արհեստական բանականության (ԱԲ) վրա հիմնված ավտոպիլոտը: Այդ մասին հաղորդում է «Կասպերսկի» ընկերությունը։
RSA Conference 2021-ում ցուցադրված մոտեցման նորությունն այն է, որ ավտոպիլոտին ցուցադրվում էին ոչ ձևափոխված պատկերներ, այսինքն՝ գրոհողներին պետք չէ իմանալ, թե ինչպես է աշխատում ալգորիթմը և ինչ հայտանիշներ է այն օգտագործում:
Պատկերները կարճ ժամանակով պրոյեկտվել են ճանապարհի, ինչպես նաև դրա կողքին գտնվող ստացիոնար օբյեկտների վրա, և ահա թե ինչի էր դա հանգեցնում.
Այդպիսով, հետազոտության հեղինակները կարծում են, որ չարագործները կարող են իրենց կեղտոտ գործը կատարել՝ գտնվելով զոհից հարմարավետ հեռավորության վրա և հանցագործության վայրում ավելորդ հետքեր թողնելու վտանգի չենթարկվելով: Այն ամենը, ինչ նրանք պետք է իմանան զոհի մեքենայի մասին, այն է, թե որքան ժամանակ պետք է ցույց տալ պատկերը։
Բանն այն է, որ, օրինակ, խցիկի կամ լիդարների օբյեկտիվներին կեղտի կամ աղբի հայտնվելու պատճառով կեղծ գործարկման հավանականությունը նվազեցնելու նպատակով մշակողները միտումնավոր ներդրել են գործարկման շեմ։ Եթե դա Mobileye-ի արհեստական տեսողության համակարգն է և արագությունը 60 կմ/ժ է, ապա դրա արձագանքման ժամանակը կազմում է մոտ 125 միլիվայրկյան: Tesla-ի ավտոպիլոտի արձագանքման շեմը գրեթե երեք անգամ ավելի է՝ 400 մվ։ Հետևաբար, հետազոտության հեղինակները կարծում են, որ նման հարձակումը կարող է տեղի ունենալ հանկարծակի, և նախքան վարորդը կհասկանա, թե ինչ է տեղի ունեցել, պրոյեկտորով դրոնը արդեն իսկ կանհետանա:
Բայց կա մի նրբություն, որը հույս է ներշնչում, որ վաղ թե ուշ կհաջողվի ավտոպիլոտներն անվտանգ դարձնել այս տեսակի գրոհներից։ Այնուամենայնիվ, պատկերի արտաքին տեսքը, որը պրոյեկտվում է պատկերներ դիտելու համար անհարմար մակերևույթին, շատ է տարբերվում իրականությունից: Այսպիսով, ֆանտոմային գրոհների հանդեպ ավտոպիլոտի համակարգի խոցելիությունն ԱԲ-ի և մարդկային ուղեղի միջև «ընկալման խզման» (perception gap) հետևանք է: Ինչպե՞ս կարելի է հաղթահարել այդ խզումը։ Հետազոտության հեղինակներն առաջարկում են ավտոմեքենաների ավտոպիլոտների համակարգերում ներդնել լրացուցիչ հայտանիշների՝ հեռանկարի, եզրերի հարթության, գույնի, կոնտրաստի, պայծառության և այլնի ստուգում, և որոշում ընդունել միայն այն դեպքում, եթե ստուգումների արդյունքները համապատասխանում են միմյանց:
Որոշակի հույս կա, որ ապագայում նեյրոմորֆային պրոցեսորների տարածմամբ իրականություն կդառնա մեքենայում միանգամից մի քանի նեյրոնային ցանցերի իրականացումը, որոնք աշխատում են զուգահեռաբար և չեն սպանում մեքենայի էներգետիկան:
