Uber AV avārija izceļ atšķirīgās cerības uz AI

The Great Gildersleeve: Laughing Coyote Ranch / Old Flame Violet / Raising a Pig (Jūnijs 2019).

$config[ads_text] not found
Anonim

Fatal nelaimes gadījums, kad automātiskais režīms Uber autonoms transportlīdzeklis pārsteidza un nogalināja gājēju, liecina, ka AI cerības ir piepūstas

Richard Quinnell, galvenais redaktors

Pirms dažām dienām vissliktākās bažas par autonomo transportlīdzekļu (AV) tehnoloģiju tika realizētas. AV, ko Uber izmēģināja Tempe, Arizonas ielās, pārsteidza un nogalināja gājēju. Šo nelaimes gadījumu joprojām izskata, tāpēc ir pārāk agri pastāstīt, kas tieši noticis un kāpēc ne AI, ne cilvēka rezerves drošības vadītājs neļāva sadursmi. Bet viena lieta ir skaidra: cerības, ko AI var un vajadzētu darīt, ir visas kartes.

AV pētījuma priekšnoteikums ir tāds, ka ar AI vadošajiem transportlīdzekļiem negadījumu rādītāji ievērojami samazināsies, glābjot dzīvību, un ka tehnoloģija ir attīstījusies līdz tādam līmenim, ka ir lietderīgi veikt pārbaudes uz vietas. Opozīcija nevēlas panest AVs uz publiskiem ceļiem, kamēr visaptveroša pārbaude neapšaubāmi ir pierādījusi, ka AI rīkosies ar visām iespējamām situācijām daudz labāk nekā labākais cilvēka vadītājs (un pat tad, visticamāk, visticamāk, viņiem neuzticēs pār cilvēkiem). Šķiet, ka šis negadījums rada šaubas par vienu viedokli, vienlaikus stiprinot otru un noteikti veicinājis debates.

Uber ir pareizi apturējis visus savus AV lauka testus. Tomēr, kad izmeklēšana ir pabeigta, un, pilnībā izprotam, kas noticis un kāpēc tiek sasniegts, kādi būtu nākamie soļi? Vai Uber un citi atsāks lauka testēšanu, kā iepriekš? Vai likumdevēji un sabiedrība vēlas, lai tiktu ieviesti papildu ierobežojumi un noteikumi, kas uzlabotu sabiedrības drošību un prasītu papildu testēšanu bezceļa apstākļos, pirms atļaut papildu lauka izmēģinājumus uz publiskiem ceļiem? Vai viss AV jēdziens vienkārši tiks izslēgts?

Šie ir sarežģīti jautājumi, uz kuriem jāatbild, un atbildes daļēji būs atkarīgas no izmeklēšanas rezultātiem. Vai AI sistēmā bija trūkums, kas izraisīja tā nespēju redzēt briesmas, ko cilvēki varētu būt redzējuši, vai arī kaut ko to nevarēja novērst pat labākais vadītājs? Ja tas bija cilvēcīgi novēršams, kāpēc cilvēka drošības vadītājs to nedarīja?

Ja AI neizdodas, tad vismaz AV lauka testēšana jāpārtrauc, kamēr AI un / vai sensoru uzlabojumi, lai veiktu šo un līdzīgas situācijas, un ir rūpīgi pārbaudīti apstākļos, kad sabiedrība nav apdraudēta, pirms pat atgriešanās publiskai pārbaudei laukos. Un, ja cilvēka operators varētu negadījuma novēršanu novērst, tomēr jāpārdomā visa pieeja testēšanai ar cilvēka dublēšanu.

Bet ko, ja izmeklēšana secinātu, ka pat labs cilvēka vadītājs tradicionālajā transportlīdzeklī nevarēja izvairīties no negadījuma? Kā mēs nolemjam turpināt publisko lauka testēšanu? Vai pastāv pat pieņemams riska līmenis, ka var notikt vairāk šādu nelaimes gadījumu?

Pēc pasūtījuma Uber ir iegādājies 24 000 no šiem XC90 pašpiedziņas automobiļiem no Volvo. Attēlu avots: Uber.

Pirms sabiedrība var efektīvi risināt šos jautājumus, tai jāpievērš uzmanība atšķirībām, kā uztvert AV. Vispirms ir jāsaprot, ka pašreizējais risks cilvēkiem ar braukšanu nav maznozīmīgs. Saskaņā ar Nacionālās drošības padomes sniegto statistiku 2017. Gadā Amerikā bija vairāk nekā 40 000 nāves gadījumu ar automašīnām un 4, 57 miljoni traumu, kas bija pietiekami nopietni hospitalizācijai. Tie ir skaitļi, kurus atbalstītāji sagaida, ka AV ievērojami samazināsies.

Nākamais apsvērums ir tas, ka nekas, ko rada cilvēki (tostarp citi cilvēki), ir ideāls. Tie, kas vēlas bloķēt publisko AV testēšanu, kamēr tiek pierādīts, ka tā ir nevainojama, būtībā saka "nekad" par visu ideju par mašīnpilestiem transportlīdzekļiem. Tāpat tie, kas domā, ka AV vienā dienā novērsīs visus nelaimes gadījumus, ir naivi. Perfekta AV bez avārijas nekad nepastāvēs.

No otras puses, viena priekšrocība, ka mašīnas ir pār cilvēkiem, ir tādas, ka vienos apstākļos tos var vienādi rīkoties. Nav ego, ceļu dusmas, izsmelšanas, uzmanības novēršanas, slimības, vienaldzības, steigas, panikas vai nepietiekamības, lai cīnītos ar. Turklāt, kad rodas nelaimes gadījumi, ir iespēja no viņiem uzzināt, kā uzlabot visu AV darbību, īstenot šo uzlabojumu un pastāvīgi veicināt viņu sniegumu.

Trešā lieta, kas jāsaprot, ir tāda, ka kādā brīdī publiskā lauka pārbaude jāveic, pirms AV var atzīt par pieņemamu. Nav vienkārši paredzēt visus apstākļus, kas rodas AV darbības laikā. Mēs varam paredzēt, atdarināt un izmēģināt daudzus, varbūt pat visvairāk, iespējamos scenārijus, bet ne visi. Turklāt, pat scenārijiem, kurus mēs varam paredzēt, pārbaude, kas tiek veikta kontrolētos apstākļos, nav ideāls lauka rezultātu prognozes. Vecā militārā pasaka, ka kaujas plāns nekad neizdzīvo pirmais kontakts ar ienaidnieku, ir vienlīdz piemērots arī sistēmas testēšanai. Lauka vide vienmēr ir mierāka nekā laboratorijas.

Tātad, ja lauka pārbaude ir vajadzīgs solis, un, ja tas tiek pieņemts, tas droši vien beigās izraisa neveiksmi (un, iespējams, arī citu nāvi), tad kā mēs izlemjim, kad un kā no tā turpināt? Kāds ir pieļaujamais riska līmenis, kad izlases cilvēka dzīvība var tikt apdraudēta, un kurš pieņem šo lēmumu? Kā lūdza EE Times, vai Robocara nāve ir progresa cena? Vai arī mēs vēlamies atteikties no AV un turpināt pašreizējo cilvēku vadītāja nāves gadījumu līmeni? Šie ir jautājumi, kas mums kopīgi jāatbild.

Mana balsojums notiek, lai virzītu uz daudzfāžu procesu. Uzziniet pēc iespējas vairāk par šo nelaimes gadījumu un ieviešiet veidus, kā samazināt vai novērst atkārtojumu. Izmēģiniet AV plaši, nepārtraukti mācieties un uzlabojiet to darbību. Vispirms pārbaudiet daļēji ierobežotā vidē, piemēram, pilsētas apstākļos, kur darbojas tikai AV, un gājēji apzinās un pieņems risku sadarboties ar viņiem. Demonstrējiet, ka katrs scenārijs pēc katras nelaimes gadījuma pārsniedz cilvēkresursu vadītājus, pirms paplašināt lauka testēšanu, lai atvērtos apstākļos.

Personīgi, es gaidu no plašas AV dienām, kurās dominē vai pat tikai pārvieto ceļu. Esmu redzējis pārāk daudz autovadītāju, kas ir nekvalificēti, nezinoši, traucējuši, bezatbildīgi, pārlieku pārliecināti, ar atkarību no riska vai ar ego vai dusmas palīdzību, cerot, ka mēs varam būtiski samazināt cilvēku izraisīto mirstību. Man ir daudz lielākas cerības uz autonomā transportlīdzekļa laikmetu.

Kāds ir tavs viedoklis?

Richard Quinnell